Der Chaos Computer Club (CCC) und weitere zivilgesellschaftliche Organisationen üben Kritik am vom Bundesinnenminister geplanten „Sicherheitspaket 2.0“.
Geplant sind unter anderem automatisierte biometrische Abgleiche mit Daten aus dem Internet sowie der Aufbau einer polizeilichen „Superdatenbank“. Für die biometrische Suche sollen Gesichtsbilder, Stimmen oder Bewegungsmuster aus öffentlich zugänglichen Online-Inhalten genutzt werden.
Kritiker warnen, dass dies Millionen unbeteiligter Bürger betreffen könnte und gegen europäische Datenschutz- und KI-Regelungen verstoßen würde.
Polizeidatenbank und US-Software
Ein weiterer Bestandteil des Pakets ist die Zusammenführung unterschiedlich erhobener Polizeidaten in einer zentralen Datenbank. Diese soll für umfangreiche Analysen genutzt werden, wofür möglicherweise Software des US-Unternehmens Palantir zum Einsatz kommt.
Kritiker bemängeln, dass die Funktionsweise und Wirksamkeit dieser Software weder transparent noch nachgewiesen sei. Es wird befürchtet, dass sensible Informationen in einem undurchsichtigen System landen und somit für Zwecke verwendet werden, die weit über den ursprünglichen Zweck der Datenerhebung hinausgehen.
Der CCC warnt vor einer naiven Technikgläubigkeit in der Sicherheitspolitik. Automatisierte Systeme könnten voreingenommene oder fehlerhafte Daten verarbeiten und dadurch Unschuldige ins Visier der Behörden bringen. Die Organisation fordert ein Verbot automatisierter Biometrieabgleiche und lehnt die geplante zentrale Polizeidatenbank ab.
Der offene Brief im Wortlaut:
Sehr geehrter Herr Bundeskanzler Merz,
sehr geehrter Herr Vizekanzler Klingbeil,
sehr geehrter Herr Bundesminister des Innern Dobrindt,
sehr geehrte Frau Bundesministerin der Justiz Hubig,der bekannt gewordene Referentenentwurf zur „Stärkung digitaler Ermittlungsbefugnisse in der Polizeiarbeit“ zeigt, dass die Bundesregierung massenhafte biometrische Überwachung sowie KI-gestützte „Superdatenbanken“ einführen möchte.
Konkret sieht der Entwurf zum einen vor, das gesamte öffentliche Internet, insbesondere also auch Social-Media-Plattformen und öffentliche Chat-Gruppen, mit den biometrischen Daten gesuchter Personen abzugleichen. Bundeskriminalamt und Bundespolizei sollen diese Befugnis nicht nur zur Bekämpfung von Terrorismus erhalten, sondern als Standardmaßnahme für nahezu alle Tätigkeiten, die in ihren Aufgabenbereich fallen, insbesondere auch zur Identifikation und Aufenthaltsermittlung von Personen, die keiner Straftat verdächtig sind. Gleiches gilt für das Bundesamt für Migration und Flüchtlinge, das dieses Instrument ohne jeden Bezug zu einer Straftat oder einer Gefährdung der öffentlichen Sicherheit zur Feststellung der Identität von Personen nutzen können soll.
Ein solcher Abgleich von biometrischen Daten ist technisch jedoch nur möglich, wenn riesige Gesichtsdatenbanken aller Menschen, die im Internet abgebildet sind, angelegt werden. Solche Gesichtsdatenbanken sind nach Artikel 5 der KI-Verordnung (5(1)(e)) eine verbotene Praxis, da sie Massenüberwachung und umfassende Profilbildung ermöglichen und zu schweren Verstößen gegen Grundrechte, einschließlich des Rechts auf Privatsphäre, führen können. Sie können außerdem zu einem Abschreckungseffekt auf die Grundrechtsausübung führen. So könnten es Menschen etwa vermeiden, Fotos und Videos im Netz zu teilen oder Tätigkeiten nachzugehen, von denen Aufnahmen im Netz veröffentlicht werden könnten.
Wir fordern Sie daher auf, sich gegen jede Form der biometrischen Auswertung des Internets in Deutschland einzusetzen.
Darüber hinaus sieht der Gesetzentwurf vor, es zukünftig Bundespolizei und Bundeskriminalamt zu ermöglichen, automatisiert persönliche Daten aus bisher getrennten Datenbanken in eine „Superdatenbank“ zusammenzuführen und zur Analyse weiterzuverarbeiten. Diese KI-gestützte Auswertung riesiger Datenmengen birgt erhebliche Risiken für Grund- und Menschenrechte. Sie ermöglicht die umfassende Profilbildung von Individuen und beschränkt sich nicht auf Tatverdächtige, sondern umfasst auch Opfer, Zeugen und andere Personen, die zufälligerweise in polizeilichen Datenbanken erfasst sind. Die Nachvollziehbarkeit der Ergebnisse für die Polizeibehörden ist nicht gesichert, wenn private Unternehmen den zugrundeliegenden Code nicht offenlegen und bereits an sich unzureichend nachvollziehbare KI-Elemente integriert sind. Der Einsatz von KI birgt zudem ein hohes Risiko für die Diskriminierung bereits marginalisierter Gruppen der Bevölkerung. Bisherige Gesetzesgrundlagen für solche automatisierten Auswertungen in Hessen und Hamburg sind vor dem Bundesverfassungsgericht gescheitert. Er bringt also erhebliche rechtliche Unsicherheiten mit sich.
Ganz besonders bedenklich ist der laut aktueller Berichterstattung geplante Einsatz von Palantir zur Umsetzung der automatisierten Datenanalysen. Palantir ist eng verbunden mit dem Tech-Milliardär Peter Thiel, der bekennender Anhänger der Trump-Regierung und explizit der Auffassung ist, dass Demokratie nicht mit Freiheit vereinbar sei. Beim Einsatz von Palantir erhält das US-Unternehmen beziehungsweise seine Tochtergesellschaften Zugriff auf alle Daten der Polizeibehörden und kann sie potenziell in die USA übermitteln. Der Einsatz der Software gefährdet daher auch in ganz erheblichem Maße die digitale Souveränität Deutschlands.
Wir fordern Sie auf, sich für den Schutz aller Menschen und das Recht auf ein Leben frei von Massenüberwachung und Kontrolle einzusetzen. Palantir darf nicht in Deutschland eingesetzt werden.
Insgesamt sieht der Referentenentwurf Maßnahmen vor, die in keinem angemessenen Verhältnis zu dem vermuteten Gewinn an Sicherheit stehen. Als Zivilgesellschaft haben wir die Erwartung, dass die Bundesregierung Gesetze vorlegt, die nicht ständig an der Grenze der Verfassungswidrigkeit und des Europarechts – und sogar darüber hinaus – segeln. Solche Gesetze führen nicht nur zu Grundrechtsverletzungen und Überwachung von Unschuldigen, sondern auch zu jahrelanger Rechtsunsicherheit, in der sich die Strafverfolgungsbehörden nicht auf die Rechtmäßigkeit ihrer Instrumente verlassen können. In der Vergangenheit wurde viel Geld und Zeit – beispielsweise bei der Vorratsdatenspeicherung – verloren, die man in die grundrechtskonforme Weiterentwicklung der Strafverfolgungsbehörden hätte investieren können.
Nicht zuletzt im Kontext erstarkender rechtsextremer Parteien muss der Aufbau einer Überwachungsinfrastruktur, wie sie das Gesetzespaket durch biometrische Abgleiche und KI-Datenanalyse vorsieht, verhindert werden. Demokratische Kräfte müssen vielmehr gemeinsam die Möglichkeit des institutionellen Machtmissbrauchs minimieren.
Wir fordern Sie deshalb dazu auf, den aktuellen Entwurf zurückzuziehen und sich stattdessen für grundrechtskonforme Polizeiarbeit und für Rechtsstaatlichkeit einzusetzen.
Mit freundlichen Grüßen
Jetzt mobiFlip kostenlos auf WhatsApp folgen und informiert bleiben!