- Politik
- KI-Verordnung
Bundesregierung für Gesichtserkennung, aber gegen Lügendetektoren
In Brüssel beraten Regierungen und Parlament über ein Gesetz zu Künstlicher Intelligenz
Die Bundesregierung setzt sich dafür ein, Verfahren zur Gesichtserkennung mithilfe von Künstlicher Intelligenz (KI) in der gesamten EU zu verbessern. Entsprechende Systeme sollten von der Polizei zwar nicht in Echtzeit eingesetzt werden können. In Ermittlungen sollen die Behörden jedoch bereits vorhandenes Bildmaterial mit besonderer Software durchsuchen dürfen.
Dies geht aus einem Dokument hervor, das die Bürgerrechtsorganisation Digitalcourage aus Bielefeld am Montag veröffentlicht hat. Dabei handelt es sich um ein Positionspapier der Bundesregierung zu dem »Gesetz über Künstliche Intelligenz«, das derzeit auf EU-Ebene verhandelt wird.
Einen entsprechenden Vorschlag für eine solche »KI-Verordnung« hatte die EU-Kommission im April 2021 vorgelegt. Damit sollen die Entwicklung von KI als Wirtschaftsfaktor gefördert, gleichzeitig aber Pflöcke für den Schutz von Grundrechten eingeschlagen werden. So will die Kommission etwa das Zusammenführen von Daten verschiedener Quellen von Personen durch eine Software verhindern. Diese Methode wird als »Profiling« bezeichnet.
Wie bei der EU-Gesetzgebung üblich, wurde der Vorschlag zunächst von den 27 Mitgliedstaaten beraten. Anfang Dezember hat der Rat hat hierzu seinen Standpunkt festgelegt und den ursprünglichen Text an entscheidenden Stellen verwässert.
So wollte die Kommission den Einsatz von KI durch Polizei oder Migrationsbehörden als »Hochrisiko« einstufen und nur in Ausnahmefällen erlauben. Unter anderem die Bundesregierung setzte sich jedoch dafür ein, die behördliche Nutzung von KI komplett aus der Verordnung herauszunehmen und mit einem eigenen Gesetz zu regeln.
Die auf KI spezialisierte Bürgerrechtsorganisation Algorithmwatch hat dies Anfang Dezember deutlich kritisiert. In den Bereichen Strafverfolgung, Migration, Asyl und Grenzschutz sollten die Schwellen zum Einsatz der Software demnach besonders hoch sein, da die Betroffenen sich oft kaum wehren können und ohnehin diskriminiert würden. »Staatliches Handeln kann hier massive Auswirkungen auf die Freiheit, die Autonomie und das Wohlbefinden von Menschen haben«, so die in Berlin ansässige gemeinnützige Organisation.
In der geplanten Verordnung wird die Gesichtserkennung im öffentlichen Raum als »biometrische Fernidentifizierung in Echtzeit« bezeichnet. Die Nutzung der Technik in Ermittlungen wird als »retrograde biometrische Identifizierung« beschrieben.
Gemeint sind etwa Maßnahmen, wie sie derzeit nach der Silvesternacht in Berlin erfolgen. Die Polizei kann dafür Bilder und Videos von unbekannten Beschuldigten mit Polizeidatenbanken abgleichen oder den Personen verschiedene Straftaten zuordnen. Hierzu nutzen die Landespolizeibehörden eine Datenbank beim BKA, in der Gesichtsbilder von 3,6 Millionen Personen gespeichert sind.
Mit ihrer Position zur »KI-Verordnung« breche die Bundesregierung ihre Versprechen aus dem Koalitionsvertrag, kritisiert Digitalcourage. »Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring Systeme durch KI sind europarechtlich auszuschließen«, hatte die »Ampel« dort eigentlich verlautbart.
Nach der nunmehr erfolgten »allgemeinen Ausrichtung« des Rates zu der geplanten EU-Verordnung liegt der Ball jetzt beim Parlament, das mit den ersten Beratungen des Gesetzes begonnen hat. Dort zeichnet sich eine Mehrheit für ein Verbot von Gesichtserkennung ohne Ausnahmen ab. Angeblich haben die Abgeordneten der federführenden Ausschüsse für Binnenmarkt und Recht bereits 3000 Änderungsanträge verfasst.
Die geforderten Änderungen betreffen aber auch andere Bereiche der »KI-Verordnung«, bei denen die Abgeordneten auf Schützenhilfe von der Bundesregierung hoffen können. So schlägt das Positionspapier aus Berlin auch vor, KI in Strafverfahren grundsätzlich zu verbieten. Gemeint ist Software, die etwa eine Prognose zur Rückfälligkeit von Straftätern erstellt.
Auch Lügendetektoren sollen aus deutscher Sicht komplett von der Verordnung ausgenommen werden. Eine derartige, auf Emotionserkennung basierende Technik hat etwa die Grenzagentur Frontex bereits getestet. Schließlich will Berlin auch das intelligente Scoring von Schuldnern oder Ansprüchen auf Sozialwohnungen per EU-Gesetz ausschließen, da der davon betroffene Personenkreis besonders schutzbedürftig ist.
Ein scheunentorgroßes Schlupfloch zum Einsatz von Künstlicher Intelligenz für alle Formen der Überwachung bleibt jedoch für Geheimdienste, die laut den EU-Verträgen von Regulierungen aus Brüssel grundsätzlich nicht betroffen sind.
Das »nd« bleibt gefährdet
Mit deiner Hilfe hat sich das »nd« zukunftsfähig aufgestellt. Dafür sagen wir danke. Und trotzdem haben wir schlechte Nachrichten. In Zeiten wie diesen bleibt eine linke Zeitung wie unsere gefährdet. Auch wenn die wirtschaftliche Entwicklung nach oben zeigt, besteht eine niedrige, sechsstellige Lücke zum Jahresende. Dein Beitrag ermöglicht uns zu recherchieren, zu schreiben und zu publizieren. Zusammen können wir linke Standpunkte verteidigen!
Mit deiner Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Sei Teil der solidarischen Finanzierung und unterstütze das »nd« mit einem Beitrag deiner Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
