- Politik
- Algorithmen
Ausnahmen für Polizei und Migrationsbehörden
Die EU-Gesetzgeber verhandeln über die Regulierung von Künstlicher Intelligenz
Zwei Jahre ist es bald her, dass die Europäische Kommission einen Entwurf zur Regulierung von Künstlicher Intelligenz (KI) auf EU-Ebene vorgelegt hat. Um diesen »AI-Act« zu beschließen, müssen Kommission, Europaparlament und Rat im sogenannten Trilog verhandeln. Das Gesetz sollte bis 2024 beschlossen sein, allerdings ist dieser Zeitplan nur schwer einzuhalten.
Mit dem AI-Act will die Kommission einen Rechtsrahmen für »vertrauenswürdige« KI schaffen, aber auch Innovation fördern und Europa als Standort für die Entwicklung und den Einsatz von KI-Anwendungen attraktiver machen. In seiner ursprünglichen Fassung sollte der Gesetzesvorschlag für jedes in der EU verwendete KI-System gelten. Je nachdem, wer sich in den Verhandlungen durchsetzt, könnte das Gesetz auch für Exportprodukte gelten.
Der Vorschlag sieht einen risikobasierten Ansatz vor, bei dem KI-Systeme in vier Kategorien eingeteilt werden. Für diese gelten dann jeweils spezifische Auflagen. Was als Hochrisiko zählt, soll die Kommission festlegen und regelmäßig überprüfen. Einige Systeme, darunter etwa das sogenannte Social-Scoring – hierbei werden Menschen aufgrund gesammelter Daten benachteiligt oder bevorzugt – sollen direkt verboten werden. Für Systeme mit minimalem Risiko soll es hingegen keine Auflagen oder allenfalls geringe Transparenzanforderungen geben.
Welche Technologien von dem Entwurf ein- oder ausgeschlossen werden, ist aber immer noch offen und Gegenstand der Trilog-Verhandlungen. Der Rat und das Parlament haben unterschiedliche Vorstellungen zu dem Vorschlag, beide Gesetzgeber haben zentrale Elemente des Vorschlags bereits zerpflückt.
Die Mitgliedstaaten sprechen sich beispielsweise dafür aus, die Bereiche Strafverfolgung, Migration, Asyl und Grenzkontrollen aus dem Gesetz herauszunehmen. Das ist auch die Haltung der Bundesregierung, die hierzu ein eigenes Positionspapier verfasst hat.
Strittig ist auch die polizeiliche Nutzung biometrischer Erfassungssysteme, darunter die automatisierte Gesichtserkennung im öffentlichen Raum. Im Entwurf der Kommission werden diese als »Echtzeit-Fernerkennungssysteme« bezeichnet und sollten demnach streng reguliert werden. Allerdings werden auch zahlreiche Ausnahmen genannt: So soll die Technik etwa zur Abwehr einer »unmittelbaren Bedrohung« der staatlichen Sicherheit eingesetzt werden dürfen. EU-Abgeordnete kritisieren dies als Vorlage für die Massenüberwachung der Bevölkerung.
Auch ohne Echtzeit-Funktion könnten jedoch bereits vorhandene Aufnahmen aus der Videoüberwachung nachträglich mit KI analysiert werden. Darauf verweist auch die in Berlin ansässigedigitale Bürgerrechtsorganisation Algorithmwatch. Demnach ermutige der Vorschlag der Kommission, auf bei der Polizei oder etwa Verkehrsbetrieben gespeicherte Videodaten zuzugreifen. Das ist auch die Haltung der Bundesregierung, die auf diese Weise ihren Koalitionsvertrag aushebelt. »Den Einsatz von biometrischer Erfassung zu Überwachungszwecken lehnen wir ab«, hatte es darin eigentlich geheißen.
Der Plan könnte jedoch am EU-Parlament scheitern. Vor einem Monat hatten die zuständigen Berichterstatter Brando Benifei (Italien) und Dragoș Tudaroche (Rumänien) für den AI-Act auf ein umfassendes Verbot biometrischer Überwachung gedrängt. Dies soll auch für die nachträglich Identifikation durch »Face Scraping« gelten, egal ob dies durch private wie öffentliche Institutionen eingesetzt würde. Angesichts der rasanten Entwicklungen um textgenerierende KI wie Chat GPT fordern die Abgeordneten zudem, diese Systeme ebenfalls in den AI Act aufzunehmen.
Das »nd« bleibt gefährdet
Mit deiner Hilfe hat sich das »nd« zukunftsfähig aufgestellt. Dafür sagen wir danke. Und trotzdem haben wir schlechte Nachrichten. In Zeiten wie diesen bleibt eine linke Zeitung wie unsere gefährdet. Auch wenn die wirtschaftliche Entwicklung nach oben zeigt, besteht eine niedrige, sechsstellige Lücke zum Jahresende. Dein Beitrag ermöglicht uns zu recherchieren, zu schreiben und zu publizieren. Zusammen können wir linke Standpunkte verteidigen!
Mit deiner Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Sei Teil der solidarischen Finanzierung und unterstütze das »nd« mit einem Beitrag deiner Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
