- Politik
- Europäische Union
KI-Gesetz: EU-Parlament knickt ein
EU-Lobbyisten setzen sich vor Abstimmung mit ihren Wünschen durch
Das Europäische Parlament hat am Mittwoch das weltweit erste KI-Gesetz auf den Weg gebracht. Die Union werde so Vorreiter bei der Regulierung künstlicher Intelligenz (KI), ließen die Befürworter verlauten. KI-Anwendungen basieren auf maschinellem Lernen, wobei die Software riesige Datenmengen verarbeitet und nach Übereinstimmungen oder Mustern durchsucht. In einer Erklärung des Parlaments heißt es: »Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln.«
Es war also ein Balanceakt zwischen dem Schutz der Bürgerrechte und den Wünschen der IT-Industrie, die möglichst freie Hand haben möchte. Bereits im Vorfeld tobte eine Lobbyisten-Schlacht um das neue Gesetz, das bestimmte Verpflichtungen für KI-Systeme festlegt, nach der Faustformel: Je größer die Risiken für Mensch und Gesellschaft, desto stärker werden die KI-Anwendungen reguliert oder gar ganz verboten. Das Gesetz teilt KI in Risikoklassen ein: »unannehmbar«, »hoch« und »gering/minimal«. Alle Anwendungen der höchsten Risikoklasse – etwa Emotionserkennung am Arbeitsplatz – sind zukünftig verboten. Für KI mit hohem Risiko und »erheblichem Schadenspotenzial« gelten weitreichende Vorschriften.
Im Juni wird in allen Mitgliedsländern der Europäischen Union über ein neues EU-Parlament abgestimmt. Dabei zeichnet sich ab, dass rechte Parteien an Einfluss gewinnen könnten. Was ist eine linke Antwort darauf? Und wie steht es um die Klimapolitik der EU? Welche Entwicklungen gibt es in Hinblick auf Sozialpolitik und was ist im Bereich der europäischen Asyl- und Migrationpolitik zu erwarten? Die anstehende Europawahl wird richtungsweisend. Auf unserer Themenseite fassen wir die Entwicklungen zusammen: dasnd.de/europawahl
Kein Wunder, dass die IT-Lobbyisten den Gesetzgebungsprozess massiv beeinflusst haben. Insbesondere »zwei KI-Start-Ups aus Frankreich und Deutschland« haben sich dabei »mit Google, Microsoft & Co verbündet, um das KI-Gesetz der EU auszuhöhlen«, kritisiert der Transparenzverein Lobbycontrol. Gemeint sind Mistral AI aus Frankreich und Aleph Alpha aus Heidelberg, »die sich dank der starken Unterstützung ihrer Regierungen bei den Regeln weitgehend durchgesetzt haben«, unterstreicht Lobbycontrol. So konnten sie die »meisten Auflagen und Regulierungen, die ihnen zu Beginn der Verhandlungen noch drohten«, erfolgreich verhindern. Da ihre KI-Systeme als risikoarm eingestuft werden, unterliegen sie nur geringen Transparenz-Anforderungen. So sieht erfolgreiches Lobbying aus: »78 Prozent der Treffen hochrangiger Kommissionsbeamter zum Thema KI fanden mit Industrie- oder Wirtschaftsverbänden statt«, hat die NGO Corporate Europe Observatory berechnet.
Letztendlich stimmte eine große Mehrheit der EU-Abgeordneten für den Artificial Intelligence Act (AI Act). Allerdings votierte die Linksfraktion The Left geschlossen gegen den Text, auf den sich Parlament und Rat bereits im Dezember geeinigt hatten. Cornelia Ernst, datenschutzpolitische Sprecherin der Linken, erklärte am Mittwoch: »Leider hat das Parlament in den Verhandlungen essenziell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden.«
Cornelia Ernst warnt zudem, dass die KI-Verordnung »Emotionserkennung, also Hokuspokus wie Polygrafen und prädiktive Polizeiarbeit« zulassen werde. Mit prädiktiver, also vorhersagende Polizeiarbeit soll die Wahrscheinlichkeit zukünftiger Straftaten ermittelt werden. »Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht«, so die Abgeordnete. Wie der österreichische Rundfunk (ORF) jüngst enthüllte, werden KI-Polygrafen »an den Grenzen Ungarns, Griechenlands und Litauens bereits eingesetzt, um Lügen zu enttarnen«. Sogenannte Avatare befragen demnach Einreisende und überprüfen »deren Glaubwürdigkeit aufgrund von Augen- und Mundbewegungen«. Auch auf einem rumänischen Flughafen soll so ein KI-Lügendetektor zum Einsatz gekommen sein, berichtete der ORF.
Die Linke und zahlreiche Bürgerrechtsorganisationen kritisieren, dass der Text keine Verbote für den Einsatz von KI-Systemen bei Migrations- und Grenzkontrollen vorsieht. Bereits jetzt werden die EU-Außengrenzen von Drohnen überwacht, bei denen auch KI zum Einsatz kommt. Ein sogenanntes EUMigraTool soll mit Hilfe von KI zukünftig vorhersagen, wann und wo mit besonders heftigen Migrationswellen zu rechnen ist.
Verboten sein soll hingegen der Einsatz von künstlicher Intelligenz zur Beeinflussung menschlichen Verhaltens oder zur Ausnutzung von menschlichen Schwächen. Gerade dieser Punkt ist hochaktuell, werden KI-generierte Stimmen von Politikern bereits eingesetzt, um Wähler in die Irre zu führen. Die Software auf KI-Basis kann durch Tonaufnahmen darauf trainiert werden, mit den Stimmen bestimmter Personen zu sprechen. Diese »Robocalls« sind in den USA ein großes Problem, wo etwa die KI-erzeugte Telefonstimme von Präsident Biden jüngst dazu aufrief, nicht an der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire teilzunehmen. Auch in Deutschland wird KI bereits genutzt, um Stimmung zu machen. So wurden im vergangenen November KI-generierte Audiodateien der »Tagesschau« verbreitet, in denen sich die Redaktion für angebliche Lügen in der Berichterstattung entschuldigte.
Das »nd« bleibt. Dank Ihnen.
Die nd.Genossenschaft gehört unseren Leser*innen und Autor*innen. Mit der Genossenschaft garantieren wir die Unabhängigkeit unserer Redaktion und versuchen, allen unsere Texte zugänglich zu machen – auch wenn sie kein Geld haben, unsere Arbeit mitzufinanzieren.
Wir haben aus Überzeugung keine harte Paywall auf der Website. Das heißt aber auch, dass wir alle, die einen Beitrag leisten können, immer wieder darum bitten müssen, unseren Journalismus von links mitzufinanzieren. Das kostet Nerven, und zwar nicht nur unseren Leser*innen, auch unseren Autor*innen wird das ab und zu zu viel.
Dennoch: Nur zusammen können wir linke Standpunkte verteidigen!
Mit Ihrer Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Seien Sie ein Teil der solidarischen Finanzierung und unterstützen Sie das »nd« mit einem Beitrag Ihrer Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
