- Politik
- Algorithmen
Frankreich am Scheideweg
Die Regierung könnte bald Überwachung mit Künstlicher Intelligenz einsetzen
Die Augen der Welt richten sich derzeit auf die Proteste gegen die vom französischen Präsident Emmanuel Macron durchgepeitschte Rentenreform. Seit Montagabend debattiert die Nationalversammlung aber auch über einen weiteren, sehr kontrovers diskutierten Gesetzesentwurf. Artikel 7 des im Januar bereits vom Senat verabschiedeten Gesetzes würde den testweisen Einsatz algorithmischer Videoüberwachung während der Olympischen und Paralympischen Spiele 2024 in Paris ermöglichen.
Die geplanten Systeme setzen auf Künstliche Intelligenz (KI), um mithilfe vorab erlernter Muster in riesigen Mengen Videomaterial Auffälligkeiten zu erkennen. In den Augen der Sicherheitsbehörden stellen etwa liegen gelassene Koffer, hohe Personendichten oder Massenbewegungen potenzielle Risiken dar. Erkennt ein System ein solches Muster, alarmiert es die zuständigen Behörden. Diese, so die Idee, treffen dann geeignete Maßnahmen.
Auf Grundlage des Gesetzes könnten derartige Aufnahmen während der Olympischen und Paralympischen Spiele von Drohnen und fest installierten Kameras an Veranstaltungsorten sowie in öffentlichen Transportmitteln stammen. Millionen von Menschen wären auf diese Weise von der automatisierten Auswertung betroffen, jede ihrer Bewegungen würde maschinell auf Auffälligkeiten analysiert – ein Novum in der Geschichte Frankreichs und der Europäischen Union. Am Berliner Bahnhof Südkreuz hatten zwar die Bundespolizei und die Deutsche Bahn ein ähnliches System getestet, die »Vorfälle« wurden dabei aber von Komparsen simuliert.
In einem Offenen Brief vom 7. März fordern 38 Organisationen der Zivilgesellschaft die Nationalversammlung dazu auf, Artikel 7 des Gesetzesentwurfs zurückzuweisen. Dessen Verabschiedung schaffe einen »beunruhigenden Präzedenzfall« und stelle einen »weiteren Schritt zur Normalisierung exzeptioneller Überwachungsbefugnisse unter dem Deckmantel der Sicherheit von Großveranstaltungen« dar, sagt Frederike Kaltheuner, Direktorin für Technologie und Menschenrechte bei Human Rights Watch, einer der unterzeichnenden Organisationen.
Die Prinzipien der Notwendigkeit und Verhältnismäßigkeit seien nicht gewahrt, heißt es in dem Offenen Brief weiter. Die Furcht vor einer Überwachung könnte das Verhalten im öffentlichen Raum beeinflussen, dadurch könnten fundamentale Bürgerrechte wie das Recht auf Versammlungs- und Vereinigungsfreiheit sowie das Recht auf freie Meinungsäußerung ausgehöhlt werden.
Die Organisationen weisen darauf hin, dass die weitgefasste Definition von verdächtigen Ereignissen häufig gerade solche Menschen treffe, die bereits von Stigmatisierung und Marginalisierung betroffen sind, darunter Wohnungslose, die tendenziell mehr Zeit im öffentlichen Raum verbringen. Auch seien »ethnische Minderheiten, – darunter Migrant*innen sowie Schwarze und andere Menschen mit Diskriminierungserfahrungen – am stärksten gefährdet, von bestimmten Überwachungsinstrumenten ins Visier genommen zu werden«, erklärt Agnes Callamard, internationale Generalsekretärin von Amnesty International.
Frankreichs Regierung, Teile des Parlaments und die Industrie insistieren derweil auf der Notwendigkeit solcher Systeme für die Sicherheit während einer der größten Sportveranstaltungen der Welt. Die Terroranschläge von 2015 lasten weiterhin schwer auf dem Land. Nach Ausschreitungen und Polizeigewalt rund um das Endspiel der Championsleague im Stade de France im vergangenen Jahr waren ebenfalls Rufe nach mehr Überwachung und Gesichtserkennung laut geworden.
Von der Gesichtserkennung hat sich die Regierung aber auf Empfehlung der französischen Datenschutzbehörde in ihrem geplanten Gesetz bereits verabschiedet. In Artikel 7 des Entwurfs heißt es ausdrücklich, dass keine Verarbeitung biometrischer Daten und Gesichtserkennung eingesetzt werde.
Noeme Levain, Juristin bei La Quadrature du Net, ist dazu skeptisch. Algorithmische Videoüberwachung sei ebenso problematisch und berge »die gleichen Risiken für die öffentlichen Freiheiten und die gleichen Möglichkeiten des Missbrauchs durch die Polizeien, deren rassistische Praktiken weithin dokumentiert sind«. In ihrem Offenen Brief weisen auch die Unterzeichnerorganisationen darauf hin, dass sehr wohl biometrische Daten prozessiert würden. Das Ziel der algorithmischen Videoüberwachung läge schließlich in der Risikoklassifikation von physiologischen Eigenschaften und Verhalten.
Ein klares Signal sendet der Brief auch nach Brüssel. Zurzeit laufen dort Verhandlungen, mit dem »AI Act« einen europaweiten legislativen Rahmen für den Einsatz von KI zu schaffen. Frankreichs Plan, algorithmische Videoüberwachung einzusetzen, könnte damit in Konflikt geraten.
Rund 40 Europaabgeordnete haben die Warnung offenbar bereits ernst genommen. In einem Brief vom 17. März forderten sie die französischen Abgeordneten dazu auf, gegen den Gesetzesentwurf zu stimmen. Zum jetzigen Zeitpunkt unterlaufe der Einsatz der Technologien die Debatte auf europäischer Ebene und erteile »repressiven Regimen auf der ganzen Welt einen Freibrief, dasselbe mit ihren Bürgern zu tun«.
Obwohl der Einsatz als Erprobung gedacht ist und sich auf die Gewährleistung von Sicherheit bei Sport-, Freizeit- und Kulturveranstaltungen beschränkt, befürchten die Unterzeichnerorganisationen und Europaabgeordneten eine Normalisierung der Überwachung über die Spiele hinaus. »Dieses Gesetz ist ein Trojanisches Pferd, um automatisierten Videoschutz im öffentlichen Raum dauerhaft zu installieren«, so die Juristin Levain.
Diese Tendenz, dass einmal eingeführte Systeme später in den Normalbetrieb übergehen, ist in der wissenschaftlichen Literatur gut belegt.
Laut der französischen Tageszeitung »Le Monde« besteht an der kurz bevorstehenden Annahme des Gesetzes in der Nationalversammlung dennoch kaum Zweifel. Ob es in diesem Fall bei einer Testphase bleibt oder Frankreich tatsächlich zum Vorreiter KI-getriebener Massenüberwachung wird, zeigt sich spätestens 2024. Dann nämlich soll die Regierung einen Evaluationsbericht vorlegen, auf dessen Grundlage das Parlament über die Zukunft des Gesetzes zu entscheiden hat.
Das »nd« bleibt. Dank Ihnen.
Die nd.Genossenschaft gehört unseren Leser*innen und Autor*innen. Mit der Genossenschaft garantieren wir die Unabhängigkeit unserer Redaktion und versuchen, allen unsere Texte zugänglich zu machen – auch wenn sie kein Geld haben, unsere Arbeit mitzufinanzieren.
Wir haben aus Überzeugung keine harte Paywall auf der Website. Das heißt aber auch, dass wir alle, die einen Beitrag leisten können, immer wieder darum bitten müssen, unseren Journalismus von links mitzufinanzieren. Das kostet Nerven, und zwar nicht nur unseren Leser*innen, auch unseren Autor*innen wird das ab und zu zu viel.
Dennoch: Nur zusammen können wir linke Standpunkte verteidigen!
Mit Ihrer Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Seien Sie ein Teil der solidarischen Finanzierung und unterstützen Sie das »nd« mit einem Beitrag Ihrer Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
