Kommissarin Computer gegen Daniela Klette

In den 1970er Jahren führte der damalige Präsident des Bundeskriminalamtes (BKA) Horst Herold die elektronische Datenverarbeitung (EDV) ein. Seitdem existiert in Deutschland die umfangreiche Inpol-Datei für alle deutschen Polizeibehörden sowie das Mittel der Rasterfahndung, mit der Herold die Verfolgung von RAF-Mitgliedern digital optimieren wollte. Dabei kam auch die Kriminalgeografie zum Einsatz, die er zur Berechnung von Verbrechenswahrscheinlichkeiten in den Polizeialltag integrierte. Mit diesen Methoden war der als »Kommissar Computer« bekannte BKA-Chef durchaus erfolgreich – obwohl er bereits damals wegen Datenschutzbedenken in der Kritik stand.

50 Jahre später soll nun Künstliche Intelligenz (KI) die computergestützte Ermittlungsarbeit in deutschen Kriminalämtern revolutionieren – denn durch die stetig wachsende Verbreitung digitaler Geräte verfügen Ermittler*innen über eine so große Menge an Informationen, dass eine manuelle Analyse praktisch unmöglich ist.

Erfahrungen mit solch umfangreichen Datenbeständen hat auch die Sonderkommission »Triangel«, die zu den Daniela Klette und ihren ebenfalls als RAF-Mitglieder gesuchten Gefährten Ernst-Volker Staub und Burkhard Garweg vorgeworfenen Raubtaten sowie dem Vorwurf des versuchten Mordes ermittelt. Am 25. März beginnt in Verden der Prozess gegen Klette. Nach Informationen des »nd« hat das zuständige Landeskriminalamt (LKA) Hannover, das für die Staatsanwaltschaft Verden die Ermittlungen führt, dazu ein leistungsstarkes KI-Werkzeug eingesetzt: Drei Monate nach Klettes Festnahme in Berlin-Kreuzberg schaffte die Behörde die Software »Pathfinder« der israelischen Firma Cellebrite an und durchsuchte damit digitale Asservate der Beschuldigten.

Neben handschriftlichen Aufzeichnungen und Dokumenten wurden bei Klette rund 300 Datenträger gefunden – das LKA schätzt die darauf befindlichen Informationen auf bis zu 30 Terabyte, was laut einem Vermerk der Behörde »6 Millionen Handyfotos oder einem Text von 18 Trillionen Zeichen« entspricht. Mit »Pathfinder« sollte dieser Bestand »vorselektiert« werden, indem etwa Icons oder Emojis herausgefiltert, irrelevante Fotos ausgeblendet und gleichzeitig Bilder von Interesse gesucht werden. Gesucht wurden »Darstellungen von Personen, Fahrzeugen und nach Möglichkeit auch von Waffen und Geld«. Vermutlich sollte die Software auch bekannte Tatorte erkennen.

KI macht BKA-Abteilung überflüssig

Die Bedeutung von KI für die heutige Polizeiarbeit erläuterte der aktuelle BKA-Präsident Holger Münch bei der jährlichen Herbsttagung des Amtes im November in Wiesbaden unter dem Titel »Wie wir die Welle reiten«. Demnach hat sich die Technik nach der Zerschlagung des verschlüsselten Kommunikationsdienstes EncroChat bewährt, als über 115 Millionen Nachrichten mutmaßlicher Straftäter*innen geknackt und durch europäische Polizeibehörden ausgewertet werden konnten. Als weiteres Beispiel nannte Münch die Treffergenauigkeit bei der Gesichtserkennung in Deutschland, die so deutlich verbessert wurde, dass eine BKA-Abteilung mit fast 50 Mitarbeiter*innen nun überflüssig wird.

Begehrlichkeiten für die Ausweitung von Gesichtserkennung hatte bereits die Festnahme von Klette im Februar 2024 geweckt. Holger Münch erinnerte bei der Herbsttagung an den investigativen Podcaster Khesrau Behroz, der alte Fahndungsfotos der Gesuchten auf der Webseite der US-Firma Pimeyes hochlud und mithilfe von deren KI für Gesichtserkennung Fotos von Klette auf Facebook fand. Erst daraufhin erfolgte ihre Festnahme. Der Journalist habe »Befugnisdefizite der Polizei« aufgedeckt, sagte der BKA-Chef dazu.

Bislang dürfen deutsche Polizeibehörden Gesichtserkennung nur retrograd einsetzen, also in der Inpol-Datei vorhandene Bilder von Verdächtigen und Straftäter*innen sowie Asylsuchenden mit anderen Lichtbildern abgleichen. Für Echtzeitaufnahmen aus der Videoüberwachung ist dies derzeit nicht erlaubt – dasselbe gilt für den Abgleich mit Bildern im Internet. Nach dem islamistisch motivierten Anschlag von Solingen im Sommer des vergangenen Jahres hat die damalige Ampel-Koalition jedoch ein »Sicherheitspaket« vorgelegt, das der Polizei zukünftig ermöglichen soll, mit Fotos oder Stimmproben im Internet nach Tatverdächtigen oder Opfern zu fahnden. Der Unionsfraktion im Bundestag – damals noch in der Opposition – ging der von ihr im Bundesrat gestoppte Gesetzentwurf nicht weit genug; mit einer ausgeweiteten Erlaubnis für digitale biometrische Ermittlungen ist also unter einem Kanzler der Union in naher Zukunft zu rechnen.

Software setzt Daten miteinander in Beziehung

Ein Forschungslabor des BKA soll ausloten, welche weiteren neuen KI-Technologien für polizeiliche Zwecke genutzt werden könnten. Diese können etwa Daten entschlüsseln sowie aus gelöschten oder beschädigten Speichergeräten wiederherstellen. In Polizeidatenbanken, Finanztransaktionen oder sozialen Medien gefundene Informationen können zusammengeführt und nach verdächtigen Mustern gerastert werden. Anschließend unterstützt KI mit automatisiert erstellten Zusammenfassungen oder Berichten sowie Übersetzungen.

Für viele dieser Anforderungen bietet Cellebrite bereits Lösungen an. Auch bei deutschen Polizeien sind Produkte der Firma zur IT-Forensik verbreitet – ihre Auswertungssoftware bislang jedoch nicht. In den meisten Bundesländern etabliert ist dafür das Fallbearbeitungssystem »RS-Case« der Firma Rola Security Solutions, die inzwischen zur Telekom gehört. Damit können Beziehungen zwischen Personen, Objekten und Taten auf einer Zeitleiste visualisiert und so Ermittlungsansätze identifiziert werden. Nordrhein-Westfalen, Hessen und Bayern setzen hingegen auf Software der berüchtigten US-Firma Palantir, die auch auf Daten im Internet zugreifen kann. Diese Funktion ist in Deutschland aber angeblich deaktiviert.

Wie die Konkurrenzprodukte kann auch »Pathfinder« textbasierte Nachrichten verarbeiten. Hierzu zählen neben den Inhalten auch Metadaten aus verschiedenen Mail- oder Messengerdiensten, die miteinander in Beziehung gesetzt werden können: Informationen über an Chats beteiligte Personen, Zeit- und Ortsangaben der Funkverbindung, Onlinestatus der Nutzer*innen, Details über die Geräte und bei aktiviertem GPS auch deren Standortdaten.

»Soko Triangel« sucht nach Klettes Kennwörtern

»Pathfinder« wandelt außerdem Bilder in ein lesbares Format um und kann dadurch abfotografierten Text erkennen.So hat die »Soko Triangel« in Klettes Asservaten offenbar nach Fotos von Kennwörtern oder Nummernschildern gesucht. Für die erleichterte Auswertung haben die Ermittler*innen eine Liste mit rund 200 Schlagwörtern angelegt, die in Bildern, Videos und Texten gefundenen Hinweisen zugeordnet werden sollten. Diese beziehen sich offenbar auf bereits bekannte Erkenntnisse und lauten etwa »Geldbote«, »Bombe«, »Fleischtheke«, »McDonalds«, »Elektroschocker«. Ebenfalls als Schlagworte dienen Ortsnamen mehrerer Tatorte sowie Kennzeichen von Fahrzeugen.

Die für die Analyse mit »Pathfinder« vorgesehenen Daten mit etwas über 10 Terrabyte hat das BKA, das im Auftrag der Bundesanwaltschaft zu den Klette vorgeworfenen terroristischen Taten ermittelt, Anfang Mai 2024 auf einer Festplatte an die Asservatenstelle des LKA Niedersachsen geschickt. Techniker*innen haben diese in ein von Cellebrite entwickeltes Dateiformat umgewandelt – ein Vorgang, für den angeblich Überstunden geleistet werden mussten. Anschließend wurden die Dateien direkt auf den LKA-Server kopiert, da das Einlesen über eine Auswertesoftware eine ganze Woche gedauert hätte.

Dann begann mithilfe von »Pathfinder« eine »Vorselektion in Etappen«. Die Ermittler*innen sollten dabei nicht auf einen Zeitpunkt warten, bis alle Daten von der KI verarbeitet worden wären, sondern bereits während der laufenden Analyse mit der Sichtung der Ergebnisse beginnen.

Anwendungen sind Hochrisiko-KI-Systeme

Wie bei derart disruptiven Technologien üblich, wirft der Einsatz von KI in polizeilichen Ermittlungen grundlegende rechtliche Fragen auf. Vorgaben für ihre Nutzung macht auch die sogenannte KI-Verordnung, die das EU-Parlament zusammen mit der Kommission und den Regierungen der Mitgliedstaaten vor gut einem Jahr beschlossen hat. Darin heißt es, dass Hochrisiko-KI-Systeme nur mit erhöhten Berichts- und Aufsichtspflichten in die Polizeiarbeit eingeführt werden dürfen. Zu den Anwendungen mit einem hohen Risiko gelten Systeme, die Vorhersagen oder Empfehlungen ausgeben – was bei »Pathfinder« erklärtes Ziel und Zweck ist, argumentieren auch Klettes Anwält*innen Undine Weyers, Ulrich von Klinggräff und Lukas Theune.

Für die Nutzung eines solchen KI-Systems fehle in Deutschland eine rechtliche Grundlage, argumentieren die Verteidiger*innen. So hat es das Bundesverfassungsgericht im Februar 2023 in zwei Urteilen festgestellt und die Regelungen zur automatisierten Datenanalyse durch die Polizei in Hessen und Hamburg als verfassungswidrig erklärt. Deren Polizeigesetze spezifizierten die Analysemethoden nicht hinreichend. Die Software generiere mithilfe von Algorithmen außerdem neues Wissen und beziehe dazu Daten aus dem Umfeld der Verdächtigen ein, so das Gericht. Im Urteil zu Hessen ging es ausdrücklich um die bereits vorhandene Auswertesoftware von Palantir, in dem zu Hamburg um eine mögliche Beschaffung.

Auch mit »Pathfinder« werden neue Verdachtsmomente erzeugt, argumentieren Klettes Anwält*innen. Die Technik hebele aber auch zentrale Verfahrensgrundsätze aus: Indem das LKA mithilfe neuer Technologien ermitteln und dabei bislang unmögliche Datenmengen in kurzer Zeit durchforsten kann, wird im Gerichtsverfahren die Pflicht zur »Waffengleichheit« der Parteien verletzt – denn die Angeklagte und ihre Verteidigung verfügen nicht über die Möglichkeiten einer solchen Technologie.

Die Verteidigung kann auch nicht ersehen, welche Beweise die Staatsanwaltschaft durch maschinelle Analyse und welche sie »händisch« ermittelt hat. Aus den Akten geht ebenfalls nicht hervor, mit welchen Algorithmen die Auswertung mit »Pathfinder« erfolgt. Diese gehören zum Quellcode der Software, die in der Regel als Geschäftsgeheimnis von den Herstellern gehütet wird. Nur wenn die Funktion bekannt ist, kann auch nachvollzogen werden, ob die Software die Ermittlungen durch fehlerhafte »Treffer« in eine falsche Richtung leitet oder entlastende Beweismittel – durch einseitige Programmierung der Software oder einen polizeilichen Bias bei ihrer Anwendung – übersieht.

NGO fordert Folgenabschätzung

Die Nichtregierungsorganisation Algorithm Watch steht KI-Systemen bei der Polizei grundsätzlich skeptisch gegenüber und fordert, dass diese transparent gemacht werden. »Es muss klar sein, wer bei Polizei und Staatsanwaltschaft für die Fehler oder Verzerrungen solcher Systeme verantwortlich zeichnet«, sagt Kilian Vieth-Ditlmann von Algorithm Watch. KI-Tools wie »Pathfinder« könnten auch Verbindungen aufzeigen, wo gar keine sind, so die Kritik. »Durch KI-generierte Empfehlungen entsteht schnell ein sogenannter Automation Bias«, warnt der Forscher. Die Vorsortierung und Analyse von Beweismitteln könne demnach das Verhalten der Ermittler*innen in eine bestimmte Richtung lenken. Auch unbeteiligte Dritte gerieten bei solchen Massendatenauswertungen schnell ins Visier der Behörden. Algorithm Watch fordert deshalb eine dezidierte Rechtsgrundlage für die KI-basierte Datenverarbeitung in der Strafverfolgung. Eine vor der Nutzung notwendige Folgenabschätzung müsse Strafverteidiger*innen oder Opferverbände in die Bewertung einbeziehen.

Im LKA Niedersachsen wird »Pathfinder« seit 2022 zur Auswertung von Beweismitteln genutzt und dazu auf einem polizeieigenen Server betrieben, wie das LKA dem »nd« mitteilte. Nur Mitarbeiter*innen des Alamtes hätten darauf Zugriff – zusätzlich zu einer »einstelligen Anzahl von Pathfinder-Admins und zwei IT-Fachkräften«, heißt es in einem Vermerk des LKA. Eine dezidierte Folgenabschätzung gab es für »Pathfinder« nicht, vor der Beschaffung sei lediglich eine »Abwägung der Gesamtumstände« erfolgt, um zu prüfen, ob die Software »den rechtlichen Anforderungen standhält«, erklärt die Behörde dem »nd«. Eine eigene Rechtsgrundlage für KI existiert auch im niedersächsischen Polizeigesetz nicht, das LKA stützt deren Einsatz nach eigener Aussage auf die allgemeinen Befugnisse für polizeiliche Ermittlungen aus der Strafprozessordnung.

Warum sich die Polizei in Niedersachsen für Cellebrite und nicht Anwendungen der Firma Palantir entschied, begründet der Sprecher mit »polizeilichen Bedarfen der IT-Forensik« und konkretisiert dies auch auf Nachfrage nicht. »Pathfinder« sei aber nicht an andere Datenbanken der Polizei angebunden. Wie viele Personen im Fall Klette mit der digitalen Ermittlungstechnik von Cellebrite gearbeitet haben, bleibt ebenfalls unklar. Ein leitender Ermittler habe sich dazu aber laut einem Vermerk »an die Leitungsebene gewandt« und den Kauf zweier »kostspieliger Lizenzen« für die Asservatenaufbereitung vorgeschlagen. Zu den dafür gezahlten Gebühren äußert sich das LKA nicht.

»Soko Triangel« mit »Pathfinder« nicht zufrieden

Offenbar hat »Pathfinder« die Bedarfe der »Soko Triangel« nicht erfüllt – jedenfalls heißt es in einem der Vermerke, dass »nur zu Beginn der Ermittlungen« mit der Software von Cellebrite gearbeitet worden sei. Es sei »zügig festgestellt« worden, dass die Technik »für die Ermittlungen zu den vorliegenden Straftaten nicht zielführend ist«. Gründe dafür wollen weder das LKA noch der Generalbundesanwalt beim Bundesgerichtshof angeben und verweisen dazu auf laufende Ermittlungen.

Anders als die Verteidigung von Klette betrachtet das BKA Auswertesoftware wie »Pathfinder« als KI-Anwendung mit niedrigem Risiko. Das geht aus einer Präsentation hervor, die ein BKA-Mitarbeiter auf der jüngsten Herbsttagung des Amtes gehalten hat und die dem »nd« in Gänze vorliegt. Darin wird ein fiktiver Einsatz von KI zur Auswertung eines Darknet-Forums mit 1,5 Millionen beschlagnahmten Chat-Nachrichten durchgespielt; Tausende Bilder oder Texte »mit Waffenbezug« seien in diesem Szenario erkannt worden. Die KI-Hinweise seien aber nicht gerichtsfest und müssten deshalb immer von Ermittler*innen überprüft werden, so das Fazit der Präsentation.

Eine solche händische Auswertung hatte auch das LKA Niedersachsen für alle Treffer von »Pathfinder« vorgegeben. Klettes Rechtsanwalt Lukas Theune hat zum Einsatz von Kommissarin Computer gegen seine Mandantin trotzdem erhebliche Bedenken: »Wir brauchen dringend eine gesellschaftliche Debatte darüber, wie weit wir die menschliche Kontrolle aufgeben und eine KI die Polizeiarbeit übernehmen lassen wollen. Soll in Zukunft dann auch die KI die Urteile fällen?«