Berliner Verwaltung: Der künstliche Beamte

In der Leitstelle der Berliner Feuerwehr geht ein Notruf ein. Eine Beamtin nimmt ihn entgegen und stellt geschult die Fragen, die zur Erfassung des Notfalls und zur Einleitung der geeigneten Maßnahmen notwendig sind. Seit Kurzem ist sie dabei nicht mehr allein: Bisher nur zur Probe läuft während ihrer Arbeit ein Assistent nebenher, ein digitaler Assistent[1] mit Künstlicher Intelligenz[2] (KI). Er hört das Gespräch mit, kann es simultan übersetzen und auch verschriftlichen. Zudem gleicht die KI die eingehenden Informationen mit weiteren Daten ab, um herauszufinden, ob sie überhaupt plausibel sind.

Das Beispiel ist eines von vielen, die Vertreter*innen der Berliner Senatsverwaltungen am Montagnachmittag im Abgeordnetenhaus vorstellen, um zu verdeutlichen, in welchem Umfang KI in der Berliner Verwaltung bereits eingesetzt wird. Dabei werden vor allem zwei Dinge deutlich: KI wird bereits in vielen Pilotphasen und von den einzelnen Verwaltungsabteilungen separat erprobt. Und: Sie ist bisher noch nicht in die tieferen Prozesse eingewoben.

»Vor meiner Berufung war in der Berliner Verwaltung niemand für das Thema zuständig, nun haben wir KI bei mir angesiedelt«, sagt Martina Klement (CSU), die vom Regierenden Bürgermeister Kai Wegner (CDU) als Staatssekretärin für Digitalisierung und Verwaltungsmodernisierung aus Bayern in die Senatskanzlei geholt wurde.

Klement obliegt auch die federführende Koordination der für Wegner so wichtigen Verwaltungsreform[3]. Während der Senatskanzlei auch in der KI-Frage die ressortübergreifende Steuerung zukommt, soll eine Taskforce KI aus wichtigen Akteuren wie den Senatsverwaltungen, dem Landes-IT-Dienstleister ITDZ oder dem Innovationslabor CityLab die Entwicklungen beobachten und beraten.

Neben der Feuerwehr, die vier Projekte mit Bezug zur Künstlichen Intelligenz führt, geht die Finanzverwaltung bei dem KI-Experiment voran. Als einen ersten Anwendungsfall entwickelt man dort einen Chatbot, der die Angestellten bei der Bearbeitung von Beschreibungen der Aufgabenbereiche (BAK) innerhalb der Verwaltung unterstützen soll.

»Die letzte Entscheidungsinstanz ist der Mensch.«

Martina Klement (CSU) 
Staatssekretärin für Digitalisierung

Der an ChatGPT erinnernde Bot BAK-KI entwirft dabei unter Berücksichtigung der Eingaben der Mitarbeiter*innen eigene BAKs oder evaluiert die bestehenden. Allerdings soll er die Arbeit nicht ersetzen, wie Klement erläutert. Auch wenn die Dokumente künftig erkennen lassen sollen, ob sie mit Unterstützung von KI entstanden sind – »die letzte Entscheidungsinstanz ist der Mensch«.

Bei der Entstehung von BAK-KI habe man zwei weitere Bots entwickelt, die mittlerweile auch schon im Einsatz sind, erklärt ein Mitarbeiter der Finanzverwaltung: TREK-KI als allgemeiner Berater und DOK-KI, der Dokumente zusammenfassen kann. Die in der Finanzverwaltung entwickelten Programme basieren auf dem quelloffenen Modul Llama, das vom Meta-Konzern entwickelt wurde.

Noch nutzt die Finanzverwaltung Server von Drittanbietern, will aber vor allem mit Blick auf den Datenschutz, die Künstliche Intelligenz und die Daten, auf die sie Zugriff benötigt, auf eigenen Systemen betreiben. Die Berliner Feuerwehr hat solche schon im Wert von 200 000 Euro besorgt. Staatssekretärin Klement sagt, der langfristige Plan sei es, eigene zentrale Server beim IT-Dienstleistungszentrum (ITDZ) Berlin zu betreiben, die dann alle Senatsverwaltungen nutzen können.

Berlin hat vom Bund den Auftrag erhalten, KI-Komponenten zu entwickeln, die Antrags- und Genehmigungsverfahren beschleunigen sollen. Darunter fallen als konkrete Anwendungsfälle Anträge zur Umrüstung von Erdgas-Fernleitungen für den Gebrauch als Wasserstoffnetz. Von der Umstellung des hochkomplexen, papierlastigen Genehmigungsverfahrens würde Berlin allerdings erst mit dem Anschluss an dieses Netz profitieren. Die Gaspipelines verliefen vor allem durch das Land Brandenburg, wo auch die Genehmigungen erteilt würden, wie ein Mitarbeiter von Staatssekretärin Klement mitteilte. Von einem zweiten Projekt soll Berlin aber unmittelbar profitieren: Künstliche Intelligenz soll auch die Bearbeitung von Anträgen zur Verlegung von Glasfaserkabeln effizienter machen.

Der SPD-Abgeordnete Jan Lehmann stellte im Anschluss die Frage, wo die Grenzen von Künstlicher Intelligenz verlaufen: »Was, wenn die KI empfiehlt, der Büroleiter in der Behörde soll immer mehr arbeiten. Wer sagt, wenn es zu viel wird und die Arbeit geteilt werden muss?« Und, fragt Lehmann, wie verhindert man, dass eine KI einen ernst gemeinten Notruf als Fake verwirft?

Elke Breitenbach von der Linksfraktion mahnte vor allem zur Sensibilität in Bezug auf die Herkunft der Daten. Mit Blick auf deren Sicherheit erklärte die Landesdatenschutzbeauftragte Meike Kamp: »Wir sitzen nun zwar mit in der Taskforce, ich möchte aber betonen, dass wir an all den präsentierten Fallbeispielen nicht beteiligt wurden.«

Links:

1. https://www.nd-aktuell.de/artikel/1188210.gewerkschaften-ig-metall-in-berlin-schluesselbranche-digitalwirtschaft.html
2. https://www.nd-aktuell.de/artikel/1187574.biometrie-kuenstliche-intelligenz-macht-bka-mitarbeitende-arbeitslos.html
3. https://www.nd-aktuell.de/artikel/1187622.verwaltung-verwaltungsreform-in-berlin-noch-immer-am-startblock.html