Außerplanmäßige Superintelligenz

Eine »verantwortungsvolle und gemeinwohlorientierte Entwicklung und Nutzung« Künstlicher Intelligenz (KI) sei das Ziel der Bundesregierung, heißt es in ihrer kürzlich veröffentlichten KI-Strategie. Das Thema sei »in jeder Beziehung« sehr ernst zu nehmen, steht im Papier. Doch gleich danach wird das schon wieder eingeschränkt: Denn bereits im Vorwort berufen sich die Verfasser auf die in der Informatik übliche Unterscheidung von »starker« und »schwacher« KI und schreiben: »Die Bundesregierung orientiert sich bei ihrer Strategie an der Nutzung der KI für die Lösung von Anwendungsproblemen und damit an den Positionen der ›schwachen‹ KI.« Eine Begründung fehlt.

Starke und schwache KI sind etwas unglücklich formulierte, aber weithin verbreitete Bezeichnungen verschiedener Forschungsansätze. Es ließe sich auch von Grundlagenforschung und anwendungsorientierter Forschung sprechen: Die starke KI geht davon aus, dass es grundsätzlich möglich sein könnte, künstliche Systeme zu entwickeln, deren kognitive Fähigkeiten denen des Menschen ebenbürtig oder sogar überlegen sind. Die Erforschung solcher Systeme eröffnet daher zugleich einen Weg, das Wesen des Denkens und der Intelligenz selbst zu verstehen. Die schwache KI dagegen konzentriert sich auf die Entwicklung von Verfahren zur Lösung spezifischer Aufgaben, etwa die Erkennung von Gesichtern in Bilddatenbanken, die Empfehlung von Produkten anhand von Userprofilen oder auch die Zielverfolgung in Waffensystemen.

Die Bundesregierung preist ihre Strategie als »nachhaltig«, blendet mit der starken KI aber gerade den Aspekt aus, der für zukünftige Generationen von größter Bedeutung ist: die mögliche Entstehung einer technischen Superintelligenz, die sich rasch der menschlichen Kontrolle entziehen könnte.

Es mag sein, dass eine Mehrheit der Forscher nicht an diese Möglichkeit glaubt. Mit Gewissheit ausschließen kann sie jedoch niemand. Zudem haben die Forschungen zur starken KI mit dem Ansatz der Embodied Intelligence einen ausgesprochen erfolgversprechenden Weg eingeschlagen: Diese Forschungsrichtung geht davon aus, dass Intelligenz an einen Körper gebunden ist und aus dem Zusammenspiel von Wahrnehmung der Welt und ihrer gezielten Veränderung hervorgeht. Wer wirkliche, allgemeine - »starke« - KI schaffen will, muss Roboter bauen, die im unermüdlich wiederholten Durchlaufen dieser »sensomotorischen Schleife« (Wahrnehmen - Denken - Handeln) lernen, sich sinnvoll in der realen Welt zu verhalten. Das mag am Ende auf einen Algorithmus hinauslaufen, der beschreibt, wie Wahrnehmung und Handeln miteinander verknüpft sein müssen, um beide nach und nach zielgerichteter und planvoller werden zu lassen. Möglicherweise ist es eine überraschend einfache Formel, die für das Verständnis der Kognition am Ende eine ähnlich revolutionäre Wirkung hat, wie E=mc2 für das Verständnis von Zeit und Raum.

Aus diesem Grund kann auch der Einwand, dass eine leidensfähige KI oder eine Superintelligenz zeitlich wahrscheinlich noch weit entfernt sei, nicht beruhigen. Denn eine solche KI muss nicht das Ergebnis gezielter Forschungen sein. Sie mag auch unbeabsichtigt und ungeplant - und vor allem: sehr plötzlich - aus dem Zusammenspiel der vielen spezialisierten Einzelanwendungen »schwacher« KI hervorgehen, wenn die durch eine solche Formel des Denkens auf einmal in kürzester Zeit zu einer allgemeinen, superintelligenten KI vernetzt werden können. Klingt fantastisch? Vielleicht. Aber eben auch nicht ausgeschlossen.

Wie steht die Bundesregierung zu den »23 Grundsätzen« für die Entwicklung von KI, die im Januar 2017 auf einer vom Future of Life Institute organisierten Konferenz in Asilomar zu »Beneficial AI« (Segensreiche KI) verabschiedet wurden und bisher von über 1200 KI-Forschern und mehr als 2500 weiteren Personen unterzeichnet worden sind? Sie warnen unter anderem davor, »starke Annahmen zu machen, wenn es um die Obergrenzen zukünftiger KI-Leistungen geht« (Artikel 19). In Artikel 20 heißt es außerdem: »Fortgeschrittene KI könnte zu weitreichenden Veränderungen für das Leben auf der Erde führen und sollte deshalb mit angemessener Sorgfalt und ausreichenden Ressourcen geplant und verwaltet werden.«

»Wer die Standards setzt, bestimmt den Markt«, erklärt die Bundesregierung in ihrer KI-Strategie - und verzichtet mit der Nichtbeachtung der starken KI bewusst darauf, höchste ethische Standards zu setzen und einer nachhaltigen, auch für zukünftige Generationen sozialverträglichen Technologieentwicklung den nötigen Stellenwert einzuräumen. Wo es dringend geboten wäre, innezuhalten und angesichts der historischen Tragweite der zu treffenden Entscheidungen möglichst alle Beteiligten um einen Tisch zu versammeln, drückt sie auf die Tube, will Start-ups und Innovationen fördern und sich an die Spitze setzen in einem Rennen, bei dem niemand weiß, wohin es geht. Zukunftsfähigkeit sieht anders aus.