- Wissen
- Künstliche Intelligenz
Die wollen doch nur spielen
Mit neuen Entwicklungen beim Computer-Go ist eine unkontrollierbare Superintelligenz deutlich näher gerückt
Als der weltbeste Go-Spieler sich vor eineinhalb Jahren dem Computerprogramm AlphaGo geschlagen geben musste, galt dieses Ereignis als ein Meilenstein in der Entwicklung der Künstlichen Intelligenz. Viele Experten zeigten sich überrascht und erklärten, einen solchen Durchbruch frühestens zehn Jahre später erwartet zu haben. Doch während auf Fachkonferenzen und in der allgemeinen Öffentlichkeit immer noch lebhaft über AlphaGo diskutiert wird, haben dessen Schöpfer weiter an ihrem System gearbeitet und jetzt die nächste Stufe präsentiert: AlphaGo Zero.
Der Name ist in mehrfacher Hinsicht treffend: Zum einen beherrscht der neue Algorithmus das Brettspiel Go nicht einfach nur noch besser als sein Vorgänger. Er braucht auch (zero = null) keinerlei menschliche Hilfe mehr, um diese Spielklasse zu erreichen. Als im März 2016 der Koreaner Lee Sedol von fünf Partien gegen AlphaGo vier verlor, stützte sich sein digitaler Gegner noch auf die Spielverläufe von 30 Millionen Go-Partien, die ihm von seinen menschlichen Schöpfern eingespeist worden waren. Auf dieser Grundlage optimierte das Programm seine Spielweise weiter, indem es viele Millionen Mal gegen sich selbst spielte. Im britischen Fachblatt »Nature« (DOI: 10.1038/nature24270) berichteten nun David Silver und sein 17-köpfiges Forschungsteam von der Firma Google DeepMind, dass AlphaGo Zero ohne derartiges Vorwissen und ohne menschliche Anleitung allein auf Grundlage der Regeln und ausgehend von rein zufälligem Verhalten bereits nach 36 Stunden die Spielklasse von AlphaGo erreichte. Als die Forscher nach 72 Stunden und insgesamt 4,9 Millionen Trainingsspielen die beiden Programme gegeneinander antreten ließen, gewann AlphaGo Zero von 100 Partien alle.
Die Null im Namen des neuen Programms kann zum anderen die Frage aufwerfen, wie weit der Zeitpunkt noch entfernt ist, an dem Künstliche Intelligenz (KI) den Menschen generell übertrifft und sich eigenständig, vom Menschen nicht mehr kontrollierbar, weiterentwickelt. Forscher sprechen von einer »technologischen Singularität«, einem Nullpunkt der Entwicklung, jenseits dessen keinerlei Vorhersagen mehr möglich sind. Und die rasanten, geradezu atemberaubenden Fortschritte bei der Automatisierung des Go-Spiels erinnern daran, dass diese Singularität sehr rasch und unerwartet eintreten kann.
Nun haben sich wohl die meisten Menschen schon lange daran gewöhnt, dass Computer schneller und besser rechnen können als sie. Der Sieg eines Computers über den amtierenden Schachweltmeister vor 20 Jahren hat denn auch nicht zu größeren kulturellen Verwerfungen geführt. Doch beim erheblich komplexeren Go liegt der Fall anders. Angesichts der Zahl der möglichen Spielzüge, die sogar die Anzahl der Atome im Universum übersteigt, wäre es unmöglich, alle denkbaren Varianten im Voraus durchzurechnen und daraus die beste auszuwählen. Es ist daher nicht mehr die reine Rechenleistung des Computers, die seine Überlegenheit ausmacht. Es ist vielmehr die Art des Rechnens selbst, der Algorithmus. Nirgendwo wird das deutlicher als beim Wettkampf zwischen AlphaGo und AlphaGo Zero: Das neue Rechenverfahren lief auf einem Computer mit vier Tensorprozessoren, die von Google speziell fürs maschinelle Lernen entwickelt wurden. Sein Gegner nutzte mehrere Computer mit insgesamt 48 dieser Prozessoren, war mehrere Monate statt nur drei Tage trainiert worden - und konnte trotzdem kein einziges Spiel gewinnen.
Die bemerkenswerten Erfolge beim Go sind daher nur ein besonders anschauliches Beispiel für die Leistungsfähigkeit dieser neuen Verfahren, die unter dem Titel »Deep Learning« gegenwärtig in vielen Anwendungsgebieten der Künstlichen Intelligenz für Aufregung sorgen. Bei der Steuerung von Robotern etwa erweisen sich diese Methoden als außerordentlich fruchtbar: Statt sie aufwendig zu programmieren, werden die Roboter trainiert und lernen auf diese Weise etwa in erstaunlich kurzer Zeit, stabil auf zwei Beinen zu laufen, Verkehrsschilder zuverlässiger als Menschen zu erkennen oder - wie jetzt von US-Forschern in »Science« (DOI: 10.1126/science.aag2612) gemeldet - einen gängigen Spam-Schutz zu knacken.
Dieser technologische Durchbruch hat allerdings seinen Preis, der für die Aufregung teilweise mit verantwortlich ist: Anders als beim traditionellen Programmieren sind bei diesen, auf neuronalen Netzen beruhenden Verfahren die einzelnen Lernschritte des Roboters nicht mehr ohne Weiteres zu rekonstruieren. Der Roboter funktioniert zwar wunderbar, aber warum er das tut, bleibt unklar. »KI erweist sich immer mehr als eine ›Black Box‹«, schreibt denn auch der Wissenschaftsautor Lars Jaeger in seinem Buch »Supermacht Wissenschaft«. »Smarte Maschinen entdecken aus Daten, mit denen man sie speist, neue Verknüpfungen, Muster und Lösungen, ohne dass wir Menschen nachvollziehen können, welchen Weg sie dabei gehen.«
Dabei ist die Künstliche Intelligenz nicht die einzige Forschungsdisziplin, in der sich die Entwicklung gerade so dramatisch beschleunigt. Was Deep Learning für die KI ist, ist CRISPR/Cas9 für die Gentechnologie - ein Verfahren zur gezielten Manipulation einzelner Gene, das sich seit 2012 innerhalb kürzester Zeit zu einem der wichtigsten Werkzeuge der Gentechniker entwickelt hat. Insgesamt 14 Schlüsseltechnologien, jede einzelne mit dem Potenzial für tiefe Umwälzungen im menschlichen Selbstverständnis und gesellschaftlichen Zusammenleben, listet Jaeger am Anfang seines Buches auf. Über die Zahl ließe sich streiten, aber das ändert nichts an der Erkenntnis, dass die Folgen des gegenwärtigen Wandels unabsehbar sind, in ihrer Tragweite ebenso wie auch hinsichtlich der Geschwindigkeit, mit der sie eintreten.
Niemand ist darauf vorbereitet. Weder die wissenschaftlichen Eliten noch der Markt, die Kirchen, der Staat oder eine andere gesellschaftliche Kraft, so Jaeger, werde uns »die Gestaltung der technologischen Zukunft vorgeben oder sie gar alleine bewerkstelligen können«. Es brauche vielmehr »den gesellschaftlichen Ausgleich vieler Gestaltungskräfte, um die Balance zwischen verschiedenen Interessen, gesellschaftlicher Stabilität, Nachhaltigkeit und dem größtmöglichen Glück aller Menschen zu erreichen«.
Der Siegeszug von AlphaGo Zero muss daher auch als dringende Mahnung verstanden werden, den gesellschaftlichen Diskurs über diese »disruptiven Technologien«, wie sie häufig genannt werden, weiter zu vertiefen. Zwar geht es zunächst nur um ein Brettspiel, das für das übrige menschliche Leben wenig Bedeutung hat. Und gewiss versteht AlphaGo Zero ebensowenig wie AlphaGo die Bedeutung seines Sieges, wie der US-amerikanische Philosoph John P. Sullins vor einem Jahr auf der Tagung »Robophilosophy« hervorhob. Der Computer, so Sullins, habe nur auf der untersten Ebene, der technischen, gewonnen, während es beim Go auch eine psychologische und eine soziale Dimension gebe, bei der es um die Beziehung zum Gegenspieler und zu den Zuschauern geht. Ob Künstliche Intelligenz jemals auch in diesem umfassenden Sinn die Meisterschaft von Go erlangen könne, sei fraglich.
Es lässt sich aber eben auch nicht ausschließen. AlphaGo Zero hat in überraschend kurzer Zeit Spielzüge entdeckt, auf die kein Mensch jemals gekommen ist. In einem schmalen Anwendungsbereich vermittelt das Computersystem so einen Eindruck davon, wie schnell sich eine Superintelligenz entwickeln und der Kontrolle durch Menschen entziehen kann. Was bislang als weit entfernte, fantastische Vision der Science-Fiction abgetan werden konnte, ist auf einmal unangenehm nahe gerückt.
Es erscheint ratsamer, sich auf extreme Szenarien einzustellen, statt sich darauf zu verlassen, dass es schon nicht so schlimm kommen werde oder noch viel Zeit sei. Jaeger fordert daher eine »erweiterte Risikoethik«, die »das Augenmerk auf die Möglichkeit katastrophaler oder gar apokalyptischer Entwicklung richtet, auch wenn deren Eintreffwahrscheinlichkeit als eher gering eingeschätzt« werde. Er vergleicht das mit einem Airbag im Auto, dessen Einrichtung relativ teuer sei, obwohl er nur sehr selten ausgelöst werde - im Ernstfall aber Leben retten und schwere Verletzungen vermeiden könne.
Es kann natürlich sein, dass Künstliche Intelligenz nicht nur beim Go, sondern auch im Bereich von Ethik und Moral in ganz neue Dimensionen vorstößt und den Menschen an ihrer Weisheit teilhaben lässt. Aber darauf verlassen sollten wir uns lieber nicht. Besser wäre es, die technologischen Durchbrüche als Mahnung zu verstehen, die Grundlagen unseres Miteinanders einer gründlichen Prüfung zu unterziehen und neue gesellschaftliche Rahmenbedingungen zu schaffen, innerhalb derer sich Wissenschaft und Technologie wirklich zum Wohle aller Menschen entwickeln können.
Lars Jaeger: Supermacht Wissenschaft - Unsere Zukunft zwischen Himmel und Hölle. Gütersloher Verlagshaus, 413 Seiten, 22,99 €.
Das »nd« bleibt. Dank Ihnen.
Die nd.Genossenschaft gehört unseren Leser*innen und Autor*innen. Mit der Genossenschaft garantieren wir die Unabhängigkeit unserer Redaktion und versuchen, allen unsere Texte zugänglich zu machen – auch wenn sie kein Geld haben, unsere Arbeit mitzufinanzieren.
Wir haben aus Überzeugung keine harte Paywall auf der Website. Das heißt aber auch, dass wir alle, die einen Beitrag leisten können, immer wieder darum bitten müssen, unseren Journalismus von links mitzufinanzieren. Das kostet Nerven, und zwar nicht nur unseren Leser*innen, auch unseren Autor*innen wird das ab und zu zu viel.
Dennoch: Nur zusammen können wir linke Standpunkte verteidigen!
Mit Ihrer Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Seien Sie ein Teil der solidarischen Finanzierung und unterstützen Sie das »nd« mit einem Beitrag Ihrer Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
