Technik-Utopien: Das Erwachen der Nanobots

»Sehen Sie das Buch, das dort auf dem kleinen Tisch neben dem Sofa liegt? Eines der bemerkenswertesten Werke, die je verfasst wurden.« Das waren die Worte, die mir mein Mitbewohner zuwarf, als er die Wohnung hastig verließ – jedenfalls so ungefähr. Ich weiß es nicht mehr ganz genau, denn ich stand noch unter dem Eindruck der jungen Frau, die uns gerade von ihrem verschollenen Vater erzählt hatte. Während ich mich meiner schwärmerischen Anwandlungen kaum erwehren konnte, hatte ihr bemerkenswerter Auftritt – allerdings in gänzlich anderer Hinsicht – auch die Lebensgeister meines in letzter Zeit auf Besorgnis erregende Weise lethargisch gewordenen Freundes geweckt.

Ich war aus meinem Einsatz in Afghanistan ja eine Menge an Rauschmittelmissbrauch gewohnt, aber einen Arm, der so sehr von Nadeleinstichen vernarbt war wie der seine, hatte ich selten gesehen. Seit Monaten setzte er sich dreimal am Tag einen Schuss Morphium oder Kokain. Die Vorräte der Apotheke schienen unerschöpflich zu sein. Just in dem Moment, in dem ich ihm gegenüber meine Bedenken zu seinem Gesundheitszustand zum Ausdruck brachte – wofür war man schließlich Arzt? – stand niemand anderes als Mary in unserem Wohnzimmer.

Während ich von ihrer bloßen Gegenwart verzaubert wurde, versetzte ihre Schilderung meinen Mitbewohner in einen Zustand der Hyperaktivität. Nichts schien den Junkie nun mehr zu interessieren, als den überaus mysteriösen Fall aufzuklären. Erst einmal aber galt es, seine Rückkehr abzuwarten.

Hierzu machte ich es mir im Erker gemütlich und um mir die Zeit zu vertreiben, nahm ich tatsächlich das dickleibige Buch in die Hand, das er mir soeben ans Herz gelegt hatte. Es hieß »Martyrium der Menschheit« und stammte aus der Feder von Winwood Reade. Viele Seiten überblätterte ich. Ich vermochte mich nicht richtig zu konzentrieren. Eine Passage jedoch las ich mehrfach. Darin ging es um die Zukunft unserer Gattung, über die der Autor angesichts rasanter Fortschritte in Medizin und Technik sich weitreichende Voraussagen zutraute: »Krankheiten werden ausgerottet, die Ursachen des Verfalls werden beseitigt, die Unsterblichkeit erreicht. Und dann wird die Menschheit die kleine Erde verlassen, ins Weltall ziehen und die luftlosen Saharas durchkreuzen, die Planet von Planet und Sonne von Sonne scheidet. Die Erde wird ein Heiliges Land werden, die von Pilgern aus allen Ecken des Universums besucht wird. Am Ende werden die Menschen die Kräfte der Natur beherrschen. Sie selbst werden die Architekten von Systemen, die Hersteller von Welten werden. Dann wird der Mensch perfekt sein. Er wird dann das sein, was das gemeine Volk als Gott verehrt.«

War das möglich? Stand unsere Zukunft wirklich in den Sternen? Darüber musste ich mit meinem Freund direkt nach seiner Rückkehr sprechen.

»Nun«, entgegnete er mir im Ton unerschütterlicher Gewissheit: »Was den Laien wie reine Spekulation erscheint, könnte sich am Ende als die einzige Hypothese erweisen, die sich mit den Fakten deckt.« »Und was sind das für Fakten, die sie hier in Rechnung stellen?«

»Aber lieber Doktor, das ist doch sonnenklar. Wir erleben gerade, wie die wissenschaftlichen Erkenntnisse förmlich explodieren und immer neue Erfindungen ermöglichen. Denken sie an das Schnellfeuergewehr, den Telegrafen, die Eisenbahnen oder Ozeandampfer. Entfernungen, die für Normalsterbliche bis vor kurzem noch unüberwindlich schienen, schrumpfen immer mehr zusammen. Dass wir den Planeten bald verlassen werden, scheint mir nur der logisch nächste Schritt zu sein.«

»Und wie steht es mit der Unsterblichkeit?«

»Auch hier decken sich die Prognosen des Autors mit den vorliegenden Fakten. Jedenfalls bekommt die medizinische Wissenschaft immer mehr Krankheiten in den Griff. Wenn die Ursachen des biologischen Verfalls einmal verstanden sind, kann er auch überwunden werden.«

*

Die Szene, die ich hier geschildert habe, findet sich in keiner der offiziellen Sherlock-Holmes-Geschichten. Sie ist jedoch angelehnt an »Das Zeichen der Vier«, den zweiten von Arthur Conan Doyles Romanen um den Meisterdetektiv und seinen treuen Gehilfen, der 1890 in London erschien. Darin wird das besagte Buch von Winwood Reade einmal, sein Autor sogar zweimal erwähnt. Allerdings nicht mit der Passage, die ich daraus zitiert habe. Im Original lässt Doyle seinen Ich-Erzähler Watson im ersten Satz des letzten Absatzes des zweiten Kapitels sinnieren: »Ich saß im Erker, das Buch in der Hand, aber meine Gedanken waren weit entfernt von den waghalsigen Spekulationen seines Verfassers.«

Warum ausgerechnet dieser Aufhänger? Ich habe darauf zwei Antworten. Die erste lautet: Winwood Reades bereits 1872 erschienenes Buch »Martyrium der Menschheit« ist ein direkter Vorläufer der heute im Silicon Valley verbreiteten Ideologie schier unbegrenzter technologischer Machbarkeit. Der darin enthaltene Gedanke, dass die Menschheit mit Hilfe technischer und medizinischer Innovationen unsterblich und mithilfe ihrer gottgleichen Intelligenz und Schaffenskraft schließlich das gesamte Universum umgestalten werde, ist unter den heutigen Transhumanisten sehr geläufig.

Nehmen wir Ray Kurzweil, den Chefingenieur von Google: »Schon mit dem heutigen Wissen«, erklärte er 2010 in einem Gespräch, »können selbst Angehörige meiner Generation in fünfzehn Jahren noch bei guter Verfassung sein. Ich nenne das Brücke eins. Danach wird es möglich werden, unsere Biochemie zu reprogrammieren und unser biologisches Programm durch Biotechnologie zu modifizieren, das ist Brücke zwei. Dies wird uns wiederum lange genug leben lassen, um Brücke drei zu erreichen. Und dann werden uns die Nanotechnologie und Nanoroboter in unserem Körper dazu befähigen, ewig zu leben.«

Für Kurzweil ist es der Mensch, der die Gottwerdung des Universums einleitet: »Wenn wir die gesamte Materie und Energie des Weltalls mit unserer Intelligenz gesättigt haben, wird das Universum erwachen, bewusst werden – und über fantastische Intelligenz verfügen. Das kommt, denke ich, Gott schon ziemlich nahe.« Schon im Jahr 2045, also fünf Jahre bevor die Klimaschutzziele der EU umgesetzt sein sollen, werde es möglich sein, den menschlichen Geist in eine Datenwolke hochzuladen und mit der zu diesem Zeitpunkt zu Selbstbewusstsein und Autonomie erlangten Künstlichen Intelligenz verschmelzen zu lassen. Er nennt das »Technologische Singularität«.

*

Schon oft wurde erklärt, dass solche Ideen unter Ingenieuren und Konzernlenkern des Silicon Valley weit verbreitet sind. Entsprechende Aussagen des Software-Entwicklers Jaron Lanier, der 2014 den Friedenspreis des Deutschen Buchhandels erhielt, sind mir in Gesprächen von einem Unternehmer, der in kalifornische Biotech-Firmen investiert, dem Informatiker Raúl Rojas sowie Christoph Keese, dem Geschäftsführer und Vice-President des Axel-Springer-Konzerns, bestätigt worden. Keese meint, dass sich das Singularitätsdenken im Silicon Valley zu einer Art unternehmerischem Leitbild entwickelt hat. Das hänge mit der typischen Investitionsstrategie der Risikokapitalgeber zusammen, die solche Geschäftsideen bevorzuge, für die ein weltweites explosives Wachstum und eine Bewertung in Milliardenhöhe in Aussicht stehen.

Wenn der Risikokapitalgeber oder Venture-Kapitalist beispielsweise eine Milliarde Dollar in zehn Start-ups investiere, gehe er davon aus, dass er davon 900 Millionen durch die statistisch erwartbaren Fehlschläge mit ziemlicher Sicherheit verliere. Nehmen wir weiter an, das Ziel des Investors sei es, das ursprünglich eingesetzte Kapital in einer Frist von zehn Jahren zu verdoppeln. Um das zu erreichen, müssten mit den verbliebenen 100 Millionen Dollar in diesem Zeitraum zwei Milliarden verdient werden. »Da ein einzelner Fonds aber niemals die ganze Firma besitzt, sondern vielleicht 20 Prozent, müssen diese 20 Prozent zwei Milliarden abwerfen. Also muss die Bewertung von 100 Prozent der Firma 10 Milliarden betragen.«

Das hat Folgen: Nicht wer das Bankenwesen durch eine technische Idee verbessern will, erhält das Geld, sondern derjenige, der vorschlägt, wie man das komplette Filialnetz mittels einer Internetplattform zerstört. In der Branchensprache heißt das »Disruption« und »Shooting for the Moon«. In einem Milieu, das diese »besondere Form von Größenwahnsinn« (Keese) kultiviert, fällt die Idee von der Technologischen Singularität auf fruchtbaren Boden.

Bevor ich auf die fatalen Konsequenzen eingehe, die dieses Denken im Hinblick auf unsere gegenwärtige Umwelt- und Klimakrisen haben könnte, bin ich ihnen noch die zweite Antwort nach dem Grund für meinen Sherlock-Holmes-Einstieg schuldig. Es handelt sich um eine Notlösung. Ich wurde gebeten, in meinem Vortrag zu dieser Tagung möglichst einen Bezug zur Literatur herzustellen. Nun habe ich zwar ein Sachbuch über den Transhumanismus im Silicon Valley geschrieben und bin in diesem Zusammenhang auch auf vielfältige Verbindungen zur Unterhaltungsindustrie gestoßen – vor allem in Hollywood – die literarische Seite hatte ich im Zuge meiner Recherchen aus Gründen der Arbeitsökonomie aber ausgespart, obwohl mir klar war, dass die phantastische Literatur im Allgemeinen und das Science-Fiction-Genre im Speziellen das Denken vieler kalifornischer Technik-Visionäre stark beeinflusst hatte. Beispielsweise hat sich der im niederländischen Groningen geborene Neuroinformatiker Randal A. Koene bei der Gründung seines Unternehmens Carboncopies von Arthur C. Clarkes bereits 1956 erschienenen Roman »Die Stadt und die Sterne« inspirieren lassen.

Der Schriftsteller erzählt von einer Kuppelstadt, die in sehr ferner Zukunft von einem superintelligenten Computer regiert wird. Die Körper der Bewohner werden von dieser Maschine produziert und im Falle ihrer Zerstörung solange in einer Datenbank gespeichert, bis ein neuer gefunden ist. Koenes Unternehmen wiederum hat sich der Herstellung eines »Substrat-unabhängigen Bewusstseins« verschrieben. Personenspezifische Hirnfunktionen und Erfahrungen sollen außerhalb des Gehirns aufrechterhalten werden. Zu den Investoren des Unternehmens gehört Bryan Johnson, der Leiter des Risikokapitalkonzerns OS Fund. Der Roman »Ender’s Game« von Orson Scott Cord (1985) inspirierte den Computer-Programmierer und Internet-Unternehmer Ryan Holmes beim Aufbau seiner Social-Media-Firma Hootsuite. Das Spionagesoftware-Unternehmen Palantir trägt den Namen der sehenden Steine aus den »Herr der Ringe«-Romanen.

Firmen-Mitgründer und Risikokapitalist Peter Thiel ist ebenso sehr Fan von Tolkiens Epos wie Amazon-Gründer Jeff Bezos, dem die Finanzierung einer TV-Serie, die das Tolkien-Universum weiter ausbuchstabiert, daher eine Herzensangelegenheit ist. Und – last but not least: Der Software-Entwickler Rob Rhinehart benannte das von ihm entwickelte Flüssignahrungsprodukt Soylent nach einem fiktiven Nahrungsmittel aus Harry Harrisons 1966 erschienenen SF-Roman »New York 1999«. In der Verfilmung Soylent Green (1973) wird das Produkt aus Menschenfleisch hergestellt.

Am Rande bemerkt: Wer die frühen Sherlock-Holmes-Geschichten heute zum ersten Mal liest, wird möglicherweise überrascht sein, wie viele Brückenschläge sie in unsere Zeit zulassen. Beispiele gefällig? Großbritannien ist eine imperiale Weltmacht, die sich in Afghanistan eine blutige Nase geholt hat, der Titelheld nutzt Drogen, um seinen Verstand zu regulieren. Ständig werden immer schnellere Transportmittel entwickelt, London ist eine multikulturelle Stadt und auch die krass ungleiche Verteilung des Reichtums, den die Produktivkraftentwicklung unter den Bedingungen einer kapitalistischen Klassengesellschaft mit sich bringt, ist unübersehbar.

*

Zurück zu Kurzweil und der transhumanistischen Bewegung, die – während sie uns im Bundestagswahlkampf 2021 in Gestalt der Partei für Gesundheitsforschung begegnet ist, – in Kalifornien zu den Trägergruppen des digitalen Kapitalismus gehört. Viel zu wenig wird beachtet, dass diese Bewegung einen maßgeblichen Einfluss auf einen wichtigen Zweig der Risikoforschung hat, nämlich den, der sich mit der Abschätzung jener Gefahren befasst, die aus dem technologischen Fortschritt erwachsen. Auf der einen Seite hoffen die Technik-Visionäre, dass sich mit Hilfe Künstlicher Intelligenz, Mikro-Robotern – sogenannten Nanobots – sowie einer perfektionierten synthetischen Biologie schon bald jedweder soziale, biologische und ökologische Schaden – Hunger, Klimawandel, Krankheiten – wird beheben lassen. »Wir arbeiten an einer generellen Intelligenz, die alle Probleme der Menschheit lösen wird«, erklärt die Leitung des Techniklabors in Raphaela Edelbauers Roman »Dave«. Darin führt uns ein Programmierer als Ich-Erzähler in eine Roman-Welt, in der die Menschheit infolge von Klima- und anderen Katastrophen weitgehend dezimiert worden ist. Unser Held glaubt, dass die Maschine namens Dave es dereinst möglich machen wird, »die darniederliegende, heißgesottene Außenwelt wieder bewohnbar zu machen«. Auf der anderen Seite fürchten viele Singularitätsgläubige den Geist, den sie gleichwohl aus der Flasche zu lassen gedenken.

Derselbe Nick Bostrom, der 1998 als Mitgründer der »World Transhumanist Association« zum ersten Mal medienwirksam öffentlich in Erscheinung trat, leitet heute das Future of Humanity Institute an der Universität Oxford, das sich der Erforschung sogenannter existenzieller Risiken verschrieben hat. In seinem auf Deutsch vor wenigen Jahren bei Suhrkamp erschienen Buch »Superintelligenz. Szenarien einer kommenden Revolution« zeigt er sich davon überzeugt, dass mit eigenem Willen ausgestattete Computer zu den größten existenziellen Risiken gehören, mit denen die Menschheit in diesem Jahrhundert zu rechnen habe – gefährlicher noch als Atomwaffen. Warum das? Die Antwort des Philosophen: Bei deren Einsatz könnten ja ein paar Menschen überleben, weshalb von diesen Waffen ein existenzielles Risiko im strengen Sinne nicht ausgehe. Von der Weiterentwicklung der Künstlichen Intelligenz allerdings schon. Würde diese erst einmal ein menschliches Niveau erreichen, von dem aus sie sich selbst weiterentwickeln würde, wären Vorhersagen über das weitere Geschehen inklusive des Schicksals der Menschheit nicht mehr möglich.

Beide Sichtweisen, der Glaube an die Technik als eine gottgleiche Alles-reparier-Maschine und die Furcht vor einer unkontrollierbaren Künstlichen Intelligenz, sind gleichermaßen ungeeignet, um die Probleme zu lösen, die Menschen heute miteinander und mit ihrer natürlichen Umwelt haben. Die sind nämlich zum allergrößten Teil Folgen menschlichen Tuns und müssen durch kluges und vorausschauendes kollektives Handeln auch gelöst werden. Die eigentliche Gefahr besteht ja nicht in der doch sehr unwahrscheinlichen Entwicklung von Maschinen, die den Menschen – aus welchen Gründen auch immer – selbsttätig beseitigen, sondern darin, dass der Diskurs über technologische Risiken so geführt wird, dass er von den gesellschaftlich wirklich relevanten Problemen und Widersprüchen, ihren Ursachen und realistischen Lösungswegen ablenkt.

*

Denn warum sollte man sich um ein dem menschlichen Leben zuträgliches Klima heute kümmern, wenn sich alle von der technischen Zivilisation angerichteten Schäden binnen weniger Jahrzehnte auch auf technischen Wegen spielend werden lösen lassen? Populäre Sachbuchautoren wie der in Stanford lehrende Historiker Ian Morris setzen übrigens auch in Sachen Friedenspolitik auf die vermeintliche Weisheit intelligenter Maschinen. In seinem 2013 veröffentlichten internationalen Bestseller »Krieg – Wozu er gut ist« sieht der Autor nur zwei Entwicklungsmöglichkeiten: Entweder vernichtet sich die Menschheit mithilfe von Atomwaffen selbst, oder es gelingt ihr, unter der Leitung der Hegemonialmacht USA so lange durchzuhalten, bis eine bewaffnete künstliche Superintelligenz die Rolle des Globocop übernimmt.

Aber auch in diesem Fall verschwindet der Homo sapiens, denn er wird durch eine höhere, künstliche Intelligenzform abgelöst. Schon jetzt seien die Menschen dabei, ihre »tierische Individualität aufzugeben und Teil von etwas zu werden, das vom Homo sapiens so weit entfernt ist, wie wir es von unseren einzelligen Urahnen sind«. Der Romancier Ernst-Wilhelm Händler verwendet in seinem 2014 bei Hanser erschienen Essay »Versuch über den Roman als Erkenntnisinstrument« viel Gehirnschmalz auf die Frage, ob intelligente Maschinen oder Mensch-Maschine-Mischwesen einmal Romane lesen und schreiben werden. Seine tiefschürfende Antwort möchte ich Ihnen nicht vorenthalten: Das hänge davon ab, wie ähnlich sie dem jetzigen Menschen seien. Würden relevante Teile der biologischen Ausstattung durch Technologie ersetzt, wäre das, was wir heute unter Kunst verstehen, obsolet.

Was man andererseits so lesen kann, dass es uns, solange wir uns künstlerisch betätigen, als Menschen noch gibt.

Der Text ist ein Nachdruck aus dem Band »Literatur und ökologische Praxis«, herausgegeben von Enno Stahl und Leonhard F. Seidl, erschienen im August 2023 im Verbrecher Verlag.