JOHN LENNOX

2084

KÜNSTLICHE INTELLIGENZ UND
DIE ZUKUNFT DER MENSCHHEIT

Aus dem Englischen
von Wolfgang Günter

SCM R. Brockhaus ist ein Imprint der SCM Verlagsgruppe, die zur Stiftung Christliche Medien gehört, einer gemeinnützigen Stiftung, die sich für die Förderung und Verbreitung christlicher Bücher, Zeitschriften, Filme und Musik einsetzt.

ISBN 978-3-417-27034-1 (E-Book)

ISBN 978-3-417-24174-7 (lieferbare Buchausgabe)

Datenkonvertierung E-Book: CPI books GmbH, Leck

Dieses Buch erscheint in der Reihe Glaube und Wissenschaft des INSTITUTS FÜR GLAUBE UND WISSENSCHAFT.

Herausgeber der Reihe ist Dr. Alexander Fink.

© der deutschen Ausgabe 2022

SCM R.Brockhaus in der SCM Verlagsgruppe GmbH

Max-Eyth-Straße 41 · 71088 Holzgerlingen

Internet: www.scm-brockhaus.de | E-Mail: info@scm-brockhaus.de

Originally published in English under the title of 2084: Artificial Intelligence and the Future of Humanity.

Copyright © 2020 by John C. Lennox

Published by arrangement with Thomas Nelson, a division of HarperCollins Christian Publishing, Inc.

Soweit nicht anders angegeben, sind die Bibelverse folgender Ausgabe entnommen:

Neues Leben. Die Bibel, © der deutschen Ausgabe 2002 und 2006

SCM R.Brockhaus in der SCM Verlagsgruppe GmbH Witten/Holzgerlingen.

Textstand 21|11

Weiter wurde verwendet:

Elberfelder Bibel 2006, © 2006 by SCM R.Brockhaus in der SCM Verlagsgruppe GmbH Witten/Holzgerlingen (ELB)

Lektorat: Dr. Alexander Fink, Tabea Tacke

Umschlaggestaltung: Daniel Salewski, SCM Bundes-Verlag gGmbH Witten

Titelbild: gettyimages.de / iStock / Anhelina Lisna

Satz: Burkhard Lieverkus, Wuppertal

Allen Enkelkindern dieser Erde, meine eigenen eingeschlossen – Janie Grace, Herbie, Freddie, Sally, Lizzie, Jessica, Robin, Rowan, Jonah und Jesse –, in der Hoffnung, dass dieses Buch ihnen helfen wird, den Herausforderungen einer von künstlicher Intelligenz beherrschten Welt zu begegnen.

Über den Autor

JOHN LENNOX (Jg. 1943) ist emeritierter Mathematikprofessor an der Universität Oxford und Autor zahlreicher Bücher zum Verhältnis von Glaube, Ethik und Wissenschaft. Durch Vorträge auf Tagungen und Konferenzen ist er auch in Deutschland bekannt.

Vorwort

Dieses Buch stellt den Versuch dar, der Frage nachzugehen, welchen Weg die Menschheit im Hinblick auf technologischen Fortschritt, Bioengineering und vor allem Künstliche Intelligenz (KI) einschlägt. Werden wir einmal in der Lage sein, künstliches Leben und superintelligente Wesen zu erschaffen? Werden sich Menschen einmal so modifizieren können, dass aus ihnen etwas völlig anderes wird? Und wenn ja: Welche Auswirkungen haben Fortschritte in der KI dann auf unsere Weltanschauung im Allgemeinen und auf die Gottesfrage im Besonderen?

Ich hoffe, dass der Titel dieses Buchs, der sich an den gleichnamigen Roman von George Orwell anlehnt, nicht zu anmaßend klingt. Denn erstens ist mein Buch kein dystopischer Roman und zweitens bin ich nicht George Orwell. Den Titel schlug mir mein Kollege Prof. Peter Atkins aus Oxford auf dem Weg zu einer Universitätsveranstaltung vor, bei der wir unter dem Titel »Kann die Wissenschaft alles erklären?« als Debattengegner einander gegenüberstanden. Ich bin ihm zu Dank verpflichtet – nicht nur für diese Idee, sondern auch für verschiedene lebhafte Begegnungen, bei denen wir uns vor Publikum über Themen rund um Gott und Wissenschaft ausgetauscht haben.

Auch anderen gilt mein Dank, vor allem Dr. Rosamund Picard vom MIT Media Laboratory für ihre höchst scharfsinnigen Anmerkungen. Auch David Cranston, Prof. Danny Crookes, Prof. Jeremy Gibbons, Dr. David Glass sowie meinem wie immer äußerst hilfreichen wissenschaftlichen Assistenten Dr. Simon Wenham möchte ich meinen Dank aussprechen.

Beruflich beschäftige ich mich mit Mathematik und Wissenschaftsphilosophie – nicht mit KI –, und mancher Experte mag ein wenig verwirrt sein, dass ich in sein Terrain eindringe. Doch meine Absicht ist eine andere: Es gibt, so habe ich den Eindruck, verschiedene Ebenen, auf denen man sich auf KI einlassen kann. Es gibt die Vordenker und Menschen, die die Software schreiben, die in KI-Systemen eingesetzt wird. Dann gibt es die Ingenieure, die KI-Hardware bauen. Dann haben wir die Leute, die verstehen, wozu KI in der Lage ist, und neue Anwendungen entwickeln. Schließlich gibt es Autoren – manche mit wissenschaftlicher Ausbildung, manche ohne –, die sich dafür interessieren, welche Auswirkungen KI in soziologischer, ökonomischer und ethischer Hinsicht hat.

Natürlich muss man nicht wissen, wie man ein autonomes Fahrzeug oder eine selbstlenkende Waffe baut, um zu einem sachkundigen ethischen Urteil zu dieser Thematik zu kommen. Man muss nicht wissen, wie man einen KI-Einkaufstracker programmiert, um eine fundierte Meinung dazu zu vertreten, wie so etwas unsere Privatsphäre verletzen kann.

Tatsächlich besteht in all diesen Gruppen, die sich auf ganz unterschiedlichem Niveau mit KI befassen, ein großes Interesse an populärwissenschaftlichen Büchern für den nachdenklichen Leser. Auch dieses Buch fällt in diese Kategorie, und ich danke allen, die bereits Bücher zu diesem Thema verfasst haben und Experten auf unterschiedlichen Gebieten sind.

Kapitel 1

Das Territorium abstecken

Wir Menschen haben eine unstillbare Neugier. Von Anbeginn stellen wir Menschen Fragen, vor allem die großen Fragen des Lebens nach unserem Ursprung und unserer Bestimmung: Wo komme ich her und wo gehe ich hin? Dass diese Fragen wichtig sind, liegt auf der Hand. Unsere Antwort auf die erste Frage prägt unser Selbstbild, die Antwort auf die zweite gibt uns ein Lebensziel. Zusammengenommen tragen die Antworten auf beiden Fragen dazu bei, unsere Weltanschauung zu prägen zu einem Narrativ, das unserem Leben einen Sinn gibt.

Das Problem ist, dass es keine einfachen Fragen sind, was wir schon daran erkennen, dass uns viele und sich widersprechende Antworten gegeben werden. Doch im Großen und Ganzen haben wir uns davon nicht abschrecken lassen. Im Laufe der Jahrhunderte haben Menschen ganz unterschiedliche Antworten vorgeschlagen, die aus der Naturwissenschaft, manchmal auch aus Philosophie und Religion stammen.

Zwei der bekanntesten futuristischen Szenarios sind die Romane Schöne neue Welt von Aldous Huxley aus dem Jahr 1932 sowie 1984, den Orwell 1949 veröffentlichte. Beide gelten als äußerst einflussreiche englische Romane. Orwells Buch wurde 2005 im Time-Magazine zu einem der besten englischsprachigen Romane zwischen 1923 und 2005 gekürt. Beide Romane sind Dystopien; laut Definition des Oxford English Dictionary (OED) »schildern sie einen unvorstellbar furchtbaren imaginären Ort oder eine unvorstellbar furchtbare imaginäre Zeit«. Diese unglaublich furchtbaren Orte, die die beiden Autoren schildern, sehen ganz unterschiedlich aus, und diese Unterschiede, die uns hilfreiche Einsichten liefern, die uns später nützen können, werden vom Soziologen Neil Postman in seinem mittlerweile zum Klassiker avancierten Buch Wir amüsieren uns zu Tode kurz und knapp erklärt:

Orwell warnt davor, dass wir von einer von außen kommenden Macht unterdrückt werden. Aber in Huxleys Vision braucht man keinen großen Bruder, um die Menschen ihrer Autonomie, Vernunft und Geschichte zu berauben. Er glaubte, dass die Menschen ihre Unterdrückung lieben und die Technologien bewundern werden, die ihnen ihre Denkfähigkeit nehmen.

Was Orwell fürchtete, waren diejenigen, die Bücher verbieten würden. Was Huxley befürchtete, war, dass es keinen Grund geben würde, ein Buch zu verbieten, denn es würde niemanden geben, der eines lesen wollte. Orwell fürchtete diejenigen, die uns Informationen vorenthalten würden. Huxley fürchtete diejenigen, die uns so viel geben würden, dass wir auf Passivität und Egoismus reduziert würden. Orwell befürchtete, dass die Wahrheit vor uns verborgen bleiben würde. Huxley befürchtete, dass die Wahrheit in einem Meer der Irrelevanz ertrinken würde. Orwell befürchtete, dass wir eine Gesellschaft der Gefangenen werden würden. Huxley befürchtete, dass wir eine triviale Kultur werden würden …

Kurz gesagt, Orwell hatte Angst, dass das, was wir fürchten, uns ruinieren würde. Huxley fürchtete, dass das, was wir uns wünschen, uns ruinieren würde.¹

Orwell zeigt uns einen totalitären Staat mit einem lückenlosen Überwachungssystem, »Gedankenkontrolle« und »Neusprech« – Vorstellungen, die heute zunehmend in Verbindung mit neuen Entwicklungen in der KI gebracht werden, insbesondere mit Computertechnologien, die Dinge tun können, zu denen sonst nur der menschliche Verstand in der Lage ist – kurz: die Schaffung eines Verstandes, der den des Menschen nachahmt. Milliarden von Dollar werden heute in die Entwicklung von KI-Systemen gesteckt, und es überrascht daher nicht, dass sich viele Menschen fragen, wohin das führen wird: auf der einen Seite zu einer besseren Lebensqualität durch digitale Unterstützung, medizinischen Innovationen und dem sogenannten Human Enhancement, also der Verbesserung und Erweiterung für den Menschen durch technologische Mittel, auf der anderen Seite zu Angst vor Verlust des Arbeitsplatzes und dem orwellschen Überwachungsstaat.

Sogar der Papst mischt sich ein. Im September 2019 warnte er davor, dass der Wettlauf um Fortschritte in der KI und andere digitale Entwicklungen das Risiko sozialer Ungleichheit mit sich bringen, wenn man nicht gleichzeitig untersuche, ob das dem Allgemeinwohl unter ethischen Gesichtspunkten zuträglich sei: »Wenn technologischer Fortschritt die Ursache von zunehmender und in die Augen fallender Ungleichheit würde, wäre das kein wirklicher und wahrer Fortschritt. Wenn der sogenannte technologische Fortschritt der Menschheit zum Feind des Gemeinwohls würde, würde das einen bedauernswerten Rückschritt in eine Form von Barbarei bedeuten, die uns vom Gesetz des Stärkeren aufgezwungen würde.«²

Die meisten Erfolge, die bisher in der KI erzielt wurden, drehen sich um Systeme, die etwas können, was normalerweise dem menschlichen Verstand vorbehalten ist. In Zukunftsspekulationen malen wir uns heute vor allem aus, wie man die ehrgeizige Aufgabe anpacken könnte, Systeme zu bauen, die alles können, wozu menschliche Intelligenz in der Lage ist. Das bedeutet eine sogenannte künstliche allgemeine Intelligenz (»artificial general intelligence«, AGI) zu schaffen, die nach Auffassung mancher Fachleute innerhalb relativ kurzer Zeit menschliche Intelligenz übertreffen wird – ganz sicher jedenfalls bis 2084 oder noch früher, wenn man manchen Spekulationen Glauben schenken mag. Der eine oder andere stellt sich vor, dass AGI, wenn wir sie jemals erschaffen, die Funktion eines Gottes übernehmen wird, während andere sie als totalitären Despoten betrachten.

Als ich darüber nachdachte, wie ich eine Einführung in diese immer wichtiger werdenden Themen und auch die Ängste und Hoffnungen, die damit verknüpft sind, schreiben könnte, kamen mir drei Bestseller der letzten Zeit in den Sinn. Die beiden ersten wurden von dem israelischen Historiker Yuval Noah Harari verfasst: Eine kurze Geschichte der Menschheit befasst sich, wie bereits im Titel anklingt, mit der ersten unserer beiden Fragen, dem Ursprung der Menschheit, und Homo Deus – Eine Geschichte von Morgen befasst sich mit der Zukunft der Menschheit. Das dritte Buch, Origin von Dan Brown, ist ein Roman so wie die Bücher von Huxley und Orwell. Im Mittelpunkt steht die Anwendung von KI, und zwar in Form eines Thrillers, den man nicht aus der Hand legen mag und der von Millionen von Lesern verschlungen wird, so wie es auch bei den schwindelerregenden Verkaufszahlen seiner bisherigen Bücher war. Sein Buch wird viele Menschen in ihrem Denken beeinflussen, vor allem auch junge Leute. Weil sich in diesem Roman die Fragen des Autors widerspiegeln, ist das Buch auch ein spannender Ausgangspunkt, um selbst ein wenig Forschungsarbeit zu betreiben.

Darüber hinaus bin ich mir bewusst, dass Science-Fiction-Literatur den einen oder anderen dazu angeregt hat, selbst einen naturwissenschaftlichen Beruf zu ergreifen. Allerdings muss ich an dieser Stelle zu Vorsicht raten. Brown behauptet, dass er mithilfe echter wissenschaftlicher Argumente zu seinen Schlussfolgerungen gekommen ist. Obwohl sein Roman eine erfundene Geschichte bleibt, müssen wir seine Argumente und Schlussfolgerung dennoch auf den Prüfstand stellen und auf ihren Wahrheitsgehalt hin untersuchen.

Das ist vor allen Dingen deshalb wichtig, weil ihn eigenen Angaben zufolge vor allem die Frage »Wird Gott die Wissenschaft überleben?« zum Schreiben dieses Romans motiviert hat. Das ist dieselbe Frage, die mich selbst bewegt hat, einige meiner Bücher zu verfassen. Dieses Buch jedenfalls lässt mich zu dem Schluss kommen, dass Gott die Wissenschaft mehr als nur überleben wird, und es lässt mich auch ernsthaft bezweifeln, dass der Atheismus die Wissenschaft überleben wird.³

Zu den Hauptfiguren in Origin gehört Edmond Kirsch, Milliardär, Informatiker und Experte für KI. Er behauptet, die Antwort auf die Fragen nach dem Ursprung und Ziel des Lebens gefunden zu haben. Seine Ergebnisse will er dafür einsetzen, sein Lebensziel zu verwirklichen, nämlich »mittels wissenschaftlicher Wahrheit die Mythen der Religion zu zertrümmern«⁴. Damit meint er in erster Linie die drei abrahamitischen Religionen Judentum, Christentum und Islam. Vielleicht lässt es sich nicht vermeiden, dass er dabei in erster Linie das Christentum vor Augen hat. Die Lösungen, die er der Weltöffentlichkeit vorlegt, verdankt er seinem Fachwissen im Bereich der KI. Für die Zukunft rechnet er damit, dass Menschen durch technologische Modifikationen verbessert werden.

An dieser Stelle sollte man gleich darauf hinweisen, dass nicht nur Historiker und Science-Fiction-Schriftsteller, sondern auch manche unserer geachtetsten Wissenschaftler glauben, dass die gesamte Menschheit durch Technologie verändert werden wird. Der britische Astronom Lord Rees etwa behauptet, wir könnten keineswegs damit rechnen, dass in ein paar Jahrhunderten die intelligenten Wesen, die dann die Erde beherrschen, uns emotional irgendwie ähnlich sind – obwohl sie möglicherweise mit einem Algorithmus verstehen, wie wir uns damals verhalten haben.⁵

In die gleiche Kerbe schlägt er, wenn er sagt: »Abstraktes Denken mit einem biologischen Gehirn liegt aller Kultur und Wissenschaft zugrunde. Doch diese Aktivität – die höchstens einige Zehntausend Jahre umfasst – wird nur ein kurzlebiger Vorläufer des viel mächtigeren Intellekts der nicht organischen nachmenschlichen Ära sein. In der fernen Zukunft wird es also nicht der menschliche Verstand, sondern der von Maschinen sein, der den Kosmos umfassend versteht.«⁶

Dieses Thema wird nicht einfach verschwinden. Es ist nicht nur für Menschen interessant, die unmittelbar in der KI-Forschung arbeiten, sondern auch für Mathematiker und andere Wissenschaftler, deren Arbeit in zunehmendem Maße davon beeinflusst wird. Weil die Forschungsergebnisse und Ideen, die mit KI zusammenhängen, unweigerlich auf uns alle Auswirkungen haben werden, denken ebenso viele Nicht-Naturwissenschaftler darüber nach und schreiben etwas dazu. Ihre Aussagen verdeutlichen, wie wichtig es ist, dass sich zum Beispiel Philosophen, Ethiker, Theologen, Kulturwissenschaftler, Romanschriftsteller und Künstler an der Debatte beteiligen. Schließlich muss man kein Nuklearphysiker oder Klimatologe sein, um mitreden zu können, wenn es um Kernenergie oder die Auswirkungen des Klimawandels geht.

Was ist KI?

Reden wir zunächst einmal über Roboter. Der Begriff stammt von dem tschechischen (und russischen) Wort für Arbeit robota. Ein Roboter ist eine Maschine, die von einem mit Intelligenz ausgestatteten Menschen entworfen und programmiert wurde, um typischerweise eine bestimmte Aufgabe zu erledigen, die physische Interaktion mit ihrem Umfeld erfordert – eine Aufgabe also, mit der man normalerweise einen mit Intelligenz ausgestatteten Menschen betrauen müsste. In diesem Sinne ahmt ein Roboter mit seinem Verhalten menschliche Intelligenz nach. Deshalb wird intensiv darüber diskutiert, ob man Roboter in gewissem Sinne als intelligent bezeichnen sollte, selbst wenn diese Art von Intelligenz nichts mit dem zu tun hat, was wir unter menschlicher Intelligenz verstehen – und was menschliche Intelligenz ausmacht, ist eine andere große Frage.

Der Begriff Künstliche Intelligenz wurde 1956 auf einem Sommerkurs des Fachbereichs Mathematik an der Dartmouth University geprägt, der von John McCarthy organisiert worden war. Er sagte: »KI ist die Wissenschaft und die Konstruktion von intelligenten Maschinen.«⁷

Heute wird der Begriff für die intelligenten Maschinen selbst und für die Wissenschaft und Technologie, die zu diesem Ziel führen, gebraucht.

Die Forschung in diesem Bereich hat zwei unterschiedliche Richtungen eingeschlagen. Grob gesagt versucht man erstens, menschliche Denkprozesse zu verstehen und sie mit Computertechnologie zu modellieren. Zweitens sieht man sich menschliches Verhalten genau an und versucht, Maschinen zu konstruieren, die dies nachahmen. Das ist ein wichtiger Unterschied: Es ist eine Sache, eine Maschine zu konstruieren, die zum Beispiel eine menschliche Hand nachahmt, die etwas hochhebt. Aber es ist etwas völlig anderes, eine Maschine zu konstruieren, die die Gedanken eines Menschen simulieren kann, während dieser etwas hochhebt. Ersteres ist viel leichter, und wenn man nur auf Nützlichkeit aus ist, reicht das auch aus. Schließlich beschäftigt sich der Flugzeugbau auch nur damit, Maschinen zu konstruieren, die fliegen können, aber nicht damit, ein elektronisches Hirn zu konstruieren, das einen Vogel simuliert, damit das Flugzeug genauso fliegen kann wie ein Vogel – nämlich, indem es mit den Flügeln schlägt.⁸

Die Idee, Maschinen zu konstruieren, die bestimmte Aspekte menschlichen und auch tierischen Verhaltens imitieren können, hat eine lange Geschichte. Vor 2000 Jahren konstruierte der griechische Mathematiker Heron von Alexandria ein Becken, das mit mechanischen singenden Vögeln und einer Eule bestückt war, die den Kopf drehen und so die anderen Vögel zum Schweigen bringen konnte. Im Laufe der Jahrhunderte waren Menschen immer wieder fasziniert davon, Automaten zu bauen, also Maschinen, die irgendeinen Aspekt des Lebens imitieren. Eine eindrucksvolle Sammlung von solch ausgefeilten Automaten kann man sich zum Beispiel im London Science Museum, im Wiener Kunsthistorischen Museum oder im Museum Speelklok in Utrecht ansehen. Das Interesse an der Konstruktion solcher Maschinen nahm im 19. Jahrhundert ab, lebte aber in der erzählenden Literatur weiter, wie zum Beispiel in dem 1818 von Mary Wollstonecraft Shelley veröffentlichten Roman Frankenstein. Er gehört zum Urgestein der Science-Fiction-Literatur, seit es dieses Genre gibt.

Zahlen zu berechnen ist im Alltag wichtig, und man hat viel Aufwand betrieben, um diesen Prozess zu automatisieren. Im 17. Jahrhundert baute der französische Mathematiker Blaise Pascal eine mechanische Rechenmaschine,⁹ mit der er seinen Vater, einen Steuerinspektor, bei seinen langwierigen Berechnungen unterstützen wollte. Im 19. Jahrhundert legte Charles Babbage die Grundlagen der Programmierung, als er die erste Differenzmaschine erfand – eine automatische Additionsmaschine – und später die analytische Maschine, den ersten programmierbaren Rechner. Babbage wird zu Recht als Vater des modernen Computers betrachtet.

Während des Zweiten Weltkriegs nutzte der brillante britische Computerwissenschaftler Alan Turing ausgefeilte elektronische Computertechnologie, um Geräte zu bauen – hier ist vor allem die sogenannte Turing-Bombe zu nennen –, die es ihm und seinem Team in Bletchley Park ermöglichte, den Code der deutschen Enigma-Chiffriermaschine zu knacken, die im militärischen Nachrichtendienst genutzt wurde. Turings Erfindungen und theoretische Arbeiten führten zu seinem Vorschlag einer »lernenden Maschine«. Ihm zufolge würde eine Maschine, die sich mit Menschen unterhalten konnte, ohne dass der Gesprächspartner wusste, dass es sich um eine Maschine handelte, das »Imitatitionsspiel« gewinnen und als »intelligent« gelten. Heute unter der Bezeichnung »Turing-Test« bekannt, lieferte diese Definition einen praktischen Test, ob man einer Maschine Intelligenz zusprechen könne. Wie wir später sehen werden, wurde dieser Ansatz von Philosophen infrage gestellt.

Etwa um dieselbe Zeit im Jahr 1951 bauten Marvin Minsky, Mitgründer des KI-Forschungslabors am MIT, und Dean Edmond den ersten Neurocomputer. Weitere bedeutende Schritte auf dem Weg, die auch in der Öffentlichkeit wahrgenommen wurden, waren der Deep-Blue-Rechner von IBM, der 1997 den Schachweltmeister Garry Kasparov besiegte, und 2016 das AlphaGo-Programm von Google, das erstmals einen menschlichen Go-Spieler schlug und dafür maschinelles Lernen nutzte. Wie wichtig KI ist, wurde 2018 durch den Turing Award – gewissermaßen der »Nobelpreis der Informatik« – noch einmal herausgestellt. Er wurde drei Forschern verliehen, die die Grundlage für den aktuellen KI-Boom legten, vor allem im Bereich Deep Learning.

Die ersten Roboter und KI-Systeme beherrschten das heute sogenannte »maschinelle Lernen« noch nicht. Der Schlüssel zu diesem maschinellen Lernen liegt in Algorithmen von ganz unterschiedlicher Art – zum Beispiel symbolischen oder mathematischen.¹⁰ Der Begriff Algorithmus leitet sich vom Namen des berühmten persischen Mathematikers, Astronomen und Geografen Muhammad ibn Musa Chwa-rizmı- (ca. 780–850) ab, der in Latein »Algorismi« heißt.¹¹

Heute meint ein Algorithmus eine »genau definierte Menge von mathematischen oder logischen Operationen für die Durchführung einer bestimmten Aufgabe« (OED). Die Idee dahinter kann man bis auf das alte Babylonien in der Zeit zwischen 1800 und 1600 v.Chr. zurückverfolgen. Der Informatiker Donald Knuth veröffentlichte einige dieser alten Algorithmen und kam zu dem Schluss: »Die Rechnungen, die auf babylonischen Tontafeln notiert wurden, sind nicht nur Lösungen für ganz spezielle Probleme, sondern allgemeine Verfahren, mit denen man eine ganze Klasse von Aufgabenstellungen lösen kann.«¹² Und das ist die entscheidende Eigenschaft eines Algorithmus: Wenn man einmal weiß, wie er funktioniert, kann man damit nicht nur eine spezielle Aufgabe, sondern eine ganze Reihe von Aufgaben lösen.

Einer der bekanntesten Algorithmen, den viele von uns schon in der Schule kennengelernt haben, ist der euklidische Algorithmus, mit dem man den größten gemeinsamen Teiler (ggT) zweier natürlicher Zahlen bestimmen kann. Zuerst wurde er von Euklid in seinem Werk Die Elemente beschrieben, das um 300 v.Chr. verfasst wurde. Es handelt sich um einen sehr effizienten Algorithmus, der in der ein oder anderen Form noch heute bei Computern benutzt wird. Dabei werden wiederholt Divisionen mit Rest durchgeführt, bis man das erwünschte Ergebnis erhält. Wie der Algorithmus funktioniert, kann man am besten mit einem Beispiel nachvollziehen – obwohl er für jedes Paar natürlicher Zahlen funktioniert.

Nehmen wir an, wir möchten den ggT von 56 und 12 berechnen. Dann würden wir folgende Schritte machen:

Schritt 1:  | Teile die größere Zahl durch die kleinere.56 : 12 = 4 Rest 8
Schritt 2:  | Teile den Divisor aus der vorangegangenen Rechnung durch den Rest.12 : 8 = 1 Rest 4
Schritt 3:  | Wiederhole Schritt 2 so lange, bis die Division ohne Rest aufgeht (in diesem Fall gibt es nur noch einen weiteren Schritt).8 : 4 = 2 (ohne Rest)

In diesem Fall ist also der ggT 4.

Es ist nicht schwer, das in ein Programm umzusetzen und auf dem Computer ablaufen zu lassen. Ein Blick ins Internet zeigt, dass es Tausende von unterschiedlichen Algorithmen gibt, die wir heute in jedem nur vorstellbaren Bereich von Wissenschaft, Ingenieurwesen und Medizin einsetzen. Das bedeutendste Beispiel ist der Bereich der Robotik, denn Roboter wurden eigens dazu entworfen, eine einfache Aufgabe immer und immer wieder zu wiederholen.

In einem typischen KI-System von heute werden die relevanten Algorithmen in eine Computersoftware eingebettet, die die eingegebenen Daten sortiert, filtert und auswählt. Ein Ansatz verfolgt dabei das Ziel, die neuronalen Funktionen des menschlichen Cortex (neuronale Netzwerke) zumindest in einem gewissen Maße zu simulieren. Allgemein gesprochen kann solch ein System Trainingsdaten nutzen, um (durch maschinelles Lernen¹³) zu »lernen«, wie man digitale Muster wie Bilder, Klänge, gesprochene oder geschriebene Sprache und Daten erkennt, identifiziert und interpretiert. Ein anderer Ansatz nutzt Computeranwendungen, die auf der Bayesschen Wahrscheinlichkeitslogik basieren, um die verfügbaren Informationen aus einem statistischen Blickwinkel zu analysieren, um davon ausgehend die Wahrscheinlichkeit einer bestimmten Hypothese abzuschätzen. Kurz: Ein System, das mit maschinellem Lernen arbeitet, nimmt Informationen über die Vergangenheit auf und trifft Entscheidungen oder macht Vorhersagen, wenn es mit neuen Informationen gefüttert wird.

An dieser Stelle ist der Hinweis wichtig, dass Algorithmen ausdrücklich so programmiert sind, dass sie Funktionen approximieren, normalerweise mittels numerischer Optimierung, und in den meisten Fällen werden sie auch mit beispielhaften Datensätzen von Ein- und Ausgaben gefüttert sowie mit Kriterien, wann dieser Prozess abgebrochen werden soll, um Leitlinien für die Optimierung zu liefern. Sie verarbeiten aber nicht einfach Daten, ohne dass irgendwo in der Schleife ein Mensch sitzt, der den gesamten Prozess leitet (selbst wenn das in der Form geschieht, dass ein Mensch einen »kritischen« Algorithmus entwirft und ihn in die Schleife einbaut usw.). Der Mensch handelt bewusst. Die Maschine nicht.

In der Frühphase der KI ersonnen Menschen Algorithmen, die bestimmte Probleme lösen sollten. Heute ist das anders. Man entwirft einen allgemeinen lernfähigen Algorithmus, der dann die Lösung eines Problems »erlernt«. Häufig kennt der menschliche Entwickler keinen speziellen Algorithmus für die Lösung des betreffenden Problems und weiß nicht, wie das System zu seinen Schlussfolgerungen gelangt. Die frühen Schachprogramme gehörten zum ersten Typ (sogar Deep Blue ist eher dieser Kategorie zuzurechnen), die moderne Go-Software dagegen zum zweiten.

Hier sind einige Beispiele von KI-Systemen, von denen viele in der Öffentlichkeit bekannt sind:

• Amazon setzt Algorithmen ein, die die Produkte, die Sie und Millionen anderer Kunden online kaufen, zurückverfolgen. Dann wird diese gewaltige Datenbank durchforstet und die Listen werden mit ähnlichen Produkten verglichen, die Sie noch nicht besitzen könnten. Zuletzt werden statistische Methoden eingesetzt, um diejenigen Produkte auszuwählen, die Leute »wie Sie« gekauft haben und die dann auf Ihrem Bildschirm eingeblendet werden.

• Ein computerbasierter Algorithmus kann eine Datenbank mit Bewerbungen durchkämmen und die am besten geeigneten Kandidaten identifizieren. Stellenausschreibungen, die Tausende von Bewerbern anziehen, werden nun von KI-Systemen ausgewertet. Sie führen die ersten Bewerbungsgespräche, wo nicht nur die Antworten der Bewerber auf die gestellten Fragen gesammelt, sondern auch ihre emotionalen Reaktionen gefilmt werden, um zu sehen, wer im Bewerbungsprozess weiterkommt.

• KI wird mit Erfolg bei der Konstruktion energieeffizienter Gebäude, bei Haushaltsgeräten, die mit dem Internet der Dinge verbunden sind, und bei integrierten Transportsystemen eingesetzt.

• Schon heute gibt es KI-Systeme, die mit Datenbanken arbeiten, in denen Tausende Röntgenaufnahmen gespeichert sind, beispielsweise von Lungen in unterschiedlichem Gesundheitszustand, jede mit einer erstklassigen medizinischen Analyse. Das System vergleicht dann eine Röntgenaufnahme Ihrer Lunge mit der Datenbank, um zu überprüfen, ob Sie zum Beispiel an einer bestimmten Form von Krebs leiden oder nicht. Genauer gesagt extrahiert es statistische Daten über visuelle Muster in der Röntgenaufnahme und vergleicht sie mit anderen extrahierten Mustern in der Datenbank. Solche Systeme können in manchen Fällen genauere Diagnosen stellen als die besten menschlichen Ärzte.

• Astronomen setzen KI und maschinelles Lernen ein, um schnelle Radioblitze aus weit entfernten Galaxien zu identifizieren, und zwar auf Grundlage einer gewaltigen Datenbank, in der Signale von Radioteleskopen gesammelt werden. Bis September 2018 wurden zum Beispiel 72 neue Signale gefunden, die nun im Rahmen des SETI-Projekts untersucht werden. KI wird auch für die automatisierte Erkennung von Galaxien eingesetzt.

• Autonome Fahrzeuge werfen als Maschinen ohne Ichbewusstsein sofort ethische Fragen und Probleme auf, weil man sie auch für kritische Situationen programmieren muss, was sie wiederum vermeiden sollten. Interessanterweise agiert der Autopilot in einem Flugzeug nicht völlig autonom, obwohl man mit einigem Recht behaupten könnte, dass Flugzeuge einfacher zu steuern sind als selbstfahrende Autos. Der Grund könnte durchaus darin liegen, dass die Fluggesellschaften im Geschäft bleiben wollen, denn im Grunde wirft es keine ethische Frage auf, wer im Falle eines Flugzeugabsturzes die Verantwortung trägt, ganz egal, ob dabei einige Menschen bewusst geopfert würden, um andere zu retten.

• Gesichtserkennung befindet sich heute auf einem hohen Entwicklungsstand. Sie kommt unter anderem auch in Kneipen zur Anwendung. Dort wird überprüft, wer als Nächstes an der Reihe ist, damit sich niemand vordrängelt. Überwachungskameras sind heute überall anzutreffen und werden von der Polizei eingesetzt, um kriminellen Aktivitäten auf die Spur zu kommen. Man kann solche Überwachungssysteme allerdings auch für soziale Kontrolle missbrauchen. Später werden wir uns die ethischen Fragestellungen, die sich dadurch ergeben, noch einmal genauer anschauen.

• Autonome Waffen und die damit verbundenen ethischen Probleme werden international diskutiert.

Schon diese kurze Liste macht deutlich, dass viele, vielleicht sogar alle der genannten Entwicklungen ethische Fragen aufwerfen – von Finanzmanipulation über Betrug bis hin zu Verletzung der Privatsphäre und sozialer Kontrolle. Die Gefahr liegt darin, dass sich viele Menschen von ihrer Begeisterung für neue Technologien mitreißen lassen und sich sagen: »Wenn man das tun kann, sollte man es auch tun« –, ohne die sich daraus ergebenden ethischen Probleme zu durchdenken. Man muss jedoch einräumen, dass ethische Fragestellungen für die treibenden Kräfte in der Welt der KI immer wichtiger werden. Die große Frage, der man sich stellen muss, lautet:

Wie kann man in einen Algorithmus, der weder Herz, Seele noch Verstand besitzt, eine ethische Dimension einbauen?

Man muss wissen, dass die meisten KI-Systeme, wie etwa die oben erwähnten, in der Regel entworfen werden, um eine einzige Aufgabe zu erledigen, wie zum Beispiel ein Fahrzeug zu steuern, eine Krankheit zu diagnostizieren oder auf Grundlage von Informationen aus der Vergangenheit Voraussagen für die Zukunft zu treffen. Um das im Hinterkopf zu behalten, spricht man oft von schwacher KI. Weil bis heute sämtliche KI-Anwendungen »schwach« sind, wird manchmal der Begriff kognitive Technologien bevorzugt, um das abzudecken, was bisher auf der Suche nach intelligenten Maschinen erreicht wurde.

Nick Bostrom und Eliezer Yudkowsky merken dazu an:

Die heutigen KI-Algorithmen, die mit dem Menschen vergleichbare oder bessere Leistungen abliefern, werden bewusst so programmiert, dass sie nur ein einziges begrenztes Gebiet beherrschen. Deep Blue wurde Schachweltmeister, kann aber nicht Dame spielen und schon gar kein Auto lenken oder wissenschaftliche Entdeckungen machen. Solche modernen KI-Algorithmen ahmen alle Formen biologischen Lebens nach, ausgenommen den Homo sapiens. Eine Biene ist in der Lage, Waben zu bauen, ein Biber kann Dämme konstruieren; eine Biene aber baut keine Dämme und ein Biber kann niemals lernen, eine Wabe zu konstruieren. Ein Mensch kann durch Beobachtung beides lernen, doch das ist eine Fähigkeit, die keine andere biologische Lebensform besitzt.¹⁴

Es kann auch (zusätzlich) zur Verwirrung beitragen, dass manche Informatiker alltägliche Begriffe wie lernen, planen, denken und Intelligenz als Fachbegriffe gebrauchen, um leblose Maschinen zu beschreiben. Dadurch klingt es so, als besäßen KI-Systeme sehr viel umfassendere Fähigkeiten, als es tatsächlich der Fall ist, weil diese Begriffe hier viel enger gefasst sind als in der Umgangssprache. Die Folge davon ist, dass in den Medien KI-Forschungsergebnisse oft aufgebauscht werden und die betreffenden Artikel übertrieben optimistisch oder ängstlich sind. Danny Crooks, Professor für Computerwissenschaften an der Queens University Belfast, schreibt:

Die heutigen Technologien, vor denen sich die Menschen allmählich fürchten, weil sie ganze Landstriche überwachen und manipulieren können, sind im Grunde nicht besonders intelligent. Das müssen sie auch nicht sein. Ihre Stärke liegt darin, gewaltige Datenmengen zu sammeln, Profile einzelner Menschen zu erstellen und Muster zu erkennen, entweder innerhalb eines solchen Persönlichkeitsprofils oder innerhalb der gesamten Bevölkerung. Die Nationalsozialisten und auch die kommunistischen Länder taten genau das, wenn auch in kleinerem Maßstab. Heute verfügen wir über die Technologie, das im globalen Maßstab zu machen. Das ist beängstigend oder beeindruckend, doch eigentlich nicht intelligent. Das sogenannte Deep Learning ist gerade der letzte Schrei in der KI-Forschung, aber eigentlich überhaupt nichts Neues: Es ist einfach so, dass Computer heute so viel Rechenleistung besitzen, dass sie die mehrschichtigen neuronalen Netzwerke betreiben können, die auf dem Papier schon seit Jahrzehnten existieren.¹⁵

Joseph McRae Mellichamp, Professor an der University of Alabama, hielt einen Vortrag an der Yale University, bei dem auch der Nobelpreisträger Sir John Eccles, bekannt für seine Entdeckung der Synapsen, im Publikum saß, zusammen mit einigen anderen KI-Pionieren. Er sagte: »Ich habe den Eindruck, dass viele völlig unnötige Debatten vermieden werden könnten, wenn KI-Forscher einräumen würden, dass es einige grundlegende Unterschiede zwischen Maschinenintelligenz und menschlicher Intelligenz gibt – Unterschiede, die man auch mittels Forschungsarbeit nicht aus der Welt schaffen kann. Mit anderen Worten, um den griffigen Titel von Mellichamps Vortrag zu zitieren: »›das Künstliche‹ an der Künstlichen Intelligenz ist wirklich künstlich.«¹⁶

Professor Crookes betont, wie wichtig es sei, realistisch zu bleiben:

Wir sind noch sehr weit davon entfernt, wirklich menschliche Intelligenz zu erschaffen. Dass Computer in der Lage sind, riesige Datenmengen zu verarbeiten (wie weiter oben geschildert), verführt uns zu dem Fehlschluss, dass wir uns damit dem Niveau menschlicher Intelligenz nähern. Meiner Meinung nach trennen uns noch Welten davon. Man könnte sogar behaupten, dass sich der Fortschritt in der KI-Forschung in den letzten Jahren verlangsamt hat, weil die meisten Gelder in die Werbung fließen! Und Wissenschaftler folgen der Spur des Geldes.

Wir haben das menschliche Denken immer noch nicht verstanden. Ich persönlich sehe zwei große Probleme, die wir noch zu knacken haben: (1) Selbst wenn wir wüssten, nach welchen Regeln der menschliche Verstand funktioniert, wie können wir dann aus dem physisch vorhandenen Gehirn abstrakte Formeln ableiten, sodass wir die allgemeinen Regeln des Denkens anwenden können? (2) Wie kann ein Computer ein inneres Modell aufbauen und nutzen, das die äußere Welt abbildet? Denken Sie einmal daran, wie ein Blinder die Welt um ihn herum visualisiert und verarbeitet. Menschen besitzen die umfassende Fähigkeit, Dinge zu visualisieren und über Objekte und Prozesse nachzudenken, die nur in unserem Kopf existieren. Diese Fähigkeit, die Menschen auf jeden möglichen Prozess allgemein anwenden können, ist phänomenal: Sie ist eine Schlüsselbedingung für wirkliche Intelligenz, fehlt KI-Systemen jedoch grundsätzlich. Es gibt Grund zur Annahme, dass wir dieses Stadium niemals erreichen.

Der springende Punkt ist meiner Meinung nach, dass wir vorsichtig sein müssen, wenn wir glauben, dass der Mensch die intellektuelle Fähigkeit besitzt, eine Art von Intelligenz zu erschaffen, die mit menschlicher Intelligenz konkurrieren oder sie sogar übertreffen kann, ganz egal, wie viel Zeit uns zur Verfügung steht.¹⁷

Das müssen wir im Hinterkopf behalten, wenn wir uns anschauen, wie Dan Brown in seinem Roman (schwache) KI einsetzt, um seinen beiden großen philosophischen Fragen nachzugehen.

Kapitel 2

Die erste große Frage: Woher kommen wir?

Professor Edmond Kirsch, eine Figur aus Dan Browns Roman Origin, griff das berühmte »Ursuppen«-Experiment von 1953 der beiden Chemiker Stanley Miller und Harold Urey noch einmal auf, das ihnen den Nobelpreis eintrug. Sie hatten eine Reihe von Chemikalien wie Wasserstoff, Methan und Ammoniak, von denen man glaubte, dass sie sich kurz nach Entstehung der Erde in der Atmosphäre befanden, in einem Glaskolben miteinander vermischt, und setzten sie elektrischer Entladung aus. Als sich die Mischung absetzte, fanden sie darin einige der Aminosäuren, die man häufig als Bausteine des Lebens bezeichnet. Eine Zeit lang wurde ihre Arbeit hoch gelobt, weil man sie für die wissenschaftliche Lösung der Frage nach dem Ursprung des Lebens hielt. Doch im Laufe der Zeit merkte man, dass ihr Experiment eigentlich kein Ergebnis geliefert hatte – es waren bei Weitem nicht alle der notwendigen Aminosäuren dabei entstanden.

Die für den Versuch benutzten Kolben wurden aufbewahrt, und über 50 Jahre später schaute man sich den Versuchsaufbau noch einmal an. Daraufhin wurden die Ergebnisse in der Oktoberausgabe 2008 der Zeitschrift Science von sechs Autoren veröffentlicht, und zwar unter dem Titel »The Miller Volcanic Spark Discharge Experiment« (deutsch: »Das Miller-Experiment über vulkanische Funkenentladung«). Wir merken an dieser Stelle an, dass Dan Brown hier wahrheitsgemäß sagt, dass es sich hier wirklich um eine wissenschaftliche Veröffentlichung handelt, nicht um eine erfundene Romanhandlung. Hier die Zusammenfassung dieser Arbeit:

In Millers Experiment aus den 1950er-Jahren wurde bei dem in Lehrbüchern beschriebenen Versuchsaufbau auch ein Gerät benutzt, das in dem Kolben mit den eingesetzten Elektroden einen Heißwassernebel erzeugte und so einen Vulkanausbruch mit hohem Wasserdampfanteil simulierte. Wir fanden das ursprüngliche Kondensat in Millers Proben und analysierten es noch einmal. Der »vulkanische Apparat« erzeugte eine größere Palette an Aminosäuren als der klassische. Auf der damals noch jungen Erde geschah es wahrscheinlich häufig, dass bei von Blitzen begleiteten Vulkaneruptionen reduzierte Gase freigesetzt wurden. Präbiotische Verbindungen, die in dieser Umgebung synthetisiert wurden, könnten sich lokal akkumuliert haben, und hier könnten sie weiteren Veränderungsprozessen unterworfen gewesen sein.¹⁸

Diese Forschungsarbeit gab Dan Brown den Anstoß, diesen Gedanken in seinem Roman weiterzuspinnen. Das Miller-Urey-Experiment war eine Simulation im Labor, bevor man Modelle am Computer berechnen konnte. Browns fiktiver KI-Experte erstellte nun ein mathematisches Modell des Miller-Urey-Experiments, in das die neuen Informationen aus dem Jahr 2008 einflossen. Den Vorgängen auf molekularer Ebene schenkte er sehr viel mehr Aufmerksamkeit und konnte auf diese Weise große Datenmengen speichern, die KI-Systeme hervorragend verarbeiten können. Er führte es als Virtual-Reality-Experiment durch. Zunächst hatte er damit keinen Erfolg, dann aber änderte er die Versuchsbedingungen, um auch die Entropie zu berücksichtigen – also die Tendenz, dass alles im Universum auf ein Gleichgewicht zusteuere: Ihr Becher mit heißem Kaffee gibt Wärme an die Umgebung ab und kühlt sich ab, ohne sich jemals wieder zu erhitzen. Die erneute Durchführung des Experiments brachte – man höre und staune! – die DNA-Doppelhelix hervor. Das Leben entstand durch natürliche Prozesse, ohne dass eine übernatürliche Macht eingreifen müsste. Problem gelöst.

Jedenfalls wird das Problem im Roman gelöst, und zwar so spannend, dass viele Leser das Buch kaum aus der Hand legen konnten. Die Frage aber nach dem Ursprung des Lebens ist eine reale Frage von solcher Tragweite, dass wir uns viel mehr mit ihr beschäftigen müssen, um Fantasie und Realität auseinanderzuhalten. Zunächst einmal, weil wir es hier im Roman (und oft auch im wirklichen Leben) nicht mit reiner, unverfälschter Wissenschaft zu tun haben, sondern mit einem Wissenschaftler, dessen Wissenschaft von seiner Weltsicht beeinflusst wird – in Kirschs Fall ist das der Atheismus. Er drückt das folgendermaßen aus: »Das Zeitalter der Religion neigt sich dem Ende zu. Das Zeitalter der Wissenschaft aber hat gerade erst begonnen.«¹⁹ Und diese Sicht der Dinge scheint sich, was nicht besonders überraschend ist, mit Dan Browns eigener Sicht zu decken.

Zunächst verstört mich an dieser vermeintlich wissenschaftlichen Vorgehensweise, dass der Hauptautor des Artikels von 2008, auf den Brown seine Argumentation aufbaut – und das ist in diesem Fall wirklich ein Naturwissenschaftler, nämlich Jeremy England vom MIT –, weder Browns Weltsicht teilt noch billigt, wie Brown mit seiner Forschungsarbeit umgeht. Lassen wir Professor England selbst zu Wort kommen. Im Wall Street Journal vom 12. Oktober 2017 lässt sich im Wesentlichen schon im ersten Satz erkennen, was er davon hält:

Nirgendwo in diesem Buch findet sich ernst zu nehmende Wissenschaft, über die man streiten könnte … Ich bin Wissenschaftler, aber ich lese auch und lebe nach der Hebräischen Bibel. Die Vorstellung, die Physik könnte beweisen, der Gott Abrahams wäre nicht der Schöpfer und Herrscher der Welt, beruht auf einem ernsthaften Missverständnis – und zwar im Hinblick auf wissenschaftliche Methodik wie auch auf die Funktion des biblischen Texts.²⁰

England weist dann darauf hin, dass die Wissenschaft nicht in der Lage sei, ein Erklärungsmuster zu widerlegen, das einen Schöpfer am Werk sehe, wenn man in die Natur blicke.

Dan Browns Roman Origin ist darum schon im Ansatz fehlerhaft, weil er die wissenschaftliche Arbeit eines anderen zitiert, um das genaue Gegenteil dessen plausibel zu machen, was der betreffende Wissenschaftler für wahr hält – ein zweifelhafter Schachzug. Natürlich kann man geltend machen, dass es sich hier um einen Roman handelt; die Handlung ist ausgedacht, und deshalb hat Brown die Freiheit, alles zu schreiben, was er möchte. Das mag sein, doch es besteht die Gefahr, dass viele Leute das, was Brown sagt, für bare Münze nehmen, weil er seiner Aussage nach von einer philosophischen Frage ausging und seine Leser deshalb glauben, dass seine Schlussfolgerungen in Einklang mit der etablierten Wissenschaft stehen.

Und nicht nur das: Die Behauptung, dass die Simulation in Kirschs Szenario virtuelle DNA hervorgebracht und damit das Problem der Entstehung des Lebens gelöst habe, ist pure Fiktion. Aus dem Blickwinkel echter Wissenschaft ist es nicht einmal entfernt plausibel. Einer der weltweit besten Experten, was die Chemie der Entstehung des Lebens betrifft, und zurzeit überhaupt einer der einflussreichsten Wissenschaftler der Welt James Tour, Professor der Chemie, Nanotechnologie und der Computerwissenschaften an der Rice University in Houston, hegt keinen Zweifel daran, dass die Chemie Browns Behauptungen widerlege:

Eigentlich sollte das Leben gar nicht existieren. So viel wissen wir aus der Chemie. Dass im Gegensatz zur Erde, wo wir überall Leben finden, auf anderen Planeten keinerlei Lebenszeichen zu entdecken sind, ergibt aus chemischer Sicht viel mehr Sinn …

Machen wir einmal folgendes Gedankenexperiment und nehmen an, dass alle Moleküle, die unserer Meinung nach notwendig sind, um eine Zelle zu konstruieren, in dem benötigten chemischen und stereochemischen Reinheitsgrad verfügbar sind. Nehmen wir weiter an, dass man diese Moleküle trennen und in ein gut ausgestattetes Labor transportieren kann. Nehmen wir darüber hinaus an, dass wir Zugang zu den vielen Millionen Artikeln haben, die sich mit Chemie und Biochemie beschäftigen.

Wie würden wir eine Zelle konstruieren?

Es reicht nicht aus, die Chemikalien zur Hand zu haben. Das Verhältnis zwischen Nukleotiden und allem anderen muss genau bestimmt werden, und dafür ist die codierte Information von entscheidender Bedeutung. DNA und RNA sind die wichtigsten Informationsträger der Zelle. Es spielt keine Rolle, welche Form das Leben am Anfang hatte: Von irgendwo her musste die Information kommen. Ein Nukleotidstrang muss nicht unbedingt irgendwelche verschlüsselte Informationen in sich tragen. Nehmen wir an, dass DNA und RNA in jeder von uns gewünschten Sequenz verfügbar ist.²¹

Wir sollten zur Kenntnis nehmen, dass James Tour um seiner Argumentationskette willen Edmond Kirsch sogar seine (virtuelle) DNA zugesteht, obwohl das ein weiteres tiefgreifendes Problem aufwirft: nämlich woher die in der DNA codierte Information stammt, da es ja keinerlei Hinweise darauf gibt, dass man sie aus einem chemischen Prozess gewinnen kann, der nicht von einem mit Verstand ausgestatteten Wesen gesteuert wird. Sogar wenn wir dieses riesige Problem außer Acht lassen, widerspricht Tour mit seiner detaillierten Untersuchung den von Kirsch aufgestellten Behauptungen: »Wir sollten uns als Wissenschaftler, die sich mit synthetischer Chemie beschäftigen, nicht scheuen, das Offensichtliche beim Namen zu nennen. Dass es Leben auf der Erde gibt, ist ein Mysterium. Wir sind noch weit davon entfernt, dieses Problem gelöst zu haben. Die bisherigen Erklärungsversuche für den Ursprung des Lebens ergeben wissenschaftlich gesehen keinen Sinn.«²² So lautet das Urteil der Wissenschaft.

Kirschs fiktives Urteil leitet sich aus seiner atheistischen Philosophie ab. Von der Wissenschaft wird es nicht gestützt. Was Kirschs Argumentation in jedem Fall den Todesstoß versetzt, ist seine falsche Überzeugung, dass die Naturgesetze die Aufgabe übernehmen, Leben hervorzubringen. Mit dieser Meinung steht er nicht allein da. Ein weiteres Beispiel für dieses grundlegende Missverständnis, was die Rolle der Naturgesetze betrifft, liefert der bekannte Physiker Paul Davies, der sagte: »Es gibt keinen Anlass, sich auf irgendeine übernatürliche Macht zu berufen, wenn wir über den Ursprung des Universums und des Lebens nachdenken. Mir persönlich hat die Vorstellung, dass ein göttliches Wesen eingreift, noch nie gefallen. Mich inspiriert es weitaus mehr zu glauben, dass eine Reihe von mathematischen Gesetzen so klug sein kann, all das ins Leben zu rufen.«²³

In der Welt aber, in der wir leben, hat das einfache Rechengesetz 1 + 1 = 2 noch niemals etwas ins Leben gerufen. Mit Sicherheit hat diese Regel noch kein Geld auf meinem Bankkonto hervorgebracht. Wenn ich heute 1000 Pfund zur Bank bringe und dann in ein paar Tagen noch einmal 1000 Pfund, können mir diese Rechengesetze erklären, warum ich nun 2000 Pfund auf meinem Sparbuch habe. Aber wenn ich nie Geld zur Bank bringe und es den Rechengesetzen überlasse, Geld auf meinem Konto zu produzieren, werde ich immer pleite sein.

C. S. Lewis hat dieses Thema mit der für ihn charakteristischen Klarheit angepackt. Im Hinblick auf die Ereignisse, aus denen sich die Geschichtsschreibung zusammensetzt, sagt er sinngemäß: Die Gesetze selbst können nichts hervorbringen. Das zu glauben, gleicht der Auffassung, man könne echtes Geld schaffen, indem man Zahlen addiert.²⁴ Die Welt des strengen Naturalismus, in der clevere mathematische Gesetze von ganz allein das Universum und das Leben ins Dasein rufen, ist Science-Fiction in Reinkultur. Theorien und Gesetze verhelfen Materie und Energie nicht ins Dasein. Die Ansicht, dass sie trotzdem diese Fähigkeit besitzen, sieht nach einem Hintertürchen aus, um nicht die vernünftige Möglichkeit in Betracht ziehen zu müssen, dass es einen Schöpfer gibt.

Davies, Kirsch und Brown sind sich offensichtlich nicht der Tatsache bewusst, dass Naturgesetze die Welt nicht erklären. Was sie stattdessen leisten: Sie beschreiben regelmäßige Muster. Diese Gesetze verursachen darüber hinaus niemals etwas und erschaffen darum auch nichts. Wenn Sie auch nur einen Augenblick darüber nachdenken, werden Sie verstehen, dass die Newtonschen Bewegungsgesetze noch nie in der gesamten Geschichte des Universums einen Billardball in Bewegung gesetzt haben, ganz zu schweigen davon, dass sie diesen Ball überhaupt erschaffen hätten. Die Gesetze beschreiben die Bewegung, sobald der Ball da ist und von einem Spieler mit dem Queue in Bewegung gesetzt wurde.

Dan Browns Romanfigur, das KI-Genie Kirsch, versteht das offenbar nicht. Doch selbst wenn man diesen (entscheidenden) Punkt ignoriert, stellt sich noch eine weitere Frage. Man muss Brown zugutehalten, dass er diese Frage auch tatsächlich formuliert, indem er sie seinem Helden Robert Langdon in den Mund legt. Brown schreibt: »Edmonds Entdeckung war ebenso spannend wie aufrührerisch, doch für Langdon stellte sich eine brennende Frage, die sich überraschenderweise niemand sonst zu stellen schien: Wenn die Naturgesetze so umfassend sind, dass sie ausreichen, um Leben zu erschaffen – wer hat dann die Naturgesetze erschaffen?«²⁵ Im Roman heißt es weiter: »Natürlich führte diese Frage in einen schwindelerregenden intellektuellen Spiegelsaal und immer wieder zum Ausgangspunkt zurück.«

Aber macht sie das wirklich? Brown will damit vermutlich sagen: Wenn man die Frage stellt, wer diese Gesetze erschaffen hat, muss man logischerweise auch fragen, wer den Schöpfer erschaffen hat und so weiter. Richard Dawkins hat diesen Gedanken in seinem Buch Gotteswahn als schlagendes Argument gegen die Existenz Gottes angeführt. Doch genau das – ein Gegenargument – ist es eben nicht. Denn wenn wir fragen, wer den Schöpfer erschaffen hat, setzen wir schon voraus, dass der Schöpfer erschaffen wurde. Doch dem biblischen Weltbild zufolge wurde Gott, der Schöpfer, nicht erschaffen, sondern existiert von Ewigkeit her. Darum ist die Frage, die von einer chronologischen Reihenfolge ausgeht und von vornherein annimmt, dass es etwas vor Gott gab, das wiederum Gott geschaffen hat, falsch gestellt.

Sie wird allerdings zu Recht gestellt, wenn sie sich auf Dinge bezieht, die nicht in Ewigkeit existieren. Darum habe ich Dawkins einmal gefragt: »Sie glauben, dass das Universum Sie geschaffen hat. Wer hat dann aber Ihren Schöpfer erschaffen?« Schon seit über zehn Jahren warte ich auf eine Antwort. Ich glaube fast, ich habe ihn hier mit seinen eigenen Waffen geschlagen.

Hier gibt es nämlich gar keinen »schwindelerregenden intellektuellen Spiegelsaal«, und unsere Überlegungen bringen uns auch nicht »zum Ausgangspunkt zurück«. Nein, die Frage, woher diese Gesetze kommen, wurde bereits gestellt und von einigen der größten Wissenschaftler verständlich und plausibel beantwortet – von Männern wie Galileo, Kepler, Newton und Clerk Maxwell, die wie James Tour und Jeremy England alle an Gott glauben. Sie kommen zu dem Schluss, dass diese Gesetze von Gott stammen, und diese Überzeugung floss in ihre wissenschaftliche Arbeit ein. Als C. S. Lewis die Arbeit des bedeutenden Philosophen und Historikers Sir Alfred North Whitehead zusammenfasste, drückte er diese Überzeugung folgendermaßen aus: »Die Menschen wurden zu Wissenschaftlern, weil sie erwarteten, dass es in der Natur ein Gesetz gäbe; und sie erwarteten ein Gesetz in der Natur, weil sie an einen Gesetzgeber glaubten.«²⁶

Der Glaube an Gott hat den Aufstieg der Wissenschaft keineswegs behindert. Im Gegenteil: Er erwies sich als Motor, der sie vorangetrieben hat. Deshalb ist es bedauerlich, dass viele Menschen meinen, Brown hätte gezeigt, dass die Wissenschaft Gott begraben habe – und zwar nicht, weil Logik oder wissenschaftliche Erkenntnisse seine Argumente stützten, sondern weil seine Leser und Leserinnen durch die emotionale Dichte dieses spannenden Bestsellers förmlich zu dieser Schlussfolgerung gedrängt werden. Wie könnte es denn nicht stimmen, wenn Wissenschaft dadurch so aufregend wird?

Ein paar Seiten weiter lesen wir dann, dass Kirsch nicht in erster Linie von der Abschaffung der Religion geträumt hatte, sondern von der »Erschaffung einer neuen. Eines universalen Glaubens, der die Menschheit eint, statt sie zu entzweien. Er dachte, wenn er die Menschen überzeugen könnte, das natürliche Universum und die Naturgesetze zu verehren, die uns erschaffen haben, hätte jede Kultur die gleiche Schöpfungsgeschichte, und es gäbe keine Kriege mehr um die Frage, wessen antike Mythen denn nun die richtigen sind.«²⁷

Diese Idee war nicht neu. »Wissenschaft als Religion« – dieser Gedanke beispielsweise wurde bereits von T. H. Huxley vorgebracht, einem Atheisten, der Kirchen zu Tempeln der Göttin Sophia (Weisheit) umwidmen wollte, wobei Wissenschaftler als Priester fungieren sollten. Allerdings hat eine Religion, die auf der völlig falschen Vorstellung aufbaut, dass die Naturgesetze uns und das Universum geschaffen hätten, keine Zukunft. In den letzten Jahren scheint der Darwinismus (oder eine bestimmte Version davon) die Rolle einer Religion einzunehmen. Das jedenfalls meinte der Wissenschaftsphilosoph Michael Ruse in seinem Buch Darwinism as Religion.²⁸

Zu diesem Thema gibt es noch mehr zu sagen. Der verstorbene Stephen Hawking schien sich im letzten Absatz seines Bestsellers Eine kurze Geschichte der Zeit ein Hintertürchen für den Glauben an Gott offenzulassen, obwohl er es einige Jahre später in einem weiteren Bestseller, Der große Entwurf, wieder schloss und seinen Atheismus bekräftigte. Ich habe den Eindruck, dass Dan Browns Origin weit mehr als nur ein kleines Hintertürchen offenlässt, und das vermutlich mit Absicht. Denn der Held des Romans Robert Langdon zögert, Edmond Kirschs Theorien unkritisch zu übernehmen. Die Gründe dafür sind gewichtig und werden offengelegt, als die ebenfalls fiktive hochintelligente Direktorin des Guggenheim-Museums Ambra Vidal Langdon die Frage nach Gott stellt. Langdon erwidert, dass sich für ihn »die Frage nach Gott in dem Unterschied zwischen einem Code und einem Muster spiegelt … Ein Muster ist jede Anordnung, die bestimmten Kriterien folgt. Die Natur ist voll davon.« Der Unterschied zwischen Codes und Mustern liege darin, dass »Codes in der Natur nicht so vorkommen … Codes sind gezielte Schöpfungen eines intelligenten Bewusstseins.«²⁹

Dann erwähnt sie die DNA, ein hervorragendes Beispiel für chemische Codierung, weil das DNA-Molekül aus einem »Wort« besteht, das von den vier »Buchstaben« eines chemischen »Alphabets« dargestellt wird. Mit 3,4 Milliarden Buchstaben ist es das längste jemals entdeckte Wort. Im Laufe der nächsten Sätze bekräftigt Langdon, was viele von uns (mich selbst eingeschlossen) schon seit Langem glauben, nämlich dass dies ein schlagkräftiger Beweis für die Handschrift Gottes ist. Als Mathematiker war ich angesichts von Browns Grundhaltung überrascht und erfreut, Langdons Schlussfolgerung zu lesen: »Wenn ich mir Dinge anschaue wie die Präzision der Mathematik, die Verlässlichkeit der Physik, all die atemberaubenden Symmetrien, die es im Kosmos gibt, dann glaube ich nicht, dass das alles auf eine emotionslose, gleichgültige, kalte Wissenschaft zurückzuführen ist. Ich habe immer das Gefühl, dass ich einen lebendigen Fußabdruck sehe … den Schatten einer viel größeren Macht, die uns zum Greifen nahe, aber dennoch außerhalb unserer Reichweite ist.«³⁰

Donald Knuth, einer der Väter der Computerwissenschaft und auch Christ, sagte einmal: »Ich glaube, die Leute, die Programme schreiben, haben ein klein wenig mehr Einblick in das Wesen Gottes … denn ein Programm zu erschaffen bedeutet oft, dass man ein kleines Universum erschaffen muss.«³¹

Eben die DNA, von der Kirsch behauptet, er habe sie in seiner KI-Simulation »entdeckt«, ist ein Code, nicht einfach ein Muster. Sie trägt Information, kann also nicht durch einen ungesteuerten natürlichen Prozess entstanden sein, wie Kirsch es sagt. Der genetische Code ist nur für die Menschen ein Paradoxon, die annehmen, dass DNA durch einen ungesteuerten natürlichen Prozess entstand. Die Vorstellung, dass sie von einem intelligenten Wesen geschaffen wurde, wird nur dem Atheismus gefährlich, nicht der Wissenschaft.

Langdon greift mit seiner Reaktion als Romanfigur eine Bemerkung des verstorbenen Philosophen Anthony Flew auf. Sein Leben lang war er Atheist gewesen, bis er schließlich die Existenz Gottes einräumte. Als Grund für seine Bekehrung gab er an, dass Biologen mit ihrer Erforschung der DNA »gezeigt haben, dass angesichts der unglaublich komplexen Ordnung, die für die Entstehung des Lebens notwendig ist, Intelligenz im Spiel sein muss.« Er fügte hinzu: »Mein ganzes Leben habe ich mich von dem Grundsatz leiten lassen, den Platon Sokrates in den Mund legt: ›Folge den Indizien, wo immer sie dich auch hinführen mögen.‹« Man fragte ihn: »Und wenn das jemandem nicht gefällt?« »Da kann man nichts machen«, so Flew.³²

Und ja, dass man überhaupt Wissenschaft betreiben kann, dass das Universum in einem beeindruckenden Maße mathematisch verständlich ist und Makromoleküle wie etwa DNA existieren, die Informationen tragen, steht völlig im Einklang mit der biblischen Aussage und deutet sogar darauf hin: »Am Anfang war das Wort … und das Wort war Gott. … Durch ihn wurde alles geschaffen, was ist« (Johannes 1,1.3). Es ist völlig vernünftig, die DNA als »Gottes Sprache« zu bezeichnen, wie es Francis Collins tat, als er bekannt gab, dass das Humangenomprojekt unter seiner Leitung zum Abschluss gekommen war.³³

Was also fangen wir nun mit Dan Browns Buch und mit Dan Brown selbst an? Er sagt von sich, er habe den christlichen Glauben verloren und nähere sich nun dem Atheismus an, obwohl er den letzten Schritt laut eigener Aussage noch nicht gemacht habe. Wie seine Romanfigur Edmond Kirsch glaubt er, dass die Naturgesetze das Leben erklären können. Er selbst bezeichnet seine Haltung als in sich widersprüchlich, und das erkennt man auch in seinem Buch. Hin und wieder scheint es den Atheismus zu stützen, doch gegen Ende des Buches wird der Ansicht, dass ein intelligenter Gott hinter dem Universum stehe, eine gewisse Glaubwürdigkeit eingeräumt. An anderen Stellen scheint es der Roman zu billigen, wenn Wissenschaft die Religion zertrümmert. Auf den allerletzten Seiten findet sich ein höchst spannender Abschnitt, wo sich Langdon mit einem Priester über einen Vers aus einem Gedicht von William Blake unterhält. Die Zeile ist auch das Passwort für Kirschs Computer, den aufzuspüren einen wichtigen Handlungsstrang im Buch darstellt. Das Zitat lautet: »The dark Religions are departed & sweet Science reigns«³⁴ (deutsch: »Die dunklen Religionen sind verschwunden, die süße Wissenschaft regiert«).

Langdon meint im Gespräch mit dem Priester, das könne auch bedeuten, dass die Wissenschaften die schlechten und finsteren Religionen, nicht aber die erleuchteten zerstöre. Darin steckt ein Stückchen Wahrheit. Denn die Wissenschaft hat sich tatsächlich der »Lückenbüßergötter« entledigt, wie sie zum Beispiel im alten Griechenland bekannt waren und die tatsächlich der Wissenschaft im Weg standen. Doch von Gott dem Schöpfer und Erhalter des Universums, wie er im jüdisch-christlichen Erbe offenbart ist, hat sich die Wissenschaft mit Sicherheit nicht befreit. Seine intelligente Schöpfung hat Wissenschaftler überhaupt erst zu Pionierleistungen inspiriert.³⁵

Kapitel 3

Die zweite große Frage: Wohin gehen wir?

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 4

Schwache KI: Bringt sie uns eine wunderbare Zukunft?

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 5

Schwache KI: Vielleicht ist die Zukunft doch nicht ganz so wunderbar?

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 6

Den Menschen verbessern

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 7

Künstliche Intelligenz: Sieht die Zukunft finster aus?

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 8

Die Genesis-Akte: Was ist der Mensch?

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 9

Der Ursprung des menschlichen Moralempfindens

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 10

Der wahre Homo Deus

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 11

Der Mann, der Gott ist, kehrt zurück

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 12

Homo Deus in der Offenbarung

Lesen Sie mehr in der vollständigen Ausgabe!

Kapitel 13

Endzeit

Lesen Sie mehr in der vollständigen Ausgabe!

Anmerkungen

1 Neil Postman, Wir amüsieren uns zu Tode (Fischer, Frankfurt am Main, 1988).

2 The Pope Warns Tech Companies to Use AI for Common Good, Time, 27. September 2019, https://time.com/5688191/pope-francis-artificial-intelligence-common-good.

3 Den Begriff Atheismus gebrauche ich hier und im Folgenden im weitesten Sinne als Ablehnung eines Schöpfergottes.

4 Dan Brown, Origin (Doubleday, New York, 2017), S. 53.

5 Siehe Martin Rees, Unsere Zukunft. Perspektiven für die Menschheit (Wissenschaftliche Buchgesellschaft, Darmstadt, 2020).

6 Martin Rees, Astronomer Royal Martin Rees: How Soon Will Robots Take Over the World?, The Telegraph, 23. Mai 2015, www.telegraph.co.uk/culture/hay-festival/11605785/Astronomer-Royal-Martin-Rees-predicts-the-world-will-be-run-by-computers-soon.html, zuletzt aufgerufen am 19. November 2021.

7 John McCarthy, What Is Artificial Intelligence?, www-formal.stanford.edu/jmc/whatisai.pdf, zuletzt aufgerufen am 19. November 2021.

8 Siehe Stuart Russell/Peter Norvig (Hg.), Artificial Intelligence: A Modern Approach (Pearson Education, Harlow, ³2016), S. 1–5.

9 Die erste heute bekannte Rechenmaschine wurde um 1623 von dem deutschen Professor für Hebräisch und Astronomie Wilhelm Schickard gebaut.

10 Die ersten KI-Systeme setzten übrigens überhaupt keine Algorithmen ein.

11 Siehe auch den wunderbaren Artikel meines Oxforder Kollegen Jeffrey Aronson, When I Use a Word … Algorithms, BMJ Opinion, 11. August 2017, https://blogs.bmj.com/bmj/2017/08/11/jeffrey-aronson-when-i-use-a-word-algorithms, zuletzt aufgerufen am 19. November 2021.

12 Donald E. Knuth, Ancient Babylonian Algorithms, in: Communications of the ACM, vol. 15, Ausgabe 7 (Juli 1972), S. 672f.

13 Die Encyclopedia of Artificial Intelligence definiert maschinelles Lernen als »einen Bereich der Künstlichen Intelligenz, der sich mit adaptiven Methoden wie künstlichen neuralen Netzwerken und genetischen Algorithmen befasst«. Siehe Juan Ramon Rabunal Dopico/Julian Dorado de la Calle/Alejandro Pazos Sierra (Hg.), Encyclopedia of Artificial Intelligence (PA: Information Service Reference, Hershey, 2009), S. 666.

14 Nick Bostrom/Eliezer Yudkowsky, The Ethics of Artificial Intelligence, in: Keith Frankish (Hg.)/William M. Ramsey, Cambridge Handbook of Artificial Intelligence (Cambridge University Press, Cambridge, 2014), S. 318.

15 Persönliche Mitteilung (2019). Mit freundlicher Genehmigung.

16 Private Mitteilung (2018) des Verfassers einer Arbeit, die er auf der Artificial Intelligence and Human Mind Conference (Yale University, 1986) vorstellte. Mit freundlicher Genehmigung. Einen interessanten Bericht zu dieser Konferenz findet man hier: www.aaai.org/ojs/index.php/aimagazine/article/view/601, zuletzt aufgerufen am 19. November 2021.

17 Private Mitteilung (2019). Mit freundlicher Genehmigung.

18 Adam Paul Johnson et al., The Miller Volcanic Spark Discharge Experiment, (5900): 404 (November 2008), www.ncbi.nlm.nih.gov/pubmed/18927386, zuletzt aufgerufen am 19. November 2021, Science, S. 322.

19 Brown, Origin, S. 89.

20 Jeremy England, Dan Brown Can’t Cite Me to Disprove God, Wall Street Journal, 12. Oktober 2017, www.wsj.com/articles/dan-brown-cant-cite-me-to-disprove-god-1507847369, zuletzt aufgerufen am 19. November 2021.

21 James Tour, An Open Letter to My Colleagues, Inference: International Review of Science 3, no. 2, August 2017, https://inference-review.com/article/an-open-letter-to-my-colleagues, zuletzt aufgerufen am 19. November 2021.

22 Ebd.; siehe auch James Tour, Animadversions of a Synthetic Chemist, Inference: International Review of Science 2, no. 2, Mai 2016, https://inference-review.com/article/animadversions-of-a-synthetic-chemist, zuletzt aufgerufen am 19. November 2021.

23 Zitiert nach Clive Cookson, Scientists Who Glimpsed God, Financial Times, 29. April 1995, S. 20.

24 Siehe Lewis, Wunder, 21980).

25 Brown, Origin, S. 420, Kursivdruck auch im Original.

26 Lewis, Wunder (Brunnen, Gießen, 21980), S. 26.

27 Brown, Origin,S. 614.

28 Michael Ruse, Darwinism as Religion (Oxford University Press, Oxford, 2016).

29 Brown, Origin, S. 634f.

30 Ebd., S. 636.

31 Donald Knuth, Things a Computer Scientist Rarely Talks About (CA: CSLI Publications, Stanford, 2001), S. 168.

32 There Is a God, Leading Atheist Concludes, Associated Press, 9. Dezember 2004, www.nbcnews.com/id/6688917/ns/world_news/t/there-god-leading-atheist-concludes, zuletzt aufgerufen am 19. November 2021; siehe auch Antony Flew, There Is a God (HarperOne, New York, 2007). Mehr zum Thema bei Stephen Meyer, Signature in the Cell (HarperOne, New York, 2009) und in meinem Buch: Hat die Wissenschaft Gott begraben? (SCM R.Brockhaus in der Reihe Glaube und Wissenschaft des Instituts für Glaube und Wissenschaft, Witten, 92020).

33 Francis Collins, Why This Scientist Believes in God, CNN Commentary, 6. April 2006, www.cnn.com/2007/US/04/03/collins.commentary/index.html, zuletzt aufgerufen am 19. November 2021; siehe auch Francis Collins, The Language of God (Free Press, New York, 2006).

34 William Blake, The Four Zoas: Night the Ninth, in: David Erdman (Hg.), The Complete Poetry and Prose of William Blake (University of California Press, Berkeley, 1981), S. 407.

35 Siehe mein Buch: Hat die Wissenschaft Gott begraben?