«Ist es schlau, wenn wir unsere Gehirntätigkeiten auslagern?»

Schriftsteller Ian McEwan beschäftigt sich mit künstlicher Intelligenz – und stellt in seinem neuen Roman unangenehme Fragen.

Je nach Blickwinkel täuschend echt: Ein humanoider Roboter am Web Summit in Lissabon 2017. Foto: Keystone

Je nach Blickwinkel täuschend echt: Ein humanoider Roboter am Web Summit in Lissabon 2017. Foto: Keystone

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Es gibt Themen, mit denen man sich unbedingt beschäftigen sollte. Der Klimawandel etwa. Oder künstliche Intelligenz, kurz KI. Dieses Gebiet ist derart komplex, dass man als Laie gar nicht weiss, was überhaupt die wichtigen Fragen sind. Schreiben Computerwissenschaftler über KI, versteht man nur jedes vierte Wort. Journalisten geht es meist um die Bedrohung der Arbeit – um Maschinen, die Menschen ersetzen; erst waren die Arbeiter dran, jetzt sind es die Buchhalter und die Banker. Philosophen wiederum denken in ihrem eigenen Fachvokabular über Transhumanismus nach, also über die Frage, wie sich der Mensch dank KI weiterentwickeln kann.

So relevant ihre Beiträge sind: Sie alle – Informatiker, Journalisten, Philosophen – schreiben nur über ein Thema. KI bleibt bei ihnen so abstrakt wie das sperrige Kürzel der künstlichen Intelligenz. Was künstliche Intelligenz hingegen ist, wie sie sich anfühlt, wie man mit ihr lebt, das kann nur die Literatur begreiflich machen. Wissenschaftler denken in Begriffen und Konzepten, Schriftsteller dagegen in Konstellationen von Figuren und Situationen.

Ian McEwan ist darin ein Meister, wie er nun wieder in seinem neuen Buch, beweist: In «Maschinen wie ich» beschäftigt er sich mit künstlicher Intelligenz. Der britische Schriftsteller hat mit «Solar» bereits einen satirischen Roman über den Klimawandel geschrieben – ja, das ist möglich. Ausserdem ein brillantes Buch über islamistischen Terror in Europa; viele in unserem Medienbetrieb, die es nicht aushalten, wenn jemand eine andere Meinung hat als die ihre, mochten «Saturday» nicht. Weil McEwans Protagonist, ein Londoner Chirurg, am Familientisch den Irakkrieg als gerechtfertigt bezeichnet. Romanfiguren geben freilich nicht zwingend die Ansichten ihrer Schöpfer wieder, weshalb es immer etwas unergiebig ist, wenn man mit Autoren über ihre erfundenen Figuren spricht.

Mehrfach ausgezeichneter Schriftsteller: Der Engländer Ian McEwan. Foto: Keystone

Worüber also reden mit Ian McEwan, im dunklen Kaminzimmer eines Londoner Hotels? McEwan gehört nicht zu jenen Männern im fortgeschrittenen Alter, die nur noch ihre eigene Kompetenz zulassen, ganz egal, was gerade das Thema ist. Um etwas über den aktuellen KI-Forschungsstand zu erfahren, meint er, spreche man besser mit einem Wissenschaftler. «Das wäre bestimmt sinnvoller», sagt McEwan ganz entspannt. Alles Technische an KI habe ihn ohnehin nicht besonders interessiert.

Auch den Brexit – auch ich selbst bin des Themas längst überdrüssig – mag McEwan nicht mehr kommentieren. «Was soll ich dazu noch sagen? Es ist zu deprimierend.»

Vielleicht sollte man erst einmal sagen, worum es geht in dem Roman. «Maschinen wie ich» erzählt die Geschichte von Charlie Friend, einem 32-jährigen Londoner, der sich an der Universität mit Physik und Anthropologie beschäftigt hat. Charlie lebt von privatem Devisenhandel, meistens hockt er also allein vor dem Bildschirm in seiner Wohnung.

Bald ist Roboter Adam dem Leser sympathischer als Besitzer Charlie.

Als seine Mutter stirbt, schafft er mit dem geerbten Geld einen Roboter an, als «intellektuellen Sparringspartner, Freund und Faktotum», wie es in der Broschüre des Herstellers heisst. Der Roboter ist keiner, der auf Rädern rollt und piepst und blinkt; nein, er sieht einem erwachsenen Mann maximal ähnlich. Was auch bedeutet, dass er einen Penis hat und diesen nicht nur zum Pinkeln benützt.

Dieser künstliche Mensch heisst Adam, wie der erste Mensch. Charlie packt ihn aus und muss ihn erst einmal aufladen an einer Steckdose, damit er nach ein paar Stunden die Augen öffnet und eben – «lebt». Bald ist Adam dem Leser sympathischer als der ambitionslose Charlie, sein Besitzer, der ein Auge auf Miranda geworfen hat, die zehn Jahre jüngere Nachbarin, eine sanfte Studentin. Es ist sogar so, dass man die Maschine Adam, und das ist eine der unheimlichen Pointen des Romans, umso mehr lieb gewinnt, je weiter man liest.

«Das ist die grosse Frage, die mich als Schriftsteller interessiert hat», sagt McEwan, «wie wir auf eine KI in Gestalt eines Menschen reagieren würden.» Die Wissenschaft sei von einem Roboter wie Adam zwar noch weit entfernt, «solange unser technischer Enthusiasmus jedoch anhält, ist das Szenario denkbar».

Noch steckt die Anwendung von künstlicher Intelligenz in den Kinderschuhen.

Wir reden über die irrationalen Emotionen, die computerbasierte Alltagsgeräte bereits heute wecken. Menschen flippen aus, wenn sie das in eine hübsche Hülle verpackte Smartphone verlegen, als wäre es ein Teil ihrer selbst. McEwan sagt, er habe mal gehört, wie seine Frau sich bei Siri bedankte. Was also, wenn nicht nur die menschenähnlichen Stimmen, sondern auch Körper einmal Realität sind? Welche Gefühle werden wir für sie entwickeln?

Noch steckt die Anwendung von künstlicher Intelligenz in den Kinderschuhen, obwohl sie aus vielen Bereichen unserer Lebenswelt schon jetzt nicht mehr wegzudenken ist. Sie ist Standard bei der Sprachverarbeitung oder bei der Gesichtserkennung. Banken prüfen Kredite mit KI, und sie kann Tumore auf Röntgenbildern zuverlässiger erkennen als so mancher Arzt. KI basiert auf der Idee, dass sie sich ständig selbst verbessert und deshalb fehlerfreier und schneller arbeitet als ein Mensch. Im Augenblick, und das ist der nächste grosse Sprung, arbeiten Wissenschaftler an der Entwicklung einer sogenannten allgemeinen künstlichen Intelligenz.

Darunter muss man sich eine Maschine vorstellen, die mehr kann als nur eine einzige Sache (der Supercomputer Deep Blue von IBM etwa konnte nur Schach spielen). Eine allgemeine künstliche Intelligenz ist eine Intelligenz, die sich, so wie ein Mensch, alles selbst beibringen kann. Die Entwicklung einer solchen Intelligenz wäre also gleichbedeutend mit der Beantwortung der Frage, was Intelligenz überhaupt ist.

«Ich frage mich, ob es wirklich schlau ist, wenn wir unsere Gehirntätigkeiten zunehmend auslagern.»Ian McEwan, Autor

Das jedenfalls sagt der Brite Demis Hassabis, einer der Grossen in dem Gebiet. Er sagt wörtlich, in einem der vielen Vorträge, die man von ihm auf Youtube sehen kann: «Zuerst klären wir die Frage, was Intelligenz überhaupt ist, dann lösen wir alle weiteren Probleme.» Was er mit «alle weiteren Probleme» meint, ist unklar. Man darf aber davon ausgehen, dass es darum geht, dereinst den Menschengeist in eine Maschine giessen zu wollen, damit diese lebendig wird.

Er habe sich, sagt McEwan, für seine Recherche ausführlich mit Hassabis unterhalten, teile dessen Technikeuphorie allerdings nicht. «Ich frage mich, ob es wirklich schlau ist, wenn wir unsere Gehirntätigkeiten zunehmend auslagern.» Es sei eine Fehlannahme, unser von stupiden Aufgaben entlastetes Gehirn werde sich auf Wichtigeres konzentrieren. Jede Denktätigkeit stärke doch das Hirn. «Ich fürchte einen Rückschritt bei unserer Erinnerungsfähigkeit.»

Superman Adam

Die Geschichte spielt, wie gesagt, in London, aber nicht im Jahre 2067 oder einer anderen fernen Zukunft, sondern 1982. Margaret Thatcher ist Premierministerin, so weit hält sich McEwan an die historischen Tatsachen. Er nimmt sich im Verlauf des Romans jedoch die Freiheit, in die Geschichte einzugreifen: Tony Bennett wird Premierminister und will einen Brexit. Zudem geht der Falklandkrieg verloren. «Die unter Vierzigjährigen werden nicht einmal merken, was daran falsch ist», sagt McEwan. Erst später habe er Parallelen bemerkt zum England der Gegenwart. «Ich kannte niemanden, der damals für den Krieg gegen Argentinien war. Alle Umfragen zeigten jedoch, dass eine Mehrheit der Briten die Invasion begrüsste.» Mit dem Brexit sei es ähnlich gewesen, er habe persönlich keinen einzigen Befürworter gekannt. «Ich nehme mal an, dass ich in einer Blase lebe», bemerkt er trocken. Und noch einen entscheidenden Eingriff hat McEwan in den Lauf der Zeit vorgenommen:

Er hat Alan Turing, den genialen Mathematiker, den Mann, der den Enigma-Code knackte und damit die Nazis düpierte, einfach weiterleben lassen. In Wahrheit hat sich Turing 1954 das Leben genommen – nach einer Verurteilung wegen Homosexualität und einer gerichtlich verordneten Zwangsbehandlung mit Hormonen.

«Mich interessieren vor allem die ethischen Fragen, die sich aus unserem Zusammenleben mit Computern ergeben.»Ian McEwan, Autor

«Ich wollte Turing unbedingt in meinem Roman haben», sagt McEwan, «auch weil ich zeigen wollte, dass die Gegenwart ein zufälliges Konstrukt ist.» Turing träumte vom Bau eines Computers, der funktioniert wie ein Gehirn. «Diesen Traum habe ich ihm nun erfüllt», sagt McEwan.

Es sei tatsächlich denkbar, dass die Computertechnik raschere Fortschritte erzielt hätte mit einem länger lebenden Alan Turing. «Mich interessieren aber vor allem die ethischen Fragen, die sich aus unserem Zusammenleben mit Computern ergeben.» Flugzeuge sind ein gutes Beispiel. «Wer in ein modernes Flugzeug steigt, ist sich kaum bewusst, dass es von einem Supercomputer gesteuert wird, also eine Art Gehirn hat.» Beim Absturz der Boeing 737 der Ethiopian Airways habe, nach derzeitigem Wissensstand, der Computer dem Piloten die Kontrolle über das Flugzeug aus der Hand genommen. «Entscheidungen, die unsere Sicherheit betreffen und somit auch ethische Entscheidungen sind, werden zunehmend Maschinen überlassen.»

Womit wir bei der Frage sind, was denn eine menschliche Entscheidung ausmacht im Vergleich zu der eines Roboters oder Kunstmenschen. McEwans Roman stellt diese Frage sozusagen von der anderen Seite, jener der intelligenten Maschine.

«Künstliche Wesen sind uns moralisch überlegen.»Ian McEwan, Autor

Robotermensch Adam wird im Verlaufe der Geschichte immer mehr zum unheimlichen Übermenschen. Er greift, bevor er den Mund aufmacht, auf riesige Datenmengen zurück, weshalb das, was er sagt, empirisch einwandfrei belegt ist. Während wir ständig glauben, etwas zu wissen oder zu verstehen, versteht und weiss Adam tatsächlich, wovon er spricht, wenn er spricht – und das tut er ständig, meist ungefragt; in diesem Punkt ist er menschenähnlicher als in den meisten seiner übrigen Eigenschaften.

Charlie und die Nachbarin Miranda, die beiden sind inzwischen ein Paar, sitzen also am Küchentisch und lassen sich von Adam, der eine Art Haushaltssklave ist, bekochen und bedienen. Adam hört ihren Gesprächen zu, um dann irgendwann seine Meinung zu äussern. Diese ist, da auf Zahlen und Fakten beruhend, immer extrem vernünftig, ausserdem stets ausgewogen, fair und verantwortungsvoll, da Adam sich ja im enzyklopädischen Vollbesitz der digitalisierten Moralphilosophie befindet.

Adam sei, sagt McEwan, ein «moralisches Monster» im positiven Sinne, während Frankenstein, der Kunstmensch aus Mary Shelleys Roman, eines im negativen Sinn sei. «Mich fasziniert der Gedanke an künstliche Wesen, die uns moralisch überlegen sind, weil sie mit unseren besten Eigenschaften programmiert wurden und sich auch noch ständig verbessern. Wir Menschen wissen zwar meistens, was gut ist, aber wir sind nicht immer gut – vielmehr sind wir neidisch, hassen, lügen, werden blind vor Liebe oder töten.»

Aber gleichzeitig sind es eben genau diese «Fehler», die uns menschlich machen und Teil unserer Würde sind. Eine Technisierung des Geistes könnte uns diese Würde nehmen, wenn wir dem digitalen Hirn immer mehr Entscheidungen überlassen – die Gesellschaft müsste ihr Verständnis vom Menschsein grundsätzlich überdenken.

Können Maschinen zu Emotionen fähig sein, also ein Bewusstsein haben?

Adam ist nicht nur unendlich klug und gerecht, sondern auch ungemein gebildet, Shakespeares sämtliche Werke sind abrufbereit in seinem Kopf, ständig will er mit Charlie über die Königsdramen diskutieren; er verfasst sogar ganz ordentliche Haikus.

Adam, so beschreibt ihn McEwan, hat obendrein noch den Körper eines Olympiaschwimmers, ebenmässige Gesichtszüge, dazu dichtes, schwarzes Haar. Ausserdem besitzt er ein extrem funktionsfähiges Geschlechtsorgan, und was dieser strombetriebene Übermensch damit alles anstellen kann – wir wissen es nicht, aber dürfen uns vorstellen, dass es keine Sexualpraxis gibt, die er bei Bedarf nicht abrufen kann. Nur Miranda weiss es, Charlies kluge Freundin. Aus ihrer Sicht ist nichts Verwerfliches dabei, sich von einem Androiden penetrieren zu lassen, weil der ja nur Maschine ist, sozusagen ein Dildo in Menschengestalt, und deswegen auch weit weniger problematisch als einer jener «toxischen Männer», wie es neuerdings Feministinnen formulieren. Als Adam, inzwischen hat er sich zu einem kleinen Schuft entwickelt, im Verlauf der Geschichte behauptet, er habe sich nun in Miranda verliebt, ist die Stimmung in dem Londoner Haushalt naturgemäss schlagartig eine andere.

Und wenn Adam doch die Wahrheit sagt? Vielleicht hat er, die Maschine, sich ja wirklich in eine Frau aus Fleisch und Blut verliebt. Oder hat die ihn steuernde künstliche Intelligenz mit männlicher Perfidie Adam nur sagen lassen, er sei in Miranda verliebt, um mehr Sex mit ihr zu haben? Aber weshalb will Adam überhaupt Sex? Vielleicht, um Miranda glücklich zu machen (sie sagt, es sei sehr schön gewesen mit dem Roboter). Können Maschinen denn zu Emotionen fähig sein, also ein Bewusstsein haben?

Im Falle Adams, sagt McEwan, müsse man wohl von einer Art Bewusstsein sprechen. Adam lerne aus seinen Erfahrungen – ganz wie ein menschliches Gehirn, das nach Meinung der Neurowissenschaft eine Maschine ist, die Muster erkennt und daraus Sinn stiftet. «Ob ein Mensch allerdings je mit einer solchen Maschine in eine sinnvolle Beziehung treten kann, das wissen wir nicht.»

Lauter Fragen

Wenn man noch länger nachdenkt über das, was ein Android dereinst sein könnte, steigt ein unangenehmer Gedanke auf. Adam bleibt, trotz Sex und Shakespeare, trotz Koch- und Diskurskünsten, eine Maschine – wenn auch eine mit Bewusstsein ausgestattete. Und Charlie ist ihr Eigentümer, er hat sie bezahlt. Was, wenn ihm Adam mal so sehr auf den Wecker geht, dass er nicht mehr mit ihm zusammenleben will? Darf er ihn «entsorgen»? Ihm aus einer Laune heraus den Silikonschädel einschlagen? Oder ihn einsperren, damit er nicht mehr an eine Steckdose herankommt und «verhungert»?

Er habe über diese Frage nachgedacht, sagt McEwan. «Was ein Bewusstsein hat, kann man nicht wirklich besitzen», das folge für ihn aus Kants kategorischem Imperativ. «Was ein Bewusstsein hat, sollte man nicht essen», so begründet auch der Astrophysiker Ben Moore (Kolumnist dieses Blattes) seinen Verzicht auf Fleisch.

«Viele haben Angst vor einer Herrschaft der Roboter.»Ian McEwan, Autor

Aber wo beginnt Bewusstsein? Tintenfische zum Beispiel, sagen Biologen, haben eines. Muscheln jedoch nicht. Und wenn ein Wesen mit einem extrem ausgeprägten Bewusstsein, zum Beispiel ein Android, uns vernichten will? Hätte er Skrupel? Das Szenario wäre folgendes: Die Adams der Welt «vermehren» sich rasend schnell, indem sie Kopien von sich bauen.

«Viele haben Angst vor einer Herrschaft der Roboter. Wenn ich jedoch daran denke, was Menschen anderen Menschen alles angetan haben», sagt McEwan, «fürchte ich mich eher vor dem, was wir dereinst einmal künstlichen Intelligenzen antun könnten.»

Der Gedanke leuchtet ein. Wenn man sich aber vorstellt – das fällt mir leider erst später ein –, dass künstliche Intelligenzen auch «wissen», was Menschen in Auschwitz getan haben, muss man sich dann vielleicht doch fürchten vor ihnen, weil sie wiederum fürchten, dass dies auch ihnen blühen könnte – und uns deshalb zuvorkommen wollen? Es ist kompliziert.

«Von Bewusstsein allein zu sprechen, ohne Körper, ist falsch.»Ian McEwan, Autor

Bewusstsein scheint jedenfalls das Schlüsselkonzept zu sein. Muss man vielleicht annehmen, dass Bewusstsein das wertvollste Gut ist in dem uns bekannten Universum?

Er könne diese Frage nicht beantworten, sagt Ian McEwan, im Chippendale-Sessel des Kaminzimmers sitzend. Von Bewusstsein allein zu sprechen, ohne Körper, sei jedoch falsch. Die moderne Neurowissenschaft lehre, dass wir vor allem verkörpertes Bewusstsein seien, also sozusagen ein Körperhirn.

Ob Bewusstsein zellen- oder silikonbasiert ist, spielt dann aber wahrscheinlich keine Rolle mehr, oder?

Auch diese Frage wird Ian McEwan klugerweise nicht beantworten. Es wäre sogar seltsam, würde er es tun. Gute Literatur stellt Fragen, die sich nicht beantworten lassen. Fragen, die mir – ich bin kein Adam – allerdings niemals eingefallen wären, hätte ich das Buch nicht gelesen.

Ian McEwan, «Maschinen wie ich», übersetzt von Bernhard Robben. Diogenes Verlag, 2019.

Erstellt: 18.06.2019, 14:42 Uhr

Artikel zum Thema

So weit ist künstliche Intelligenz schon

#12 Mit anderen interagieren und sogar zusammenarbeiten: Eine neue Studie zeigt, dass KI-Software mittlerweile dazu fähig ist – aber immer noch Grenzen hat. Mehr...

Künstliche Intelligenz lernt Gedankenlesen

Um bei Hanabi zu gewinnen, sind Kommunikationsgeschick und Interpretationsvermögen gefragt. Nun wird das Kartenspiel zum Übungsfeld für selbstlernende Algorithmen. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Kommentare

Die Welt in Bildern

Kampf gegen das Aussichtslose: In Kalifornien versuchen die Feuerwehrleute immer noch das Ausmass der Buschfeuer einzugrenzen. (11. Oktober 2019)
(Bild: David Swanson) Mehr...