«Ich wollte beweisen, dass es mich nicht braucht»

Der österreichische Autor Clemens Setz über künstliche Intelligenz, das Zusammenleben mit Robotern und sein neues Buch «Bot», für das er keine Zeile schreiben musste.

«Die Leute brauchen keine Fake News, um Mitmenschen zu verachten»: Clemens Setz, 35.

«Die Leute brauchen keine Fake News, um Mitmenschen zu verachten»: Clemens Setz, 35. Bild: Wolfgang Stahr/Die Zeit/laif

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Die künstliche Intelligenz ist auf dem Vormarsch. Im Schach hat der Computer den Menschen schon längst geschlagen. Eines Tages werden die Maschinen auch in anderen Zusammenhängen intelligenter sein als wir – und uns am Arbeitsplatz überflüssig machen, was vielen Angst bereitet. Aber nicht allen. Der österreichische Autor Clemens Setz hat die Komposition seines jüngsten Buches einer Maschine überlassen. Mithilfe von Stichworten suchte ein Computerprogramm, ein sogenannter Bot, in den Tagebüchern des Autors nach Antworten zu Fragen, die der Verlag seinem Autor gerne gestellt hätte. Aus diesem Experiment ist Setz’ jüngstes Buch entstanden, ein «Gespräch ohne Autor», wie es im Untertitel heisst. Wie es dazu kam.

Herr Setz, Sie haben Ihre Tagebuchaufzeichnungen von einer Maschine durchsuchen lassen. Warum?
Ich wollte beweisen, dass es mich nicht braucht. Also dass es möglich ist, ohne Autor ein Werk zu veröffentlichen. Ich hatte immer vermutet, dass dies geht. Und das Buch beweist es nun. Ich musste keine Zeile schreiben, und trotzdem spricht es für mich. Mit Berechtigung, Anmut und einer gewissen Poesie. Das finde ich eigentlich sehr tröstlich.

Tröstlich?
Ja, wenn man in einem Universum lebt, in dem man mit Sicherheit irgendwann mal sterben wird, ist es recht befreiend, dass man noch in irgendeiner Form vorhanden sein kann, wenn man schon längst tot ist.

Als Simulation?
Simulation klingt immer so abwertend. Mir gefällt das Wort «nachbauen» in diesem Zusammenhang besser. Wenn man eine Kathedrale Stein für Stein nachbaut, dann ist das ja auch keine Simulation, sondern dann steht da eine Kathedrale.

«Hier lebt es sich leicht, wird man denken, und die genauen Gründe gar nicht begreifen.»Clemens Setz

Man kann also «nachbauen», wie Menschen denken oder schreiben. Das muss doch gerade für Schriftsteller sehr demütigend sein, die an ihrer Originalität bemessen werden.
Für mich nicht. Man denkt vielleicht, man sei ein gigantisches Netzwerk aus Inhalten und komplexen Sachverhalten, Emotionen und Triebfedern. Aber für den Eindruck, man sei selber vorhanden, genügen drei, vier grammatikalische Regeln, Wendungen oder Refrains. Viele wollen das nicht akzeptieren. Bei Marcel Proust gibt es zum Beispiel eine Stelle, in der er darüber nachdenkt, warum Autoren, die ein grosses ungeschriebenes Werk in sich tragen – da spricht er wohl auch von sich selbst –, ohne Helm auf die Strasse gehen und unter Leitern hindurchspazieren, wo ihnen der Kopf zerschmettert werden könnte.

Wie funktioniert Ihr eigener Nachbau?
Im Prinzip wie der Roboter, den man nach dem Tod des Autors Philip K. Dick programmiert hat, den viele kennen, weil er die Vorlage für den Film «Blade Runner» geliefert hatte. Sein Roboter-Nachbau hat Fragen in Text umgewandelt und dann nach Antworten in Dicks nachgelassenen Schriften und Tagebüchern gesucht, die alle als Datei vorhanden waren. Wenn der Roboter etwas fand, las er es vor. Der Eindruck war immer, dass eine höchst intelligente Diskussion entstand.

Haben Sie etwas Neues über sich selbst erfahren, als Sie sich von der Maschine befragen liessen?
Dauernd. Einmal wurde zum Beispiel die Frage gestellt, was die «grelle Absurdität» des Lebens sei, die in einem meiner Bücher auftaucht. Der Bot fand in meinen Aufzeichnungen nichts, worin das Wort Absurdität oder absurd vorkam. Als ich aber selbst durch meine Texte scrollte, merkte ich, dass eigentlich jeder zweite Eintrag genau davon handelt. Mir fiel dann auf, dass ich offenbar ein Bedürfnis habe, festzuhalten, wie seltsam und unverständlich unsere Welt ist. Ich verwende diese Worte auch ganz oft. Eigentlich sagen meine Texte dauernd: «Schau, wie komplett rätselhaft diese Welt ist.» Das wäre mir vielleicht ohne dieses Experiment nie aufgefallen.

Können Sie ein Beispiel für diese Seltsamkeit des Lebens geben?
Es gibt in meinen Aufzeichnungen einen sehr traurigen Eintrag über zwei Menschen – Mutter und Sohn –, die ich kannte und die beide vor einiger Zeit gestorben sind. Die Adresse der Mutter hat noch Jahre nach ihrem Tod Spam an all ihre Kontakte verschickt. Darunter war auch die Adresse ihres Sohnes. Das zu sehen, war so traurig: diese bizarre, entseelte und irgendwie auch dadaistische Kommunikation von zwei E-Mail-Adressen.

Wenn es die Möglichkeit gibt, dass ein Roboter mit Ihrem Material arbeitet, dann wäre es denkbar, dass die Maschine weiterschreibt und Bücher ausspuckt – während Sie etwas ganz anderes machen können.
Eine märchenhafte Idee! Ich hoffe, sie lässt sich irgendwie in die Wirklichkeit implementieren.

Viele haben davor Angst, dass sie durch künstliche Intelligenz überflüssig werden. Oder dass die Roboter ein eigenes System entwickeln, zu dem wir keinen Zugang haben.
Ich will jetzt nicht wie eine «Black Mirror»-Folge klingen: Aber ich glaube, in Ansätzen ist es schon so weit.

«Roboter würden sich selbst organisieren wenn man sie liesse. Wie das Lebewesen nun mal machen.»Clemens Setz

Wo machen Sie das fest?
Zum Beispiel am Grad der Ferngesteuertheit, den wir alle bei uns selber beobachten können. Also dieses lakaienhafte, hündische Kriechen vor nicht funktionierenden Geräten. Wenn wir etwa verzweifelt unser Handy wiederbeleben wollen. Es gibt also bereits eine Herrscherinstanz, der wir uns bereitwillig unterwerfen. Wir können das aber auch schon seit längerem bei Spekulationen an den Börsen beobachten.

Echt?
Ja, es sind nicht mehr Menschen, die im Gemenge irgendwelche hektische Handzeichen machen und «Kaufen, kaufen!» rufen, wie es in den alten Filmen über die Wallstreet zu sehen ist. Sondern ultraschnelle Computer, die Entscheidungen treffen. Es gibt auch Roboter, die verwenden ihre eigene Sprache und lernen dann, wie sie miteinander Handel treiben können.

Eine gespenstische Vorstellung.
Das sind zurzeit noch kontrollierte Versuche, aber wenn man sie liesse, würden diese Roboter sich selbst organisieren. Wie das Lebewesen nun mal machen. Sie hätten dann ihre eigenen Konventionen und würden diese entwickeln. Was entstünde, wäre nicht mehr unser Werk. Wir wären die Initiatoren, aber das heisst ja nichts. Auch Roboter, die mit uns zusammenleben, wird es sicher einmal geben.

In «Blade Runner» ist es die Aufgabe, die nicht menschlichen Replikanten aufzuspüren und auszuschalten.
Das würde niemand machen, wenn wir mit den Robotern zusammenlebten. Dann wären die ja genauso real wie wir. Die künstlichen Intelligenzen werden uns auch viel zu willkommen sein, als dass man sie aufspürt und überführt. Sie werden uns das Leben so sehr erleichtern, dass wir sie primär als Freunde und Partner empfinden. Und in der Folge vielleicht auch, wenn die Maschinen selbst unsichtbar geworden sind, als allgemeine Zonen der erleichterten Existenz. Hier lebt es sich leicht, wird man denken, und die genauen Gründe gar nicht begreifen oder formulieren können. Ich glaube daher, dass uns die Mission von «Blade Runner» völlig absurd erscheinen wird, wenn die Roboter unter uns sind. Als würden die Leute ihren Hunden beweisen wollen, dass sie nicht Proust lesen können. Viel wahrscheinlicher ist es, dass wir die übermächtige Intelligenz als Schicksal hinnehmen werden.

Als Schicksal?
Ja, ich glaube, dass wir das gleiche Verhältnis zur künstlichen Intelligenz entwickeln wie gegenüber unserem Unbewussten. Der Psychoanalytiker C. G. Jung hat ja gesagt, wenn man so etwas wie die bösen Anteile nicht in die eigene Person integrieren kann, aber dennoch damit leben muss, fühle sich das an wie Schicksal. Man versucht dann, diesen Anteilen mit Würde zu begegnen oder so zu tun, als sei man der Handelnde. Wie bei Naturkatastrophen oder plötzlichen Glückszuständen. Ein wenig verhält man sich dabei auch wie ein Kind.

«Viele Politiker werden gerade deshalb gewählt, weil sie ganz offen rechtsextrem sind.»Clemens Setz

Wie bitte?
Einem Kind passieren doch dauernd Dinge, es erhält zum Beispiel Geschenke, darf aber selbst nicht allzu viele Entscheidungen treffen. Ich glaube, unser Verhältnis zu höheren Intelligenzen wird so ähnlich sein. Vielleicht wird es nur einigen wenigen auffallen, dass es nicht Schicksal ist, was wir da leben, sondern Entscheidungen von Maschinen. Jetzt fällt mir auf, dass ich damit eine Art neue Verschwörungstheorie entwickle.

Apropos Verschwörungstheorie: Nach der Wahl von Trump fand die These Zuspruch, dass die Amerikaner von Facebook-Algorithmen manipuliert wurden.
Die Macht der Algorithmen scheint mir eine Story zu sein, die zwar sexy klingt, aber an der nicht besonders viel dran ist. Sie gleicht den Theorien, denen zufolge wir von irgendwelchen dunklen oder verborgenen Mächten bestimmt werden. Auch das halte ich für abwegig. Denn um Leute zu regieren, braucht man nicht geheim zu sein. Das hat ja Trump gerade gezeigt: Man kann sich offen hinstellen und sagen, ich bin jetzt der Chef. Und fünfzig Prozent sind dann damit glücklich. Viele Leute glauben auch, dass man die Rechten entzaubern könne, wenn man Verborgenes über sie enthüllt. Kürzlich wurde in Österreich etwa der Fall eines FPÖ-Spitzenkandidaten publik, der einer Burschenschaft angehörte, in der man Neonazi-Lieder sang. Nachdem das Liederbuch bekannt wurde, dachten einige wohl, die FPÖ-Anhänger müssten nun sagen: «Ah, wir haben einen Wolf im Schafspelz gewählt, das wollten wir ja gar nicht!» Aber das ist Blödsinn. Viele Politiker werden gerade deshalb gewählt, weil sie ganz offen rechtsextrem sind.

Wie manipulierbar Menschen sind, zeigen aber zum Beispiel die Fake-News, die im Internet stark verbreitet werden.
Klar, es gibt Nachrichtenportale, die voller Hass auf Ausländer oder Migranten sind und dabei halb falsche oder völlig erfundene Dinge verbreiten. Aber ich glaube nicht, dass man diese Seiten als Werkzeuge braucht, damit Rechtsextreme gewählt werden. Vielmehr denke ich, dass es sich um eine bürgerliche Selbstberuhigungsfantasie handelt, wenn man davon ausgeht, dass im Herzen alle Leute irgendwie gütig und mitleidsvoll seien – und links wählen würden, wenn man sie nur liesse. Als würde es eine Art Urzustand geben, von dem einige dann durch Propaganda, Bots und Fake-News korrumpiert werden. Das ist einfach nicht wahr. Viel wahrscheinlicher ist es, dass wir davon geprägt werden, wie wir aufwachsen, welche Leute wir kennen lernen und welche Erfahrungen wir machen.

Sie streiten also ab, dass Fake-News und Algorithmen einen Einfluss haben?
Ich bestreite nicht, dass es da einen gewissen Effekt gibt. Aber ich halte ihn einfach nicht für allzu gross. Das zeigt nicht zuletzt der Blick in die Geschichte: Vor etwas mehr als hundert Jahren gab es eine grosse Weltkriegsbegeisterung, die zwar nicht ganz ohne Massenmedien, aber ganz sicher ohne Algorithmen oder Bots funktionierte. Letztlich kenne ich einfach auch genug Leute, die keine Fake-News brauchen, um ihre Mitmenschen zu verachten. Die sagen ganz offen, man sollte alle Flüchtlinge erschiessen, die zu uns kommen. «Weg mit denen. Bum, bum, bum.» Das ist eine Art, wie einige Menschen nun mal leider sind.

(SonntagsZeitung)

Erstellt: 12.02.2018, 10:01 Uhr

Artikel zum Thema

«Das ist immer noch ein Hype»

Interview Für den Zürcher Robotiker Rolf Pfeifer ist die Furcht vor der künstlichen Intelligenz übertrieben, weil diese die Leistungen des menschlichen Gehirns bei weitem noch nicht erreicht. Mehr...

«Vielleicht werden wir die Hofnarren der Roboter»

Interview Ungezügelter Machbarkeitswahn im Silicon Valley: Buchpreis-Gewinner Jonas Lüscher warnt vor einer neuen Weltelite. Mehr...

«Ich kann es gar nicht erwarten, dich kennenzulernen»

Eine neue App baut eine Beziehung zu seinem Nutzer auf: Replika, der künstlich intelligente Chatbot. Mehr...

Das Buch

Clemens Setz: «Bot. Gespräch ohne Autor», Suhrkamp, Berlin. 166 S., 28 Fr.

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Kommentare

Service

Ihre Spasskarte

Mit Ihrer Carte Blanche von diversen Vergünstigungen profitieren.

Die Welt in Bildern

Umgekippt: Der 128 Meter hohe Radio- und Telefonmast «La Barillette» der Swisscom liegt in Cheserex am Boden, nachdem 8 Kilogramm Sprengstoff zwei seiner Standfüsse zerstört haben. (24.Mai 2018)
(Bild: Valentin Flauraud/Laurent Gillieron/Laurent Darbe) Mehr...