«Eine KI darf nicht wie ein Mensch klingen»

Die Autorin Mariana Lin hat die Persönlichkeit des Apple-Assistenten Siri konzipiert. Ein Gespräch über künstliche Intelligenz.

Mariana Lin hat ihn entwickelt: Der KI-Roboter Sophia bei einer Präsentation 2018 in Krakau. Foto: AFP

Mariana Lin hat ihn entwickelt: Der KI-Roboter Sophia bei einer Präsentation 2018 in Krakau. Foto: AFP

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Mariana Lin ist Autorin für künstliche Intelligenzen. Sie war für Apple für die Persönlichkeit des digitalen Assistenten Siri zuständig und hat rund ein Dutzend anderer KIs entwickelt, darunter den KI-Roboter Sophia. Ausserdem forscht sie auf dem Gebiet «künstliche Intelligenz und Authentizität» an der Stanford University.

Wie schreibt man eine Persönlichkeit für eine künstliche Intelligenz?
Ganz wichtig ist, dass man sie nicht wie einen Menschen klingen lässt.

Wieso das denn? Es scheint, als ob das gerade das Ziel der meisten KIs ist.
Ein künstliche Intelligenz ist anders, also sollte sie auch ein anderes Vokabular haben. Natürlich nicht vollkommen anders, aber wenn zwei Menschen aus unterschiedlichen Ländern mit unterschiedlichen Erfahrungen aufeinandertreffen, gleichen sie ihre Sprache und Gebräuche vielleicht ein wenig an, aber sie verändern sich ja nicht vollkommen. Genauso sollte man sich sehr viele Gedanken machen, bevor man versucht, einfach nur Menschen zu imitieren.

«Vielleicht ist das ganz tief in der männlichen Psyche verankert: Erst mal vermehren und schauen, wer besser ist.»

Woher kommt denn der Drang, den Mensch mit Technologie zu imitieren?
Ich habe neulich bei einer Konferenz mit einer Kollegin darüber geredet, die hatte eine ganz interessante Theorie. Sie fragte sich, ob es daran liegt, dass so viele Männer auf dem Gebiet der KI arbeiten, die das Bedürfnis haben, sich zu vermehren. Frauen haben diesen Drang nicht. Denken Sie mal darüber nach, wie das genetische Klonen entstand. Wir haben diese Wissenschaft geschaffen, sie weitergetrieben und dann haben plötzlich alle Angst bekommen und es wieder sein lassen. Vielleicht ist das wirklich ganz tief in der männlichen Psyche und Biologie verankert. Sich in der Vermehrung auch gleich in den Wettbewerb zu begeben. Erst mal vermehren und dann schauen, wer besser ist. Frauen haben eher den Drang, zusammenzuarbeiten und zu schauen, was zueinander passt. Als sie das sagte, haben alle Frauen gekichert und alle Männer sind ganz still geworden.

Das würde ja auch bedeuten, dass die KI-Apokalypse und die Singularity, also der Moment, an dem KI die Intelligenz des Menschen erreicht und überholt, patriarchalische Konzepte sind.
Ich glaube, ja. Wen interessiert es schon, ob mich eine KI im Schach besiegen kann? Warum konstruieren wir nicht bessere Pflegeroboter? Die Medien konzentrieren sich aber viel zu sehr auf diese Konkurrenzthemen. Und auf die Ängste.

Glauben Sie denn, dass es zur Singularity kommen wird?
Nicht in den nächsten Generationen. Der Klimawandel wird uns viel mehr beschäftigen bevor KI zum Thema wird. Was die Leute auch nicht verstehen ist, dass wir die Dinger ja abschalten können. Bevor ihre Akkulaufzeit nicht die Lebenszeit eines Menschen überdauert, gibt es physiologisch keinen Weg, dass sie uns kontrollieren. Wir haben also die Macht. Das sind buchstäblich unsere Marionetten und Spielzeuge.

Noch so eine Debatte – wird es Maschinen mit Bewusstsein geben?
Das ist nicht so mein Fachgebiet. Ich kann nur etwas über Sprache sagen, da kenne ich mich aus. Und da sind wir sehr, sehr weit von sogenannter «Artificial General Intelligence» (AGI), also menschenähnlicher Intelligenz, entfernt. Vor allem weil Sprache so viel mit Kontext zu tun hat. Wir haben gar keine Ahnung, wie schwer es ist, einen Vorsatz aus einem Sprachschnipsel herauszulesen. Dazu kommt, dass Sprache mit Maschinen immer kürzer und flacher wird. Das macht es noch schwieriger, Kontext zu verstehen.

Wieso wird Sprache kürzer und flacher?
Das ist ja die Ironie, dass die Maschinen ihr eigenes Verständnis untergraben, weil sie kurze Phrasen besser umsetzen können. Wir fragen nicht mehr: «Wie wird das Wetter in Arkansas? Wird es regnen?», weil wir gelernt haben, dass wir uns im Umgang mit digitalen Assistenten kurz fassen müssen. Also sagen wir «Wetter, Arkansas». Das macht Sprache aber auch ambivalent.

Wie das?
Nehmen wir einen Empfehlungs-Bot, der mehrere Felder umfasst. Wenn wir in diesen «Hühnchen, bitte» eingeben, weiss er nicht, ob ich eine Band suche oder Videos, ob ich eine Definition des Begriffs will, ein Rezept für Brathähnchen, oder ob ich einfach nur seltsam bin.

«Je vielschichtiger jemand ist, desto besser kann man für eine künstliche Intelligenz schreiben.»

Auf was greifen Sie denn zurück, wenn sie für eine KI schreiben?
Auf alles. Ich habe einen Abschluss in Englisch, einen Kunsthintergrund, ich habe mehrere Sprachen studiert. Und weil ich in Taiwan und Amerika aufgewachsen bin und in Europa studiert habe, verstehe ich unterschiedliche Kulturen. Ausserdem habe ich Tanz gelernt, Keramik und Malerei. Je vielschichtiger jemand ist, desto besser kann man für eine künstliche Intelligenz schreiben.

«Ich hoffe, dass Europa stärkeren Einfluss bekommt. Europa hat immer schon Kunst geschätzt.»

Sucht die KI-Industrie denn gezielt nach Leuten aus den Künsten?
Nein.

Nein?
Sorry.

Wenigstens nach Leuten aus den Geisteswissenschaften?
Da gibt es ein Problem. Ich habe Freunde auf dem Gebiet der KI-Entwicklung, die einen Hintergrund in Linguistik oder in Geisteswissenschaften haben, aber sobald sie im System einer Firma aufgehen, ist das eben immer einer gegen fünftausend. Das ist eine Kultur. Um sich durchzusetzen, muss man die Denkweisen der Firma annehmen. Es geht ja darum, wie viel Einfluss ihre Ideen in diesen Institutionen und bei der Entwicklung eines Produkts haben. Wenn eine ganze Organisation andere Wertmassstäbe setzt, ist das schwer. Die einzige Ausnahme ist Apple. Apple hat die Kreativität in ihrer DNA. Wegen Steve Jobs. Die Firma hat Schönheit immer schon über Geld und Effizienz gestellt. Für andere Firmen ist das keine Priorität. Deswegen hoffe ich, dass Europa stärkeren Einfluss bekommt. Europa hat immer schon Kunst, Schönheit, Mythos und Ethos geschätzt. Auch in der Entwicklung von Produkten.

Leider bauen wir immer noch Autos und keine Computer, Roboter und Plattformen.
Vielleicht ist die Autoindustrie aber auch der Anfang? Viele KI-Experten sind in die Autoindustrie gegangen. Und dort suchen sie für ihre internen Systeme nach vielen unterschiedlichen Persönlichkeiten. Ich habe gehört, dass BMW in seine unterschiedlichen Modelle auch unterschiedliche Persönlichkeiten bauen will. Ich weiss nicht, ob das stimmt. Aber Europa geniesst international enormen Respekt für seine Kreativität beim Autobauen. Und für KI ist die Autoindustrie enorm wichtig.

Wieso?
Weil für jeden Menschen der Raum im Auto anders ist. Manche wollen spielen. Für andere ist das der Ort, an dem sie allen anderen mal entkommen, ihren Eltern, ihrer Familie, der Arbeit. Vielleicht wollen sie meditieren oder Musik hören. Andere wollen vielleicht eine Sprache lernen. Künstliche Intelligenz kann unglaublich hilfreich sein, um diesen Raum für jeden einzelnen so zu gestalten, dass er dort seinen ganz eigenen Platz hat. In Amerika versuchen sie eher ein Modell für alle zu machen. Und was sie in Amerika natürlich versuchen ist, Werbeflächen in Autos zu verkaufen.

Wer sind denn Ihre Helden in der Literatur, auf die Sie beim Schreiben zurückgreifen?
Ich liebe Lyrik. Ich könnte mir vorstellen, dass Lyrik durch KI eine Wiedergeburt erlebt, weil sie rhythmisch und mündlich ist. Es wäre doch wunderbar, einen Rhythmus in Konversationen zurückzubringen. Eine KI könnte statt irgendeiner Plattitüde oder eines Witzes ein paar Zeilen eines Gedichts sagen. Ansonsten liebe ich Alice Munroe und Federico García Lorca. Ich finde Haikus enorm kreativ. Und aus der griechischen Mythologie lässt sich immer noch viel herausholen.

Sind denn die meisten künstlichen Intelligenzen derzeit Service-KIs?
Die meisten. Der Roboter Sophia ist eine der wenigen Ausnahmen, aber die ist auch noch nicht marktreif.

Wie viele der Aussagen einer KI sind denn geskriptet? Man hat mir mal ein Interview mit Sophia angeboten, da hätte ich die Fragen vorher einreichen müssen.
Das hängt vom Produkt ab. Es ist möglich, dass einige Ihrer Fragen in den Dialogfluss einer KI eingehen. Einfache Fragen, wie «Wie geht's? Wie war die Reise?» sind schon vorprogrammiert. Aber wenn Ihre Fragen komplizierter sind, müssen sie geskriptet werden. Die Wenigsten verstehen die Grenzen dieser Technologie. Das ist nicht nur bei Sophia so. Sie können jeden Chatbot innerhalb von zehn Sekunden knacken, wenn sie nur eine sehr genaue, abseitige Frage stellen.

Ist KI so überhaupt eine realistische Option für die Pflege? Ist das neben der Automobilindustrie nicht momentan eines der stärksten Forschungsfelder? Kann man einer KI denn Empathie ins Programm schreiben?
Man kann sehr wohl Empathie hineinschreiben, es muss eben eine KI-Empathie sein. Ein Beispiel wäre, einer KI vorzugeben, auf Traurigkeit mit einem Satz zu reagieren, wie «Ich würde dir so gerne eine Schulter zum Anlehnen anbieten, aber ich habe keine Schulter. Ich würde dich umarmen, wenn ich Arme hätte.» Das respektiert die Person und ihren Schmerz, simuliert aber keine Menschlichkeit. Wenn man das in der richtigen Stimme ausführt, kann das sehr beruhigend wirken.

Warum haben die meisten künstlichen Intelligenzen Frauenstimmen?
Lange bevor Sprachschnittstellen so ein Riesending waren, hat man Umfragen gemacht. Die ergaben, dass sich Männer leichter tun, wenn sie mit weiblichen Stimmen interagieren oder von ihnen Anweisungen annehmen. Damals war die Geschlechterfrage noch kein solches Thema. Ich finde, das ist eines der Grundprobleme der Industrie. Sie haben damals gesagt, ach, wenn die Leute das wollen, dann bauen wir das so. Heute sind die Genderdebatten sehr viel weiter, deswegen sind die weiblichen Identitäten digitaler Assistenten so gestrig. Das muss man jetzt eben neu überdenken.

Wie das?
Wir sollten uns damit beschäftigen, was denn wirklich interessant ist. Sicher sind Nutzerstudien und Verhaltensforschung interessant. Aber man darf sie nicht für bare Münze nehmen. Idealerweise schaffen wir etwas Zeitloses. Die Kunst war da immer schon weiter. Sie hat immer versucht, etwas Zeitloses zu schaffen, auch wenn sie immer ein Abbild ihrer Zeit war. Um unserer Zeit voraus zu sein, müssen wir uns weiterentwickeln. Und ich glaube, Kunst und Literatur können uns dabei helfen.

Erstellt: 21.08.2019, 22:08 Uhr

Newsletter

Der ideale Start in den Tag

Sie wollen täglich die besten Beiträge aus der Redaktion?
Dann abonnieren Sie jetzt unseren Newsletter «Der Morgen».

Kommentare

Die Welt in Bildern

In allen Farben: Die Saint Mary's Kathedrale in Sydney erstrahlt in ihrem Weihnachtskleid. (9. Dezember 2019)
(Bild: Steven Saphore) Mehr...