«Wir sind seit 70'000 Jahren abhängig von Technologie»

Wie wir mit künstlicher Intelligenz verantwortungsvoll umgehen können: IBM-Forscher Costas Bekas über Roboterautos, Facebook und Technologiesucht.

«KI kann uns gar nie ersetzen, weil sie immer nur davon lernt, was wir der Maschine geben», sagt Costas Bekas. Foto: Esther Michel

«KI kann uns gar nie ersetzen, weil sie immer nur davon lernt, was wir der Maschine geben», sagt Costas Bekas. Foto: Esther Michel

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Wenn der 43-jährige Costas Bekas den ch-Laut ausspricht, tut er das raspelnd und knatternd. So wie das nur Griechen können. Er tut es vor allem dann, wenn er sich über etwas enerviert. Das passiert ihm im Gespräch über künstliche Intelligenz oft. Der Leiter des Zürcher IBM-Labors für Simulation von Denkprozessen ärgert sich über die vielen falschen Erwartungen an künstliche Intelligenz (KI).

Kürzlich tötete ein Roboter- gesteuertes Fahrzeug erstmals eine Passantin; im Facebook-Skandal wurde bekannt, dass Nutzerdaten missbraucht wurden, um möglicherweise demokratische Wahlen zu manipulieren. Werden wir Menschen und unsere Gesellschaften vom technologischen Fortschritt abgehängt?
Das ist keine neue Frage.

Sie wird aber immer ­brennender diskutiert.
Gehen wir zurück zur Erfindung des Flugzeuges oder zu derjenigen des Automobils. Auf persönlicher Ebene waren die ersten Toten nach einem Flugzeugabsturz schreckliche Ereignisse; genauso wie die ersten Toten nach einem Autounfall. Im Grossen und Ganzen geht es aber für uns darum, zu lernen, Technologien verantwortungsbewusst einzusetzen, vor allem die skalierbaren Technologien.

Was meinen Sie mit skalierbar?
Technologien, mit denen Milliarden in Kontakt kommen.

Zum Beispiel?
Handys und auch KI. Bald werden Menschen überall mit KI interagieren. Hersteller, Behörden, Gesetzgeber, Nutzer müssen lernen, verantwortungsvoll damit umzugehen. Vor allem müssen die Gesetze schneller geschrieben werden. Das neue Datenschutzgesetz der EU etwa, das ab Mai in Kraft tritt und auch für die Schweiz gelten wird, ist ein guter, richtiger Schritt. Es sorgt dafür, dass Firmen hart bestraft werden, wenn sie Daten missbrauchen oder nicht richtig schützen.


Video – Tödlicher Unfall mit selbstfahrendem Auto

Im US-Staat Arizona überfuhr ein selbstfahrendes Auto des Fahrtenvermittlers Uber eine 49-Jährige. (Video: Tamedia, AP)


Sie sagen, wir müssen verantwortungsbewusster werden. Sind wir das derzeit nicht?
Es brauchte in der Automobilbranche Millionen von Toten, bis sich Sicherheitsgurte durchgesetzt haben. Wir Menschen lernen aus praktischer Erfahrung und nicht aus der Theorie. Deshalb dauert es immer eine Weile, bis wir als Gesellschaft verstehen, wie wir eine Technologie verantwortungsbewusst einsetzen müssen. Neue Erfindungen schaffen immer neue Unsicherheiten.

Ist die beschleunigte techno­logische Entwicklung wirklich mit früheren Phasen zu ver­gleichen? Es macht für uns Menschen einen Unterschied, ob wir von einem anderen Autofahrer oder von einer autonomen Maschine ange­fahren werden.
Auch im Falle selbstfahrender Autos liegt die Verantwortung beim Menschen. In der Industrie haben wir schon seit den 1980er-Jahren Roboter. Alle, die mit ihnen arbeiten, wissen, dass sie sich nicht ihrer Nähe aufhalten sollten, weil das gefährlich ist.

Selbstfahrende Autos dringen viel weiter in unseren Alltag ein.
Ich gebe Ihnen ein anderes Beispiel. Wenn es zu einem Kurzschluss kommt und das Haus niederbrennt, werden Sie nicht sagen, dass jemand von einer Maschine getötet wurde, oder? Wir Menschen sind seit über 70'000 Jahren abhängig von Technologie und den Werkzeugen, die wir bauen. Der israelische Historiker Yuval Noah Harari hat in seinem Buch «Sapiens» schön beschrieben, wie sich damals die menschliche Vorstellungskraft stark entwickelt hat. Sie ist die Grundlage zur Entwicklung neuer Technologien.

Aber wenn Menschen von Roboterautos getötet und Facebook-Daten dazu ver­wendet werden, demokratische Wahlen zu unterwandern, führt das zu einem Vertrauens­verlust. Viele fragen sich, ob technologische Entwicklung für uns nicht eher schädlich ist.
Wir müssen hier zwischen Vertrauen und Unwissenheit unterscheiden. Niemand liest die Regelungen, wenn er bei Facebook ein Konto eröffnet. Facebook und alle anderen Technologiegiganten sind nun in der Verantwortung, ihre Datennutzung so verständlich wie nur möglich zu machen und unsere Daten besser zu schützen. Wir Nutzer müssen sorgfältiger mit unseren Daten umgehen.

Ist KI nicht mehr als nur ein Werkzeug? Wir haben Computer, die uns in Schach schlagen; sie können sich sogar komplexe Spiele wie das japanische Go selber beibringen. Plötzlich sind unsere Werkzeuge klüger als wir Menschen.
Das ist keine plötzliche Entwicklung. Als 1997 ein IBM-Computer-System gegen den Schachweltmeister gewann, wusste ich, dass ich einmal für IBM arbeiten will. Um zu verstehen, wie ein Computer ein Schachgenie wie Garri Kasparow schlagen konnte. Aber auch Werkzeuge, die auf KI basieren, sind nur gut in einer Aufgabe, wie zum Beispiel Go spielen oder in der Analyse von Daten zu einem bestimmten Thema. Wir Menschen können aber viel, viel mehr als nur eine Aufgabe lösen.

Sie spielen selber auch Schach?
Mit unseren Kindern. Die schlagen mich mittlerweile beide. Wir müssen hier aber zwischen zwei Problemkreisen unterscheiden: Solche, die zwar sehr komplex sind, die wir aber bis ins letzte Detail verstehen. Und solche, die einfach sind, die wir aber nicht erklären können. Schach gehört zum ersteren Fall. Sie könnten sich hinsetzen und jeden Schachzug auf einem Blatt Papier aufschreiben. Dasselbe ist mit Poesie nicht möglich. Sie können niemals alle Gedichte der Welt aufschreiben.

Wir haben doch KI, die Bilder malt.
Kennen Sie die berühmte Geschichte des Malers Salvador Dalí und seines Esels? Er hat einem Tier einen Pinsel an den Schwanz gebunden, der wahllos über ein grosses Blatt Papier gelaufen ist. Für mich ist KI nichts anderes. Wir haben keine Ahnung, ob die Maschinen irgendetwas versteht.

Was ist denn KI genau?
Statistik, nichts anderes. Dank immer schnelleren Computern können wir heute riesige Datenmengen interpretieren und Voraussagen machen. Oder anders erklärt: Wir füttern Maschinen mit Beispielen – und trainieren sie damit. Allerdings brauchen Maschinen unglaubliche Datenmengen, bis sie etwas verstehen. Wenn ich meinen Kindern drei oder vier Bilder eines Elefanten zeige, können sie abstrahieren und verstehen auch, was gemeint ist, wenn ich ihnen einen Elefanten an einem Schlüsselanhänger präsentiere. Dasselbe einem Computer beizubringen, ist viel schwieriger. Und am Ende versteht der Computer nicht, was ein Elefant ist, sondern er berechnet nur eine Wahrscheinlichkeit, dass es sich bei einer bestimmten Form um einen Elefanten handelt.

Wofür benötigen wir künstliche Intelligenz überhaupt?
Sie wird uns dabei helfen, sehr viel produktiver zu werden. Jedes Jahr werden über eine Million wissenschaftliche Studien veröffentlicht. Wer kann das lesen? Mithilfe KI werden Ärzte schneller viel genauere Diagnosen machen können.

Aber verstehen die Ärzte denn, wie eine Maschine zu einer Diagnose gekommen ist?
Das ist die grosse Herausforderung. Ärzte wollen nicht mit Black Boxes arbeiten. Sie müssen eine Diagnose einer Maschine nachvollziehen können und gegebenenfalls eine andere Entscheidung treffen als die Maschine. Es ist wie ein MRI-Scan. Auch sie müssen von Ärzten interpretiert werden. In der Medizin gibt es in der Regel nicht die eine Diagnose, sondern verschiedene Möglichkeiten, Symptome zu behandeln. Ärzte nehmen dazu den Patienten als Ganzes wahr: Sie sprechen mit ihm, riechen, berühren und so weiter. All das gesamthaft kann die Maschine nicht. Im Grunde ist es doch so: KI kann uns gar nie ersetzen, weil sie immer nur davon lernt, was wir der Maschine geben. Und am Ende ist es immer der Mensch, der eine Entscheidung trifft.

Im Falle des eingangs erwähnten selbstfahrenden Autos hat die Maschine eine Entscheidung getroffen.
Soweit ich weiss, war das Auto nicht in der Lage, rechtzeitig auszuweichen, als eine Passantin das Trottoir verlassen hat. Das war kein Entscheid, einen Menschen umzubringen. Sondern Unvermögen der Technologie. Wie wir rechtlich damit umgehen, das müssen wir nun sehr schnell regeln.

Sie glauben, der Mensch ver­liere mit KI keine Verantwortung, sondern müsse sogar mehr übernehmen?
Genau. Diese Maschinen sind von uns Menschen für uns Menschen gebaut. Sie sind Werkzeuge.

Sie leiten ein Team von 200 Personen, die sich mit KI beschäftigen.
200 in ganz Europa, 100 hier in ­Zürich.

Sind das die Jobs der Zukunft?
Darunter sind Elektro-Ingenieure, Mathematiker, Programmierer, Computer-Wissenschaftler. Wir haben aber auch Biologen, Mediziner und Designer. Ich habe kürzlich einige Wochen mit einem Team von Designern verbracht, um ein neues Suchsystem zu entwickeln: Deep Search.

Was ist das?
Wir sind uns gewohnt, nach Stichwörtern zu googeln. Deep Search erlaubt uns, dasselbe mit Konzepten zu tun. Chemiker könnten damit nach Formeln suchen und Vergleiche anstellen. Wir denken, dass man damit das Tempo von Forschungsprojekten massiv beschleunigen könnte.

Woran arbeitet das Team neben Deep Search derzeit?
Wir haben zum Beispiel ein System gebaut, das exakt voraussagen kann, wie bestimmte chemische Substanzen aufeinander reagieren. Chemiker benötigen heute 20 bis 30 Jahre Studium, um dasselbe zu tun. Unser System ermöglicht jemandem, der nur drei Jahre Chemie studiert hat, einen schnellen und präzisen Zugang zu Expertenwissen und -Erfahrungen. Das kann man in etwa mit einem Taschenrechner vergleichen. Dieser erledigt komplizierte Berechnungen viel schneller als die meisten von uns. Mit so einem neuen Werkzeug kann sich der Mensch auf die Fragestellung und Anwendung der Lösungen konzentrieren.

Lagern wir damit nicht Wissen wieder an Computer aus?
Nein. Hier kommen wieder unsere Designer ins Spiel. Sie ermöglichen es dem Chemiker, nachzuvollziehen, warum eine Maschine zu einem bestimmten Ergebnis gekommen ist. Die Ergebnisse der Maschine können also überprüft, korrigiert oder verworfen werden, falls sie falsch sind.


Video – Roboter tanzt

Ein Roboter der ETH Zürich wechselt je nach Musik seinen Tanzstil. (Video: Tamedia, Robotic Systems Lab/ETH Zürich)


Geben Sie uns andere Beispiele.
Regierungen könnten ein solches System nutzen, um millionenfach regulatorische Dokumente zu lesen, um zu verstehen, welche Regulierungen angepasst werden müssen.

Tun das Regierungen bereits?
Wir registrieren ein weltweites Interesse dafür. Eines der interessantesten KI-Systeme betrifft das Gesundheitssystem. Es handelt sich um eine Plattform, in die ein Patient seine Symptome eingeben kann, um Diagnosevorschläge zu bekommen. Das System wurde mit Daten von Abertausenden Patienten gefüttert. Je mehr Daten wir haben, desto grösser die Chance, dass das System jemanden findet, der unter etwas Ähnlichem leidet.

Ist das System bereits in der Schweiz im Einsatz?
Wir arbeiten mit verschiedenen Universitätsspitälern an Forschungsprojekten zum Einsatz von KI im Diagnoseprozess. Das Unispital Zürich ist darunter. In der Öffentlichkeit wird die Nutzung von KI vorwiegend für Social Media oder intelligente Fahrdienste wahrgenommen. Bei IBM arbeiten wir allerdings mit den klassischen Industrien bei der Lösung von spezifischen Forschungsfragen zusammen, zum Beispiel für die Entwicklung von Asphalt für Strassen oder für die Erforschung von Chemikalien für Medikamente oder Kunststoffe. Diese Grundlagenindustrien stellen sich heute Fragen wie: Kann ich meinen Asphalt mit weniger Energie und mit weniger toxischem Abfall herstellen? KI hilft, diese Probleme zu lösen. Das sind immens wichtige Anwendungen für die KI.

Warum?
Damit gehen wir die grossen Probleme unserer Welt an: Energie- und Wasserversorgung. Wenn wir in der Lage sind, Batterien herzustellen, die zehnmal effizienter sind als heutige Batterien und dazu in zehn Minuten wieder aufgeladen werden, wer wird da noch mit Benzin- oder Dieselautos durch die Gegend fahren? Mit KI können Forscher diese Probleme schneller lösen.

Das hört sich alles sehr positiv an. Aber überschätzen Sie nicht die Kraft von KI?
Schauen Sie sich dieses Video von Chieko Asakawa an, einer herausragenden Wissenschaftlerin vom IBM-Forschungszentrum in Japan. Asakawa ist blind und entwickelt Technologien, die Blinde im Alltag unterstützen sollen. Im Video ist sie ausgestattet mit Gesichts- und Spracherkennung sowie Bewegungssensoren. Dank dieser Technologie kann sie intensiver mit ihrer Umwelt interagieren. Sie erkennt, ob jemand glücklich ist, oder traurig. Ich habe für alle diese Ende-der-Welt-Szenarien nichts übrig. Im Kern handelt sich hier um ein weiteres von Menschen gemachtes Werkzeug. Vielleicht das beste Werkzeug, das wir je gemacht haben.

Vertrauen Sie selber denn selbstfahrenden Fahrzeugen, besitzen Sie vielleicht eines?
Noch nicht. Aber ich werde mir in Zukunft eines zutun. Mit der Familie reisen wir am liebsten mit den SBB, so können alle miteinander reden. Ich freue mich auf den Tag, an dem wir das auch im Auto tun können.

Erstellt: 08.04.2018, 11:15 Uhr

Artikel zum Thema

Die Geister, die wir riefen

Analyse Alle reden von der künstlichen Intelligenz, doch die wenigsten verstehen sie. Sie darf weder im rechtsfreien Raum wirken noch überreguliert werden. Mehr...

«Wozu braucht es Noten?»

Interview Der deutsche Philosoph Richard David Precht über die Digitalisierung. Und die Frage, ob bereits Primarschüler mit Computern arbeiten sollten. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Abo

SonntagsZeit. Im Digital-Abo.

Die SonntagsZeitung digital ohne Einschränkung nutzen. Für nur CHF 10.- pro Monat.
Jetzt abonnieren!

Kommentare

Werbung

Weiterbildung

Ausbildung & Weiterbildung Finden Sie die passende Weiterbildung Technischer Kaufmann, Deutsch lernen, Coaching Ausbildung, Präsentationstechnik, Persönlichkeitsentwicklung

Die Welt in Bildern

Russische Torte: Indische Konditoren legen letzte Hand an eine essbare Kopie der Moskauer Basilius-Kathedrale, die sie für die 45. Kuchenausstellung geschaffen. (12. Dezember 2019)
(Bild: Jagadeesh NV) Mehr...