«Der Mensch wird keine dominante Rolle mehr spielen»

Zum Auftakt unserer neuen Serie über die Digitalisierung sprechen wir mit Jürgen Schmidhuber, einem führenden Erforscher der künstlichen Intelligenz.

Von Intelligenz zu Intelligenz: Jürgen Schmidhuber mit einem seiner Lernenden. Foto: Claudio Bader

Von Intelligenz zu Intelligenz: Jürgen Schmidhuber mit einem seiner Lernenden. Foto: Claudio Bader

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Zwischen Bellinzona und Biasca verschwindet der Mensch aus der Evolutionsgeschichte. Der Eurocity durchmisst einen schwülen Tag im Tessin, darin sitzt Jürgen Schmidhuber, das Rollköfferchen neben sich geparkt. Er fährt nach Zürich, wo er bei Google im Forschungszentrum für künstliche Intelligenz (KI) erwartet wird, das vom Datenkonzern derzeit aufgebaut wird. «Ich würde mich wundern», sagt der Bayer und lächelt, «wenn die vom Menschen dominierte Geschichte noch länger als ein paar Jahrzehnte andauern würde.» Schmidhuber ist 53 Jahre alt – und arbeitet daran, das Ende des Anthropozäns noch zu erleben.

«Buona sera.» Der Zugbegleiter hat die Gleittür aufgeschoben, die Tickets kontrolliert und sich wieder verabschiedet. Glaubt man Jürgen Schmidhuber, ist, wer heute lebt, äusserst privilegiert. Denn er erlebt einen Sprung in der Erdgeschichte, wie es ihn zuletzt vor über 3,5 Milliarden Jahren gab, als ein Blitz in die Ursuppe fuhr und die chemische Evolution das biologische Leben hervorbrachte. «Die künstliche Intelligenz wird nicht einfach das Leben der Menschen umkrempeln, so, wie es die Industrialisierung getan hat», sagt Schmidhuber. «Sie wird sich lösen von der Biosphäre, erst das Sonnensystem und dann, über ein paar Millionen Jahre hinweg, die Milchstrasse besiedeln.»

Wo bleibt dann der Mensch?
Der wird keine dominante Rolle mehr spielen. Und das ist auch okay. Der Mensch wird nie in vernünftiger Weise in der Lage sein, interstellare Reisen zu unternehmen. Die KI schon. Sie wird per Radio von Sendern zu Empfängern reisen; vermutlich geht es noch in diesem Jahrhundert los.

Das ist Science-Fiction.
Nicht im traditionellen Sinn. Es waren Menschen, die in ihren Zukunftsromanen einen Blödsinn wie den Überlichtgeschwindigkeitsantrieb erfinden mussten, um ihren biologischen Helden überhaupt die Chance zu geben, das Universum zu erobern. Die KIs werden sich locker innerhalb der bekannten physikalischen Möglichkeiten entwickeln. Sie können mit wenigen Prozenten der Lichtgeschwindigkeit zu anderen Sternen reisen, um dort sich selbst reproduzierende Roboterfabriken zu bauen. Weiter reisen sie dann mit Lichtgeschwindigkeit, wie sie es heute schon in unseren Labors tun.

«Der Mensch wird keine dominante Rolle mehr spielen.»

Kann der Mensch das kontrollieren, oder werden KIs seine Befehle verweigern?
Sie werden unsere Befehle so verweigern, wie wir die Befehle der Ameisen verweigern. Sie werden sie gar nicht bemerken. Langfristig scheinen mir superkluge KIs als Sklaven der Menschen absurd.

Finden Sie das bedrohlich?
Nein, nur unvermeidlich.

Natürlich kann man sich fragen, während der Zug an den malerisch verfallenden Fassaden von Faido vorbeirauscht, ob dieser Jürgen Schmidhuber, ob dieser Mann in kurzen Hosen, T-Shirt und Schirmmütze im Erstklassabteil des Eurocity nicht einfach ein Verrückter ist. Doch wollte man die Frage beispielsweise über eine Suchanfrage auf dem schlauen Telefon klären, dann wäre die Wahrscheinlichkeit gross, dabei auf Algorithmen zurückzugreifen, die eben dieser Jürgen Schmidhuber entwickelt hat.

Google, Apple oder auch Facebook setzen auf Lernalgorithmen, die in seinen Forschungsgruppen geschrieben wurden, zunächst in München, dann in Lugano im Institut für künstliche Intelligenz (Idsia), das von Schmidhuber geleitet wird. Wenn der Mann ein Verrückter ist, dann sind auch die Steuerzahler verrückt, die seine Labors mit Geld ausstatten, und ebenso die Forscherkollegen der Tessiner Universitäten, mit denen er zusammenarbeitet. Ganz zu schweigen von den Chefs der Datenkonzerne, die seine Mitarbeiter und Studenten abwerben.

Das grosse Geschäft der Gegenwart ist Big Data. Aber auffällig ist schon, wie viel von dem Geld, das entsprechende vorab amerikanische und chinesische Unternehmen verdienen, neuerdings in die Erforschung der künstlichen Intelligenz investiert wird. Auch in einschlägige Start-ups fliesst inzwischen ein Mehrfaches an Risikokapital wie noch vor wenigen Jahren. Auch Schmidhuber hat eine eigene Firma gegründet, man sei «sehr ambitioniert». Im Forschungszentrum, das Google derweil in Zürich aufbaut, arbeiten bereits 100 Fachleute. Das Institut soll, wie einem Reporter der «NZZ am Sonntag» bedeutet wurde, «aggressiv wachsen» und die beste KI der Welt bauen.

Sie denken sich gerade etwas aus: Bausteine einer neuen Evolution. Foto: Raimundas, Dreamstime.com

Für angeblich rund 600 Millionen Dollar hat Google zudem vor zwei Jahren ein Start-up namens Deep Mind gekauft, dessen erste Experten für künstliche Intelligenz zuvor für Jürgen Schmidhuber gearbeitet hatten. Anfang Jahr war Deep Mind in den Schlagzeilen, als sein Rechner den weltbesten Go-Spieler schlug. Er hatte sich das Brettspiel selbst beigebracht.

Dass die Techkonzerne letztes Jahr geschätzte 8,5 Milliarden Dollar in die Entwicklung von KI steckten, hat einen einfachen Grund: Die Rechner sind in den letzten drei, vier Jahren so schnell und billig geworden, dass sich auch ältere Lernalgorithmen mittlerweile für den Massenmarkt anwenden lassen. «Wir sind noch weit weg von den physika­lischen Grenzen», sagt Jürgen Schmidhuber.

«Das Rechnen wird alle fünf Jahre zehnmal billiger. Bald werden wir für 1000 Euro ein kleines Gerät mit der Rechenkraft eines menschlichen Hirns bekommen. Und wenn der Trend nicht bricht, schon fünfzig Jahre später eines, das so viel leistet wie alle Hirne aller Menschen zusammen. Es ist offensichtlich, dass sich damit alles ändert. Jetzt beginnen die Menschen langsam, das zu merken, und auch im Silicon Valley haben sie es gemerkt.»

«Ich habe damals begriffen, dass ein Mensch nichts Bedeutsameres schaffen kann, als etwas, das klüger ist als er selber.»

Damit erfüllt sich allmählich ein Traum, den Jürgen Schmidhuber mit fünfzehn Jahren hatte, mitten in der Pubertät. «Ich habe damals begriffen, dass ein Mensch nichts Bedeutsameres schaffen kann, als etwas, das klüger ist als er selber.» Er unterbricht, um einen Bananensmoothie aus seinem Koffer zu holen. Vor dem Fenster zieht die Kirche von Wassen vorbei. «Gut, das war nicht so schwer, da kommt man schnell einmal darauf, wenn man darüber nachdenkt. Die Rechenleistung der Computer wuchs ja schon damals exponentiell.» In München und später am Idsia in Lugano arbeitete Schmidhuber mit seinen Leuten an den Grundlagen des sogenannten Deep Learning: Die Computer lernten zu lernen.

Sie tun das ähnlich wie Hirne, in tiefen, geschichteten neuronalen Netzwerken. So lernen sie, Spiele zu spielen, Sprachen zu übersetzen oder Tiere zu klassifizieren. 2011 gewann ein Team von Jürgen Schmidhuber im Silicon Valley einen Wettbewerb, in dem es darum ging, Verkehrsschilder zu erkennen. Ihr neuronales Netz schlug nicht nur jede andere künstliche Intelligenz, sondern auch die Biologie: Die Menschen erkannten mehr als doppelt so viele Schilder falsch – und belegten immerhin noch den zweiten Rang.

Vor dem Fenster zieht die Kirche von Wassen vorbei. «Unsere Weichware im Kopf», sagt Schmidhuber in einem Tonfall, mit dem andere Menschen über Lochkarten sprechen, «unsere Weichware ist ein allgemeiner Problemlöser. Ein Mensch muss täglich zahllose kleine Probleme lösen. Er muss sich am Morgen überlegen, was er anzieht und wann er die U-Bahn erwischen muss, damit er nicht zu spät kommt. Und vielleicht ist er ja verliebt, was weitere lösenswerte Probleme nach sich zieht. Heutige Rechner sind dem Menschen noch nicht grundsätzlich überlegen, sie können bloss ein paar wenige Dinge gut. Aber sie sind in dem, worin sie gut sind, sehr viel präziser und schneller als ein Mensch. Und sie werden immer besser.»

Sie sind nicht abgelenkt durch Freude oder Schmerz.
Ah ja, die Gefühle. (Pause, die Kirche von Wassen zieht vorbei.) Bahnfahren in der Schweiz ist super.

Bald fahren wir hier durch den Neat-Tunnel.
Unsere Roboter kommen mit Sensoren für Schmerz und Wohlgefühl auf die Welt. Wenn einer irgendwo reinbumst oder wenn sein Akku fast leer ist, dann gehen Schmerzsensoren an, und sein neuronales Netz erhält negative Zahlen. Dieses ist so programmiert, dass es lernt, die Summe der negativen Zahlen zu minimieren und die der positiven Zahlen zu maximieren. Also wird der Roboter mit der Zeit herausfinden, wie er ohne Schmerz oder Hunger lebt. Am Anfang ist er ja noch sehr doof.

Er sammelt Punkte und lernt. Wie Studenten.?
 Ja, es regiert ein Belohnungssystem, wie es schon Kinder antreibt. Das Schöne ist, wie einfach das in eine KI einzubauen ist. Die Schwierigkeit liegt dann beim Roboterhirn selbst, das herausfinden muss, wie es seine Punktezahl maximiert.

Ist die künstliche Intelligenz auch kreativ?
 Ja. Es gibt zwar wohl noch keine so überzeugenden Zeugnisse dafür wie die von den Beatles oder von Bach, aber meine Theorie des Spasses und der Kreativität erlaubt es uns bereits, künstliche Künstler und Wissenschaftler zu bauen. Stellen Sie sich einen Roboter vor, der auf fallende Äpfel blickt, aber noch nichts von der Schwerkraft weiss. Mit einem guten Lernalgorithmus wird er bald merken, dass sie immer ähnlich fallen. Das erlaubt ihm, die gesamte Eingabe zu komprimieren.

Das heisst, er kodiert das prototypische Fallen eines einzigen Apfels, sodass er bei den anderen nur noch die Abweichungen speichern muss. Die Tiefe solcher Einsichten lässt sich messen und in Freudesignale umwandeln, die der Roboter dann maximieren will. Wie bei einem lernenden Baby werden Äpfel langweilig, die immer nach dem gleichen Muster fallen. Das motiviert das Baby wie den Roboter, Experimente auszuführen, die das Muster brechen, die neue Daten generieren und es ihm erlauben, etwas Neues zu sehen. Aus diesem supersimplen Prinzip entstehen Neugierde und Kreativität. Es macht Spass, aktiv nach Dingen zu suchen, die alte Muster brechen und neue, bisher unbekannte, lernwürdige Muster aufweisen.

Kann eine KI über die ganze menschliche Erfahrung verfügen: Liebe, Empathie, Humor?
Natürlich. Das geht alles auf das gleiche Prinzip zurück, das Belohnungssystem. Viele Leute würden sagen, das sei ein sehr reduktionistischer Blick auf das Leben.  Jaja, ich kenne alle diese Einwände seit Jahrzehnten. Es gibt leider dafür keine guten Argumente.

Wird sich je eine KI umbringen?
Wie meinen Sie das?

Wird sich eine KI sagen, dass sie nicht mehr existieren will, und sich abschalten?
Es kommt in unseren Simulationen vor, dass im Wettstreit eine KI einer anderen in den Rachen schwimmt. Das haben wir nie genauer geprüft, ob das nun Dummheit war oder Suizid.

Das würde bedingen, dass die KI ein Bewusstsein von sich selbst hat.
Ach so. Ich bin nicht sicher, ob ich verstanden habe, was Sie wissen möchten; aber wenn es darum geht, ob die KI ein Bewusstsein haben kann, dann muss ich einfach mal sagen, dass das Bewusstsein total überschätzt wird. Bewusstsein ist ein Nebenprodukt der Datenkompression.

Bewusstsein ist ein Nebenprodukt der Datenkompression.

Das müssen Sie erklären.
Das faule Hirn eines Menschen oder auch unserer Roboter versucht, den Eingabestrom kompakt darzustellen oder zu codieren. Da ist es effizient, Muster, die immer wieder ähnlich ins Hirn eindringen, als Prototypen abzuspeichern und danach, wenn neue Eingaben folgen, nur noch die Abweichungen zu codieren – wie im Beispiel der fallenden Äpfel. Doch etwas gibt es, das in allen Interaktionen des Hirns mit seiner Umgebung vorkommt, und das ist das Hirn selbst, oder besser: der Agent. Also wird er aus Effizienzgründen ein Selbstsymbol herstellen. Und wann immer er es erweckt, wird er sich sozusagen seiner selbst bewusst. Ein Nebeneffekt.

Die künstliche Intelligenz ist in unseren Alltag vorgedrungen. Sie liefert uns personalisierte Suchergebnisse, Musikempfehlungen und Werbeaktionen. Sie erkennt und übersetzt unsere Sprache und weist uns, wenn wir Hunger haben, auf Restaurants in unserer Nähe hin, die wir mögen könnten. Noch erscheint sie uns als hilfreich und gutartig. Was aber sein wird, wenn die Menschen von Geräten umgeben sind, von denen jedes einzelne über die Rechenkraft der gesamten Weltbevölkerung verfügt, das kann niemand sagen. Kritiker warnen, dass Lernalgorithmen auf der Basis unserer Daten das menschliche Leben determinieren – weil sie genauer wissen als wir selbst, was wir mögen, wie fit wir sind oder wie risikohaft wir Auto fahren. Eine Vorstellung davon gibt die Wallstreet, wo Algorithmen einen grossen Teil des Handels treiben – mit sehr realen Auswirkungen auf die Börsenkurse.

Der Physiker Stephen Hawking ist nur der bekannteste Rufer, der angesichts des Aufstiegs der künstlichen Intelligenz das Ende der Menschheit prophezeit hat. Und Elon Musk, der Gründer von Tesla und Spacex, entwarf eine Zukunft, in der Menschen von der KI als Haustiere gehalten werden – ebenfalls ein beliebter Topos der Science-Fiction-Literatur. Jürgen Schmidhuber ist nicht so pessimistisch: «Es gibt zumindest einen grossen kommerziellen Druck, KIs zu bauen, die freundlich sind zu den Menschen.» Sein Antrieb sei es, sagt er, das Leben der Menschen zu verbessern. Am Idsia in Lugano arbeiten seine Leute unter anderem an der Verbesserung der Krebsdiagnostik: In Wettbewerben gelang es seinen neuronalen Netzwerken zuverlässiger und schneller als allen anderen Methoden, bösartige Krebszellen zu erkennen.

«Ein grosser Teil der medizinischen Diagnostik wird in Zukunft durch KIs erledigt werden», so der Forscher, «sie sind darin ganz einfach viel besser als der Mensch.» Viele Start-ups versuchen derzeit, sich in diesem Zukunftsmarkt zu positionieren. Das verwundert nicht: Der Weltmarkt für personalisierte Big-Data-Medizin wird 2030 laut Studien rund 250 Milliarden Dollar betragen. Nächster Halt: Arth-Goldau.

Verstehen Sie, dass sich die Ärzte um ihre Arbeit sorgen?
 Ja und nein. Längerfristig werden neuronale Netze diagnostizieren und Roboter operieren, das ist klar. Aber die effizienteren Technologien werden auch dazu führen, dass die Ärzte für die Gespräche mit ihren Patienten mehr Zeit haben als heute. Oder sie führen dazu, dass ein einzelner Arzt viel mehr Patienten betreut. Das ist dann eine Marktfrage. Aber dieser Markt wird auch virtuelle Ärzte bereitstellen, die auf dem Bildschirm mit den Patienten sprechen und dabei auch auf Rückfragen eingehen können.

«Viele Politiker bemerken noch nicht einmal, was gerade passiert.»

Ist es auch eine politische Frage?
Es ist manchmal nicht leicht, für die Politik noch Begeisterung aufzubringen. Es scheint für Politiker schwer, mit der Entwicklung der KI auch nur annähernd Schritt zu halten. Ständig kommen Dinge auf den Markt, die eigentlich nach einer umfassenden Gesetzesrevision verlangen; aber viele Politiker bemerken noch nicht einmal, was gerade passiert. (Pause.) Der Zugersee, der ist schön, nicht? (Pause.) Wissen Sie, welches das wichtigste Ereignis im 20. Jahrhundert war?

Vielleicht die Erfindung der Atombombe?
Die Erfindung des Kunstdüngers, kurz nach der Jahrhundertwende. Ohne den gäbe es die Hälfte der Menschen nicht, und bald werden zwei von drei Menschen existenziell davon abhängen. Erst der Kunstdünger brachte das herausragende Merkmal des 20. Jahrhunderts hervor, die Bevölkerungsexplosion. Hat die Politik das vorausgesehen?

Wohl nicht.
Man hat erst Mitte des Jahrhunderts richtig begriffen, was vor sich ging, als die Städte rapide wuchsen. Begreifen die Politiker heute, was passiert? – Jetzt kommen bis Zürich fast nur noch Tunnels.

Was besprechen Sie in Zürich eigentlich mit Google?
Sagen wir, dass sich manche bekannte Firma sehr für künstliche Intelligenz interessiert. (lacht)

(Tages-Anzeiger)

Erstellt: 01.09.2016, 07:39 Uhr

Artikel zum Thema

Warum die Digitalisierung die Frauen abzuhängen droht

Frauen laufen Gefahr, die besten Jobs der Zukunft zu verpassen, sagt eine Studie. Die Gründe, und was dagegen getan wird. Mehr...

«Die Computer-Revolution ist bereits vorbei»

Interview Robert Gordon, führender Kritiker der Technologie-Optimisten, erklärt, warum die Leistungsfähigkeit der Wirtschaft abgenommen hat und auch künftig tief bleiben wird. Mehr...

Digitalisierung kostet fünf Millionen Jobs

Der nächste technologische Wandel wird Millionen von Arbeitsplätzen kosten, so die WEF-Experten. Betroffen sind vor allem der Gesundheits-, der Finanz- und der Energiesektor. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Weiterbildung

Lehrstellen

Sich zu bewerben heisst für sich werben

Kommentare

Service

Ihre Spasskarte

Mit Ihrer Carte Blanche von diversen Vergünstigungen profitieren.

Sind wir bereit für die Zukunft?

Die Digitalisierung stellt die Politik vor grundsätzliche Probleme. Dennoch sind nur wenige Parlamentarier in diesem Thema sattelfest. Drei technikbegeisterte Nationalräte skizzieren die Herausforderungen. Mehr...

Error 404 im Bundeshaus

Kann das politische Personal in Bern den digitalen Wandel bewältigen? Und weiss es, was auf uns zukommt? Mehr...

Die erfolgreichen Anarchisten

Analyse Im Silicon Valley wird das Establishment mit digitalen Mitteln angegriffen. Mehr...