«Natürlich haben Roboter Vorurteile»

Richard Socher, wissenschaftlicher Leiter beim US-Software-Giganten Salesforce, über die Schweiz, die bei der ­künstlichen Intelligenz abgehängt wird und lästige Telefonanrufe von Chat-Bots.

Die Schweiz investiert zu wenig in künstliche Intelligenz, findet Richard Socher

Die Schweiz investiert zu wenig in künstliche Intelligenz, findet Richard Socher

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Wie sexistisch ist die künstliche Intelligenz (KI)?
Die KI ist erst einmal neutral und nur so gut wie die Trainingsdaten. Die nehmen Vorurteile auf und verstärken sie. Im Grunde hält uns KI einen Spiegel vor und zeigt auf, welche Vorurteile wir als Gesellschaft haben. Das kann schlecht sein, wenn man die Vorurteile unreflektiert übernimmt. Es ist aber einfacher, einen Algorithmus anzupassen, als vielleicht 1000 Manager zu ändern, die bei der Einstellung Männer gegenüber Frauen bevorzugen.

Oft werden die Algorithmen eben nicht angepasst. Nehmen wir Google. Wenn Sie nach «professioneller Frisur» suchen, kommen lauter weisse Männer in der Trefferliste vor. Bei «unprofessioneller Frisur» sind es mehrheitlich schwarze Frauen.
Hier werden unreflektiert Trainingsdaten benützt. Als Unternehmen muss man sich die Frage stellen, wie man solche Probleme löst.

Wie löst man sie?
Indem man schaut, woher die Trainingsdaten herkommen. Im Falle des Google-Beispiels sind das die Klicks der Nutzer. Vielleicht müsste die Datenquelle erweitert werden, um zu anderen Ergebnissen zu kommen.

Wie gross ist das Problem dieser Vorurteile?
Nehmen Sie Youtube. Die Video-Plattform funktioniert mit einem Algorithmus, der Nutzern aufgrund ihres Klick-Verhaltens immer neue Inhalte empfiehlt. Diese Empfehlungen zielen darauf ab, immer mehr Klicks zu generieren. Jemand beginnt mit einem kritischen Politik-Video zu Hillary Clinton, und wenige Video-Klicks weiter ist er schon bei knallharten Verschwörungstheorien zu angeblichen dunklen Machenschaften der Clintons. Und dort bleibt er dann stecken.

Dann ist nicht die Technologie das Problem, sondern die Unternehmen, die ihren Algorithmus nicht korrigieren?
In manchen Fällen geht es eben gegen die wirtschaftlichen Interessen der Unternehmen, ihre Algorithmen zu korrigieren. In diesem Fall gegen das Ziel von Youtube, möglichst viele Klicks zu erzielen und Werbung zu verkaufen. Aber Google, dem Youtube gehört, beginnt schon zu reagieren. In den USA gibt es absurderweise immer mehr Leute, die gegen Impfungen sind. Youtube hat sich entschieden, Videos von den Impfgegnern nicht mehr zu pushen. Doch Klicks sind nur einer von Tausenden Anwendungsgebieten der KI.

Welche anderen Einsatzgebiete sehen Sie heute?
In der Medizin, in der Landwirtschaft, im Verkehr, im Verkauf, im Servicebereich. Gerade in der Medizin wird durch die KI vieles besser. Zum Beispiel in der Radiologie, wo man viele Scan-Bilder von Patienten vergleichen muss.

Haben diese Trainingsdaten keine Vorurteile?
Natürlich haben sie Vorurteile. Die Mehrheit dieser Daten stammt von weissen Männern, die relativ gut situiert sind. Von ihnen wird es bestimmt mehr Computertomografie-Bilder geben als von jungen Mädchen in Afrika. Deshalb wird die KI in diesem Fall für weisse Männer besser funktionieren als für Kinder aus Afrika. Aber im Grunde war das in der Vergangenheit mit jeder Technologie so: Zuerst profitieren die Reichen davon, bevor sie andere Schichten erreicht.

Stossen Sie bei Ihrer Arbeit mit KI auch an ethische Grenzen?
Auf jeden Fall. Unsere Technologie soll den Menschen helfen. Und wir setzen uns für Werte wie Gleichberechtigung und Chancengleichheit ein. Diese Werte sollten auch unseren Produkten zugrunde liegen, und wer diese Werte nicht respektiert, kann dann möglicherweise nicht mit unseren Produkten arbeiten. Der Ku-Klux-Klan sollte unsere Technologie nicht für seine Zwecke nutzen können.

Mit welcher Art künstlicher Intelligenz macht Salesforce Geld?
Salesforce hilft Unternehmen, ihre Produkte zu vermarkten. Wer heute etwas verkaufen will, hat Listen mit Tausenden Leuten, die er anrufen könnte. Aber in der Realität reicht die Zeit nur, um wenige Kontakte pro Tag gezielt anzurufen. Unsere KI hilft dem Verkäufer, die erfolgversprechenden richtigen auszuwählen.

«Wir haben es mit einer neuen industriellen Revolution zu tun.»

Wie tun Sie das?
Indem wir Telefonanrufe oder E-Mails der Verkäufer analysieren und bewerten. Das kombinieren wir mit öffentlichen Daten, etwa Meldungen in der Presse oder in sozialen Medien. Dies, um zu erfahren, wie positiv oder negativ über etwas berichtet wird. Und am Ende fassen wir das in einer Bewertung für die Verkäufer zusammen, mit Aussagen wie: Heute ist am wahrscheinlichsten, dass die Person Y bei der Firma X ihr Produkt haben will.

Haben Sie weitere Beispiele?
Etwas, das sehr gut funktioniert, sind Chat-Bots. Adidas ist ein Kunde von uns. Dort beantwortet der Roboter Kundenfragen: Woher kommen meine Schuhe? Wo ist mein Paket? Er kann zum Teil richtige Gespräche führen.

Haben Sie zu Hause einen Smart-Speaker von Amazon oder Google?
Nein. Ich habe keine Lust, dass mir jemand die ganze Zeit zuhört.

Es gibt auch Gesprächsroboter, die Kunden anrufen. Zum Beispiel im Namen der US-Steuerbehörde. In den USA soll mittlerweile jeder zweite Anruf von einer künstlichen Stimme kommen.
Super ätzend, ja.

Bauen Sie auch solche KI?
Nein. Es wird derzeit auch viel Unfug getrieben. Es gibt Firmen, die den Kunden nicht klarmachen, dass am anderen Ende der Leitung ein Roboter ist. Das darf nicht sein.

Haben Sie auch Schweizer Kunden?
Ja, die Laufschuhfirma On. Und Unternehmen aus dem Bereich Pharma, Banken und Versicherungen. Eine neue Anwendung ist etwa, anhand des Fotos eines Autounfalls sofort einschätzen zu können, wie hoch der Schaden ist.

Wie weit sind Schweizer Firmen im europäischen Vergleich im Bereich KI?
Die grossen Internetkonzerne wie Google oder Amazon sind allen voraus. Insgesamt kann Europa da sehr viel mehr machen. Auch die Schweiz muss mehr tun.

Wie steht es mit China? Viele sagen, China überholt derzeit alle in der KI-Forschung.
Die Chinesen publizieren heute am meisten wissenschaftliche Arbeiten. Die grossen Algorithmen und Erfindungen, die das Gebiet vorantreiben, kommen aber fast alle aus den USA. In China ist natürlich die Regierung stark involviert. Das Land wird wohl die besten Algorithmen für Überwachungsanwendungen haben. Dazu gehören die Gesichtserkennung und die Lokalisierung von Personen.

Die chinesische Regierung investiert Milliarden in künstliche Intelligenz. Was sollte man in Europa und in der Schweiz tun?
Wir haben es hier mit einer neuen industriellen Revolution zu tun. Man kann die KI auf alle Lebens- und Wirtschaftsbereiche anwenden. Es geht hier nicht nur um Effizienzsteigerungen. Viele Firmen müssen sich grundlegend verändern.

Also auch die Schweizer und die europäischen Firmen?
Ja. Ich mache mir Sorgen darüber, dass Unternehmen und Regierungen in Europa zu wenig investieren. Aber es ist nicht alles schlecht. Grundsätzlich sind Europa und die Schweiz besser aufgestellt, die gesellschaftlichen Veränderungen, die KI mit sich bringt, abzufedern: besseres Schulsystem, bessere Sozialwerke. Die USA und China aber haben aktuell die bessere Voraussetzung, um KI in Applikationen umzusetzen. Wenn wir nun beides zusammenbringen, wäre das ideal.

Mit gesellschaftlichen Veränderungen meinen Sie die Vernichtung von Arbeitsstellen durch KI?
Sie wird auch Arbeitsplätze schaffen. Schwierig wird die Übergangsphase, weil gewisse Jobs wegfallen. Langfristig werden wir profitieren. Schon immer stiess technologischer Fortschritt auf Abwehr. Als der Traktor erfunden wurde, löste das Ängste aus. Feldarbeiter zerstörten die Maschinen, weil sie um ihre Arbeit fürchteten. Heute will niemand mehr auf solche Hilfsmittel verzichten.

Erstellt: 24.03.2019, 17:04 Uhr

Der Superstar der Daten

In der deutschen Presse wird der 35-jährige Datenwissenschaftler Richard Socher als Superstar gefeiert. Er hat in Leipzig seinen Bachelor in Informatik absolviert, war am Max-Planck-Institut und erforschte für Siemens die medizinische Bildverarbeitung. Dann ging er nach Kalifornien und lehrte an der Elite-Universität Stanford maschinelles Lernen. Nebenbei hat er das Bilderkennungs-Start-up Metamind gegründet, das er 2016 für 33 Millionen US-Dollar an den Software-Anbieter Salesforce verkaufte. Dort arbeitet er bis heute.

Artikel zum Thema

Diese Jobs werden als Letztes durch Roboter ersetzt

Glosse Viele Arbeitsplätze fallen der Digitalisierung zum Opfer. Doch sie schafft auch neue. 18 Stellenprofile mit langer Halbwertszeit. Mehr...

Kann der Roboter Ihr Geld verwalten?

Künstliche Intelligenz ist das Schlagwort der Stunde bei Investoren. Die Ergebnisse sind vielversprechend. Mehr...

Keine Panik, es ist nur künstliche Intelligenz

Wenige Technologien machen Menschen so viel Angst wie KI. Dabei kann sie bisher nicht einmal ein belegtes Brot von einem Vulkanausbruch unterscheiden. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Abo

SonntagsZeit. Im Digital-Abo.

Die SonntagsZeitung digital ohne Einschränkung nutzen. Für nur CHF 10.- pro Monat.
Jetzt abonnieren!

Kommentare

Service

Ihre Spasskarte

Mit Ihrer Carte Blanche von diversen Vergünstigungen profitieren.

Die Welt in Bildern

Im Wiederaufbau: Das Sonnenlicht am frühen Morgen scheint auf die Kathedrale Notre-Dame in Paris. (16. September 2019)
(Bild: Ian Langsdon) Mehr...