Der Computer sagt Nein

Warum mehr Transparenz von Algorithmen auch eine Frage von Leben und Tod ist.

Wir überlassen immer mehr Entscheidungen den Computern. Darum müssen wir sie klug programmieren. Schulungsraum in Glarus. Foto: Reto Oeschger

Wir überlassen immer mehr Entscheidungen den Computern. Darum müssen wir sie klug programmieren. Schulungsraum in Glarus. Foto: Reto Oeschger

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Videos von Schweizer Youtube-Nutzern werden von der Onlineplattform, die Google gehört, systematisch diskriminiert. Das zeigt eine Analyse durch das Daten-Team von Tamedia, die gestern in Tagesanzeiger.ch/Newsnet ver­öffentlicht wurde.

Na und?, werden sich viele fragen. Hat unsere Welt nicht dringlichere Probleme?

Tatsächlich ist das Phänomen Teil eines Megatrends der Digitalisierung: Wir überlassen den Maschinen immer mehr und immer wichtigere Entscheidungen. In der Regel, ohne uns genügend Gedanken darüber zu machen, nach welchen Kriterien Maschinen diese Entscheidungen treffen. Und vor allem, wie viel Kontrolle wir aus der Hand geben und wie dieser Kontrollverlust unser Leben prägt.

In einer harmlosen Variante betrifft das zum Beispiel die Musikvielfalt auf Partys. Es ist heute viel bequemer, die abendliche Unterhaltung dem Musik-Streaming-Dienst Spotify zu überlassen, als sich selber darum zu kümmern. Das Schlimmste, was passieren kann: Es werden die immer gleichen Lieder abgespielt. Oder: Die Musik-App legt einen peinlichen Song auf. In diesem Fall kann der Gastgeber lächelnd darauf hinweisen: «Keine Ahnung, warum Spotify glaubt, dass ich den Song ‹Cheri, Cheri Lady› von Modern Talking mag.»

Firmen können die Auskunft einfach verweigern

In anderen Bereichen kann der Fehlentscheid eines Algorithmus wesentlich unangenehmere Konsequenzen haben. Wir setzen Algorithmen oder künstliche Intelligenz mittlerweile in allen Lebenslagen ein: In der Radio­logie ist der Einsatz von Algorithmen bereits gang und gäbe. Sie hilft bei der Hautkrebs-Diagnose. In selbstfahrenden Autos sind gar Hunderte Algorithmen gleichzeitig im Einsatz, die im Sekundentakt Entscheidungen treffen. Im Extremfall befindet das autonome Auto über Sachen wie: Soll der Wagen von der Fahrbahn gelenkt werden und das Risiko eingehen, den Fahrer zu töten? Oder soll es weiterfahren und die drei Kinder auf dem Fussgängerstreifen treffen? Je nachdem, wie der Algorithmus entwickelt ist, kann das Leben des Fahrers oder dasjenige der Kinder gerettet werden.

Die Politik hat das Problem erkannt. Sie weiss, dass die Schweiz dringlichst Regelungen dafür braucht, wie künstliche Intelligenz oder ihre Rechenmodelle, die Algorithmen, gebaut werden und vor allem wie transparent die Entwickler mit ihren Erfindungen sein müssen. Das hat der Bericht der Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit erläutert. Der Bericht erschien schon vor einem Jahr.

Nach der Sommerpause will der Bundesrat endlich mitteilen, wie es damit weitergeht. Das gibt das Eid­genössische Finanzdepartment (EFD) auf Anfrage an. Dem EFD wurde wie bei vielen anderen Digitalfragen die Führungsrolle übertragen. Im Kern geht es darum, ob sich Internet-Konzerne, Medizinfirmen oder Autobauer weiterhin so nonchalant gegenüber ihren eigenen Technologien verhalten dürfen. Stand heute dürfen sie jegliche Auskunft zu ihren Entwicklungen einfach abblocken und wie die sture Bürokratin in der britischen Comedy-Show «Little Britain» behaupten: «Der Computer sagt Nein!»

Algorithmen müssen ethisch sein

Natürlich gibt es mehr oder weniger relevante Algorithmen. Der Gastgeber einer Spotify-Party sollte wohl auch in Zukunft nicht dafür zur Rechenschaft gezogen werden, wenn er seinen Party-Gästen einen Modern-Talking-Song zumutet.

Von anderen muss man mehr erwarten. Google sollte eine Antwort darauf haben, warum zum Beispiel gewisse Videos – vor allem solche mit rassistischem Inhalt – vom Youtube-Algo­rithmus eher empfohlen werden als Inhalte des Schweizer Fernsehens. Radiologen sollten wissen, warum das eingesetzte System einen bestimmten Hautkrebs übersehen hat. Und Autobauer sollten so transparent sein wie möglich, wenn es darum geht, ihre Kunden darüber aufzuklären, nach welchen Vorgaben sie einen Algo­rithmus entwickelt haben.

Es braucht ein Gesetz dafür, das Entwickler verpflichtet, ihre Algorithmen nach ethischen Standards zu bauen, und sie dazu zwingt, der Gesellschaft mehr darüber zu erzählen, wie sie Daten gewichten, mit denen sie ihre Algorithmen füttern. Denn auf deren Grundlage werden heute lebenswichtige und gesellschaftsrelevante Entscheidungen getroffen.

Erstellt: 08.07.2019, 22:18 Uhr

Artikel zum Thema

Youtube diskriminiert Schweizer Videos

Deutsche Kochsendungen statt SRF-Dokus: Youtube setzt Schweizer Nutzern fast ausschliesslich ausländische Inhalte vor. Das zeigt eine neue Auswertung. Mehr...

Ein klarer Sieg für die Internetliebe?

Beziehungen, die online beginnen, seien glücklicher, zeigen Studien. Die Gründe sind wenig romantisch. Mehr...

Algorithmus versagt: Youtube verwechselt Pariser Feuer mit 9/11

Nichts deutete auf einen Terroranschlag hin, doch in Livestreams erschien ein Verschwörungshinweis. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Abo

Abo Digital - 26 CHF im Monat

Den Tages-Anzeiger unbeschränkt digital lesen, inkl. ePaper. Flexibel und jederzeit kündbar.
Jetzt abonnieren!

Kommentare

Service

Ihre Spasskarte

Mit Ihrer Carte Blanche von diversen Vergünstigungen profitieren.

Die Welt in Bildern

Zum Anbeissen: Dieser Eisfischer in Peking versucht sein Glück mit mehreren Angeln. (7. Dezember 2019)
(Bild: Ma Wenxiao (VCG/Getty Images)) Mehr...