Sie hören auch Bedrohungen und Übergriffe mit an

Bei Facebook, Amazon, Apple, Google und Microsoft werden Sprachnachrichten aufgezeichnet. Nun reagieren die Tech-Giganten – mehr oder weniger.

Die vergangenen Monate haben eines gezeigt: Alle grossen Sprachassistenten haben menschliche Ohren. Foto: AFP

Die vergangenen Monate haben eines gezeigt: Alle grossen Sprachassistenten haben menschliche Ohren. Foto: AFP

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Vor wenigen Wochen hätte diese Schlagzeile weltweit Empörung ausgelöst: «Facebook bezahlte Vertragspartner, um Audio-Chats von Nutzern zu transkribieren», titelte die Agentur Bloomberg. Heute aber ist die Reaktion nur Schulterzucken. Überraschend ist höchstens, dass die Nachricht so lang auf sich warten liess.

Ein Unternehmen mit mehr als zwei Milliarden Nutzern, das jahrelang einen Datenschutz-Skandal an den nächsten gereiht hat, beschäftigt Hunderte Mitarbeiter, die private Sprachnachrichten von Nutzern zu hören bekommen – und niemand regt sich auf? Mark Zuckerberg kann sich bei Amazon, Apple, Google und Microsoft bedanken: Ausnahmsweise ist Facebook nicht das erste, sondern das letzte grosse Unternehmen, dessen fragwürdiger Umgang mit Nutzerdaten öffentlich wird.

Die vergangenen Monate haben eines gezeigt: Alle grossen Sprachassistenten haben menschliche Ohren. Hinter Alexa, Siri, Google und Cortana stecken Mitarbeiter, die einen kleinen Teil der Aufnahmen anhören und transkribieren. Microsoft liess auch automatisch übersetzte Skype-Telefonate analysieren. Die Unternehmen wollen so die maschinelle Spracherkennung der Programme verbessern.

Allerdings hatten sie ihren Nutzern jahrelang verschwiegen, dass unter Umständen Mitarbeiter zuhören – auch Menschen, die sich komplett unbelauscht wähnen. Die Sprachassistenten reagieren auf Aktivierungsworte und verwechseln zum Beispiel «Alexandra» mit «Alexa». Oder sie halten das Geräusch eines Reissverschlusses für einen Befehl an Siri. Dann zeichnen die Mikrofone auf, die Daten landen auf Servern in den USA und möglicherweise auch bei anderen Unternehmen, die als externe Dienstleister für die Konzerne arbeiten.

Die Tech-Unternehmen sprechen von Einzelfällen, nennen aber keine konkreten Zahlen. Medienberichte legen nahe, dass Fehlalarme häufiger vorkommen. Dem flämischen Sender VRT wurden etwa 1000 Google-Aufnahmen zugespielt. Davon seien rund 150 aufgezeichnet worden, ohne dass Nutzer etwas davon mitbekommen hätten. Bloomberg nennt einen Anteil von zehn Prozent unbeabsichtigter Alexa-Aktivierungen.

Mutmassliche Straftaten mit anhören

Bei dieser Zeitung haben sich fünf Menschen gemeldet, die angeblich für Amazon, Apple und Google Aufnahmen transkribieren. Auch sie berichten, dass sie immer wieder private Aufzeichnungen zu Ohren bekommen hätten. Dazu zählen sensible berufliche Telefonate und intime Momente: Offenbar stehen auch in vielen Schlafzimmern smarte Lautsprecher. Manchmal nehmen die Sprachassistenten auch Streitgespräche, Bedrohungen und körperliche Übergriffe auf.

Für die Mitarbeiter ist das belastend, weil sie Zeugen mutmasslicher Straftaten werden, aber nichts tun können. Die Aufnahmen lassen zwar mitunter Rückschlüsse auf die Identität der Nutzer zu, etwa wenn Namen oder Adressen zu hören sind. Sie werden aber nicht fest mit Nutzerprofilen verknüpft, sondern pseudonymisiert, das heisst ihnen werden zufällig generierte Identifikationsnummern zugeordnet. Ob die Konzerne selbst diese nachträglich Personen zuordnen können, ist unklar. Die Mitarbeiter externer Dienstleister haben diese Möglichkeit jedenfalls nicht.

Die Enthüllungen entzaubern Begriffe wie «künstliche Intelligenz». Kein System arbeitet vollständig autonom, alle Sprachassistenten machen regelmässig Fehler. Deshalb braucht es Menschen, um die Algorithmen zu trainieren. Sie hören einen kleinen Teil der Aufzeichnungen an und überprüfen, ob die Maschine richtig gehört hat. Dass diese Tatsache Empörung auslöst, haben sich die Unternehmen selbst zuzuschreiben. Statt offensiv aufzuklären, wie Sprachassistenten funktionieren, haben sie lange vertuscht, verharmlost und beschwichtigt.

So reagieren die Tech-Konzerne

Diese Strategie der Vertuschung funktioniert nicht mehr. Die Unternehmen realisieren, dass sie dabei sind, den letzten Rest Vertrauen ihrer Nutzer zu verspielen. Einige haben die Auswertung durch Menschen gestoppt, andere halten an der Praxis fest. Ein chronologischer Überblick über Enthüllungen und Reaktionen:

Amazon

  • Enthüllung: Im April deckte Bloomberg auf, dass Tausende Angestellte und Mitarbeiter bei externen Dienstleistern Alexa-Aufnahmen anhören und auswerten. Anfang August berichtete die «Welt», dass dafür auch Zeitarbeiter im Homeoffice zuständig sind. Offenbar schützt Amazon die Daten weniger sorgfältig, als das Unternehmen behauptet.
  • Reaktion: Amazon überlässt seinen Kunden die Entscheidung, was mit den Sprachaufnahmen geschehen soll. Anders ausgedrückt: Amazon wälzt die Verantwortung auf seine Nutzer ab. Sie müssen die menschlichen Ohren selbst in den Privatsphäre-Einstellungen der Alexa-App abschalten oder das Alexa-Datenschutzportal im Browser aufrufen.

Google

  • Enthüllung: Im Juli spielte ein Whistleblower dem flämischen Rundfunk VRT Aufnahmen des Google Assistant zu. Die Person arbeitet demnach bei einem Drittunternehmen, wo sie die Mitschnitte anhört, kategorisiert und Abschriften anfertigt.
  • Reaktion: Zunächst versuchte Google, den Vorfall herunterzuspielen. Lediglich 0,2 Prozent aller Aufnahmen würden von Menschen analysiert. Später wurde bekannt, dass Google unmittelbar nach der Enthüllung vorerst damit aufgehört hatte, Aufzeichnungen von Mitarbeitern auswerten zu lassen. Der Stopp gilt bis mindestens Ende Oktober. Ob Google die Auswertung durch Mitarbeiter danach fortsetzt, ist unklar.

Apple

  • Enthüllung: Ende Juli berichtete der «Guardian», dass auch Siri-Aufnahmen von Menschen überprüft werden. Wie alle anderen Unternehmen hatte Apple diese Tatsache mit unklaren Formulierungen verschleiert. Und das, obwohl das Unternehmen sonst bei jeder Gelegenheit betont, dass es die Daten seiner Nutzer besonders zuverlässig schütze. Im Gegensatz zu Facebook und Google erzielt Apple den Grossteil seines Umsatzes mit Hardware und nicht mit Werbung. Digitale Anzeigen sind auf möglichst grosse Datenberge angewiesen, um die bestmöglichen Empfänger zu finden.
  • Reaktion: Das Unternehmen lässt Siri-Aufnahmen vorerst nicht mehr von Menschen auswerten. Mit einem kommenden Software-Update will Apple Nutzer dann vor die Wahl stellen, was mit ihren Aufzeichnungen geschehen soll. Bislang ist offen, ob es sich um ein Opt-in- oder ein Opt-out-Verfahren handeln wird. Im ersten Fall wäre aktive Zustimmung nötig. Bei einer Opt-out-Lösung müssen Nutzer bewusst widersprechen, etwa indem sie einen Haken entfernen.

Microsoft

  • Enthüllung: Anfang August vervollständigte Microsoft die Liste der Unternehmen mit Sprachassistenten, die Menschen mithören lassen. Einer Recherche von «Vice» zufolge werden aber nicht nur Cortana-Aufzeichnungen, sondern auch bestimmte Skype-Telefonate ausgewertet: Mitarbeiter überprüfen Sprach- und Videoanrufe, die mit Skype Translator übersetzt wurden.
  • Reaktion: Microsoft sagt, dass es die Daten anonymisiere und von Vertragspartnern eine Geheimhaltungsvereinbarung verlange. Ausserdem müssten externe Dienstleister hohe Datenschutzstandards einhalten. Im Gegensatz zu Google und Apple hat Microsoft bislang nicht angekündigt, die Auswertung einzustellen. Nutzer können sie auch nicht optional deaktivieren, wie es bei Amazon möglich ist.

Facebook

  • Enthüllung: Der aktuelle Bloomberg-Bericht zeigt, dass Unternehmen gar keine eigenen Sprachassistenten brauchen, um Sprachaufnahmen auswerten zu lassen. Facebook hat Hunderte Angestellte bei externen Dienstleistern beauftragt, automatisch transkribierte Sprachaufnahmen im Facebook Messenger zu überprüfen.
  • Reaktion: Auf Anfrage teilt Facebook mit, dass die Auswertung «vor mehr als einer Woche» gestoppt worden sei. Es habe sich um vollständig anonymisierte Aufzeichnungen gehandelt. Facebook versichert, dass es die Daten nur genutzt habe, um seine Systeme zu trainieren – und nicht etwa, um Anzeigen zu personalisieren. Ausserdem schalte Facebook die Mikrofone niemals im Hintergrund ein. Es sei immer nötig, dass Nutzer sie bewusst aktivieren.

Erstellt: 14.08.2019, 19:23 Uhr

Artikel zum Thema

Wenn die Sprachassistenten beim Sex zuhören

Amazon, Google und Apple nehmen offenbar sogar die intimsten Momente auf. Das zeigen Berichte von Whistleblowern. Mehr...

Facebook liess Nutzer-Aufnahmen abtippen

Nach Amazon, Apple und Google gerät nun auch Facebook in die Kritik, weil Mitarbeiter Messenger-Unterhaltungen mitgehört haben. Mehr...

Amazons Sprachassistent birgt Risiken für Kinder

Ein Gutachten kommt zum Schluss, dass Kinder unbeabsichtigt den Sprachassistenten Alexa aktivieren könnten. Amazon beschwichtigt und setzt auf Vertrauen. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Kommentare

Die Welt in Bildern

Hier tanzt man zwangsläufig auf mehreren Hochzeiten: Unzählige Brautpaare versammeln sich vor dem Stadthaus von Jiaxing, China. Sie geben sich bei einer Massenheirat das Ja-Wort. (22. September 2019)
Mehr...