Täuschend echt, dumm für den Chef

Was tun mit Fake-Videos? Facebook weigerte sich jüngst, eine Pelosi-Veräppelung zu löschen – und gab ein Versprechen ab. Prompt kommt nun Mark Zuckerberg unter die Räder.

Sieht auf den ersten Blick wie eine normale Botschaft des Facebook-Chefs aus: Das gefälschte Video mit Marc Zuckerberg. Video: Instagram

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

«Stellt euch für eine Sekunde vor: Ein Mann, der die Kontrolle über die gestohlenen Daten von Milliarden Menschen hat, über alle ihre Geheimnisse, ihre Leben, ihre Zukunft – ich verdanke das alles Spectre. Spectre hat mir gezeigt, dass jeder, der die Daten kontrolliert, auch die Zukunft kontrolliert.»

Das sagt Mark Zuckerberg in einem Video, das derzeit viral geht. Das Problem: Der Facebook-Chef hat diese Worte nie benutzt. Bei dem Video, das am Wochenende auf der Plattform Instagram hochgeladen wurde, handelt es sich um ein Deepfake. Mithilfe von künstlicher Intelligenz wurden Zuckerbergs Gesicht und Stimme manipuliert.

Facebook entfernt das Video nicht

Erstellt wurde die Fälschung von zwei Künstlern für ihre Ausstellung «Spectre», die bis gestern am Dokumentarfilmfestival in Sheffield zu sehen war. Beim Namen lehnten sie sich an die Terrororganisation an, gegen die James Bond in seinem letzten Film kämpfte. Die Botschaft: Technologie kann zur Manipulation von Daten missbraucht werden.

Als Grundlage diente eine reale Aufnahme von Zuckerberg vom September 2017, in der er sich zur vermeintlichen Einmischung Russlands in die US-Präsidentschaftswahlen äusserte. Die Mundbewegungen des Deepfake-Zuckerbergs sind ziemlich synchron zum gesprochenen Wort und wirken auf den ersten Blick täuschend echt. Dafür stimmt die Stimme nicht ganz mit dem Original überein. Sie stammt von einem Synchronsprecher.

«Wir werden dieses Deepfake genau gleich behandeln wie andere irreführende Inhalte.»Facebook-Sprecher

Eigentlich würde man erwarten, dass Facebook (zu dem auch Instagram gehört) gegen ein gefälschtes Video vorgeht, es sperrt oder entfernt. Doch das ist nicht der Fall. «Wir werden dieses Deepfake genau gleich behandeln wie andere irreführende Inhalte», sagte ein Sprecher des Unternehmens gegenüber der Website Motherboard. «Faktenchecker markieren es als falsch, dann wird es aus den Instagram-Empfehlungen und der Suche gefiltert».

Gelöscht wird die Fälschung aber nicht – auch wenn in diesem Fall der eigene Chef schlecht dasteht. Denn Facebook sind die Hände gebunden.

Das Unternehmen hat sich letzten Monat geweigert, ein manipuliertes Video von Nancy Pelosi von seiner Plattform zu nehmen, weil dieses gegen keine Richtlinien verstosse. Es wurde lediglich kommentiert und nicht mehr so prominent platziert, damit es in den Newsfeeds weniger oft auftaucht. Trotzdem sahen Millionen von Menschen das Fake-Video, in dem die Sprecherin des US-Repräsentantenhauses betrunken wirkt.

Die gefälschte Version ist langsamer als das Original: Dieses Fake-Video von Nany Pelosi ging viral. Video: Youtube/CBS

Falls ein ähnliches Video von Mark Zuckerberg auftauche, werde man es ebenfalls nicht löschen, versprach Facebook. Nun muss das Unternehmen Wort halten, um seine Haltung zu verteidigen. Diese ist auf dem Prüfstand. Kritiker fordern, dass Facebook entschlossener gegen Falschinformationen und Missbrauch vorgeht.

Umfrage

Sollte Facebook manipulierte Videos immer löschen?




Derzeit bereitet sich der US-Kongress auf das erste Hearing zur potenziellen Bedrohung durch Deepfake-Videos vor. Der Direktor der Intelligence Community, einem Zusammenschluss der US-Nachrichtendienste, warnte kürzlich vor Desinformations-Kampagnen, die durch diese Technologie ermöglicht würden.

Zusätzlich geraten Facebook und Instagram vonseiten des TV-Senders CBS unter Druck. Dieser hat am Dienstagabend Beschwerde gegen den Clip eingelegt und verlangt, dass er wegen des unautorisierten Logo-Gebrauchs entfernt wird. Denn das Deepfake-Video von Zuckerberg sieht aus wie eine News-Sendung von CBS, was es erschreckend echt aussehen lässt.

Erstellt: 12.06.2019, 11:48 Uhr

Artikel zum Thema

Erschreckend echt

Ein Programm ermöglicht die fast perfekte Illusion: Deepfakes sind täuschend echte Videomanipulationen. Mehr...

Millionen sahen ein Fake-Video, das Pelosi blamiert

Die Trump-Gegnerin wirkt auf einem Video betrunken. Es wurde manipuliert. Trotzdem weigert sich Facebook, die Bilder zu löschen. Warum? Mehr...

Deepfakes: So leicht lassen sich Gesichter in Videos fälschen

Video SRF-Datenjournalist Timo Grossenbacher zeigt bei der Grafikmesse in Oerlikon die Möglichkeiten und Gefahren der Videomanipulation. Mehr...

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Kommentare

Abo

Abo Digital - 26 CHF im Monat

Den Tages-Anzeiger unbeschränkt digital lesen, inkl. ePaper. Flexibel und jederzeit kündbar.
Jetzt abonnieren!

Die Welt in Bildern

In allen Farben: Die Saint Mary's Kathedrale in Sydney erstrahlt in ihrem Weihnachtskleid. (9. Dezember 2019)
(Bild: Steven Saphore) Mehr...