«Du bist eine Null. Was du uns meldest, prüfen wir erst ganz zum Schluss.» Wörtlich werden Nutzer das von Facebook natürlich nicht zu hören bekommen. Doch intern hat das Unternehmen begonnen, die Glaubwürdigkeit bestimmter Nutzer zu bewerten. Wer massenhaft richtige Inhalte als Falschmeldungen markiert, wird mit einem niedrigen Wert abgestraft. Zuerst hatte die Washington Post darüber berichtet.

Das soll Missbrauch verhindern und den Faktenprüfern helfen, ihre Aufgaben zu priorisieren. Facebook-Nutzer können Medienberichte melden, wenn sie glauben, dass es sich um eine Falschmeldung handelt. Dann prüfen externe Faktenprüfer den Inhalt. Facebook arbeitet dafür mit internationalen Medien und Organisationen zusammen, in Deutschland mit dem gemeinnützigen Recherchezentrum Correctiv. Wenn die Faktenprüfer zu dem Ergebnis kommen, dass es sich um eine irreführende oder falsche Darstellung handelt, blendet Facebook einen Warnhinweis unter dem Beitrag ein und reduziert dessen Reichweite.

«Wir haben einen Prozess entwickelt, um uns vor Menschen zu schützen, die Nachrichten willkürlich als falsch melden und versuchen, das System zu überlisten», sagt ein Facebook-Sprecher. Die Darstellung der Washington Post sei irreführend, da es keinen universellen Glaubwürdigkeitswert für alle Nutzer gebe. Der Mechanismus solle den Kampf gegen Desinformation unterstützen und wirke sich nur darauf aus, mit welcher Priorität die Meldungen einzelner Nutzer behandelt würden.

Tatsächlich sind fast alle Meldesysteme anfällig für Missbrauch. Oft geht es den Akteuren nicht darum, falsche Darstellungen zu verhindern. Sie melden Beiträge aus politischen Gründen, weil diese nicht ihrer Überzeugung entsprechen oder von einem unliebsamen Medium veröffentlicht wurden. Sie glauben, dass sie Inhalte nur oft genug markieren müssen, damit sie verschwinden. Sie verabreden sich in Foren oder anderen sozialen Netzwerken und starten gezielte Meldewellen.

Das Bewertungssystem erinnert im ersten Moment an China

Wenn ein Netzwerk mit mehr als 2,2 Milliarden Nutzern beginnt, Mitglieder nach intransparenten Kriterien auf einer Skala von null bis eins einzustufen, erinnert das an Überwachungsdystopien aus Fernost. Die chinesische Regierung zeichnet das Verhalten der Bürger mit Hunderten Millionen Kameras auf, verfolgt ihre Aktivitäten im Internet und straft unerwünschtes Verhalten ab. Das Punktesystem beeinflusst die Kreditwürdigkeit der Betroffenen, schlechte Werte können zu Totalüberwachung führen. Bis 2020 soll das System für alle Einwohner verpflichtend werden.

Diese Assoziation ist naheliegend, aber voreilig. Facebook hat den Glaubwürdigkeits-Index für ein spezifisches Problem entwickelt und bewertet Nutzer nur um zu verhindern, dass sie das Meldesystem missbrauchen. Dementsprechend weist Facebook Vergleiche mit Unternehmen wie der Schufa zurück, die die Kreditwürdigkeit aller Menschen in Deutschland beurteilen.

Dennoch bleiben Fragen offen, auf die Facebook keine Antworten geben will. Fliessen neben den Meldungen weitere Kriterien und Aktivitäten in die Bewertung mit ein? Wird der Index automatisch erstellt, oder sind Facebook-Mitarbeiter beteiligt? Wie genau berechnet sich der Wert, und wirkt sich ein niedriges Ergebnis auch auf andere Dinge als die Priorisierung der Meldungen aus? Und zuletzt: Wie glaubwürdig bin ich selbst in den Augen von Facebook? Im Gegensatz zur Schufa können Nutzer Facebook nämlich nicht um Auskunft bitten.

Facebook kann keine Details über den Mechanismus verraten

Für Facebook ist es ein Dilemma: Politiker fordern das Netzwerk auf, Falschmeldungen und strafbare Inhalte zuverlässiger zu erkennen und zu entfernen. Doch fast jede Massnahme erzeugt eine Gegenreaktion von Nutzern, Medien oder anderen Politikern, die sich zu Unrecht zensiert sehen. Die einen wollen, dass Facebook endlich mehr Verantwortung übernimmt, den anderen graut es bei der Vorstellung, dass ein privates Unternehmen die Grenzen der Meinungsfreiheit bestimmt.

Der aktuelle Fall ist noch verzwickter: Wenn die Faktenprüfer effizient arbeiten sollen, kann Facebook nicht alle Beschwerden über angebliche oder vermeintliche Falschmeldungen gleich behandeln. Verständlicherweise wünschen sich Nutzer mehr Informationen, wie ein solches Bewertungssystem funktioniert. Ins Detail gehen kann Facebook jedoch nicht, da sonst jene Nutzer, die das Meldeverfahren manipulieren wollen, genau wüssten, wie sie verhindern können, dass Facebook ihre Glaubwürdigkeit herabstuft.

Niemand muss Mitleid mit einem Unternehmen haben, das im vergangenen Quartal mehr als fünf Milliarden Dollar verdient hat. Aber für viele Probleme, mit denen sich die grösste Kommunikationsplattform der Welt – teils selbstverschuldet – konfrontiert sieht, gibt es keine einfachen Lösungen.