Das Familienfoto landet bei der Bundespolizei

Um Kinder zu schützen, überwachen Google und Facebook alle Nutzer – die Schweizer Behörden werden mit verdächtigen Posts überflutet.

Harmloses Ferienfoto oder Kinderpornografie? 90 Prozent des beurteilten Materials in der Schweiz sind strafrechtlich nicht relevant. Foto: iStock

Harmloses Ferienfoto oder Kinderpornografie? 90 Prozent des beurteilten Materials in der Schweiz sind strafrechtlich nicht relevant. Foto: iStock

Feedback

Tragen Sie mit Hinweisen zu diesem Artikel bei oder melden Sie uns Fehler.

Auf dem Schreibtisch des Bundespolizisten liegt ein Ferienfoto, das Herr Huber via Facebook-Chat an seinen Arbeitskollegen gesendet hat. Darauf zu sehen: Huber im Liegestuhl, im Hintergrund zwei Kinder, die ins Wasser springen. Die Frage, die es zu klären gilt: Harmloses Ferienfoto oder Kinderpornografie? Der Entscheid: Fehlalarm, schon wieder.

«Letztes Jahr trafen bei uns rund 9000 Meldungen ein», sagt Florian Näf, Sprecher des Bundesamts für Polizei (Fedpol), der die Szene geschildert hat. «Strafrechtlich relevant waren davon nur knapp zehn Prozent.» Der Rest seien ­Meldungen ohne strafrechtliche Relevanz.

Die meisten Leute nutzen im Internet Dienste amerikanischer Betreiber wie Gmail, Facebook oder Whatsapp. Diese sind per Gesetz verpflichtet, illegale Inhalte wie Pornos mit Kindern oder Tieren sowie extreme Gewaltdarstellungen der privaten Non-Profit-Organisation National Center for Missing and Exploited Children (NCMEC) zu melden. NCMEC macht eine Triage und leitet die Meldungen unbearbeitet ans ­Fedpol weiter, sofern sich Absender oder Adressat in der Schweiz befinden.

Algorithmen fahnden nach nackter Haut und Kindern

Gemäss Näf gehen die Betreiber nicht nur spezifischen Verdachtsfällen nach, sondern durchsuchen sämtliche hochgeladenen Inhalte – auch in privaten Nachrichten – mithilfe von Algorithmen, die unter anderem nackte Haut und Kinder erkennen. Fedpol-Mitarbeiter müssen deshalb alle Meldungen sichten und entscheiden, ob es sich um harmlose Ferien- oder Familienfotos handelt oder um kinderpornografisches Material. Erstere würden mitsamt den Personendaten gelöscht, Letzteres an kantonale Strafverfolgungsbehörden weitergeleitet.

Eine Arbeit, die an die Substanz geht. Die Sichtung kinderpornografischen Materials sei deshalb auf eine gewisse Anzahl Stunden beschränkt worden, sagt Fedpol-Sprecher Näf. Zudem müssten die Ermittler zweimal pro Jahr zu einem Gespräch mit einem Psychologen.

Aber auch aus Datenschutzgründen ist die Pflicht der Betreiber, alle Inhalte zu screenen, äus­serst fragwürdig, mahnt Martin Steiger, der sich als Anwalt auf digitales Recht spezialisiert hat. «Sie kommt einer privaten Massenüberwachung gleich, die sämtliche Nutzer ohne Anlass unter einen Generalverdacht stellt», sagt Steiger. Eine Gesellschaft müsse entschieden gegen die Verbreitung von Kinderpornografie vorgehen. Vor dem Hintergrund der geringen Trefferquote dränge sich allerdings die Frage auf, so Steiger, ob das aktuelle Vorgehen der Betreiber wirklich verhältnismässig sei. «Der Zweck heiligt nicht alle Mittel.»

«Das System entbehrt jeder Transparenz»

Jeremy Malcolm setzt sich als Geschäftsführer der US-Stiftung Prostasia für einen Kinderschutz ein, der sich auf Beweise stützt. Auch er kritisiert das aktuelle Verfahren: «Das System entbehrt jeder Transparenz und Rechenschaftspflicht.» Malcolm sieht die Gefahr, dass im Namen des Kinderschutzes eine breitere Zensur an der Kunst- und Redefreiheit von Minderheiten verübt werde.

Recherchen einer unter dem Pseudonym Violet Blue schreibenden Journalistin haben gezeigt, dass viele Hinweise auf Kinder­pornografie in den USA von evangelischen Kinderschutzgruppen stammen, die oftmals digitale Aufklärungsangebote für Jugendliche, Präventionsstellen für Pädophile und selbst unliebsame Kunstprojekte melden. Im April 2018 trat in den USA ein striktes Sexhandel-Gesetz in Kraft. Seither, so Malcolm, würden Internetseiten vermehrt präventiv geblockt – was Kindern im Falle von Beratungsangeboten mehr schade als helfe.

Die amerikanische Kinderschutzorganisation NCMEC lehnte eine Stellungnahme zu ihrer Geschäftspraxis ab. Aus einem internen Dokument geht jedoch hervor, dass 99 Prozent der Meldungen von privaten Betreibern wie Google und Facebook stammen. Nachdem diese angefangen hatten, ihre Nutzer algorithmusbasiert zu überwachen, schoss die Anzahl Meldungen zudem in die Höhe: von 1,1 Millionen Meldungen im Jahr 2014 auf 8,2 Millionen im Jahr 2016. NCMEC erklärt sich den starken Anstieg hauptsächlich durch die «Verwendung neuer Technologien».

Die Betreiber selbst machen aus ihren Algorithmen ein Geheimnis. Facebook zum Beispiel lässt auf Anfrage verlauten, man gleiche jeden Upload mit einer Datenbank von bereits bekannten kinderpornografischen Inhalten ab. Zudem würden Algorithmen verwendet, die Nacktheit erkennen. Im ersten Quartal 2019 habe man so 5,4 Millionen Beiträge entdeckt, entsprechende Accounts geschlossen und die Nutzer, die dahinterstehen, NCMEC gemeldet. Wie hoch der Anteil an Falschmeldungen war, sagt aber auch Facebook nicht.



Dieser Text stammt aus der aktuellen Ausgabe. Jetzt alle Artikel im E-Paper der SonntagsZeitung lesen: App für iOSApp für AndroidWeb-App

Erstellt: 28.09.2019, 20:31 Uhr

Artikel zum Thema

«Ich wollte die Bilder nicht der ganzen Welt zeigen»

Obwohl es strafbar ist, breitet sich Sexting unter Jugendlichen rasant aus. Weshalb sich Mädchen selbst nackt fotografieren, zeigen Protokolle der Jugendanwaltschaft. Mehr...

EDA-Mitarbeiter unter Kinderporno-Verdacht

Das FBI hat Nacktbilder von Kindern auf Servern des Bundes entdeckt. Statt zu ermitteln, streiten die Behörden seit Monaten um Zuständigkeiten. Mehr...

US-Sänger R. Kelly verhaftet

Der 52-Jährige wurde wegen Verdachts auf Kinderpornographie in Chicago erneut festgenommen. Ihm werden 13 weitere Vergehen vorgeworfen. Mehr...

Illegale Inhalte auf dem Handy – was tun?

Manchmal kann man ihnen nicht aus dem Weg gehen: Leuten, die es besonders lustig finden, unangebrachte Inhalte auf Whatsapp oder einem anderen Dienst zu teilen. Wer sich so was mit Ekel, oder vielleicht auch belustigt, anschaut, lädt es dadurch automatisch auf sein Gerät – und macht sich damit strafbar. Martin Steiger, Anwalt für digitales Recht, rät, die ­Videos unmittelbar zu löschen und im Chat für allfällig mitlesende Ermittler deutlich erkennbar zu protestieren.

Die Redaktion auf Twitter

Stets informiert und aktuell. Folgen Sie uns auf dem Kurznachrichtendienst.

Abo

SonntagsZeit. Im Digital-Abo.

Die SonntagsZeitung digital ohne Einschränkung nutzen. Für nur CHF 10.- pro Monat.
Jetzt abonnieren!

Kommentare

Service

Ihre Kulturkarte

Abonnieren Sie den Carte Blanche-Newsletter und verpassen Sie kein Angebot.

Die Welt in Bildern

Herbstlich gefärbte Weinberge: Winzer arbeiten in Weinstadt, im deutschen Baden-Württemberg. (17. Oktober 2019)
(Bild: Christoph Schmidt/DPA) Mehr...