Google rief wegen Verdacht auf Kinderpornografie die Polizei

Datenschutz Ein Vater verschickte zu telemedizinischen Zwecken intime Bilder seines Sohnes. Google erkannte die Aufnahme als missbräuchlich und sperrte ihm das Konto.

Matthias Schüssler

Mark ist Hausmann und Vater eines kleinen Sohnes. An einem Freitag im Februar 2021 klagte sein Kind über eine schmerzhafte Schwellung am Penis. Mit seinem Telefon schoss der US-Amerikaner Fotos, um die Symptome zu dokumentieren. Die Praxisassistentin hatte darum gebeten, damit sie den Fall vorab mit dem Arzt besprechen könne.

Dank Antibiotika setzte beim Buben eine schnelle Heilung ein. Doch für Mark war die Sache nicht ausgestanden. Zwei Tage später bekam er eine Mitteilung, sein Google-Account sei gesperrt worden. Mark verlor den Zugang zum E-Mail und zu seinen Kontakten. Auch sein Mobilfunkzugang funktionierte nicht mehr, da er einen Dienst des gleichen Konzerns abonniert hatte.

System interpretiert Bilder

Die «New York Times» hat den Fall dokumentiert: Google setzt seit 2018 ein automatisches System zur Erkennung von Kinderpornografie ein. Die meisten solchen Systeme vergleichen Fotos mit einer Datenbank, in der einschlägige Aufnahmen hinterlegt sind. Doch Googles Verfahren versucht, neue Fotos zu ermitteln, indem es mittels maschinellen Lernens die abgebildete Situation interpretiert. Und das scheint im Fall von Mark bei einem Bild angeschlagen zu haben, auf dem ist seine Hand zu sehen, die «dabei geholfen hat, die Schwellung besser zu zeigen».

Bei begründeten Verdachtsmomenten ist Google gesetzlich verpflichtet, weiteres Material zu sichern und Meldung an die zuständige Organisation zu machen, die daraufhin entsprechende Schritte einleitet. Im Dezember 2021 nahm das San Francisco Police Departement Ermittlungen auf. Der zuständige Polizist kam zum Schluss, dass kein Verbrechen vorliege. Davon erfuhr Mark nur mit Verzögerung, weil er für die Polizei nicht erreichbar war. Denn mit der Blockierung seines Google-Kontos waren auch die Mail-Adresse und die Telefonnummer nicht mehr in Betrieb.

Die Kontosperre blieb bestehen. Die Polizei konnte Mark nicht helfen, sie aufzuheben, und Mark selbst drang beim Techkonzern nicht durch. Als er von Google die Mitteilung erhielt, seine Daten würden demnächst endgültig gelöscht, prüfte er die juristischen Möglichkeiten. Doch eine Klage hätte Kosten von über 6500 Franken verursacht, woraufhin er darauf verzichtete. Er versucht jetzt, seine Daten von der Polizei zurückzuerhalten.

Ob Marks Geschichte eine Ausnahme ist oder ob es andere Betroffene gibt, ist nicht bekannt. Die Electronic Frontier Foundation, eine Bürgerrechtsorganisation, vermutet, es könne Hunderte oder Tausende ähnliche Fälle geben. Was der Vorfall zweifelsfrei belegt, ist die Verschärfung des Dilemmas zwischen Datenschutz und Bekämpfung der Kinderpornografie: Einerseits führte nicht zuletzt die Pandemie zu einem Aufschwung der Telemedizin. Zum anderen fahren die Techkonzerne ihre Massnahmen gegen die Kinderpornografie weiter hoch. Apple hat im August 2021 einen Scanner angekündigt, der Missbrauchsbilder auf dem iPhone erkennen soll, der bislang noch nicht eingeführt ist.

Die Techkonzerne betreiben den Kampf gegen die Kinderpornografie wegen gesetzlicher Verpflichtung, aber es scheint ihnen auch ein echtes Anliegen zu sein. Doch sie tragen bislang der Abhängigkeit ihrer Nutzerschaft zu wenig Rechnung, die durch eine Sperrung massiv tangiert werden. Für Nutzerinnen und Nutzer ist es so schwierig bis unmöglich, Missverständnisse aufzuklären oder auch nur den Grund einer Sperre herauszufinden.

Das gilt auch ausserhalb den USA, auch für Nutzer in der Schweiz. Vor zwei Jahren wurden einige Fälle von Microsoft-Kunden publik, denen ohne weitere Angaben der Zugang blockiert worden ist. Bei ihnen verdichteten sich die Anzeichen, dass freizügige Fotos die Ursache waren – und zwar solche, die weder gesetzlich verboten sind noch mit gängigen Moralvorstellungen kollidieren. Denn Microsofts Servicevertrag zählt generell «Nacktdarstellungen» zu den unangemessenen Inhalten.

Wie man sich schützen kann

Die Techkonzerne sollten unbürokratische Methoden etablieren, mit denen Betroffene wie Mark sich auch digital rehabilitieren können, nachdem ihre Unschuld polizeilich erwiesen worden ist. Bis dahin lohnt es sich für Userinnen und User, Vorkehrungen zu treffen:

• Seien Sie sich bewusst, dass Fotos und Dokumente, die in die Cloud hochgeladen werden, überprüft werden. Auch Marks Bilder gelangten via die Back-up-Funktion zu Google. Intime Fotos, auch zu medizinischem Zweck, halten Sie von der Cloud fern: Fotografieren Sie mit einer nicht vernetzten Kamera und übermitteln Sie die Bilder auf einem Kanal, der Ende-zu-Ende-Verschlüsselung anwendet (z.B. Threema oder Signal), da nur der Empfänger auf sie zugreifen kann.
• Halten Sie wichtige Dokumente auch lokal auf einer eigenen Festplatte gespeichert: So verlieren Sie nicht den Zugang, selbst wenn Ihnen der Cloud-Zugang abhandenkommen sollte – das kann auch aus anderen Gründen passieren, namentlich bei Identitätsdiebstahl.
• Verteilen Sie das Risiko, sprich: Verwenden Sie nicht nur einen einzigen Anbieter für Cloud-Daten, sondern halten Sie sich Ausweichmöglichkeiten offen.

Verlor den Zugang zu E-Mail, Mobilfunk und Kontakten: Vater Mark mit seinem Sohn. Foto: Aaron Wojack, The New York Times

Die Techkonzerne tragen der Abhängigkeit ihrer Nutzerschaft zu wenig Rechnung.