Verdacht auf Kinderpornografie
Vater sendet Fotos vom nackten Sohn an Arzt – Google alarmiert die Polizei
Ein Mann gerät in Bedrängnis, weil er zu telemedizinischen Zwecken intime Bilder verschickt. Google erkennt die Aufnahme als missbräuchlich und sperrt ihm das Konto.
Matthias Schüssler
Mark ist Hausmann und Vater eines kleinen Sohnes. An einem Freitag im Februar 2021 klagte sein Kind über eine schmerzhafte Schwellung am Penis. Mit seinem Android-Telefon schoss der US-Amerikaner Fotos, um die Symptome zu dokumentieren. Die Praxisassistentin hatte darum gebeten, damit sie den Fall vorab mit dem Arzt besprechen könne.
Dank Antibiotika setzte beim Buben eine schnelle Heilung ein. Doch für Mark war die Sache nicht ausgestanden.
Zwei Tage später bekam er eine Mitteilung, sein Google-Account sei wegen «schädlicher Inhalte» gesperrt worden. Mit Folgen: Mark hatte sein gesamtes digitales Leben mittels Google organisiert und verlor den Zugang zum E-Mail und zu seinen Kontakten. Nicht nur das: Auch sein Mobilfunkzugang funktionierte nicht mehr, da er mit Google Fi einen Dienst des gleichen Konzerns abonniert hatte.
Google spürt mit maschinellem Lernen verdächtige Bilder auf
Die «New York Times» hat den Fall ausführlich recherchiert und dokumentiert. Gemäss der Zeitung setzt Google seit 2018 ein automatisches System zur Erkennung von Kinderpornografie ein. Die meisten solchen Systeme vergleichen Fotos mit einer Datenbank, in der einschlägige Aufnahmen hinterlegt sind. Doch Googles Verfahren versucht neue Fotos zu ermitteln, indem es mittels maschinellen Lernens die abgebildete Situation interpretiert. Und das scheint im Fall von Mark vor allem bei einem Bild angeschlagen zu haben: Auf dem ist seine Hand zu sehen, die «dabei geholfen hat, die Schwellung besser zu zeigen», wie es im Zeitungsbericht heisst.
Bei solchen begründeten Verdachtsmomenten ist Google durch ein US-Bundesgesetz verpflichtet, weiteres Material zu sichern und Meldung an die zuständige Organisation zu machen, die daraufhin entsprechende Schritte einleitet. Mark erhielt im Dezember 2021 die Mitteilung, das San Francisco Police Departement habe Ermittlungen aufgenommen. Der zuständige Polizist kam zum Schluss, dass kein Verbrechen vorliege und der Fall geschlossen werde. Davon erfuhr Mark nur mit Verzögerung, weil er für die Polizei nicht erreichbar war. Denn mit der Blockierung seines Google-Kontos waren auch die Mail-Adresse und die Telefonnummer nicht mehr in Betrieb.
Trotz Unschuld wird das Konto nicht entsperrt
Die Kontosperre blieb bestehen. Die Polizei konnte Mark nicht helfen, sie aufzuheben, und Mark selbst drang beim Techkonzern nicht durch. Als er von Google die Mitteilung erhielt, seine Daten würden demnächst endgültig gelöscht, prüfte er die juristischen Möglichkeiten. Doch eine Klage hätte Kosten von über 6500 Franken verursacht, woraufhin er darauf verzichtete. Er versucht jetzt, seine Daten von der Polizei zurückzuerhalten.
Ob Marks Geschichte eine Ausnahme ist oder ob es andere Betroffene gibt, ist nicht bekannt. Die Electronic Frontier Foundation, eine Bürgerrechtsorganisation, vermutet, es könne Hunderte oder Tausende ähnliche Fälle geben. Was der Vorfall zweifelsfrei belegt, ist die Verschärfung des Dilemmas zwischen Datenschutz und Bekämpfung der Kinderpornografie: Einerseits hat nicht zuletzt die Pandemie dazu geführt, dass die Telemedizin wichtiger wird. Zum anderen fahren die Techkonzerne ihre Massnahmen gegen die Kinderpornografie weiter hoch. Apple hat im August 2021 einen CSAM-Scanner beim iPhone angekündigt, der Missbrauchsbilder erkennen soll. Eingeführt ist diese Funktion bislang nicht, wohl auch aufgrund der lauten Nutzerproteste.
Die Techkonzerne betreiben den Kampf gegen die Kinderpornografie wegen gesetzlicher Verpflichtung, aber es scheint ihnen auch ein echtes Anliegen zu sein, wie ihr Engagement zeigt, das über die gesetzlichen Vorgaben hinausgeht. Das ist gut gemeint, aber dennoch sollten sie ihre mächtige Position auch kritisch hinterfragen. Die Konzerne können Konten nämlich aufgrund eines Regelwerks lahmlegen, das sie selbst festlegen. Für Nutzerinnen und Nutzer ist es so schwierig bis unmöglich, Missverständnisse aufzuklären oder auch nur herauszufinden, aus welchem Grund eine Blockierung erfolgte.
Das gilt auch ausserhalb den USA, auch für Nutzer in der Schweiz. Vor zwei Jahren wurden einige Fälle von Microsoft-Kunden publik, denen ohne weitere Angaben der Zugang blockiert worden ist. Bei ihnen verdichteten sich die Anzeichen, dass freizügige Fotos die Ursache waren – und zwar solche, die weder gesetzlich verboten sind noch mit gängigen Moralvorstellungen kollidieren. Denn Microsofts Servicevertrag zählt generell «Nackdarstellungen» zu den unangemessenen Inhalten, die sanktioniert werden.
Die Techkonzerne sollten unbürokratische Methoden etablieren, mit denen Betroffene wie Mark sich auch digital rehabilitieren können, nachdem ihre Unschuld polizeilich erwiesen worden ist. Bis dahin lohnt es sich für Userinnen und User, Vorkehrungen zu treffen:
- Seien Sie sich bewusst, dass Fotos und Dokumente, die in die Cloud hochgeladen werden, routinemässig überprüft werden. Auch Marks Bilder gelangten via die Back-up-Funktion seines Android-Telefons zu Google. Intime Fotos, auch zu medizinischem Zweck, halten Sie daher besser von der Cloud fern: Fotografieren Sie mit einer nicht vernetzten Kamera und übermitteln Sie die Bilder auf einem Kanal, der Ende-zu-Ende-Verschlüsselung anwendet, somit kann nur der Empfänger auf sie zugreifen. Der Threema-Messenger und Signal verwenden diese Verschlüsselung etwa.
- Halten Sie wichtige Dokumente auch lokal auf einer eigenen Festplatte gespeichert: So verlieren Sie nicht den Zugang, selbst wenn Ihnen der Cloud-Zugang abhandenkommen sollte – das kann auch aus anderen Gründen passieren, namentlich bei Identitätsdiebstahl.
- Verteilen Sie das Risiko, sprich: Verwenden Sie nicht ausschliesslich einen einzigen Anbieter für Cloud-Daten, sondern halten Sie sich eine Ausweichmöglichkeit offen.
- Verzichten Sie auf die Möglichkeit, sich mithilfe von Google, Facebook, Apple oder Twitter bei Drittdiensten anzumelden. Denn wenn Probleme mit dem Primärkonto auftreten, sind auch die sekundären Dienste betroffen.