C'est dans le cadre d'une consultation médicale à distance que ce père de famille a été amené à envoyer des photos des parties génitales de son fils à un docteur. Les faits remontent à février 2021. Nous sommes en pleine crise Covid et les consultations en visio sont de plus en plus sollicitées. Ayant décelé une possible infection des parties génitales de leur nourrisson, Mark et son épouse décident donc d'envoyer des photos à leur médecin via une messagerie dédiée au système de santé.
L'enfant est rapidement guéri, mais les photos ont été détectées par Google. Deux jours après l'envoi des photos, Mark voit son compte Google être supprimé, rapporte le New York Times. Dans l'email avertissant le père, Google fait référence à des "contenus offensants", représentant une "violation sévère de la politique de Google et pouvant être illégaux". Dans ce message, une liste de potentielles raisons est détaillée, parmi lesquelles des "abus sexuels et exploitation d'enfants".
Banni de Google
Les services de Google disposent, en effet, d'un système de détection de photos pouvant repérer les photos à caractère pédopornographique. Automatiquement, un signalement est également envoyé aux autorités. Mark a donc fait l'objet d'une enquête de police. Heureusement, l'agent dédié à son cas lui affirme après vérification que l'affaire est close, aucun crime n'ayant été identifié. Mais il a été en revanche impossible de faire entendre raison à Google. Le père de famille a perdu tous ses emails, les coordonnées de ses contacts, mais également les photos des premiers moments de son fils. Il a bien émis une demande de réactivation auprès de Google, mais elle s'est soldée par un refus "sans explication" de la part du géant du numérique.
En 2021, l'outil de détection a signalé plus de 600.000 images liées à des contenus pédopornographiques, supprimant dans le même temps 270.000 comptes d'utilisateurs. Mais sans supervision humaine, les erreurs peuvent arriver.