Des outils destinés à mieux détecter les images pédopornographiques sur ses appareils (Mac, Iphone, Ipad) et services iCloud ? C’est ce que souhaite mettre en place Apple d’ici la fin de l’année aux Etats-Unis. Ce dispositif sera enclenché lors d’une mise à jour des logiciels utilisés par les appareils Apple.
Scanner et analyser les photos téléchargées
Le principe des nouveaux outils sera de scanner et de comparer certaines images de l’utilisateur avec celles du fichier géré par le Centre national des enfants disparus et exploités (NCMEC) grâce à des outils de cryptographie et d’intelligence artificielle. Cet outil intelligent appelé « neuralHash » pourra donc détecter si des photos semblent similaires à des contenus pédopornographiques, et le cas échéant, désactiver le compte et transmettre une alerte à un opérateur puis au NCMEC. Mais Apple explique que ce dispositif ne sera possible que si l’utilisateur active sa sauvegarde dans le Cloud. D’autres outils comme l’analyse de photos reçues par des enfants dont le compte est lié à un abonnement familial iMessage ainsi que l’intervention vocale de Siri en cas de recherche d’images pédopornographiques sur Internet seront mis en place.
Des outils qui font polémique
Mais ces nouveaux dispositifs intelligents n’ont pas manqué de faire réagir les défenseurs de la vie privée, ainsi que les concurrents d’Apple, qui craignent un détournement des outils.Le patron de WhatsApp, Will Cathcart, craint lui que cet outil ne soit utilisé comme « un système de surveillance qui pourrait très facilement être utilisé pour analyser le contenu privé à la recherche de tout ce qu’ils ou un gouvernement décident de contrôler », à des fins de surveillance politique. Le PDG d’Epic Games, le concepteur de jeux vidéo et de Fortnite, a déclaré que selon lui «il s’agit d’un logiciel espion gouvernemental installé par Apple sur la base d’une présomption de culpabilité […] Sa fonction est d’analyser les données personnelles et de les signaler au gouvernement », concluant qu’il s’agit avant tout« des données privées des gens ».