Le commissaire des enfants à l’Angleterre appelle le gouvernement à interdire les applications qui utilisent l’intelligence artificielle (IA) pour créer des images sexuellement explicites d’enfants.
Dame Rachel de Souza a déclaré qu’une interdiction totale était nécessaire sur les applications qui permettent la “nudification” – où les photos de vraies personnes sont éditées par l’IA pour les faire paraître nues – ou peuvent être utilisées pour créer des images profondes sexuellement explicites d’enfants.
Elle a dit que le gouvernement permettant à ces applications de “ne pas être contrôlées avec des conséquences extrêmes du monde réel”.
Un porte-parole du gouvernement a déclaré que le matériel d’abus sexuel des enfants était illégal et qu’il y avait des plans pour d’autres infractions pour créer, posséder ou distribuer des outils d’IA conçus pour créer un tel contenu.
Deepfakes sont des vidéos, des images ou des clips audio fabriqués avec l’IA pour paraître ou sonner réels.
Dans un rapport publié lundi, Dame Rachel a déclaré que la technologie visait de manière disproportionnée les filles et les jeunes femmes avec de nombreuses applications sur mesure qui semblaient travailler uniquement sur les corps féminins.
Les filles évitent activement de publier des images ou de s’engager en ligne pour réduire le risque d’être ciblé, selon le rapport, “de la même manière que les filles suivent d’autres règles pour se garder en sécurité dans le monde hors ligne – comme ne pas rentrer seul la nuit”.
Les enfants craignaient que “un étranger, un camarade de classe ou même un ami” pourrait les cibler en utilisant des technologies qui pourraient être trouvées sur les plateformes de recherche et de médias sociaux populaires.
Dame Rachel a déclaré: “L’évolution de ces outils se produit à une telle échelle et à une telle vitesse qu’elle peut être écrasante d’essayer d’obtenir une prise sur le danger qu’ils présentent.
“Nous ne pouvons pas nous asseoir et permettre à ces applications AI sur mesure d’avoir une prise aussi dangereuse sur la vie des enfants.”
Dame Rachel a également appelé le gouvernement à:
- Organisez des obligations légales aux développeurs d’outils génératifs d’IA pour identifier et faire face aux risques que leurs produits représentent aux enfants et agir pour atténuer ces risques
- Configurez un processus systémique pour éliminer les images profondes sexuellement explicites d’enfants d’Internet
- Reconnaître les abus sexuels profonds comme une forme de violence contre les femmes et les filles
Paul Whiteman, secrétaire général des chefs de file du syndicat des dirigeants scolaires, a déclaré que les membres partageaient les préoccupations du commissaire.
Il a déclaré: “C’est un domaine qui doit être examiné de toute urgence car la technologie risque de dépasser la loi et l’éducation qui l’entourent.”
Il est illégal en Angleterre et au Pays de Galles en vertu de la loi sur la sécurité en ligne de partager ou de menacer de partager des images Deepfake explicites.
Le gouvernement a annoncé en février des lois pour lutter contre la menace des images d’abus sexuels sur les enfants générées par l’IA, notamment en rendant illégal pour posséder, créer ou distribuer des outils d’IA conçus pour créer un tel matériel.
Il a déclaré à l’époque que l’Internet Watch Foundation – un organisme de bienfaisance basé au Royaume-Uni en partie financé par les entreprises technologiques – avait confirmé 245 rapports de violences sexuelles générées par les enfants en 2024 contre 51 en 2023, soit une augmentation de 380%.
Vendredi, le régulateur des médias a publié la version finale de son code pour enfants, qui met les exigences légales sur les plateformes accueillant la pornographie et le contenu encourageant les troubles de l’automutilation, du suicide ou de l’alimentation, à prendre plus de mesures pour empêcher l’accès des enfants.
Les sites Web doivent introduire des contrôles d’âge renforcés ou faire face à de grandes amendes, a déclaré le régulateur.
Dame Rachel a critiqué le code en disant qu’elle privilégie «les intérêts commerciaux des entreprises technologiques sur la sécurité des enfants».
Un porte-parole du gouvernement a déclaré que la création, la possession ou la distribution d’un matériel d’abus sexuel d’enfants, y compris des images générées par l’IA, est “odieuse et illégale”.
“En vertu des plateformes de la loi sur la sécurité en ligne de toutes tailles, il faut désormais supprimer ce type de contenu, ou ils pourraient faire face à des amendes importantes”, ont-ils ajouté.
“Le Royaume-Uni est le premier pays au monde à introduire d’autres infractions aux abus sexuelles sur les enfants, ce qui rend illégal de posséder, de créer ou de distribuer des outils d’IA conçus pour générer du matériel de maltraitance sexuelle pour enfants odieux.”
