Meta rétracte enfin qui utilise l’IA pour générer des images nues et explicites non consensuelles de célébrités, d’influenceurs et d’autres. La société poursuit un fabricant d’applications qui a souvent annoncé ces applications sur Facebook et Instagram, et prend de nouvelles mesures pour empêcher les annonces de services similaires.
La répression survient des mois après que plusieurs chercheurs et journalistes ont soulevé l’alarme sur ces applications. Un récent de CBS News Identifié au moins “des centaines” d’annonces sur la plate-forme de Meta pour promouvoir les applications qui permettent aux utilisateurs de “supprimer les vêtements” des images de célébrités et d’autres. Une application en particulier, appelée Crush IA, a apparemment été un annonceur prolifique sur Facebook et Instagram. Le chercheur Alexios Mantzarlis, directeur de l’initiative de sécurité, de confiance et de sécurité de Cornell Tech, a rapporté en janvier que Crush AI avait dirigé sur Facebook et Instagram depuis l’automne dernier.
Maintenant, Meta dit avoir déposé une plainte contre Joy Timeline HK Limited, la société basée à Hong Kong derrière Crush AI et d’autres applications Nudify. “Cela suit plusieurs tentatives de Joy Timeline HK limité pour contourner le processus d’examen des publicités de META et continuer à placer ces annonces, après avoir été supprimées à plusieurs reprises pour avoir enfreint nos règles”, a écrit la société dans un article de blog. Joy Timeline HK Limited n’a pas immédiatement répondu à une demande de commentaires.
Meta dit également qu’il prend de nouvelles mesures pour empêcher des applications comme celles-ci de faire de la publicité sur sa plate-forme. “Nous avons développé de nouvelles technologies spécialement conçues pour identifier ces types d’annonces – même lorsque les publicités elles-mêmes n’incluent pas la nudité – et utilisent une technologie de correspondance pour nous aider à trouver et à supprimer les publicités de copie plus rapidement”, a écrit Meta. “Nous avons travaillé avec des experts externes et nos propres équipes spécialisées pour étendre la liste des termes, phrases et emojis liés à la sécurité que nos systèmes sont formés pour détecter ces annonces.” Le réseau social affirme qu’il prévoit également de travailler avec d’autres plateformes technologiques, y compris les propriétaires d’App Store, pour partager des détails pertinents sur les entités qui abusent de sa plate-forme.
Les applications Nudify ne sont pas les seules entités à avoir exploité la plate-forme publicitaire de Meta à diffuser des publicités avec des fesses de célébrités. Meta a également eu du mal à contenir des annonceurs ombragés qui utilisent une vidéo gérée par l’IA de figures publiques. Le conseil de surveillance indépendant de la société, qui pèse sur les problèmes de modération du contenu affectant Facebook et Instagram, a récemment critiqué Meta ses règles interdisant ces annonces.
