"Il n’y a pas de place pour les applications et les technologies qui sont utilisées uniquement pour abuser, humilier et nuire aux personnes, en particulier à nos enfants", a déclaré la ministre australienne de la Communication, Anika Wells, mardi 2 septembre. Le gouvernement australien a annoncé vouloir obliger les géants de la technologie à empêcher l’utilisation d’outils visant à créer et diffuser des images ou vidéos pornographiques truquées.
Anika Wells a précisé que le gouvernement utiliserait "tous les leviers" possibles afin de restreindre l’accès aux applications permettant ce harcèlement, en imposant aux géants du numérique de les bloquer. "Bien que cette mesure ne résoudra pas d’un seul coup le problème des technologies abusives, elle aura, parallèlement aux lois existantes et à nos réformes de pointe en matière de sécurité en ligne, un impact réel sur la protection des Australiens", a-t-elle ajouté.
Le gouvernement australien a indiqué travailler à l’élaboration d’une nouvelle législation contre les contenus pornographiques générés par IA, et le harcèlement en ligne, sans toutefois fournir de calendrier. Un sondage récent de l’ONG Save the Children a démontré qu’un jeune sur cinq en Espagne avait été victime de fausses photos dénudées.
Des procureurs espagnols ont indiqué cette année qu’ils enquêtaient sur trois mineurs de la ville de Puertollano (centre), qui auraient visé leurs camarades de classe et leurs professeurs avec du contenu pornographique généré par IA qu’ils distribuaient dans leur école. Au Royaume-Uni, le gouvernement a adopté cette année une loi criminalisant la création de "deepfakes" à caractère sexuellement explicite, les auteurs risquant jusqu’à deux ans de prison.
En mai, les États-Unis ont adopté une loi contre la diffusion de deepfakes et le "revenge porn" – la publication d’images à caractère sexuel par vengeance, souvent après une rupture. En juillet, des centaines d’images obscènes générées par IA à partir de photos d’une vingtaine d’étudiantes ont été découvertes sur l’ordinateur d’un élève de l’université de Hong Kong.
Le groupe Meta (Facebook, Instagram, WhatsApp) a également annoncé avoir engagé une action en justice contre une entreprise hongkongaise derrière l’application de déshabillage "Crush AI", qui, selon lui, contournerait ses règles pour poster des publicités sur ses plateformes. Mais malgré les mesures prises, les chercheurs estiment que ces applications utilisant l’IA sont résilientes.