Trois sites permettant aux utilisateurs de générer du contenu pédopornographique à l’aide de l’intelligence artificielle ont été bloqués en Australie, a annoncé jeudi l’agence régulant internet dans le pays. L’agence du gouvernement australien pour la sécurité électronique (eSafety Commissioner) a déclaré que ces pages web avaient reçu plus de 100 000 visites d’internautes localisés en Australie. Selon l’organisme, ces sites sont liés à des affaires déjà médiatisées de contenu pédopornographique généré par l’IA, mettant en scène des écoliers notamment.

La commissaire à la sécurité en ligne, Julie Inman Grant, a expliqué que le site web "n’avait pas mis en place de mesures de protection pour empêcher que ses services soient utilisés pour créer du matériel pédopornographique" et commercialisait des fonctionnalités permettant aux utilisateurs de déshabiller "n’importe quelle fille". "Avec le blocage de l’accès à ce fournisseur majeur […], nous pensons qu’il y aura un impact tangible sur le nombre d’écoliers australiens victimes d’exploitation sexuelle générée par l’IA", a-t-elle ajouté.

Nouvelle législation

Les pages étaient administrées par la société Itai Tech, condamnée la semaine dernière à une amende par le régulateur britannique Ofcom, pour ne pas avoir mis en place de mesures de vérification de l’âge des utilisateurs, a appris l’AFP. Itai Tech a reçu un avertissement officiel de la part d’eSafety en septembre, et a été menacée d’une amende pouvant atteindre 49,5 millions de dollars australiens (près de 28 millions d’euros) pour des fonctionnalités "alarmantes" clairement destinées aux enfants.

Le gouvernement australien avait indiqué plus tôt travailler à l’élaboration d’une nouvelle législation contre les contenus pornographiques générés par l’IA, et le harcèlement en ligne, sans toutefois fournir de calendrier.

Il va par ailleurs, à partir du 10 décembre, obliger une liste de plateformes telles que Facebook, Instagram et TikTok, à supprimer les utilisateurs de moins de 16 ans [1], sous peine d’amende. Meta va devancer la mesure en excluant les Australiens de moins de 16 ans de Facebook et d’Instagram à partir du 4 décembre [2], six jours avant l’entrée en application de cette loi.