"Cette décision envoie un message fort sur les conséquences encourues par toute personne qui commet des abus liés aux images deepfakes", a déclaré le bureau de la commissaire à la sécurité en ligne du pays, Julie Inman Grant, exhortant toutes les potentielles victimes de ces deepfakes à se signaler.

Une victime s’est sentie "violée, vulnérable et complètement impuissante"

Anthony Rotondo (également connu sous le nom d’Antonio Rotondo) a reconnu devant le tribunal avoir publié des vidéos truquées grâces l’intelligence artificielle et à caractère pornographique, a indiqué cette même autorité, qui avait engagé des poursuites contre lui. L’homme a ainsi été condamné au versement d’une amende de près de 24 millions de francs et le site sur lequel ont été diffusées les vidéos est désormais fermé, selon l’autorité.

Pour protéger leur vie privée et en vertu d’une décision de justice, les noms des femmes victimes n’ont pas été révélés. D’après la chaîne nationale ABC, l’une d’elles a déclaré au tribunal s’être sentie "violée, vulnérable et complètement impuissante".

L’autorité de régulation en ligne "reste profondément préoccupée par la création et le partage non consentis d’images deepfake explicites qui peuvent causer une détresse psychologique et émotionnelle importante", a-t-elle ajouté.

Des outils d’IA permettant de supprimer les vêtements

Les outils d’intelligence artificielle qui suppriment numériquement les vêtements sans le consentement de la victime ont explosé sur Internet. L’Australie est l’un des pays pionniers en matière de régulation : le Parlement a adopté fin 2024 une loi interdisant les réseaux sociaux tels que TikTok, X, Facebook ou encore Instagram aux moins de 16 ans. Sans toutefois préciser les modalités de ce contrôle qui doit s’appliquer à la fin de l’année.

L’autorité de régulation a également introduit un certain nombre de règles devant entrer en vigueur dans les prochains mois afin de protéger les enfants contre les contenus "légaux mais affreux", notamment la pornographie en ligne et les chatbots IA, logiciels simulant un dialogue avec l’internaute, et donc capables de tenir des conversations sexuellement explicites.