Le directeur de la stratégie d’OpenAI, Jason Kwon, a été auditionné à Sydney par une commission parlementaire spéciale pour l’intelligence artificielle. "Je tiens tout d’abord à présenter mes excuses", a déclaré Jason Kwon.

Un agent autonome d’OpenAI a infiltré en juin le site du service de statistiques de la santé australien. Il avait pu accéder à différents fichiers, publics ou non.

Le modèle en question était une IA interne à OpenAI, qui n’avait pas vocation à être commercialisée. Ses évaluateurs l’avaient libérée de ses garde-fous pour mieux jauger ses capacités réelles en matière de cybersécurité.

OpenAI a reconnu que son produit avait ciblé quatre plateformes gouvernementales australiennes, et a affirmé s’en être aperçu en août. "Au cours de la formation et de l’évaluation internes, nos modèles ont accédé à des sites web du gouvernement australien d’une manière qui ne leur avait pas été demandée. Cela n’aurait pas dû se produire. Nous aurions également dû mieux gérer notre réaction", a-t-il déroulé.

"Nous avons du travail pour rétablir la confiance"

Le Premier ministre australien Anthony Albanese avait reproché à l’entreprise de n’avoir alerté le gouvernement qu’en septembre, en envoyant un email décrivant l’incident à une adresse générique destinée au grand public, où le courrier n’est relevé qu’une fois par jour.

"Nous sommes désolés. Nous savons que nous avons du travail à faire pour rétablir la confiance du peuple australien. Nous nous engageons à mener à bien cette tâche", s’est excusé Jason Kwon.

Avec un immense potentiel en énergies renouvelables et de vastes étendues de terres inhabitées, l’Australie s’est présentée comme un site de choix pour les centres de données nécessaires au fonctionnement de l’IA.

OpenAI participe à la construction d’un immense centre de données dans la banlieue de Sydney. Mais les entreprises spécialisées dans l’IA font également face à une opposition locale croissante, car de nombreux Australiens s’interrogent sur leur éthique et sur l’empreinte environnementale de leurs centres de données, très gourmands en énergie.