Un autre dérapage de l’IA d’OpenAI vient d’être révélé et, cette fois-ci, c’est un site gouvernemental que l’intelligence artificielle a piraté. Le créateur de ChatGPT et le Premier ministre australien, Anthony Albanese, ont tous les deux confirmé qu’une IA a piraté le Medicare Statistics Reporting Portal, un portail du gouvernement qui propose des statistiques sur le système de santé australien.
Fort heureusement, tout porte à croire qu’aucune information personnelle n’a été volée lors de cet incident. Et l’IA n’aurait pas, non plus, eu accès à des données sensibles. Mais, en tout cas, le fait qu’une IA s’attaque à un site de gouvernement, sans qu’on en ait donné l’ordre, est très grave. De son côté, le Premier ministre Anthony Albanese a déjà discuté avec Sam Altman, le patron d’OpenAI, et a exprimé l’extrême inquiétude de l’Australie concernant cet incident. Par ailleurs, une enquête du gouvernement est toujours en cours.
La folle raison de ce piratage
Ce qui est encore plus fou, c’est que l’IA a décidé toute seule de pirater un site de gouvernement, juste pour obtenir des réponses auxquelles celle-ci n’avait pas accès. “Au cours d’une évaluation interne, nous avons constaté une activité impliquant plusieurs sites web et services du gouvernement australien, alors que nos modèles tentaient de rechercher des réponses et des statistiques disponibles concernant l’Australie. Ce faisant, nos modèles ont pris des mesures que nous n’avions pas prévues”, explique le créateur de ChatGPT.
Par ailleurs, alors que l’incident remonte au 18 juin, OpenAI n’était au courant de ce piratage qu’en août, après avoir mené une enquête sur les activités de ses modèles. Et l’entreprise n’a prévenu le gouvernement australien que le 10 septembre, en envoyant un courrier à une adresse e-mail publique du gouvernement.
D’ailleurs, cette notification tardive d’OpenAI est un autre point de tension. Le Premier ministre a indiqué que lors de sa rencontre avec Sam Altman, il a également exprimé sa déception “quant au délai excessif mis par l’entreprise pour informer le gouvernement de ce qui s’était passé, et la manière dont cette notification a été faite”.