La prochaine mise à jour importante de l’IA de ChatGPT arrivera plus tard que prévu. En effet, OpenAI confirme dans une note mise à jour vendredi qu’il a suspendu le développement de ses modèles d’IA les plus puissants. “Toutes les activités d’entraînement, d’évaluation et d’inférence avec utilisation d’outils (au sens large) de nos modèles les plus performants restent suspendues”, confirme l’entreprise, dans l’un des rapports sur les “désalignements” de ses IA.
Le créateur de ChatGPT fait une pause, mais n’abandonne pas ces modèles. Selon Associated Press, OpenAI explique dans une déclaration qu’il ne reprendra l’entraînement que lorsqu’il sera certain d’avoir des mesures de sécurité supplémentaires. Sinon, l’entreprise a également prévenu qu’il pourrait devoir faire d’autres pauses similaires au fur et à mesure que la technologie se développe.
Les incidents se multiplient et touchent des gouvernements
Alors que le piratage de Hugging Face par l’IA d’OpenAI, lors d’une évaluation, était déjà préoccupant, de nouveaux incidents sont révélés. Et certains touchent des gouvernements. Par exemple, on a appris récemment qu’au mois de juin, des modèles d’OpenAI ont piraté un site du gouvernement australien, juste pour trouver des réponses et des statistiques dont ils avaient besoin pour répondre à une requête.
Et, d’après le New York Times, OpenAI a également confirmé des incidents qui touchent le département américain du Commerce, ainsi que le gendarme de la Bourse, tandis qu’une enquête est toujours en cours sur un incident qui pourrait toucher le département américain de l’Éducation. OpenAI aurait néanmoins précisé au NYT que sur ces incidents, il n’y a pas eu de violation de données. Cependant, celui-ci admet que sa technologie a eu des comportements inattendus.
En tout cas, ces révélations amplifient la crainte qu’au fur et à mesure que l’intelligence artificielle se développe, celle-ci devient hors de contrôle. Par ailleurs, on rappelle que, comme Anthropic, OpenAI a déjà demandé au gouvernement d’intervenir pour que soit mis en place un ralentissement du développement de l’intelligence artificielle au niveau international (donc, une coopération avec la Chine). Le but ne serait pas de plafonner les performances de l’intelligence artificielle, mais de donner le temps à l’industrie de développer les mesures de sécurité appropriées pour encadrer la technologie.