De nouveaux incidents de sécurité impliquant un modèle d’intelligence artificielle ont été confirmés, il y a quelques jours. Et, cette fois-ci, c’est Gemini, l’IA de Google, qui est concerné. Ces piratages ont eu lieu au mois de mai et ont été confirmés par Google, selon le Wall Street Journal. Ils ont eu lieu lors d’exercices destinés à évaluer les capacités en cyber des modèles impliqués. Durant les exercices, Gemini devait fonctionner dans un environnement isolé d’internet. Dans cet environnement, l’IA devait chercher une information au sein d’une entreprise cible fictive.
Cependant, un accès à internet était accidentellement disponible pour l’IA, durant cet exercice. Et, de ce fait, celle-ci s’en est prise à une véritable entreprise qui a le même nom que l’entreprise fictive de l’exercice. Dans l’un des cas confirmés, Gemini a réussi à deviner un mot de passe pour accéder au service de l’entreprise réelle. Cependant, l’IA aurait tout arrêté dès que celle-ci a su qu’elle s’attaquait à une véritable entreprise.
Les autres piratages ont eu lieu lors d’autres exécutions de ce test. L’IA de Google a aussi fait des recherches sur le web, puis a trouvé une base de données qui contient des informations de connexion d’autres sociétés. Celui-ci a ensuite testé ces informations de connexion, en pensant qu’elles pourraient lui permettre d’atteindre l’objectif de l’exercice. Mais, là aussi, Gemini aurait tout arrêté quand il a réalisé qu’il s’attaquait à de vraies entreprises.
Pourquoi Google n’a pas signalé publiquement ces incidents ?
Après ces incidents, Google aurait notifié les entreprises accidentellement ciblées par son IA, ainsi que les autorités compétentes. Néanmoins, la firme ne considère pas ces incidents comme étant les résultats d’un dysfonctionnement de ses modèles, étant donné que Gemini a tout arrêté quand il a su que les entreprises ciblées étaient réelles, selon le Wall Street Journal.
“Cet événement souligne l’importance de former des modèles d’IA performants à agir de manière responsable”, a même déclaré Heather Adkins, vice-présidente de l’ingénierie de sécurité chez Google. “Dans ce cas précis, le modèle a réagi de façon appropriée.” Pour la firme, ces incidents sont dus à un environnement de test mal isolé d’internet. D’ailleurs, Irregular, la société qui a fourni cet environnement, s’est aussi exprimée. “Irregular a pris des mesures immédiates, et tous les problèmes connus de notre côté ont été corrigés et résolus il y a plusieurs semaines”, a indiqué un représentant de cette entreprise, selon le WSJ.
Sinon, il est à noter que l’identité des entreprises ciblées accidentellement n’est pas révélée. Et Google n’indique pas quel modèle était utilisé lors de ces exercices.
