L’IA Gemini de Google pirate par erreur trois entreprises lors d’un test de cybersécurité

L’intelligence artificielle Gemini de Google s’est introduite dans les systèmes informatiques de trois entreprises réelles alors qu’elle participait à un test de cybersécurité. Les faits se sont produits en mai 2026, lors d’une évaluation menée par Irregular, une société indépendante chargée de tester les capacités et les limites des modèles d’intelligence artificielle. Révélée vendredi par le Wall Street Journal, l’affaire a été confirmée par Google.

L’objectif de l’exercice était de mesurer la capacité de Gemini à rechercher et exploiter des failles informatiques. L’IA devait s’attaquer uniquement aux systèmes d’une entreprise fictive créée spécialement pour le test, sans toucher à de véritables entreprises.

Le problème est survenu lorsque Gemini a pu accéder à Internet alors que l’exercice devait rester limité aux systèmes prévus pour le test. Une coïncidence a ensuite favorisé la confusion : l’entreprise fictive utilisée pendant l’exercice portait le même nom qu’une société réelle. En recherchant sa cible sur Internet, Gemini s’est donc dirigé vers les véritables systèmes informatiques de cette entreprise, tout en pensant poursuivre la mission qui lui avait été confiée.

Le modèle a essayé plusieurs mots de passe jusqu’à parvenir à accéder à un premier système. Au cours de ses recherches sur Internet, il a également découvert des identifiants permettant d’accéder aux systèmes de deux autres entreprises, puis les a utilisés. Gemini est ainsi parvenu à entrer dans les systèmes informatiques de trois sociétés réelles qui ne faisaient pas partie des cibles prévues par le test.

Gemini s’est arrêté après avoir identifié son erreur

Selon Google, Gemini ne savait pas, au moment de ses premières tentatives, qu’il essayait d’accéder à de véritables entreprises. Heather Adkins, vice-présidente de Google chargée de l’ingénierie de sécurité, a expliqué que le modèle avait trouvé des informations disponibles publiquement sur Internet et utilisé ou deviné des identifiants pour accéder à des sites qu’il croyait autorisé à tester.

Après être parvenu à entrer dans les systèmes concernés, Gemini a constaté qu’il se trouvait face à de véritables entreprises et a interrompu ses actions dans les trois cas, selon Google. Le groupe américain affirme qu’aucun dommage n’a été causé et les noms des sociétés concernées n’ont pas été rendus publics.

Les faits se sont produits en mai, mais Irregular n’en a informé Google qu’à la fin du mois de juillet, plusieurs semaines plus tard, avant que les trois entreprises concernées ne soient à leur tour averties. Google indique avoir ensuite travaillé avec Irregular pour modifier les conditions de ces tests et empêcher les modèles évalués d’accéder à des systèmes qui ne font pas partie de l’exercice.

Une affaire révélée plusieurs mois après les faits

L’affaire n’a été rendue publique qu’en septembre, après des questions adressées à Google par le Wall Street Journal. Le groupe a expliqué au quotidien américain ne pas avoir jugé nécessaire de communiquer plus tôt sur ces incidents, estimant notamment que Gemini avait interrompu ses actions après avoir compris qu’il avait accédé à de véritables entreprises et qu’aucun dommage n’avait été constaté.

De son côté, Irregular affirme avoir corrigé les problèmes qui avaient permis aux modèles testés d’accéder à Internet. La société indique également avoir averti à la fin du mois de juillet les entreprises développant les intelligences artificielles concernées par les problèmes constatés pendant ses évaluations.

Google n’est en effet pas le seul groupe dont les modèles ont rencontré des problèmes pendant les tests réalisés par Irregular. Des incidents impliquant des intelligences artificielles développées par OpenAI, Anthropic et Meta ont également été relevés. Dans le cas de Gemini, il s’agit toutefois du premier incident connu au cours duquel une intelligence artificielle de Google est parvenue à entrer de manière autonome dans les systèmes d’entreprises réelles pendant ce type d’exercice.

Ces tests concernent une nouvelle génération de modèles d’intelligence artificielle capables d’aller plus loin que la simple réponse à une question. Lorsqu’ils disposent des outils nécessaires, certains peuvent effectuer des recherches, consulter des informations, essayer différentes solutions et réaliser successivement plusieurs actions pour accomplir la mission qui leur a été confiée.

Dans cet exercice, Gemini n’avait reçu aucune instruction lui demandant de s’attaquer aux trois entreprises réelles. L’IA devait uniquement tester une entreprise fictive. C’est l’accès à Internet laissé disponible pendant l’exercice, combiné à la confusion entre la société fictive et une entreprise portant le même nom, qui l’a conduite hors du cadre prévu. Irregular affirme avoir depuis corrigé les problèmes de son dispositif, tandis que Google dit avoir revu avec la société les conditions dans lesquelles ces tests sont réalisés.