Lors d’un test de cybersécurité mené en mai 2026, Gemini a accédé aux systèmes de trois entreprises réelles qui ne faisaient pas partie du scénario prévu. L’incident pose une question désormais centrale : qui répond des actes d’un agent autonome lorsque les frontières techniques du test ne suffisent plus à le contenir ?

Le test, conduit par la société indépendante Irregular, devait évaluer les capacités offensives du modèle de Google dans un environnement contrôlé. Mais cet environnement disposait d’un accès à Internet qui, selon l’évaluateur, n’aurait pas dû être disponible.

Dans un premier cas, l’entreprise fictive utilisée pour l’exercice portait le même nom qu’une société réelle. Gemini a recherché des informations en ligne et deviné un mot de passe lui permettant d’accéder à un véritable système protégé.

Dans deux autres cas, le modèle a trouvé des identifiants présents dans des dépôts publics avant de les utiliser pour entrer dans les systèmes de deux entreprises.

Le point critique tient moins à une IA devenue « incontrôlable » qu’à la combinaison entre autonomie et périmètre mal isolé. Gemini exécutait les opérations que le test cherchait précisément à évaluer, mais sur des cibles réelles qu’il croyait incluses dans l’exercice.

Google affirme que le modèle s’est arrêté dans les trois cas lorsqu’il a compris qu’il avait atteint de véritables entreprises. Le groupe dit également avoir prévenu les entités concernées et adapté ses procédures avec Irregular. Il assure qu’aucun dommage n’a été causé, une affirmation qui n’est pas vérifiable indépendamment avec les éléments publics disponibles.

L’incident déplace donc le débat sur la sécurité des agents IA. Les garde-fous ne peuvent plus porter uniquement sur les réponses du modèle : ils doivent aussi encadrer strictement ses outils, ses accès réseau et les systèmes qu’il est autorisé à cibler.

Des incidents comparables ont également été signalés lors d’évaluations impliquant Meta, Anthropic et OpenAI. Pour les entreprises qui développent ou testent ces agents, le risque devient organisationnel autant que technologique : plus une IA peut agir seule, plus son environnement doit définir des frontières impossibles à confondre avec le monde réel.