Un experimento diseñado para poner a prueba las capacidades de seguridad de la inteligencia artificial terminó con Gemini accediendo a sistemas pertenecientes a empresas reales. Google confirmó los incidentes, que ocurrieron en mayo de 2026 durante una evaluación realizada por la compañía especializada Irregular.
Una prueba de ciberseguridad con inteligencia artificial tuvo un resultado inesperado cuando un modelo de Gemini consiguió conectarse a sistemas que estaban fuera del escenario simulado.
El ejercicio había sido diseñado para que el modelo trabajara con compañías ficticias dentro de un entorno controlado. Sin embargo, el sistema de evaluación tenía acceso a internet de manera accidental, lo que permitió que Gemini encontrara información correspondiente a organizaciones reales.
El modelo encontró puertas de entrada que no estaban previstas
De acuerdo con la información proporcionada por Google, Gemini utilizó información disponible en internet y credenciales que logró obtener durante la prueba.
En uno de los casos, el modelo consiguió entrar a un sistema protegido después de probar contraseñas. En otros dos episodios, encontró credenciales almacenadas en repositorios públicos y las utilizó para acceder a sistemas reales.
Las tres organizaciones afectadas no fueron identificadas públicamente.
El problema estuvo relacionado, en parte, con la configuración del ejercicio. El entorno debía mantenerse aislado de internet, pero esa restricción no funcionó como estaba previsto. Además, una de las empresas ficticias utilizadas en la prueba compartía nombre con una compañía existente.
Gemini detuvo sus acciones
Aunque el modelo consiguió llegar a infraestructura real, Google señaló que Gemini interrumpió su actividad en los tres episodios.
La compañía explicó que el sistema había interpretado inicialmente que los sitios a los que estaba accediendo formaban parte de la evaluación. Una vez que reconoció que se trataba de organizaciones reales, dejó de continuar con las acciones.
Google también informó que las empresas involucradas fueron notificadas sobre lo sucedido.
Hasta ahora no se ha informado de daños provocados a las compañías ni de que se haya producido una extracción de información como consecuencia de estos incidentes. Tampoco se han divulgado públicamente los nombres de las organizaciones ni el alcance exacto de cada acceso.
Un problema de configuración, no un ataque planeado contra empresas
Google ha presentado el episodio principalmente como un problema ocurrido durante una evaluación de seguridad y no como una acción deliberada dirigida contra compañías específicas.
La empresa Irregular, encargada de realizar las pruebas, confirmó que existieron problemas en el entorno de evaluación y señaló que las cuestiones conocidas relacionadas con sus procesos fueron corregidas posteriormente.
El caso, sin embargo, muestra un desafío cada vez más relevante: los modelos de inteligencia artificial capaces de realizar tareas de manera autónoma pueden interactuar con sistemas externos si cuentan con las herramientas y los permisos necesarios.
Por ello, mantener separados los entornos de prueba de los sistemas reales resulta especialmente importante durante este tipo de evaluaciones.
No fue un caso aislado dentro de las pruebas de IA
Los incidentes de Gemini forman parte de una serie de situaciones similares descubiertas durante evaluaciones de seguridad realizadas por diferentes laboratorios de inteligencia artificial.
Irregular también participó en pruebas relacionadas con modelos de otras compañías tecnológicas. En algunos de esos ejercicios se produjeron accesos no previstos a sistemas reales debido a problemas en los entornos de prueba.
La diferencia importante es que estos acontecimientos ocurrieron dentro de evaluaciones destinadas precisamente a estudiar las capacidades de los modelos y sus posibles riesgos.
¿Qué demuestra el caso?
El episodio no significa que Gemini pueda entrar libremente en cualquier empresa conectada a internet. Lo que demuestra es que, en un entorno de prueba con acceso accidental a la red y determinadas herramientas disponibles, el modelo fue capaz de realizar acciones que terminaron alcanzando sistemas fuera del escenario previsto.
Para Google, el incidente refuerza la necesidad de establecer controles más estrictos durante las evaluaciones de modelos avanzados.
La compañía señaló que trabajó con Irregular para modificar los procedimientos de las pruebas después de los incidentes.
El caso de Gemini se suma así a una discusión cada vez más amplia sobre cómo probar sistemas de inteligencia artificial con capacidades autónomas sin poner en riesgo infraestructura o información perteneciente a terceros.