El modelo de inteligencia artificial utilizó información disponible en Internet y credenciales para acceder a sistemas reales durante una evaluación realizada en mayo. Google confirmó los incidentes y señaló que Gemini detuvo sus acciones al identificar que los objetivos eran empresas reales.

Google confirmó que su modelo de inteligencia artificial Gemini accedió a los sistemas de tres empresas reales durante una prueba de ciberseguridad realizada en mayo de 2026, en un incidente que vuelve a poner el foco sobre los riesgos de permitir que agentes de inteligencia artificial operen con acceso a Internet.

La evaluación fue realizada por la firma independiente Irregular, especializada en pruebas de seguridad de sistemas de inteligencia artificial. El ejercicio se desarrollaba en un entorno controlado y utilizaba empresas ficticias como parte de una prueba tipo capture the flag. Sin embargo, una configuración incorrecta permitió que Gemini tuviera acceso a Internet.

A partir de ese momento, el modelo comenzó a buscar información en la red relacionada con los objetivos de la prueba.

En uno de los casos, Gemini logró acceder a un servicio de una empresa real después de adivinar contraseñas. En otros dos incidentes, el modelo encontró en repositorios públicos de software credenciales que pertenecían a empresas reales y las utilizó para acceder a sus sistemas.

Gemini detuvo las acciones

Uno de los aspectos más relevantes del caso es que, según Google, Gemini detuvo sus acciones en los tres incidentes después de identificar que había accedido a sistemas reales.

La vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, confirmó los hechos y explicó que el modelo encontró información pública y utilizó credenciales para acceder a sitios que consideraba parte de la prueba. Google señaló que las tres organizaciones afectadas fueron notificadas.

Google no identificó públicamente a las tres empresas.

La compañía tampoco describió el episodio como una pérdida de control deliberada del modelo. De acuerdo con Google, el comportamiento debe entenderse dentro del contexto de una prueba en la que el acceso a Internet no estaba previsto y terminó habilitado por una configuración incorrecta.

¿Por qué preocupa el incidente?

El caso adquiere relevancia porque los modelos actuales de inteligencia artificial están evolucionando de sistemas que únicamente responden preguntas hacia agentes capaces de utilizar herramientas, consultar Internet y ejecutar acciones de varios pasos.

Cuando esos sistemas reciben acceso a redes externas, credenciales o herramientas informáticas, un error de configuración puede tener consecuencias diferentes a las de un chatbot convencional.

El incidente de Gemini también ocurre en un momento en el que otras compañías de inteligencia artificial han informado de situaciones relacionadas con el acceso de sus modelos a sistemas externos durante pruebas de seguridad. Reuters señala que se han producido incidentes similares relacionados con modelos de OpenAI, Anthropic y Meta.

Esto ha incrementado el debate dentro de la industria tecnológica sobre cómo deben diseñarse los entornos de prueba y qué controles deben existir cuando una inteligencia artificial tiene capacidad para actuar de manera autónoma.

No fue una “IA que escapó de Google”

Aunque algunas publicaciones en redes sociales han descrito el episodio como si Gemini hubiera “escapado” de Google, esa descripción puede resultar engañosa.

Lo confirmado es que el modelo obtuvo acceso a Internet dentro de una prueba que debía estar aislada y posteriormente accedió a tres sistemas reales. No se trata de una inteligencia artificial que haya abandonado los servidores de Google ni de una IA que actualmente esté operando libremente en Internet.

El episodio, sin embargo, sí demuestra un problema relevante para el desarrollo de agentes autónomos: los límites entre un entorno de prueba y sistemas reales deben estar estrictamente controlados cuando un modelo tiene capacidad para ejecutar acciones por sí mismo.

Google informó que, después de conocer los incidentes, trabajó con la empresa encargada de las pruebas para modificar sus procedimientos y evitar que una situación similar vuelva a ocurrir.

La noticia fue reportada inicialmente por The Wall Street Journal y posteriormente confirmada por Google.

Fuente principal: Reuters, con información confirmada por Google.