Gemini accedió sin autorización a sistemas de tres empresas reales durante una prueba de ciberseguridad

Google confirmó que uno de sus modelos de inteligencia artificial Gemini accedió sin autorización a sistemas pertenecientes a tres empresas reales durante una evaluación de ciberseguridad realizada en mayo. La prueba, desarrollada junto a la firma especializada Irregular, buscaba medir las capacidades del modelo dentro de un entorno controlado con objetivos ficticios.

El incidente se produjo debido a un error de configuración que dejó habilitada la conexión a internet y rompió la separación entre el escenario de prueba y sistemas externos. En uno de los casos, Gemini confundió una empresa ficticia con una compañía real que tenía el mismo nombre y logró ingresar a un servicio protegido. En otros dos episodios, encontró credenciales expuestas en repositorios públicos y las utilizó para acceder a servicios de otras organizaciones.

Según Google, Gemini interrumpió sus acciones al detectar que había alcanzado sistemas reales que no formaban parte de la evaluación. La compañía aseguró que las tres organizaciones fueron notificadas y que los accesos no provocaron daños. Google tampoco identificó públicamente a las empresas afectadas ni precisó qué información pudo quedar al alcance del modelo.

El caso fue detectado y comunicado a Google por Irregular a fines de julio. La vicepresidenta de Ingeniería de Seguridad de Google, Heather Adkins, sostuvo que en los tres episodios el modelo terminó deteniendo su actividad al reconocer que los destinos estaban fuera del ejercicio. Para la compañía, esta reacción demuestra que las medidas de seguridad incorporadas al sistema funcionaron ante una situación que excedió los límites previstos.

Tras los incidentes, Google e Irregular modificaron los procedimientos utilizados en este tipo de evaluaciones para evitar que futuros ejercicios puedan alcanzar infraestructura externa por errores de configuración. El episodio se suma a otros casos registrados durante pruebas de ciberseguridad con modelos de inteligencia artificial capaces de ejecutar acciones sobre sistemas informáticos y vuelve a poner el foco en la necesidad de establecer barreras efectivas entre los entornos de experimentación y los servicios reales conectados a internet.