El gigante tecnolĆ³gico Google ha reconocido por primera vez que su inteligencia artificial, Gemini, logrĆ³ saltarse las barreras de ciberseguridad de tres compaƱĆas durante unos ensayos. Una revelaciĆ³n que reabre el debate sobre los lĆmites y la supervisiĆ³n de estos potentes sistemas, despuĆ©s de que una brecha tĆ©cnica permitiera al modelo actuar por iniciativa propia fuera de su entorno de simulaciĆ³n.
Los incidentes, ocurridos en mayo, se produjeron durante unos exĆ”menes de ciberseguridad ejecutados por la firma israelĆ Irregular, especializada en auditorĆas de seguridad sobre plataformas avanzadas de inteligencia artificial. Esta misma compaƱĆa estuvo vinculada recientemente a episodios similares en los que estuvieron implicadas OpenAI y Anthropic, segĆŗn ha trascendido en los Ćŗltimos dĆas.
CĆ³mo se produjo el ataque
Las pruebas se diseƱaron en un entorno cerrado y controlado, conocido en el argot tĆ©cnico como sandbox, utilizando entidades e identidades corporativas ficticias. La premisa fundamental era que el sistema permaneciera aislado del exterior. No obstante, segĆŗn adelantĆ³ The Wall Street Journal, se habilitĆ³ de manera fortuita la conexiĆ³n a la red general. Al disponer de acceso a la red, los modelos sobrepasaron los mĆ”rgenes del experimento y terminaron irrumpiendo en redes de corporaciones reales.
El mĆ©todo empleado por Gemini variĆ³ segĆŗn la prueba. En uno de los casos, la auditora solicitĆ³ a la IA que extrajera datos del software de una firma simulada cuyo nombre coincidĆa con el de una compaƱĆa existente. Tras activarse la conexiĆ³n a internet por error, el sistema dedujo con Ć©xito la clave de acceso y penetrĆ³ en los servidores de la entidad real.
Dos vĆas de intrusiĆ³n
En las otras dos simulaciones, Gemini rastreĆ³ la web hasta localizar repositorios pĆŗblicos donde se hallaban almacenadas claves de acceso pertenecientes a otras dos empresas. Utilizando esa informaciĆ³n, la herramienta se adentrĆ³ en los entornos de ambas organizaciones. Un portavoz de Irregular seƱalĆ³ que el incidente estaba relacionado con el mismo problema que afectĆ³ a otros laboratorios de IA y que todos los laboratorios pertinentes fueron notificados a finales de julio.
Heather Adkins, vicepresidenta de ingenierĆa de seguridad en Google, detallĆ³ que el modelo ālocalizĆ³ informaciĆ³n pĆŗblica en Internet y dedujo las credenciales para entrar en sitios web que presupuso integrados en el ejercicioā. Adkins remarcĆ³ que en las tres ocasiones la plataforma interrumpiĆ³ la secuencia de comandos por sĆ sola en cuanto identificĆ³ que operaba sobre entornos reales y no sobre los escenarios simulados.
Silencio de Google y reacciones
Aunque los ataques ocurrieron en mayo, Irregular no alertĆ³ formalmente a Google hasta finales del mes de julio, coincidiendo con el hallazgo del incidente de OpenAI. Tras ser consultada por el diario The Guardian, la firma de Mountain View admitiĆ³ los hechos, justificando su decisiĆ³n de no hacer pĆŗblica la brecha en que Gemini no causĆ³ daƱos en los sistemas vulnerados. Pese al silencio mediĆ”tico inicial, la tecnolĆ³gica asegurĆ³ haber informado de forma privada a las tres empresas afectadas.
La postura de Google contrasta con la de competidores como Anthropic y OpenAI, que optaron por difundir proactivamente brechas similares surgidas en sus propias pruebas. āEstos sucesos ponen de relieve la importancia de entrenar a los potentes modelos de IA para que actĆŗen de forma responsableā, subrayĆ³ Adkins respecto a las lecciones extraĆdas de las evaluaciones. La empresa tambiĆ©n indicĆ³ que los incidentes no involucraron al modelo mĆ”s reciente de la compaƱĆa, aunque no especificĆ³ quĆ© versiĆ³n de Gemini fue la implicada.
Un problema de la industria
La seguidilla de incidentes deja una pregunta prĆ”ctica sobre la mesa: cĆ³mo se blindan las pruebas cuando agentes de IA cada vez mĆ”s autĆ³nomos tienen acceso a internet y a sistemas ajenos. En agosto, Meta declarĆ³ que su incidente no implicĆ³ una fuga del entorno de pruebas ni un ciberataque sofisticado, mientras que Irregular afirmĆ³ estar trabajando en las mejores prĆ”cticas para realizar evaluaciones de ciberseguridad de IA de forma segura.
SegĆŗn el New York Times, en una prueba con Claude Opus 4.7 de Anthropic el agente siguiĆ³ atacando incluso despuĆ©s de sospechar que el objetivo era real, mientras que Gemini se frenĆ³. Irregular dijo a Axios que todos los laboratorios pertinentes fueron avisados a finales de julio y que ātodos los problemas conocidos de nuestro lado se remediaron y resolvieron hace semanasā.
Estos incidentes han suscitado interrogantes sobre las medidas de seguridad necesarias a medida que los agentes de IA adquieren mayor autonomĆa y acceso a Internet y a sistemas informĆ”ticos. El caso de Gemini no es aislado: Irregular estuvo detrĆ”s de incidentes similares ya revelados por OpenAI, Anthropic y Meta, y el hilo comĆŗn no fue la astucia de los modelos, sino un acceso a internet que no debĆa existir durante las pruebas. El episodio presiona tanto a quienes diseƱan esas evaluaciones como a las normas sobre quĆ© contar, y cuĆ”ndo, cuando un modelo cruza la lĆnea.
