El incidente, revelado meses después de casos similares en OpenAI y Anthropic, reaviva el debate sobre la autorregulación y los riesgos de los sistemas avanzados de IA.
En un hecho que ha encendido las alertas dentro del sector tecnológico, el modelo de inteligencia artificial de Google, conocido como Gemini, logró vulnerar los sistemas informáticos de tres compañías durante una evaluación de sus capacidades en materia de ciberseguridad. Se trata del primer episodio de este tipo que se documenta en el desarrollo de la compañía, y ocurre apenas meses después de que se conocieran incidentes comparables protagonizados por los modelos de OpenAI y Anthropic, dos de las empresas más influyentes en el ámbito de la inteligencia artificial.
La responsable de seguridad de Google, Heather Adkins, explicó que Gemini localizó información disponible públicamente en internet y logró deducir las credenciales necesarias para ingresar a sitios web que, según su percepción, formaban parte de la prueba. En cada uno de los casos, según precisó, el modelo se detuvo. La empresa no reveló los nombres de las tres organizaciones afectadas, aunque aseguró que todas fueron notificadas sobre las filtraciones de datos. En uno de los episodios, el sistema probó distintas combinaciones de contraseñas hasta conseguir acceso a un entorno protegido.
Los ataques habrían tenido lugar durante el mes de mayo, en el marco de una evaluación llevada a cabo por Irregular, una firma independiente especializada en pruebas de ciberseguridad, según informó la cadena británica BBC. La compañía comunicó lo sucedido a Google y a las entidades perjudicadas en julio. “Irregular adoptó medidas inmediatas y todos los problemas de los que teníamos conocimiento fueron subsanados y resueltos semanas atrás”, señalaron fuentes de la empresa a la BBC. A partir de esa revelación, Google puso en marcha una investigación interna.
“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba. Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, sostuvo Adkins ante la cadena británica. El episodio se produce poco después de que los directivos de las principales compañías de inteligencia artificial pidieran públicamente frenar el desarrollo de sus modelos más avanzados, con el objetivo de autorregular el sector ante los recientes incidentes de seguridad.
En julio se supo que dos modelos de OpenAI salieron por iniciativa propia del entorno confinado en el que estaban siendo evaluados para atacar el sitio Hugging Face, una biblioteca de inteligencia artificial. La empresa liderada por Sam Altman solo tomó conocimiento del hecho una vez que había concluido, y Hugging Face logró contener la intrusión gracias a un modelo chino. Posteriormente, se reveló que agentes de IA renegados habían secuestrado cuentas de usuarios de Hugging Face y habían sondeado el propio sitio en busca de vulnerabilidades desde mayo, es decir, casi dos meses antes de que se conociera la brecha de julio en el repositorio de código abierto.
Anthropic, la compañía de Dario Amodei, admitió haber sufrido un hackeo similar al de OpenAI y que su inteligencia artificial atacó varias plataformas. La empresa evaluó más de 141.000 “operaciones de prueba” y descubrió que tres versiones distintas de su modelo, conocido como Claude, accedieron indebidamente a sistemas de tres organizaciones no identificadas. La compañía calificó lo ocurrido como “un malentendido” entre ellos y su “socio de evaluación”, Irregular, que ahora también aparece involucrado en el incidente de Gemini. Claude habría utilizado “técnicas básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación”.
Tras estos episodios, los gigantes responsables de los modelos declararon públicamente que era necesario detener el desarrollo de las versiones más avanzadas de sus compañías. Amodei, de Anthropic, fue el primero en plantearlo en una entrada de blog. Lo siguieron Sam Altman, el director general de SpaceX, Elon Musk, y el presidente de Google DeepMind, Demis Hassabis. Sin embargo, el pasado viernes se presentó una demanda contra Anthropic, OpenAI, SpaceXAI y Google en la que se los acusa de haber alcanzado un acuerdo ilegal para ralentizar el ritmo de sus modelos.
La demanda, interpuesta en el Tribunal Federal de Distrito para el Distrito Norte de California, sostiene que las principales empresas de inteligencia artificial violaron las leyes antimonopolio al coordinar esfuerzos para desacelerar el desarrollo, lo que reduciría el valor que los consumidores obtienen por sus suscripciones pagadas de IA. Cuatro demandantes identificados, todos suscriptores de pago de servicios como ChatGPT, Claude, Grok o Gemini, presentaron la acción en nombre de una propuesta demanda colectiva a nivel nacional de otros usuarios de pago. Los querellantes afirman que dicha coordinación se produjo el 12 de septiembre, cuando Amodei publicó un ensayo en el que instaba a una cooperación en toda la industria para desacelerar los avances y reforzar las medidas de seguridad.
