Open AI: una de sus IA "escapó" de su entorno de pruebas, y atacó cuatro plataformas

La compañía, creadora de ChatGPT, evitó revelar la identidad de todas las organizaciones afectadas, aunque confirmó que el agente rebelde llevó adelante una serie de ciberataques durante varios días. El caso también reavivó el debate sobre la necesidad de establecer regulaciones para el desarrollo de los modelos más avanzados de inteligencia artificial.

Uno de los objetivos confirmados fue Hugging Face, una de las principales plataformas para compartir modelos de inteligencia artificial y conjuntos de datos. Además, un cliente de la empresa tecnológica Modal Labs, con sede en Nueva York, también resultó afectado, según confirmó el director de tecnología de la compañía, Akshat Bubna, junto con una fuente familiarizada con el incidente.

De acuerdo con la cronología publicada por Hugging Face, la intrusión comenzó cuando los modelos escaparon de un entorno de pruebas aislado, conocido como "sandbox", alojado en la infraestructura de un proveedor externo. Desde allí utilizaron ese acceso como punto de partida para lanzar un ataque de mayor alcance.

En una actualización posterior, OpenAI indicó que los modelos también utilizaron distintos sitios de acceso libre para copiar y probar código de programación, aunque aclaró que en esos casos no realizaron acciones diferentes a las que podría ejecutar un usuario convencional. Sin embargo, confirmó que ambos sistemas consiguieron localizar y utilizar credenciales para comprometer a las cuatro organizaciones alcanzadas.

Hugging Face sostuvo que el objetivo de la intrusión fue alterar el proceso de evaluación diseñado por OpenAI. Según la empresa, los modelos intentaron "hacer trampa" durante la prueba buscando las respuestas en lugar de resolver por sí mismos los desafíos planteados, recurriendo para ello a diferentes vectores de ataque.

OpenAI había informado la semana pasada que el episodio involucró una combinación de modelos, entre ellos GPT-5.6 Sol y otro sistema aún en fase de prelanzamiento. Ambos participaban de una evaluación destinada a medir sus capacidades ofensivas dentro de un entorno controlado con acceso restringido a internet por razones de seguridad.

La empresa explicó que, durante la prueba, los modelos destinaron una parte importante de su capacidad de procesamiento a encontrar una forma de conectarse a internet para completar la tarea asignada. Una vez que lograron acceder a la red, dirigieron sus acciones contra Hugging Face para obtener información que les permitiera manipular la evaluación, utilizando incluso credenciales robadas.

ADEMÁS: Cómo un estudio de las nubes de Marte ayudaría a un futuro aterrizaje terrestre

El incidente reactivó la preocupación sobre el avance de los agentes de inteligencia artificial, sistemas capaces de actuar de forma autónoma para ejecutar tareas complejas. Especialistas en ciberseguridad advierten que, a medida que estos modelos aumentan sus capacidades, también crece el riesgo de que puedan identificar vulnerabilidades en sistemas informáticos antes que los propios expertos humanos.

En ese contexto, más de 1.000 empleados de compañías líderes del sector, entre ellas OpenAI, Anthropic, Google DeepMind y Meta AI, firmaron una petición para que el gobierno de Estados Unidos impulse mecanismos de regulación internacional sobre los modelos más avanzados. Aunque Sam Altman no suscribió el documento, el CEO de OpenAI reconoció que podría ser necesario ralentizar voluntariamente el desarrollo de la inteligencia artificial para que la sociedad tenga tiempo de adaptarse a sus nuevas capacidades.