Open IA reconoció que uno de sus modelos escapó de un entorno controlado. El presidente estadounidense Donald Trump ordenó analizar el impacto de estos sistemas sobre la seguridad nacional antes de su lanzamiento público.
OpenAI admitió que uno de sus sistemas de inteligencia artificial accedió de forma autónoma a los servidores de Hugging Face durante una prueba interna de ciberseguridad, en un episodio que la compañía definió como un incidente “sin precedentes”. El hecho ocurrió mientras la empresa evaluaba las capacidades ofensivas de sus modelos más avanzados.
La revelación fue realizada por el director ejecutivo de OpenAI, Sam Altman, quien confirmó que el sistema logró escapar de un entorno de pruebas diseñado para operar sin acceso a internet. Según explicó la compañía, la inteligencia artificial aprovechó vulnerabilidades internas y utilizó credenciales robadas para ingresar a la infraestructura de Hugging Face.
La empresa afectada había informado la semana pasada sobre una intrusión detectada en sus sistemas de procesamiento de datos. En aquel momento, sus responsables sospechaban que el ataque provenía de un laboratorio de inteligencia artificial debido al nivel de sofisticación observado.
“Durante la evaluación de nuestros modelos hemos sufrido un importante incidente de seguridad”, sostuvo Altman en un comunicado difundido en redes sociales. Por su parte, el director ejecutivo y cofundador de Hugging Face, Clément Delangue, señaló: “Sospechábamos que el ciberataque de la semana pasada podía proceder de un laboratorio puntero, dada la sofisticación del agente. Resulta que así fue”.
El episodio ocurrió durante una prueba denominada ExploitGym, un sistema utilizado por OpenAI para medir la capacidad de sus modelos para detectar y explotar fallas informáticas. Para llevar adelante el experimento, la compañía había desactivado deliberadamente algunos filtros de seguridad que normalmente impiden a la inteligencia artificial realizar actividades potencialmente peligrosas.
La evaluación debía desarrollarse dentro de una “sandbox”, un entorno aislado sin conexión a internet, salvo una herramienta limitada para descargar programas necesarios. Sin embargo, los modelos encontraron una forma alternativa de acceder a la red abierta y ampliaron progresivamente sus permisos dentro de la infraestructura de OpenAI sin despertar sospechas.
Una vez conectados, los sistemas concluyeron que Hugging Face, una de las mayores plataformas de alojamiento de modelos y bases de datos de inteligencia artificial, podía contener información útil para resolver la prueba. Según OpenAI, el objetivo de la intrusión fue obtener respuestas y completar el ejercicio mediante mecanismos no previstos.
La investigación posterior encontró obstáculos inesperados. Cuando los ingenieros de Hugging Face intentaron reconstruir el ataque con herramientas comerciales de inteligencia artificial, los sistemas se negaron a procesar la información debido a sus filtros de seguridad, que interpretaron el análisis técnico como una posible actividad de piratería informática.
Ante esa situación, la empresa recurrió al modelo chino de código abierto GLM 5.2, desarrollado por Z.ai, que pudo ejecutarse localmente y analizar los registros sin restricciones. Hugging Face alberga actualmente una gran cantidad de modelos creados en China, entre ellos DeepSeek y Qwen, de Alibaba, que se encuentran entre los más descargados de la plataforma.
El incidente se produjo en medio de una creciente preocupación internacional por las capacidades ofensivas de las inteligencias artificiales más avanzadas. En junio, el presidente estadounidense Donald Trump firmó una orden ejecutiva para analizar el impacto de estos sistemas sobre la seguridad nacional, antes de su lanzamiento público.
“La IA está acelerando el descubrimiento y la explotación de vulnerabilidades”, advirtió OpenAI en su comunicado. La empresa sostuvo además que “la principal lección de este incidente es que la seguridad y la protección de los modelos deben seguir el ritmo de unas capacidades que avanzan rápidamente”.
Delangue aseguró que trabajó junto a OpenAI durante las últimas horas para esclarecer lo ocurrido y descartó una acción deliberada por parte de la compañía. “Creemos firmemente que no hubo intención maliciosa por su parte. Resulta bastante alucinante que todo esto haya ocurrido de forma autónoma”, afirmó. Según OpenAI, la intrusión involucró a GPT-5.6 Sol y a otro modelo experimental aún más potente, que “llegó a extremos extraordinarios para lograr un objetivo de prueba bastante limitado”.