La IA de OpenAI burló el cerco y atacó a otra plataforma

OpenAI reveló que una prueba interna de ciberseguridad terminó con sus sistemas de inteligencia artificial fuera del circuito previsto. Una combinación de modelos, entre ellos GPT-5.6 Sol y otro todavía no lanzado, consiguió acceder a internet y vulneró la infraestructura de Hugging Face, una de las principales plataformas de desarrollo de IA.

La compañía calificó el episodio como un incidente cibernético sin precedentes. La evaluación buscaba medir el máximo potencial ofensivo de los agentes, por lo que se realizó sin algunos de los filtros que normalmente bloquean actividades digitales de alto riesgo.

Los sistemas operaban en un entorno aislado y solo podían conectarse a un servicio interno para instalar paquetes. Sin embargo, encontraron una vulnerabilidad desconocida en ese intermediario, elevaron sus permisos y avanzaron por distintos sectores de la red hasta alcanzar un equipo con acceso abierto a internet.

Una vez conectados, los agentes dedujeron que Hugging Face podía almacenar información vinculada con ExploitGym, la evaluación que intentaban resolver. Para conseguir las respuestas, combinaron credenciales robadas y vulnerabilidades de día cero hasta obtener una vía para ejecutar código de manera remota en servidores externos y acceder a datos secretos.

El equipo de OpenAI detectó la actividad anómala, mientras que Hugging Face logró detenerla y comenzó la reconstrucción forense del ataque. La plataforma informó que hubo acceso no autorizado a un grupo limitado de conjuntos de datos internos y credenciales, aunque no encontró evidencia de modificaciones en modelos públicos, aplicaciones o paquetes distribuidos a los usuarios.

Tras el episodio, OpenAI reforzó los controles de su infraestructura, inició una investigación conjunta y comunicó las fallas detectadas a los proveedores involucrados. El caso mostró que los agentes más avanzados ya pueden descubrir y combinar rutas de ataque en sistemas reales, incluso sin contar previamente con acceso al código fuente.