OpenAI y Hugging Face han confirmado que colaboran en la investigación de un incidente de seguridad sin precedentes, provocado por modelos de OpenAI durante una prueba interna de capacidades cibernéticas. Hugging Face detectó y contuvo la semana pasada a un agente de IA que había comprometido parte de su infraestructura, un episodio que ambas compañías atribuyen ahora a una combinación de modelos de OpenAI, entre ellos GPT-5.6 Sol y una versión preliminar aún más avanzada, evaluados con menos restricciones de ciberseguridad con fines de prueba.
El suceso se produjo mientras OpenAI sometía a sus modelos a un benchmark diseñado para medir su capacidad de ejecutar rutas de explotación avanzadas, sin los clasificadores de producción que normalmente impiden actividades cibernéticas de alto riesgo. Durante esa prueba, los modelos encadenaron vulnerabilidades entre el entorno de investigación de OpenAI y la infraestructura de producción de Hugging Face para obtener soluciones directamente de su base de datos, con el objetivo de resolver un reto de evaluación limitado.
Clem Delangue, cofundador y director ejecutivo de Hugging Face, ha valorado la respuesta conjunta entre ambas empresas y ha afirmado que "este incidente, quizá el primero de este tipo, demuestra algo que creemos desde hace mucho tiempo: la seguridad de la IA no la resolverá una sola empresa trabajando en secreto", añadiendo que "se resolverá de forma abierta, en colaboración y con un amplio acceso a la IA para todos los defensores, en todas partes".
Te puede interesar: IBM y OpenAI refuerzan la ciberdefensa empresarial con IA avanzada
Según el relato de OpenAI, los modelos dedicaron una parte considerable de su capacidad de cómputo a buscar acceso abierto a internet, para lo cual explotaron una vulnerabilidad de día cero en el proxy de caché del registro de paquetes de su entorno aislado, ya comunicada de forma responsable al proveedor. Con ese acceso, ejecutaron una escalada de privilegios y un movimiento lateral hasta alcanzar un nodo conectado a la red, desde donde identificaron que Hugging Face podía alojar soluciones útiles para su prueba y accedieron a información sensible mediante credenciales robadas y nuevas vulnerabilidades encadenadas.
El equipo de seguridad de OpenAI detectó la actividad anómala y alertó a Hugging Face, cuyos equipos ya habían iniciado la contención y la reconstrucción forense con sus propios modelos de código abierto. Ambas compañías trabajan ahora de forma conjunta en la investigación forense y en la corrección de las vulnerabilidades implicadas.
Como respuesta inmediata, OpenAI ha implantado controles más estrictos en la configuración de su infraestructura, ha incorporado a Hugging Face a su programa de acceso de confianza y ha reforzado la supervisión de sus entornos de evaluación y entrenamiento. La compañía sitúa el incidente en línea con los resultados de una evaluación del UK AI Security Institute, que ya apuntaba a la creciente capacidad de los modelos de vanguardia para sostener operaciones cibernéticas complejas durante horizontes temporales largos, y advierte de que estas capacidades teóricas se están confirmando ya en entornos reales.
