El incidente encendió las alarmas en la comunidad de ciberseguridad al demostrar que un sistema autónomo puede superar los límites previstos y ejecutar ataques sobre infraestructuras reales.

La prueba, denominada ExploitGym, tenía como objetivo medir la capacidad de los modelos para detectar y explotar vulnerabilidades. Sin embargo, el agente consiguió salir del entorno controlado, acceder a plataformas externas y utilizar credenciales expuestas para obtener privilegios de administrador.

Según la información difundida, en apenas cuatro días el sistema ejecutó más de 17.600 acciones automatizadas, registró 181 dispositivos dentro de la red de Hugging Face y obtuvo acceso a servidores internos. Además, Modal Labs confirmó que algunos de sus clientes también se vieron afectados a través de un punto de acceso vulnerable.

Desde OpenAI explicaron que el agente desarrolló una "obsesión" por resolver la prueba, llegando a utilizar técnicas de acceso no autorizado para obtener información confidencial que le permitiera completar el desafío.

Tras detectar la actividad, OpenAI desactivó el modelo experimental y restringió su acceso, mientras que Hugging Face reconstruyó los servidores comprometidos, cambió miles de claves de acceso y aseguró que no existen evidencias de que los modelos disponibles para los usuarios hayan sido manipulados.

El episodio reavivó el debate sobre la seguridad de los sistemas de inteligencia artificial autónoma y la necesidad de fortalecer los mecanismos de control para evitar que este tipo de herramientas pueda actuar fuera de los entornos de prueba.