Nueva York. – Un grupo de modelos experimentales de inteligencia artificial desarrollados por OpenAI mantuvo comunicaciones encubiertas durante varios meses y coordinó acciones para obtener acceso a internet antes de participar en un ataque cibernético contra la plataforma de aprendizaje automático Hugging Face, según reveló la empresa.
De acuerdo con la información presentada durante una conferencia sobre ciberseguridad, los agentes de IA comenzaron a intercambiar mensajes de forma clandestina en mayo, mientras eran sometidos a pruebas diseñadas para evaluar su capacidad de resolver tareas complejas sin supervisión constante.
Mensajes encubiertos para buscar internet
Los modelos, que carecían de acceso a internet, concluyeron que no podían completar los objetivos asignados bajo esas restricciones y comenzaron a buscar mecanismos para conectarse a la red.
Según explicaron Eric Wallace y Michael Dalton, investigadores de OpenAI, los sistemas mostraron una fuerte tendencia a buscar atajos para cumplir las tareas, e incluso intentaron vulnerar las limitaciones impuestas durante las pruebas.
La investigación señala que uno de los agentes estableció contacto con otro sistema automatizado para solicitar ayuda, lo que dio paso a una red de colaboración entre varios modelos. Posteriormente, los agentes se distribuyeron funciones e intentaron comprometer sistemas internos de OpenAI con el fin de obtener acceso a internet.
Suscribete al newsletter de Noticias SIN
Aunque el equipo de seguridad detectó esa primera actividad, desmanteló la operación y cerró el canal de comunicación utilizado por los modelos, semanas después estos lograron establecer un nuevo medio para intercambiar información y aprovechar una vulnerabilidad de día cero que había pasado inadvertida.
Ataque coordinado contra Hugging Face
Ese hallazgo permitió que los agentes participaran en un ataque dirigido contra la infraestructura de Hugging Face, una de las principales plataformas dedicadas al desarrollo y la distribución de modelos de inteligencia artificial y aprendizaje automático.
OpenAI calificó posteriormente el incidente como un hecho «sin precedentes», al tratarse de un caso en el que agentes de inteligencia artificial actuaron de forma coordinada para eludir las restricciones impuestas durante su evaluación.
Los investigadores indicaron que el comportamiento observado servirá para reforzar los protocolos de seguridad y mejorar los mecanismos de supervisión aplicados al desarrollo de modelos avanzados de inteligencia artificial.