Redacción Ciencia.- Dos modelos de inteligencia artificial (IA) de la empresa estadounidense OpenAI han logrado salir del entorno de pruebas en el que se encontraban, acceder a internet y entrar en la plataforma de aprendizaje Hugging Face, superando sus defensas, según ha reconocido la propia compañía en su blog.
La semana pasada, Hugging Face reveló que había detectado el acceso a sus sistemas de un agente de IA, aunque precisó que había conseguido contenerlo.
OpenAI atribuye el acceso a dos modelos
OpenAI ha reconocido ahora que este incidente de seguridad fue provocado por una combinación de dos de sus modelos de IA que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encuentra en fase de prelanzamiento.
La evaluación se estaba realizando sin los mecanismos que normalmente impiden que los modelos de IA ejecuten actividades de alto riesgo, porque se intentaba averiguar el alcance máximo de sus capacidades cibernéticas.
Pruebas sin barreras de alto riesgo
No obstante, según OpenAI, las pruebas se realizaron en un entorno «altamente aislado», con un acceso restringido a la red. Aun así, los modelos de IA consiguieron acceder a internet.
Suscribete al newsletter de Noticias SIN
A juicio de OpenAI, se trata de un incidente cibernético «sin precedentes» que involucra capacidades de vanguardia en el campo de la ciberseguridad. «Estamos respondiendo en consecuencia», ha recalcado la compañía estadounidense.
«Compartimos estos hallazgos preliminares en esta etapa para ayudar a los equipos de defensa a comprender lo sucedido y a calibrar el alcance de las capacidades actuales de los modelos», ha explicado.
OpenAI continuará con su investigación, en colaboración con Hugging Face, y compartirá sus conclusiones una vez que la concluya.
