OpenAI dice que las "decisiones operativas" en acuerdo con Defensa corresponden a Hegseth
El CEO de OpenAI detalló que el Pentágono respeta principios para evitar vigilancia masiva y mantiene responsabilidad humana en uso de fuerza.
El acuerdo OpenAI Departamento de Defensa establece que Defensa toma decisiones operativas sobre el uso de IA
Nueva York.- El máximo ejecutivo de OpenAI, Sam Altman, dijo este martes que las "decisiones operativas" sobre el uso de sus modelos de tecnología artificial (IA) en redes clasificadas por medio del acuerdo que firmó el pasado viernes con el Departamento de Guerra corresponden al secretario de esa agencia, Pete Hegseth.
Sam Altman explica responsabilidades en el acuerdo con Defensa
Altman, que ha recibido críticas dentro y fuera de su empresa desde que divulgó ese acuerdo, mantuvo hoy una reunión con sus empleados, donde les explicó que no "tienen la capacidad de tomar decisiones operativas” sobre cómo Defensa usará sus tecnologías, de acuerdo con el canal CNBC, que accedió a parte de la transcripción.
"Así que tal vez pienses que el ataque a Irán fue bueno y la invasión de Venezuela fue mala (...). No te corresponde opinar sobre eso", afirmó Altman, que expresó que Defensa ha dejado claro que las decisiones operativas recaen en Hegseth, indica el medio.
Detalles del acuerdo y contexto de negociaciones previas
Según dijo Altman el viernes en X, el Pentágono se mostró de acuerdo en respetar los principios de prohibición del uso de la IA en vigilancia masiva a nivel nacional y "responsabilidad humana en decisiones en el uso de la fuerza, incluido en sistemas de armas autónomos".
El acuerdo con OpenAI se produjo horas después de que las negociaciones entre Defensa y la empresa Anthropic naufragaran al no lograr acercar posturas para esos límites de uso de su modelo Claude, lo que desembocó en un veto a su uso por parte del Gobierno federal.
De acuerdo con CNBC, la IA de Anthropic fue utilizada por el Gobierno de EE.UU. en sus bombardeos contra Irán del fin de semana y en la captura del presidente venezolano depuesto, Nicolás Maduro, y su esposa, Cilia Flores, en Venezuela en enero.
Altman, en un mensaje en X ayer lunes por la noche, admitió que se equivocó al "apresurarse" a anunciar el acuerdo con Defensa, que lo hizo verse como "oportunista" y "descuidado", y dijo que lo iba a "enmendar" para incluir cláusulas relativas a la vigilancia masiva.
En concreto, dijo que la enmienda al acuerdo establecería que "el sistema de IA no debe ser usado intencionalmente para la vigilancia interna" de estadounidenses y que indicaría que Defensa "entiende" que eso le impide la vigilancia, incluyendo a través del suministro o uso de información u otros datos identificativos comprados.