El director ejecutivo de OpenAI, Sam Altman, admitió que se apresuró a anunciar el acuerdo de cooperación entre OpenAI y el Departamento de Defensa de los Estados Unidos, en un contexto en el que la empresa se enfrenta a una ola de protestas feroces por parte de los usuarios y observadores.
En una publicación en la red social X el 3 de marzo, Altman dijo que OpenAI está revisando el acuerdo con el Departamento de Defensa de los Estados Unidos (DoD), agregando cláusulas que especifican los límites al uso de la tecnología de IA.
El punto más notable es la clara prohibición de utilizar el sistema de IA de OpenAI para monitorear a ciudadanos y ciudadanos estadounidenses dentro del país.
Según el contenido adicional, los modelos de IA deben cumplir con la Cuarta Enmienda de la Constitución de los Estados Unidos, la Ley de Seguridad Nacional de 1947 y la Ley FISA de 1978, y no deben utilizarse intencionalmente para rastrear, monitorear o recopilar información personal de fuentes de datos comerciales para fines de vigilancia nacional.
Altman también enfatizó que los modelos de OpenAI no se implementarán en agencias de inteligencia como la Agencia de Seguridad Nacional (NSA) en el marco actual. Cualquier servicio para estas agencias debe tener una modificación adicional del contrato.
Los movimientos anteriores se producen después de que la opinión pública estallara en controversia sobre si la IA podría utilizarse con fines militares, incluida la vigilancia masiva o el apoyo a armas autónomas.
Anteriormente, el competidor de OpenAI, Anthropic, también se vio envuelto en tensiones con el Pentágono cuando el CEO Dario Amodei rechazó algunas solicitudes relacionadas con los datos.
Según los medios estadounidenses, el Departamento de Defensa propuso una vez la posibilidad de analizar datos comerciales masivos como el posicionamiento geográfico y el historial de navegación web.
La tensión se intensificó cuando el Secretario de Defensa Pete Hegseth anunció la terminación de la cooperación con Anthropic, incluso etiquetando el "riesgo de la cadena de suministro para la seguridad nacional", un término que rara vez se aplica a las empresas estadounidenses.
En ese contexto, el rápido acuerdo de OpenAI con DoD provocó una fuerte reacción de una parte de los usuarios, apareciendo un llamamiento a "Abolir ChatGPT" en los foros.
Altman admitió: "No deberíamos apresurarnos a anunciarlo. El problema es muy complejo y necesita ser transmitido de manera más clara".
Sin embargo, el CEO de OpenAI afirmó que está decidido a proteger las libertades civiles y enfatizó que proteger los derechos del pueblo estadounidense es la máxima prioridad.
También reafirmó la opinión de larga data de que la IA no debe utilizarse para tomar decisiones de combate.
Según Altman, los sistemas actuales no son lo suficientemente fiables para tales situaciones, aunque pueden ayudar a analizar grandes volúmenes de informes de inteligencia.
OpenAI planea celebrar una reunión plenaria de empleados para responder preguntas sobre el acuerdo con el Ministerio de Defensa. Altman también dijo que la compañía continuará complementando medidas de protección técnica y legal para equilibrar la cooperación con el gobierno y la protección de los derechos personales.
