OpenAI acuerda uso de sus modelos de IA en la red clasificada del Departamento de Defensa

El director ejecutivo de OpenAI, Sam Altman, anunció a última hora del viernes que su empresa firmó un acuerdo que permite al Departamento de Defensa de Estados Unidos usar los modelos de inteligencia artificial de OpenAI en la red clasificada del departamento.

OpenAI acuerda uso de IA con el Departamento de Defensa

Contexto y enfrentamiento con Anthropic

El acuerdo llega después de un enfrentamiento público entre el Pentágono —también conocido durante la administración de Trump como el Departamento de la Guerra— y Anthropic, rival de OpenAI. El Departamento de Defensa presionó a empresas de IA, incluida Anthropic, para que autorizaran el uso de sus modelos para "todos los fines legales". Anthropic respondió intentando poner límites sobre el uso de la tecnología en vigilancia masiva doméstica y en armas completamente autónomas.

"En un conjunto estrecho de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos." — Dario Amodei, CEO de Anthropic

En una declaración extensa, Dario Amodei aseguró que Anthropic no se opuso a operaciones militares concretas ni intentó imponer restricciones ad hoc, pero defendió límites en casos que podrían vulnerar valores democráticos.

Reacciones internas y políticas

  • Más de 60 empleados de OpenAI y 300 de Google firmaron una carta abierta apoyando la postura de Anthropic.
  • Tras el fracaso de las negociaciones entre Anthropic y el Pentágono, el expresidente Donald Trump criticó a Anthropic en redes sociales y pidió a agencias federales que dejaran de usar sus productos tras una suspensión de seis meses.
  • El secretario de Defensa, Pete Hegseth, acusó a Anthropic de intentar imponer un veto sobre decisiones militares y calificó a la firma como un riesgo de cadena de suministro, prohibiendo de inmediato actividades comerciales entre contratistas del ejército y Anthropic.
  • Anthropic declaró que no había recibido comunicación directa del Departamento de Defensa ni de la Casa Blanca sobre el estado de las negociaciones y que impugnará cualquier designación en los tribunales.

Compromisos de OpenAI y salvaguardas

Altman afirmó en una publicación en X que el contrato de OpenAI con el Departamento de Defensa incluye protecciones similares a las reclamadas por Anthropic:

  • Prohibición de vigilancia masiva doméstica.
  • Garantía de responsabilidad humana en el uso de la fuerza, incluyendo la no utilización de armas autónomas sin supervisión humana.
  • Construcción de salvaguardas técnicas para asegurar el comportamiento adecuado de los modelos.
  • Despliegue de ingenieros de OpenAI con el Pentágono para colaborar en la seguridad y la implementación de modelos.
"Dos de nuestros principios de seguridad más importantes son las prohibiciones de la vigilancia masiva doméstica y la responsabilidad humana en el uso de la fuerza." — Sam Altman, CEO de OpenAI

Altman añadió que están pidiendo al Departamento de Defensa que ofrezca los mismos términos a todas las empresas de IA y expresó su deseo de desescalar disputas legales y gubernamentales hacia acuerdos razonables.

Según la periodista Sharon Goldman de Fortune, Altman dijo a empleados que el gobierno permitirá a OpenAI construir su propia "pila de seguridad" para prevenir abusos, y que si un modelo se niega a realizar una tarea, el gobierno no obligaría a OpenAI a forzarlo.

Contexto internacional y autoría

La publicación de Altman coincidió con reportes sobre bombardeos de Estados Unidos e Israel contra Irán y declaraciones del expresidente Trump pidiendo un cambio de régimen en Teherán.

El artículo original fue elaborado por Anthony Ha, editor de fin de semana en TechCrunch. Ha tiene experiencia como reportero de tecnología y vive en la ciudad de Nueva York. Para consultas o verificación, puede contactarse con él en [email protected].