Las últimas dos semanas han estado definidas por un conflicto entre el director ejecutivo de Anthropic, Dario Amodei, y el secretario de Defensa, Pete Hegseth, como las dos batallas por el uso de la IA por parte del ejército.
Anthropic se niega a permitir que sus modelos de IA se utilicen para la vigilancia masiva de estadounidenses o para armas totalmente autónomas que llevan a cabo ataques sin intervención humana. Al mismo tiempo, el Secretario Hegseth afirmó que el Departamento de Defensa no debería estar limitado por las reglas de un proveedor, argumentando que debería permitirse cualquier «uso legal» de la tecnología.
El jueves, Amodei indicó públicamente que Anthropic no dará marcha atrás, a pesar de las amenazas de que, como resultado, su empresa podría ser designada como un riesgo para la cadena de suministro. Pero con el rápido ciclo de noticias, vale la pena reconsiderar exactamente lo que está en juego en la lucha.
En el fondo, esta lucha gira en torno a quién controla los potentes sistemas de IA: las empresas que los construyen o el gobierno que quiere utilizarlos.
¿Qué le preocupa a Anthropic?
Como dijimos anteriormente, Anthropic no quiere que sus modelos de IA se utilicen para la vigilancia masiva de estadounidenses o para armas autónomas sin ningún ser humano en la fila para tomar decisiones sobre objetivos y disparos. Los contratistas de defensa tradicionales normalmente tienen poco que decir sobre cómo se utilizarán sus productos, pero Anthropic ha argumentado desde sus inicios que la tecnología de IA plantea riesgos únicos y, por lo tanto, requiere salvaguardias únicas. Desde la perspectiva de la empresa, la cuestión es cómo mantener esas salvaguardas cuando la tecnología está siendo utilizada por el ejército.
El ejército estadounidense ya depende de sistemas altamente automatizados, algunos de los cuales son letales. Históricamente, la decisión de utilizar fuerza letal se ha dejado en manos de los humanos, pero existen pocas restricciones legales sobre el uso militar de armas autónomas. El Departamento de Defensa no prohíbe categóricamente los sistemas de armas totalmente autónomos. Según una directiva del DOD de 2023, los sistemas de inteligencia artificial pueden seleccionar y atacar objetivos sin intervención humana, siempre que cumplan con ciertos estándares y sean revisados por altos funcionarios de defensa.
Eso es precisamente lo que pone nervioso a Anthropic. La tecnología militar es secreta por naturaleza, por lo que si el ejército estadounidense estuviera tomando medidas para automatizar la toma de decisiones letales, es posible que no lo sepamos hasta que esté operativa. Y si utilizó los modelos de Anthropic, podría contar como «uso legal».
Evento tecnológico
Boston, Massachusetts
|
9 de junio de 2026
La posición de Anthropic no es que tales usos deban excluirse permanentemente. Es que sus modelos aún no tienen la capacidad suficiente para soportarlos de forma segura. Imagine un sistema autónomo que identifica erróneamente un objetivo, intensifica un conflicto sin autorización humana o toma una decisión letal en una fracción de segundo que nadie puede revertir. Si pones una IA menos capaz a cargo de las armas, tendrás una máquina muy rápida y muy segura que no es buena para hacer llamadas de alto interés.
La IA también tiene el poder de mejorar la vigilancia legal de los ciudadanos estadounidenses en un grado inquietante. Según las leyes estadounidenses actuales, la vigilancia de los ciudadanos estadounidenses ya es posible, ya sea mediante la recopilación de mensajes de texto, correos electrónicos y otras comunicaciones. La IA cambia la ecuación al permitir el descubrimiento automatizado de patrones a gran escala, la resolución de entidades en conjuntos de datos, la puntuación predictiva de riesgos y el análisis continuo del comportamiento.
¿Qué quiere el Pentágono?
El argumento del Pentágono es que debería poder utilizar la tecnología de Anthropic para cualquier uso legal que considere necesario, en lugar de estar limitado por las políticas internas de Anthropic sobre cosas como armas autónomas o vigilancia.
Más específicamente, el secretario Hegseth argumentó que el Departamento de Defensa no debería estar limitado por las reglas de un proveedor que se dedica a un «uso legal» de la tecnología.
Sean Parnell, el portavoz principal del Pentágono, dijo en una publicación del jueves que el departamento no tiene interés en realizar vigilancia interna masiva o utilizar armas autónomas.
«Esto es lo que estamos pidiendo: que el Pentágono utilice el modelo de Anthropic para todos los fines legales», dijo Parnell. «Esta es una solicitud simple y de sentido común que evitará que Anthropic ponga en peligro operaciones militares críticas y potencialmente ponga en riesgo a nuestros combatientes. No permitiremos que ninguna compañía dicte los términos de cómo tomamos decisiones operativas».
Agregó que Anthropic tiene hasta las 5:01 pm ET del viernes para decidir. «De lo contrario, pondremos fin a nuestra asociación con Anthropic y los consideraremos un riesgo para la cadena de suministro de DOW», afirmó.
A pesar de la posición del Departamento de Defensa de que simplemente no cree que deba estar limitado por las políticas de uso de una corporación, la preocupación del Secretario Hegseth sobre Anthropic a veces parecía conectada con una queja cultural. En un discurso en las oficinas de SpaceX y xAI en enero, Hegseth criticó la «IA despierta» en un discurso que algunos vieron como un adelanto de su enemistad con Anthropic.
«El Departamento de Guerra de la IA no resucitará», afirmó Hegseth. «Estamos construyendo armas y sistemas listos para la guerra, no chatbots para un salón de profesores de la Ivy League».
¿Y ahora qué?
El Pentágono ha amenazado con declarar a Anthropic como un «riesgo para la cadena de suministro», lo que efectivamente incluiría a Anthropic en la lista negra para que no pueda hacer negocios con el gobierno, o invocar la Ley de Producción de Defensa (DPA) para obligar a la compañía a adaptar su modelo a las necesidades del ejército. Hegseth le dio a Anthropic hasta las 5:01 pm del viernes para responder. Pero con la fecha límite acercándose, nadie sabe si el Pentágono cumplirá su amenaza.
Esta no es una pelea de la que cualquiera de las partes pueda abandonar fácilmente. Sachin Seth, capitalista de riesgo de Trousdale Ventures que se centra en tecnología de defensa, dice que una etiqueta de riesgo en la cadena de suministro para Anthropic podría significar «apagar las luces» para la empresa.
Sin embargo, dijo, si Anthropic es eliminado del Departamento de Defensa, podría ser una cuestión de seguridad nacional.
«(El Departamento) tendrá que esperar de seis a 12 meses para que OpenAI o xAI se pongan al día», dijo Seth a TechCrunch. «Esto deja una ventana de hasta un año en la que pueden trabajar no con el mejor modelo, sino con el segundo o tercer mejor».
xAI se está preparando para estar listo para clasificar y reemplazar a Anthropic, y es justo decir que la retórica del propietario Elon Musk al respecto es que la compañía no tendría problemas en darle al Departamento de Defensa control total sobre su tecnología. Informes recientes indican que OpenAI puede adherirse a las mismas líneas rojas que Anthropic.
