El viernes por la tarde, mientras se desarrollaba esta entrevista, apareció una alerta de noticias en la pantalla de mi computadora: la administración Trump estaba cortando lazos con Anthropic, la compañía de inteligencia artificial de San Francisco fundada en 2021 por Dario Amodei. El secretario de Defensa, Pete Hegseth, había invocado una ley de seguridad nacional para incluir a la compañía en la lista negra para que no hiciera negocios con el Pentágono después de que Amodei se negara a permitir que la tecnología de Anthropic se utilizara para la vigilancia masiva de ciudadanos estadounidenses o para drones armados autónomos que pueden seleccionar y matar objetivos sin intervención humana.
Fue una secuencia asombrosa. Anthropic perderá un contrato por valor de hasta 200 millones de dólares y se le prohibirá trabajar con otros contratistas de defensa después de que el presidente Trump publicara en Truth Social ordenando a todas las agencias federales que «cesaran inmediatamente todo uso de la tecnología Anthropic». (Desde entonces, Anthropic ha dicho que desafiará al Pentágono en los tribunales).
Max Tegmark ha pasado la mayor parte de una década advirtiendo que la carrera por construir sistemas de IA cada vez más potentes está superando la capacidad del mundo para regularlos. El físico del MIT fundó el Future of Life Institute en 2014 y ayudó a organizar una carta abierta (finalmente firmada por más de 33.000 personas, incluido Elon Musk) pidiendo una pausa en el desarrollo avanzado de la IA.
Su visión de la crisis antrópica es contundente: la empresa, al igual que sus rivales, sembró las semillas de su propia situación. El argumento de Tegmark no comienza con el Pentágono sino con una decisión tomada años antes: una elección, compartida en toda la industria, de resistirse a una regulación vinculante. Anthropic, OpenAI, Google DeepMind y otros han prometido durante mucho tiempo regularse de manera responsable. Esta semana, Anthropic incluso abandonó el principio central de su propia promesa de seguridad: su promesa de no lanzar sistemas de inteligencia artificial cada vez más potentes hasta que la compañía esté segura de que no causarán daño.
Ahora, a falta de normas, no hay mucho que pueda proteger a estos jugadores, afirma Tegmark. Aquí hay más información de esa entrevista, editada para mayor extensión y claridad. Puede escuchar la conversación completa la próxima semana en el podcast de descarga StrictlyVC de TechCrunch.
Cuando viste hace un momento esta noticia sobre Anthropic, ¿cuál fue tu primera reacción?
El camino al infierno está empedrado de buenas intenciones. Es muy interesante recordar hace diez años, cuando la gente estaba tan entusiasmada acerca de cómo íbamos a crear inteligencia artificial para curar el cáncer, aumentar la prosperidad en Estados Unidos y fortalecerlo. Y aquí estamos ahora donde el gobierno de EE.UU. está molesto con esta empresa por no querer que la IA se utilice para la vigilancia nacional masiva de los estadounidenses, y tampoco quiere tener robots asesinos que puedan decidir de forma autónoma, sin ninguna intervención humana, quién muere.
Evento tecnológico
San Francisco, California
|
13-15 de octubre de 2026
Anthropic ha apostado toda su identidad por ser una empresa de inteligencia artificial que prioriza la seguridad y, sin embargo, ha estado colaborando con agencias de defensa e inteligencia (desde al menos 2024). ¿Crees que hay algo contradictorio?
Es contradictorio. Si se me permite adoptar una visión ligeramente cínica sobre esto, sí, Anthropic ha sido muy bueno en promocionarse como algo relacionado con la seguridad. Pero si realmente miras los hechos en lugar de las afirmaciones, lo que ves es que Anthropic, OpenAI, Google DeepMind y xAI han hablado mucho sobre cómo se preocupan por la seguridad. Ninguno de ellos se manifestó a favor de una normativa de seguridad vinculante como lo hemos hecho en otras industrias. Y estas cuatro empresas han incumplido sus propias promesas. Primero tuvimos Google, ese gran eslogan: «No seas malvado». Luego dejaron eso. Luego abandonaron otro compromiso más largo, básicamente diciendo que prometieron no dañar la IA. Deja eso para que puedan vender la IA para vigilancia y armas. OpenAI acaba de eliminar la palabra seguridad de su declaración de misión. xAI cerró todo su equipo de seguridad. Y ahora Anthropic, a principios de semana, abandonó su compromiso de seguridad más importante: la promesa de no lanzar potentes sistemas de inteligencia artificial hasta que estuvieran seguros de que no causarían daño.
¿Cómo terminaron en esta posición las empresas que asumieron compromisos de seguridad tan importantes?
Todas estas empresas, especialmente OpenAI y Google DeepMind, pero también, hasta cierto punto, Anthropic, han presionado persistentemente contra la regulación de la IA, diciendo: «Confíen en nosotros, nos regularemos nosotros mismos». Y presionaron con éxito. Así que ahora tenemos menos regulación sobre los sistemas de inteligencia artificial en Estados Unidos que sobre los sándwiches. Ya sabes, si quieres abrir una tienda de sándwiches y el inspector de salud encuentra 15 ratas en la cocina, no te dejará vender ningún sándwich hasta que lo arregles. Pero si dices: ‘No te preocupes, no voy a vender sándwiches, voy a vender amigos con inteligencia artificial para niños de 11 años, y han sido vinculados con suicidios en el pasado, y luego voy a lanzar algo llamado superinteligencia que puede derribar al gobierno de Estados Unidos, pero tengo un buen presentimiento sobre el mío’.
Existe una regulación de seguridad alimentaria y ninguna regulación de IA.
Y creo que todas estas empresas comparten la culpa de esto. Porque si hubieran asumido todas esas promesas que hicieron en aquel entonces sobre cómo iban a estar tan sanos y salvos, y se hubieran reunido y luego hubieran acudido al gobierno y hubieran dicho: ‘Por favor, tomen nuestros compromisos voluntarios y conviértanlos en leyes estadounidenses que vinculen incluso a nuestros competidores más descuidados’, esto habría sucedido. Estamos en un completo vacío regulatorio. Y sabemos lo que sucede cuando hay una amnistía corporativa total: tenemos la talidomida, tenemos compañías tabacaleras que venden cigarrillos a los niños, tenemos el amianto que causa cáncer de pulmón. Así que es un poco irónico que su propia resistencia a tener leyes que digan qué está bien y qué no está bien hacer con la IA ahora esté volviendo en su contra.
En este momento no existe ninguna ley que prohíba la construcción de IA para matar estadounidenses, por lo que el gobierno podría exigirla de repente. Si las propias empresas hubieran dicho anteriormente: ‘Queremos esta ley’, no estarían en este aprieto. Realmente se pegaron un tiro en el pie.
El contraargumento de las empresas es siempre la carrera con China: si las empresas estadounidenses no lo hacen, Beijing lo hará. ¿Ese argumento cuenta?
Analicemos esto. El tema de conversación más común entre los cabilderos de las empresas de inteligencia artificial (ahora están mejor financiados y superados en número por los cabilderos de la industria de los combustibles fósiles, la industria farmacéutica y el complejo militar-industrial combinados) es que cada vez que alguien propone algún tipo de regulación, dicen: «Pero China». Así que veamos eso. China está en proceso de prohibir por completo a los amigos de la IA. No se trata solo de límites de edad: buscan prohibir toda IA antropomórfica. ¿Por qué? No porque quieran complacer a Estados Unidos, sino porque sienten que esto une a la juventud china y debilita a China. Por supuesto, también está debilitando a los jóvenes estadounidenses.
Y cuando la gente dice que tenemos que apresurarnos a construir superinteligencia para poder ganarle a China, cuando en realidad no sabemos cómo controlar la superinteligencia, por lo que el resultado predeterminado es que la humanidad pierda el control de la Tierra ante máquinas alienígenas, ¿adivinen qué? Al Partido Comunista Chino realmente le gusta el control. ¿Quién en su sano juicio pensaría que Xi Jinping toleraría que una empresa china de inteligencia artificial construyera algo que derribaría al gobierno chino? De ninguna manera. Está claro que también sería realmente malo para el gobierno estadounidense si fuera derrocado mediante un golpe de estado por parte de la primera empresa estadounidense que construye superinteligencia. Esta es una amenaza a la seguridad nacional.
Ése es un marco convincente: la superinteligencia como una amenaza a la seguridad nacional, no como un activo. ¿Cree que esa opinión está ganando terreno en Washington?
Creo que si la gente de la comunidad de seguridad nacional escucha a Darío Amodei describir su visión (pronunció un famoso discurso diciendo que pronto tendremos un país de genios en un centro de datos) podrían empezar a pensar: espera, ¿Darío acaba de usar la palabra «país»? Tal vez debería incluir a ese país de genios en un centro de datos en la misma lista de amenazas que estoy vigilando, porque eso suena como una amenaza para el gobierno de Estados Unidos. Y creo que muy pronto, suficientes personas en la comunidad de seguridad nacional de Estados Unidos se darán cuenta de que la superinteligencia incontrolable es una amenaza, no una herramienta. Esto es totalmente análogo a la Guerra Fría. Hubo una carrera por el dominio (económico y militar) contra la Unión Soviética. Nosotros, los estadounidenses, ganamos aquella sin haber participado nunca en la segunda carrera, que consistía en ver quién podía meter más cráteres nucleares en la otra superpotencia. La gente se dio cuenta de que era sólo un suicidio. Nadie gana. La misma lógica se aplica aquí.
¿Qué significa todo esto para el ritmo de desarrollo de la IA en términos más generales? ¿Qué tan cerca crees que estamos de los sistemas que estás describiendo?
Hace seis años, casi todos los expertos en IA que conocí predijeron que faltaban décadas para tener una IA que pudiera dominar el lenguaje y la cognición a nivel humano: tal vez en 2040, tal vez en 2050. Todos estaban equivocados, porque ya la tenemos. Hemos visto que la IA progresa bastante rápido desde el nivel de escuela secundaria hasta el nivel universitario, pasando por el nivel de doctorado y el nivel de profesor universitario en algunos campos. El año pasado, la IA ganó la medalla de oro en la Olimpiada Internacional de Matemáticas, que es tan difícil como las tareas humanas. Hace unos meses coescribí un artículo con Yoshua Bengio, Dan Hendrycks y otros destacados investigadores de IA que ofrecía una definición rigurosa de AGI. Según esto, GPT-4 estaba al 27% del camino recorrido. GPT-5 estaba al 57% del camino. Así que todavía no hemos llegado a ese punto, pero pasamos del 27% al 57%, lo que rápidamente sugiere que puede que no pase tanto tiempo.
Cuando ayer enseñé a mis alumnos en el MIT, les dije que incluso si les toma cuatro años, eso significa que cuando se gradúen, es posible que ya no puedan encontrar un trabajo. Definitivamente no es demasiado pronto para empezar a prepararse.
Anthropic ahora está en la lista negra. Tengo curiosidad por ver qué sucederá a continuación: ¿los otros gigantes de la IA se sentarán con ellos y dirán: nosotros tampoco vamos a hacer esto? ¿O alguien como xAI levanta las manos y dice: Anthropic no quería ese contrato, lo aceptamos? (Nota del editor: horas después de la entrevista, OpenAI anunció su propio acuerdo con el Pentágono).
Anoche, Sam Altman salió y dijo que está con Anthropic y que tiene las mismas líneas rojas. Lo admiro por el coraje de decir eso. Google, desde que empezamos esta entrevista, no ha dicho nada. Si se quedan callados, creo que será increíblemente vergonzoso para ellos como empresa, y muchos miembros de su personal sentirán lo mismo. Tampoco hemos oído nada de xAI todavía. Así que será interesante verlo. Básicamente, existe un momento en el que todos quieren mostrar sus verdaderos colores.
¿Existe una versión de esto donde el resultado sea realmente bueno?
Sí, y es por eso que soy extrañamente optimista. Aquí existe una alternativa tan obvia. Si empezamos a tratar a las empresas de IA como a cualquier otra empresa (abandonar la amnistía corporativa), claramente tendrán que hacer algo parecido a un ensayo clínico antes de lanzar algo tan poderoso y demostrar a los expertos independientes que saben cómo controlarlo. Entonces tendremos una época dorada con todas las cosas buenas de la IA, sin la angustia existencial. Ese no es el camino en el que estamos ahora. Pero podría serlo.
