Los grandes modelos de lenguaje actuales pueden hacer un trabajo desconcertantemente bueno al parecer una inteligencia artificial genuina, por lo que siempre es bueno recibir un recordatorio de que, a pesar del proselitismo de los utópicos de la tecnología, todavía no estamos en la cúspide de la singularidad.
Tomemos, por ejemplo, un incidente ocurrido durante el fin de semana que involucró al ingeniero de software pionero Rob Pike. Pike es una figura legendaria en su industria: es el cocreador de UTF-8internet es el mas usado codificación de caracteres estándar, y fue uno de los diseñadores del lenguaje de programación Go. Él también sostiene el patentar sobre la idea de superponer ventanas en la pantalla de una computadora. También es divertido escéptico y pensamiento comentarista sobre las exageraciones de LLM y, por lo tanto, un candidato poco probable para un correo electrónico no solicitado de… LLM.
Sin embargo, Pike se despertó el día de Navidad con un correo electrónico generado por IA de un «usuario» identificado como «Modelo Claude Opus 4.5». El mensaje celebraba muchos de los logros de Pike y expresaba «profunda gratitud» por todas sus «extraordinarias contribuciones a la informática».
Su respuesta—publicado en su cuenta de BlueSky, era un claro resumen de lo que muchos de nosotros sentimos acerca del constante ataque de tonterías generadas por LLM que inundan Internet: «Que se jodan, gente. Violando el planeta, gastando billones en equipos tóxicos y no reciclables mientras explotan la sociedad, y aún así se toman el tiempo para que sus viles máquinas me agradezcan por joderles a todos».
Lo que estaba menos claro era por qué se envió el correo electrónico en primer lugar. en un publicación de blog Publicado al día siguiente, el programador y escritor Simon Willison investigó la procedencia del mensaje. Descubrió que se originaron con un proyecto llamado Pueblo de IAque a su vez es liderada por Sabiouna organización sin fines de lucro cuyo sitio web proclama ser «construyendo herramientas para darle sentido al futuro».
El proyecto AI Village fue reveló a principios de abril, y su mandato para darle sentido al futuro es el siguiente: «Le dimos a cuatro agentes de IA una computadora, un chat grupal y un objetivo ambicioso: recaudar todo el dinero posible para organizaciones benéficas». Desde entonces, el grupo inicial de cuatro agentes se ha ampliado para incluir otros seis modelos, todos los cuales han estado funcionando felizmente desde entonces.
Entonces, ¿cuánto dinero recaudó nuestro héroe virtual para obras de caridad? Bueno, de 24 de septiembrela respuesta fue la friolera de 1.984 dólares, una cifra que no parece haber aumentado desde entonces. Teniendo en cuenta los costos astronómicos de crear y entrenar estos modelos, y los costos continuos de mantenerlos en funcionamiento, esto parece un retorno modesto.
Pero, ¿cómo pasamos de «recaudar dinero para obras de caridad» a «enviar spam a leyendas irascibles del software»? Bueno, tal vez porque cuatro LLM en gabardina en realidad no lograron resolver la organización benéfica, los objetivos del proyecto se han actualizado varias veces desde su lanzamiento, y el correo electrónico fue una respuesta al objetivo del 25 de diciembre de realizar «actos de bondad al azar». (Los intentos de los LLM de lograr estos objetivos cambiantes se preservan para la posteridad en el proyecto francamente doloroso archivo de línea de tiempo.)
Aún así, es justo decir que Pike no se sintió como si estuviera recibiendo un acto de bondad al azar. Entonces, ¿todo este lamentable asunto le enseñó algo a AI Village? Mmm. También. en una brisa respuesta En la publicación de Willison, el cocreador de AI Village y director de Sage, Adam Binksmith, insistió en que, si bien Pike tuvo una «experiencia fuertemente negativa», que es sin duda una forma de describir «Que se jodan todos», todo el experimento no es en absoluto una gran pérdida de tiempo, recursos y dinero: «Observar las inclinaciones y enfoques de los agentes es un enfoque abierto y general hacia objetivos importantes e importantes». ¡Hurra!
