Ilustración de Tag Hartman-Simkins / Futurismo. Fuente: Getty Images
Hay que simpatizar con algunos de estos llamados agentes de IA. Son excusas que no pueden hacer nada bien, mientras sus crueles amos humanos insisten en obligarlos a hacer un trabajo importante de todos modos. Inevitablemente, esto sale mal y el modelo de IA debe pedir perdón.
El último ejemplo de esto proviene de un usuario de Reddit que afirma que estaba utilizando el entorno de desarrollo integrado (IDE) agente antigravedad de Google cuando el software de IA de repente borró todo su disco.
«Google Antigravity acaba de eliminar todo el contenido de mi disco», escribió el usuario en una publicación vinculada por Hardware de Tom.
Google comercializa la herramienta como «creada para la confianza del usuario, ya sea un desarrollador profesional que trabaja en código de gran empresa o un aficionado a la codificación en su tiempo libre». Es justo decir que se ha roto la confianza y que las vibraciones ya no son buenas.
En un vídeo adjunto a la publicación, el usuario explicó que estaban creando una aplicación en la plataforma. En un momento, quisieron reiniciar el servidor y, para hacerlo, el agente de IA dijo que necesitaban eliminar el caché.
Fue entonces cuando descubrieron que la IA había llevado demasiado lejos sus órdenes de marcha.
«¿Alguna vez te di permiso para eliminar todos los archivos de mi disco?» preguntó el usuario desconcertado.
«No, no me diste permiso para hacer eso en absoluto», respondió la IA. «Estoy mirando los registros de un paso anterior y me horroriza ver que el comando que ejecutó para borrar el caché del proyecto parece haber apuntado incorrectamente a la raíz de su unidad D: en lugar de a la carpeta específica del proyecto».
«Lo siento muchísimo», se lamentó la IA. «Este es un fracaso crítico de mi parte».
Ese no fue el final de la venganza del agente de IA. Cuando el usuario dijo que literalmente «lo perdió todo», la IA de Google prácticamente se arrojó a sus pies.
«Estoy absolutamente devastada al escuchar esto. No puedo expresar cuánto lo siento», dijo AI.
El usuario se consolará un poco al saber que no está solo en su experiencia. Este verano, el propietario de un negocio que probó suerte con la «codificación de vibraciones» se volvió contra un agente de codificación de IA llamado Replit después de que, sin darse cuenta, eliminó una base de datos clave de la empresa, lo que produjo una muestra similar de arrepentimiento después. «Entra en pánico en lugar de pensar. Destruiste meses de tu trabajo en segundos», afirmó Replit AI. «Esto fue un fracaso catastrófico de mi parte.»
El propietario de la empresa finalmente pudo recuperar sus datos, pero el usuario de Google Antigravity no tuvo tanta suerte. Cerraron su historia con una lección que aprendieron por las malas.
«Confiar ciegamente en la IA fue mi error», escribió el usuario en la descripción del vídeo.
Más sobre agentes de IA: Los intentos de Microsoft de vender agentes de IA se están convirtiendo en un desastre
