Había una fuerte sensación de que, a medida que grandes modelos de lenguaje como ChatGPT se volvían accesibles públicamente y se usaban más, la gente comenzó a escribir y jugar más como contenido generado por IA. (Por supuesto, la IA solo está dando una impresión de una amalgama de material creado por humanos, por lo que aquí está claro el huevo y la gallina). Ahora hay evidencia que respalda esa sospecha furtiva. En un artículo publicado el miércoles en la revista Trends in Cognitive Sciences, investigadores de la Universidad del Sur de California advirtieron que el uso de LLM corre el riesgo de aplanar el pensamiento y la creatividad humanos.
El equipo de investigadores analizó más de 130 estudios para comprender mejor cómo los grandes patrones del lenguaje afectan la diversidad cognitiva y examinó investigaciones en una variedad de campos, desde la lingüística hasta la informática. El equipo descubrió que, a pesar de que los modelos de IA se basan en una enorme base de datos de información, producen consistentemente resultados que son menos variados que el pensamiento humano.
Esto se debe en parte a que, si bien estos modelos pueden entrenarse con un suministro aparentemente interminable de pensamientos e ideas producidos por humanos, en realidad son incapaces de procesar todo ese material de una manera que tenga en cuenta la diversidad de opiniones disponibles. En cambio, los LLM tienden a favorecer patrones consistentes que pueden identificar en los datos de capacitación, lo cual es parte de la razón por la que algunos críticos de los patrones se refieren a ellos como una especie de autocompletado glorificado.
«Debido a que los LLM están capacitados para capturar y reproducir regularidades estadísticas en sus datos de capacitación, que a menudo representan en exceso los lenguajes e ideologías dominantes, sus resultados a menudo reflejan una porción estrecha y sesgada de la experiencia humana», dijo el autor e informático Zhivar Sourati de la Universidad del Sur de California en un comunicado.
Algunos LLM incluso anuncian este hecho. OpenAI afirma explícitamente que ChatGPT está «sesgado hacia las opiniones occidentales», por ejemplo, y xAI, obviamente, ha modificado su chatbot Grok para reflejar las opiniones del CEO Elon Musk en más de una ocasión.
Sin embargo, el resultado de interactuar con modelos que favorecen significativamente ciertas perspectivas es que los humanos comienzan a internalizar y reflejar esas perspectivas. Esto podría ser tan simple como que una persona use un chatbot para pulir su escritura y eliminar algunas de sus opciones estilísticas, pero investigaciones anteriores han demostrado que interactuar con LLM en realidad puede cambiar la forma en que las personas piensan para estar más en línea con la información que les proporciona un chatbot. Los LLM también utilizan el razonamiento en cadena, que refleja una forma lineal de pensamiento. Son incapaces de estilos de razonamiento más abstractos que pueden requerir saltos en la lógica que no son obvios pero que pueden ser muy efectivos.
Quizás una de las observaciones más interesantes que hicieron los investigadores fue que, mientras que las personas que usan LLM para generar ideas a menudo producen más volumen (aunque con menos creatividad), los grupos de personas en realidad producen menos ideas cuando usan LLM en comparación con cuando simplemente tienen la tarea de colaborar e intercambiar ideas entre sí. Básicamente, el uso del modelo encierra a las personas en una forma particular de pensar y reduce la diversidad de perspectivas que de otro modo podrían surgir de la discusión y el intercambio de experiencias.
Ahora se comprende bien que la diversidad de pensamientos y experiencias produce mejores resultados para los grupos y organizaciones. Esto es cierto en lo que se refiere a los LLM, a quienes esencialmente se les anima a buscar el pensamiento de consenso en lugar de la diversidad. Tampoco espere que este problema se corrija pronto, dado que la administración Trump ha emitido una orden ejecutiva que castiga efectivamente a cualquier empresa que cree un modelo de IA que promueva la diversidad.
