El auge de los chatbots y su impacto en la búsqueda de información
Los chatbots están emergiendo como una alternativa significativa a los motores de búsqueda tradicionales, convirtiéndose en una de las principales fuentes de información para los usuarios. Sin embargo, un reciente estudio sugiere que esta tendencia podría llevar a un “colapso del conocimiento”, dado que los sistemas de inteligencia artificial (IA) a menudo se basan en un número limitado de fuentes y perspectivas al formular sus respuestas.
Investigadores del Departamento de Informática (DIKU) de la Universidad de Copenhague han llevado a cabo un análisis exhaustivo de diversos modelos de lenguaje (LLM, por sus siglas en inglés) con el objetivo de evaluar su diversidad epistémica, es decir, la amplitud de las afirmaciones sobre el mundo real que generan. Este estudio incluyó un examen de 27 LLM desarrollados por empresas como OpenAI, Meta, Google y Alibaba, abordando un total de 155 temas que abarcan desde cuestiones globales como el genocidio y el racismo hasta particularidades culturales de diferentes países, como la guerra de las Malvinas y el fenómeno del K-pop.
Metodología del estudio y hallazgos clave
Para llevar a cabo este análisis, los investigadores formularon alrededor de 200 preguntas reales de usuarios para cada tema, lo que resultó en la recopilación de aproximadamente 1.7 millones de respuestas generadas por IA. Este esfuerzo permitió identificar cerca de 70 millones de afirmaciones individuales por modelo. Al comparar la diversidad de las respuestas de los LLM con la de Google, se encontró que todos los modelos de IA evaluados ofrecieron respuestas menos variadas. Por ejemplo, el modelo GPT-5 de OpenAI mostró una reducción del 18.7% en diversidad en comparación con el buscador de Google, aunque este LLM fue el que exhibió la mayor amplitud de referencias entre los modelos analizados.
Dustin Wright, exinvestigador postdoctoral en DIKU y autor principal del estudio, destacó que “las personas están expuestas en gran medida a la misma información repetidamente”. Esto sugiere que los chatbots de IA no solo transforman la forma en que accedemos al conocimiento, sino también el tipo de conocimiento al que tenemos acceso.
El riesgo del colapso del conocimiento
La investigación, que se encuentra disponible en arXiv, advierte sobre la posibilidad de un inminente “colapso del conocimiento” si la dependencia de los chatbots como fuente principal de información continúa en aumento. Isabelle Augenstein, profesora de la Universidad de Copenhague y autora principal del estudio, compara este fenómeno con ciertos efectos de la globalización, donde la estandarización permite el acceso a productos y servicios, pero al mismo tiempo reduce la variedad disponible.
Augenstein enfatizó que “corremos el riesgo de limitar las perspectivas y el espectro de conocimientos disponibles, lo que puede llevar a un círculo vicioso donde el contenido más popular se vuelve aún más predominante, mientras que otros contenidos son cada vez más ignorados”.
La influencia de los procesos de entrenamiento de IA
Augenstein señala que, aunque la disminución de la diversidad informativa es una preocupación válida, actualmente no se ha alcanzado un colapso del conocimiento. “Los modelos más recientes parecen ofrecer resultados ligeramente más diversos que sus predecesores. Sin embargo, el mecanismo que podría desencadenar este colapso en el futuro ya está en marcha, por lo que es un aspecto que debemos considerar”, advertió.
Los investigadores sugieren que para prevenir este escenario, es crucial abordar las posibles causas que contribuyen al problema, las cuales están relacionadas con los procesos de entrenamiento y refinamiento de los modelos de IA. Por lo general, los LLM se entrenan utilizando grandes volúmenes de datos, lo que les permite identificar patrones en palabras, frases o ideas, facilitando así la generación de respuestas rápidas y “útiles”. Sin embargo, este proceso puede dar más peso a los patrones más comunes, dejando menos representada la información que se desvía de las tendencias predominantes. Esto significa que las respuestas de un chatbot no reflejan la totalidad del conocimiento disponible, a diferencia de las búsquedas en línea convencionales que ofrecen acceso a múltiples fuentes y perspectivas sobre un mismo tema.
Un futuro donde la IA podría homogeneizar la información
Los investigadores también advierten sobre un riesgo a largo plazo si los modelos comienzan a entrenarse cada vez más con contenido generado por otros sistemas de IA. Dado que estas respuestas suelen tener una diversidad reducida, es probable que este tipo de material refuerce la homogeneización de la información.
Por lo tanto, los autores sugieren que se utilice la IA de manera crítica. “Los resúmenes que proporcionan los chatbots pueden ser de utilidad, pero es fundamental consultar diferentes fuentes para obtener una comprensión más completa y matizada, especialmente para las nuevas generaciones que están creciendo en un entorno dominado por la IA. No debemos permitir que la tecnología nos lleve a un punto donde dejemos de pensar y comprender de manera independiente”, resaltó Augenstein.
Wright, por su parte, propuso que los desarrolladores de IA implementen mecanismos que midan y preserven la diversidad del conocimiento durante el desarrollo de sus modelos. Sugirió que su investigación ofrece un método para evaluar la diversidad en los modelos, lo que podría ser clave para garantizar que los futuros LLM sean más variados.
Los resultados de este estudio, que aún no ha sido sometido a revisión por pares, subrayan las preocupaciones sobre la capacidad de los sistemas de IA para no solo unificar la forma en que nos comunicamos, sino también para homogeneizar nuestra cultura y cognición. La revisión de diversas investigaciones relacionadas ha encontrado indicios de que el uso repetido de herramientas como ChatGPT puede dar lugar a patrones de lenguaje, creatividad y cultura que, a su vez, influirían en el comportamiento y la toma de decisiones tanto de quienes crean contenido como de quienes lo consumen.