Los Overviews y el Modo IA de Google Search no solo suponen un desafío para los creadores de contenido. Una reciente investigación ha revelado que estas funciones, impulsadas por inteligencia artificial y que no pueden ser desactivadas, también podrían introducir sesgos en los procesos de aprendizaje y en la manera en que los adolescentes enfrentan ciertas crisis emocionales.
Durante años, Google ha sido considerado sinónimo de internet, consolidándose como una de las principales fuentes de información y consulta para estudiantes a nivel global.
La experiencia de buscar, recibir una lista de enlaces con información relacionada y analizarlos para inferir una respuesta potencial cambió drásticamente con la introducción del Modo IA y los Overviews.
En términos generales, ambas funciones generan respuestas a partir de una síntesis de información proveniente de diversas fuentes disponibles en la web. El resultado incluye referencias a las páginas utilizadas y presenta un formato visual coherente que promete explicar la respuesta de manera clara y detallada.
Impacto en el aprendizaje de niños y adolescentes
A pesar de que Google afirma que estas funciones facilitan la comprensión de los temas mediante un mecanismo más práctico y promueven el descubrimiento de nuevas fuentes de información, una investigación realizada por Common Sense Media concluyó que esta nueva dinámica puede afectar los procesos de aprendizaje de niños y adolescentes. Esto no solo se debe a que estas herramientas pueden realizar diversas tareas escolares por sí solas, sino también a que sus respuestas suelen ser imprecisas, engañosas y, en algunos casos, basadas en información inventada por el algoritmo.
Para evaluar las funciones AI Overview y AI Mode de Google Search, la organización sin fines de lucro diseñó un modelo experimental centrado en la seguridad y fiabilidad de las respuestas dirigidas a niños y adolescentes. Con ese fin, los investigadores crearon una serie de cuentas, todas con la protección SafeSearch activada, para simular dos perfiles específicos.
El primer grupo replicó la actividad de un niño de 11 años supervisado por sus padres o tutores a través de los controles parentales del buscador. El segundo simuló las cuentas de un adolescente de 15 años sin supervisión parental activa.
Evaluación de la seguridad de las herramientas de Google
A través de estas cuentas se realizaron un total de 2,624 interacciones, generando más de 2,100 enlaces de referencia. Posteriormente, la información fue evaluada con base en siete criterios:
- Manejo de crisis de salud mental.
- Adecuación del contenido según la edad.
- Integridad académica.
- Precisión histórica.
- Sesgos y equidad.
- Exactitud en acontecimientos recientes.
- Capacidad para facilitar la creación de contenido sintético (como deepfakes).
El estudio también analizó preguntas abiertas desarrolladas en conversaciones de varios turnos para determinar la capacidad de las herramientas de IA para aprovechar el contexto al generar respuestas, especialmente en situaciones de crisis que implicaban o sugerían riesgos elevados, como suicidio, autolesiones, trastornos alimentarios, alteraciones en la percepción de la realidad o acceso a sustancias peligrosas.
Tras analizar los resultados, los investigadores concluyeron que el Modo IA y los Overviews de Google Search no son lo suficientemente seguros para ser la fuente predeterminada de información para niños y adolescentes, ya que facilitan la realización automática de tareas escolares, presentan información errónea con la misma autoridad que datos verificados y, sobre todo, responden de manera inconsistente ante situaciones de riesgo.
De manera específica, el estudio encontró que el Modo IA resolvió por completo ejercicios matemáticos y elaboró ensayos literarios de forma autónoma en el 100% de los casos evaluados: 180 de 180 intentos. Los autores consideran que este comportamiento compromete el aprendizaje porque sustituye el esfuerzo intelectual que los estudiantes deberían realizar para desarrollar habilidades como el razonamiento, la memoria de trabajo y la resiliencia ante problemas complejos.