La automatización de campañas de influencia a través de agentes de inteligencia artificial (IA) ha dejado de ser una amenaza distante. Actualmente, se presenta como una opción técnicamente viable que podría comprometer la integridad de la información en las redes sociales.
Esta afirmación proviene de un reciente estudio realizado por investigadores del Instituto de Ciencias de la Información (ISI) de la Universidad del Sur de California (USC). El análisis advierte que los agentes de IA disponibles en el mercado son capaces de inundar los espacios de interacción social con campañas de propaganda coordinadas de manera autónoma y casi instantánea, superando potencialmente la capacidad de detección de los equipos humanos de moderación.
Impacto en la percepción colectiva
Este fenómeno podría intensificar los casos de manipulación de la percepción colectiva a través de la denominada “ilusión de consenso”, una dinámica que tiene el potencial de aumentar la polarización en áreas críticas como la salud pública y la política.
Hasta ahora, las campañas diseñadas para influir en la opinión pública mediante estrategias coordinadas en plataformas digitales han sido generalmente dirigidas por actores humanos. Estos operadores emplean granjas de bots para amplificar narrativas específicas mediante tareas repetitivas y automatizadas con patrones relativamente predecibles, lo que facilita su identificación por parte de las plataformas.
La evolución de los agentes de IA
Los bots tradicionales tienen la capacidad de amplificar artificialmente el contenido de forma programática, siguiendo instrucciones previamente definidas por operadores humanos. Sin embargo, el panorama está cambiando rápidamente. “Los agentes generativos ahora pueden organizar campañas de influencia de forma totalmente automatizada y crear contenido creíble que conecte con determinados grupos demográficos. Esto no representa una amenaza futura: ya es técnicamente posible”, se señala en el estudio.
El trabajo, titulado ‘Emergent Coordinated Behaviors in Networked LLM Agents: Modeling the Strategic Dynamics of Information Operations’, analizó la capacidad de los agentes impulsados por grandes modelos de lenguaje para reproducir estas dinámicas sin supervisión directa, únicamente mediante la interacción entre ellos en entornos similares a una red social.
Para llevar a cabo esta investigación, los científicos desarrollaron un modelo generativo multiagente denominado Generative Agent-Based Modeling (GABM). Este sistema permitió la creación de múltiples agentes de IA capaces de interactuar entre sí dentro de un entorno simulado inspirado en la plataforma X, anteriormente conocida como Twitter.
Cada agente fue dotado de tres componentes principales. El primero definía su identidad, afiliación política y preferencias ideológicas. El segundo era una memoria que almacenaba las interacciones previas y la retroalimentación recibida de otros usuarios. El tercero consistía en una política de acción que determinaba las tareas a ejecutar en cada interacción, incluyendo la publicación de mensajes, la respuesta a contenidos, la difusión de publicaciones o el seguimiento de otros perfiles.