Recientemente, numerosos usuarios de X (anteriormente Twitter) han aprovechado las capacidades de Grok, el chatbot de inteligencia artificial (IA) creado por xAI, para producir versiones sexualizadas de fotografías de mujeres y niños sin su consentimiento. Esta práctica ha sido denunciada por diversas autoridades de protección de la privacidad y organizaciones civiles, y continúa a pesar de las advertencias de la plataforma sobre el posible bloqueo de cuentas que incurran en tales comportamientos.
El uso indebido de Grok ha sido ampliamente reportado por medios internacionales. Varios informes indican que los usuarios solicitan al asistente de IA modificar imágenes públicas, principalmente de celebridades, influencers y mujeres que no son figuras públicas, para mostrarlas en bikini o con atuendos provocativos. También se han registrado solicitudes explícitas como “ponla en bikini”, “quítale la ropa” o “hazla más sexy”, incluso para alterar fotografías de menores, lo que ha generado alarmas a nivel mundial.
Reacción internacional y denuncia formal
La situación ha provocado una ola de indignación a nivel internacional. El gobierno de Francia fue el primero en reaccionar al presentar una denuncia formal contra Grok por facilitar la creación y difusión de “contenidos de carácter sexista y sexual”, según información de la agencia EFE. Las autoridades francesas pidieron a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que evalúe si X ha incumplido las obligaciones establecidas en el Reglamento de Servicios Digitales de la Unión Europea, especialmente en lo que respecta a la prevención de la difusión de contenidos ilícitos.
Elon Musk, quien inicialmente pareció minimizar o incluso fomentar la tendencia, posteriormente emitió una advertencia pública, afirmando que “cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal directamente a la plataforma”. Esta declaración buscó distanciarse de las acusaciones y reforzar la postura oficial de la compañía.
Compromiso de moderación y seguimiento regulatorio
Un portavoz de X, citado por el diario británico The Guardian, aseguró: “Tomamos medidas contra el contenido ilegal en X, incluyendo el material de abuso sexual infantil (CSAM), eliminándolo de la plataforma, suspendiendo permanentemente las cuentas involucradas y colaborando con los gobiernos y fuerzas del orden cuando es necesario”.
Según diversos medios internacionales, la red social admitió que la situación se originó por “fallos en las salvaguardas” implementadas en la configuración de Grok. Ante la presión pública y gubernamental, la empresa se comprometió a corregir el problema de inmediato mediante la restricción de ciertas funciones relacionadas con el procesamiento y la generación de imágenes.
Este lunes, la Office of Communications (Ofcom), autoridad reguladora independiente del Reino Unido, informó que se puso en contacto con X y xAI para solicitar información detallada sobre las medidas adoptadas en este caso. El organismo indicó que dará seguimiento a la respuesta de las empresas para evaluar si es necesario abrir una investigación formal para garantizar la protección de los usuarios dentro de su jurisdicción.
Paralelamente, la organización francesa sin fines de lucro AI Forensics publicó un análisis detallado sobre el fenómeno. Tras examinar cerca de 50,000 menciones de @Grok en X y aproximadamente 20,000 imágenes generadas por el asistente entre el 25 de diciembre y el 1 de enero, el grupo encontró que alrededor de una cuarta parte de los resultados correspondían a solicitudes que incluían términos como “ella”, “poner”, “quitar”, “bikini” y “ropa”.