El 7 de octubre, una cuenta de TikTok conocida como @fujitiva48 lanzó una pregunta provocadora junto a su último video: «¿Qué opinas de este nuevo juguete para niños pequeños?». Más de 2,000 espectadores se encontraron con lo que parecía ser una parodia de un anuncio de televisión. La respuesta fue contundente. «Esto no tiene gracia», comentó un usuario. «Quienquiera que haya hecho esto debería ser investigado».
Bromas que no dan risa
Es evidente por qué el video generó una reacción tan intensa. El falso anuncio comienza con una niña fotorrealista sosteniendo un juguete rosa y brillante, adornado con un abejorro en el mango. Se presenta como un bolígrafo, mientras la niña y otras dos personas garabatean en un papel, con un hombre adulto narrando en voz en off. Sin embargo, el diseño floral del objeto, su capacidad para zumbar y su nombre, Vibro Rose, evocan claramente un juguete sexual. Un botón que invita a «añadir el tuyo» (la función de TikTok que anima a compartir el video en los feeds) con la frase «Estoy usando mi juguete rosa» elimina cualquier duda. Se intentó contactar a la cuenta @fujitiva48 para obtener comentarios, pero no hubo respuesta.
El inquietante clip fue creado con Sora 2, el más reciente generador de video de OpenAI, que se lanzó inicialmente por invitación en EE. UU. el 30 de septiembre. En solo una semana, videos como el de Vibro Rose comenzaron a aparecer en la página ‘For You’ de TikTok. Se encontraron varias cuentas que publicaban videos similares generados por Sora 2, mostrando juguetes de agua en forma de rosa o hongo y decoradores de pasteles lanzando chorros de «leche pegajosa», «espuma blanca» o «sustancia viscosa» sobre imágenes reales de niños.
Legislación confusa
En muchos países, lo anterior sería motivo de investigación si se tratara de niños reales y no de amalgamas digitales. Sin embargo, la legislación sobre contenidos fetichistas generados por inteligencia artificial que involucran a menores sigue siendo confusa. Nuevos datos de 2025 de la Internet Watch Foundation (IWF) del Reino Unido indican que las denuncias de material de abuso sexual infantil generado por IA, o CSAM, se han duplicado en un año, pasando de 199 entre enero y octubre de 2024 a 426 en el mismo período de 2025. El 56% de este contenido pertenece a la categoría A, la más grave del Reino Unido, que incluye actividad sexual con penetración, actividad sexual con un animal o sadismo. El 94% de las imágenes ilegales de IA rastreadas por IWF eran de niñas (Sora no parece estar generando contenido de Categoría A).
«A menudo observamos cómo se mercantiliza la imagen de niños reales para crear desnudos o imágenes sexuales y, sobre todo, cómo se utiliza la IA para crear imágenes de niñas. Es otra forma de atacar a las niñas en internet», señala Kerry Smith, directora ejecutiva de la IWF.
Nuevas enmiendas y medidas de seguridad
La creciente cantidad de material nocivo generado por IA ha llevado al Reino Unido a introducir una nueva enmienda en su Proyecto de Ley sobre Delincuencia y Policía, que permitirá a «probadores autorizados» verificar que las herramientas de inteligencia artificial no generen CSAM. Según la BBC, esta enmienda aseguraría que los modelos cuenten con salvaguardas en torno a imágenes específicas, incluida la pornografía extrema y las imágenes íntimas no consentidas. En EE. UU., 45 estados han implementado leyes para penalizar el CSAM generado por IA, la mayoría en los últimos dos años, a medida que los generadores de IA continúan evolucionando.
OpenAI, creadora de Sora 2, ha implementado medidas para impedir que los jóvenes vean sus rostros en deepfakes pornográficos. La función de la aplicación que permite a los usuarios grabar su imagen para incrustarla en los videos generados (anteriormente llamada Cameo, pero ahora rebautizada temporalmente) funciona con consentimiento y puede ser revocada en cualquier momento. También existe una norma que prohíbe a los perfiles de adultos enviar mensajes a adolescentes. La aplicación prohíbe de manera estricta el CSAM, y las políticas de OpenAI establecen que sus plataformas «nunca deben utilizarse para explotar, poner en peligro o sexualizar a menores de 18 años», además de informar al Centro Nacional para Menores Desaparecidos y Explotados sobre cualquier material de abuso sexual infantil o que ponga en peligro a menores.
Sin embargo, ¿qué sucede con casos como los juguetes rosa? Estos videos son lo suficientemente llamativos para que los comentaristas de TikTok, YouTubers y creadores de contenido inicien un debate serio sobre sus peligros, y a pesar de ello, los creadores parecen ser capaces de eludir las barreras de OpenAI. Aunque no se trata de pornografía hardcore ni de deepfakes dirigidos a niños reales, cuando se suben junto con declaraciones destacadas, muestran una aparente intención de ‘cultivar’ para los depredadores.