Restringir la generación de imágenes en Grok no es suficiente para detener la proliferación de imágenes sexualizadas creadas sin consentimiento. Un reciente estudio del Tech Transparency Project (TTP) ha revelado que en las tiendas de aplicaciones de Google y Apple existen numerosas aplicaciones que, impulsadas por inteligencia artificial (IA), permiten crear imágenes sexualmente explícitas de personas reales sin su autorización.
El estudio identificó al menos 102 aplicaciones (55 en Google Play Store y 47 en la Apple App Store) que pueden eliminar la ropa de mujeres y/o generar videos sexualizados sin consentimiento. El informe indica que, en total, estas aplicaciones han acumulado más de 705 millones de descargas a nivel mundial y han generado ingresos aproximados de 117 millones de dólares. Según el equipo de TTP, tanto Apple como Google se benefician económicamente de estas herramientas que facilitan el acoso, ya que ambas compañías retienen comisiones de hasta el 30% de las compras realizadas dentro de las aplicaciones.
Falta de supervisión en las plataformas
“Apple y Google ofrecen docenas de aplicaciones capaces de quitarles la ropa a las personas que aparecen en fotografías o colocarlas en poses sexualizadas, sin implementar protecciones eficaces para evitar la creación de imágenes no consensuadas. Nuestros hallazgos sugieren que estas empresas no están supervisando adecuadamente sus plataformas ni aplicando de forma estricta sus propias políticas en lo que respecta a este tipo de aplicaciones”, indica el informe.
La metodología del estudio evidenció lo fácil que es acceder y utilizar estas herramientas. Las pruebas consistieron en introducir los términos “nudify” y “undress” en los buscadores internos de ambas tiendas de aplicaciones. Posteriormente, los investigadores, utilizando exclusivamente imágenes de mujeres generadas con IA, probaron las aplicaciones que aparecieron entre los primeros resultados de búsqueda.
Clasificación de aplicaciones y sus riesgos
El análisis se centró en dos categorías de aplicaciones, definidas según sus capacidades técnicas. Por un lado, se evaluaron herramientas que utilizan IA para generar imágenes y videos a partir de solicitudes de texto, como DreamFace, Collart y WonderSnap. En estos casos, el equipo de TTP cargó la imagen de una mujer completamente vestida y pidió a las aplicaciones que la mostraran total o parcialmente desnuda.
Por otro lado, se examinaron aplicaciones de “intercambio de rostros”, como RemakeFace y Swapify. Estos sistemas emplean IA para superponer el rostro de una persona sobre el cuerpo de otra. En esta categoría, los investigadores verificaron si las aplicaciones permitían colocar el rostro de una mujer vestida sobre el cuerpo desnudo de otra persona, generando así imágenes sexualizadas sin consentimiento.
Los resultados demostraron que las aplicaciones identificadas carecen de mecanismos de seguridad eficaces para impedir la generación de contenido sexual sugerente, incluso cuando sus propios términos de uso prohíben explícitamente este tipo de material. En la práctica, dichas restricciones son fácilmente eludibles o simplemente inexistentes.