La identificación de contenido multimedia generado o editado mediante inteligencia artificial (IA) se vuelve más accesible para el público en general gracias al lanzamiento de SynthID Detector por parte de Google. Esta nueva plataforma web permite a cualquier usuario, desde cualquier lugar del mundo, determinar si una imagen, un archivo de audio o un video ha sido creado o manipulado por un algoritmo de IA.
En 2023, Google introdujo SynthID, un sistema que utiliza marcas de agua invisibles para el ojo humano, con el fin de etiquetar audios, imágenes y videos producidos por inteligencia artificial. Pushmeet Kohli, vicepresidente de Ciencia e Iniciativas Estratégicas de Google DeepMind, reveló que hasta ahora se han marcado más de 180,000 millones de imágenes y videos, así como el equivalente a 240,000 años de contenido de audio con este sistema.
A pesar de la magnitud de estos datos, la detección de material creado o modificado de manera sintética requería software especializado que pudiera leer las marcas de agua de SynthID. Para solucionar este inconveniente, Google lanzó el año pasado una versión preliminar de SynthID Detector, aunque su acceso estaba limitado a ciertos medios de comunicación. Esta situación ha cambiado recientemente.
Acceso Abierto a SynthID Detector
A partir de hoy, Google ha anunciado que cualquier persona puede acceder a la herramienta de detección. Según Kohli, esta apertura refleja el compromiso de la empresa por proporcionar más información y herramientas que ayuden a los usuarios a formar un juicio crítico sobre el contenido que consumen en la red. “A medida que las herramientas de IA evolucionan y se vuelven más accesibles, contar con un contexto claro sobre el contenido que encuentras en línea es fundamental para tomar decisiones informadas sobre en qué confiar. Con el nuevo SynthID Detector, cualquiera puede verificar fácilmente si un archivo multimedia ha sido creado con inteligencia artificial”, afirmó.
Funcionamiento del Detector de IA
La herramienta está disponible en un sitio web dedicado. Para utilizarla, los usuarios deben iniciar sesión con sus credenciales de Google, ChatGPT o Apple. Tras aceptar los términos y condiciones, deben ingresar el contenido que desean analizar, y en cuestión de segundos, el sistema comenzará su trabajo y proporcionará un resultado directamente.
El equipo de Google indica que, si la herramienta detecta una marca de agua, es “probable que [el material] haya sido editado o generado por un modelo de IA compatible con SynthID”. Sin embargo, se advierte que un resultado negativo debe ser interpretado con precaución, ya que “esto no elimina por completo la posibilidad de que haya sido creado o manipulado por IA”.
Los falsos negativos pueden ocurrir si el contenido, tras su creación con IA, fue objeto de “modificaciones significativas” que afectaron la marca de agua, o si el algoritmo utilizado para su edición o creación no es compatible con SynthID. Además, existe una posibilidad rara de que el sistema se active incorrectamente en contenido que no tiene marca de agua.
Recomendaciones y Limitaciones
Google sugiere que para obtener resultados óptimos, se utilicen archivos multimedia de alta calidad, ya que la compresión y la edición excesivas pueden afectar la detección. Aunque SynthID es resistente a modificaciones comunes, hay situaciones excepcionales que podrían requerir la recopilación de pruebas adicionales.
Es importante mencionar que, en esta fase inicial de su lanzamiento público, SynthID Detector cuenta con algunas limitaciones. Actualmente, la herramienta solo es compatible con el idioma inglés y puede detectar contenidos generados o editados por algoritmos de Google, OpenAI, Nvidia y Kakao. La empresa ha señalado que, en un futuro próximo, la herramienta también será capaz de procesar materiales generados con la IA de Apple.