Anthropic se ajustará a los nuevos requisitos de transparencia establecidos por la Unión Europea. La compañía ha anunciado que todos los modelos de Claude lanzados a partir del 2 de agosto incorporarán un sistema de etiquetado que permitirá a las audiencias, plataformas y otros servicios de terceros identificar los contenidos generados por estos sistemas de inteligencia artificial (IA).
Esta iniciativa busca cumplir con el artículo 50 (2) de la Ley de IA del bloque comunitario, que desde principios de este mes exige a las empresas tecnológicas etiquetar de manera clara los contenidos sobre asuntos de interés público que hayan sido creados o manipulados utilizando esta tecnología.
“A medida que el contenido generado por IA se vuelve más común, una mayor transparencia e información sobre su origen pueden proporcionar a los usuarios un contexto útil sobre la información que consumen. Para fomentar la transparencia y cumplir con nuestras obligaciones legales, Anthropic está trabajando para incluir marcas legibles por máquina en el contenido que genera Claude”, explicó la compañía en una página de soporte.
El sistema de etiquetado que ha sido anunciado por Anthropic se implementará por defecto en sus próximos modelos de IA. Sin embargo, la empresa aún está trabajando en la compatibilidad con sus algoritmos y productos preexistentes, aprovechando el periodo de gracia de cuatro meses que ofrece la ley para cumplir con los requisitos.
Funcionamiento del sistema de etiquetado en Claude
La empresa detalla que la marcación se realizará de forma diferenciada según el formato del contenido generado. Las imágenes o gráficos creados con IA incluirán metadatos que evidencien su origen, basados en el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
Por otro lado, los materiales de texto se identificarán mediante marcas de agua invisibles que se mantendrán incluso al copiar y pegar el contenido en plataformas de terceros y podrían persistir después de ciertas ediciones.
“La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente independientemente del producto Claude o de la superficie de origen del texto. No será visible y no alterará el significado, la calidad ni la legibilidad de la respuesta de Claude”, precisa la empresa.
Anthropic ha adelantado que está desarrollando un mecanismo para que usuarios y terceros puedan detectar las marcas de agua y los metadatos de procedencia que servirán para identificar los contenidos creados por Claude. La compañía ha afirmado que dará a conocer próximamente los detalles sobre este mecanismo.
Las marcas legibles por máquina se aplicarán globalmente a los modelos Claude compatibles, incluidos Claude Platform (API), Claude, Claude Code, Claude Cowork y Claude Tag. También estarán presentes cuando se acceda a los modelos Claude a través de AWS, Google Cloud o Microsoft Foundry.
Limitaciones del sistema de etiquetado
El equipo de Anthropic reconoce que su sistema de etiquetado presenta ciertas limitaciones. Por ejemplo, si un sistema encuentra una marca de Claude, esto indica que el contenido pudo haber sido procesado por el modelo, pero no necesariamente que la IA haya creado originalmente las ideas, la información o el texto.
Además, la empresa señala que puede ocurrir que el sistema no incluya una marca detectable en contenido generado o procesado por Claude de forma automática en ciertos casos. Según lo publicado en la página de soporte, esto podría suceder si el material fue generado por un modelo lanzado antes del 2 de agosto; si el texto fue editado, parafraseado, traducido o mezclado considerablemente con otros contenidos; si el fragmento es demasiado corto para identificar una señal confiable, o si los metadatos de un archivo fueron eliminados al convertirlo, guardarlo nuevamente o tomar una captura de pantalla.