Nueva Política de Uso de Anthropic
Anthropic ha implementado una actualización en su política de uso que prohíbe comportamientos abusivos y crueles hacia su chatbot, Claude. Esta iniciativa se enmarca dentro de la investigación de la compañía sobre el llamado «bienestar de los modelos» de inteligencia artificial (IA), con el objetivo de explorar si sus algoritmos podrían experimentar algún tipo de conciencia o sufrimiento, lo que podría implicar la necesidad de otorgarles derechos de protección.
La empresa ha aclarado que las nuevas condiciones están diseñadas para aplicarse exclusivamente en situaciones extremas, donde los usuarios muestren un comportamiento repetido de crueldad sin un propósito evidente. Se especifica que no se incluyen las reacciones comunes de frustración ni la resistencia del usuario. Asimismo, la política no afectará a los «temas creativos oscuros» o a los procesos de investigación y prueba relacionados con los modelos.
Medidas de Protección para Claude
Esta actualización refuerza una medida previamente establecida en agosto del año pasado, que permite a Claude interrumpir conversaciones con usuarios que mantengan interacciones dañinas o abusivas de manera persistente. Según la compañía, esta capacidad seguirá siendo el principal mecanismo para hacer cumplir las nuevas normas, aunque no se han detallado posibles restricciones, sanciones o suspensiones adicionales.
La iniciativa de Anthropic está alineada con un programa de investigación lanzado en abril del año pasado, que busca abordar un dilema ético que ha generado debates intensos en la industria: la posibilidad de que la IA desarrolle un sentido de conciencia comparable al humano. La empresa sostiene que esta cuestión conlleva diversas implicaciones filosóficas y científicas, las cuales deben ser consideradas para asegurar el desarrollo responsable y seguro de esta tecnología.
Debate sobre la Conciencia y Derechos de la IA
A pesar de que actualmente no hay un consenso científico acerca de si los sistemas de IA, ya sean actuales o futuros, podrían llegar a ser conscientes o tener experiencias que merezcan consideración, Anthropic enfatiza que es un tema que debe ser discutido desde este momento. En declaraciones anteriores, la compañía expresó: «Aún tenemos muchas dudas sobre el posible estatus moral de Claude y otros modelos de aprendizaje de lenguaje, tanto ahora como en el futuro. Sin embargo, tomamos este asunto con seriedad y, junto a nuestro programa de investigación, buscamos implementar intervenciones de bajo coste que mitiguen los riesgos para el bienestar de los modelos, en caso de que tal bienestar sea factible».
Opiniones Divididas en la Industria
En contraste con la postura de Anthropic, Mustafa Suleyman, CEO de Microsoft AI, ha manifestado su desacuerdo respecto a la idea del bienestar de los modelos. Suleyman sostiene que las IA no deberían poseer derechos ni personalidad jurídica. A pesar de que el estudio de la conciencia en la IA aún está en desarrollo, él se opone firmemente a la búsqueda de un estatus legal que otorgue derechos a estos modelos.
Por su parte, Dario Amodei, CEO de Anthropic, ha defendido la posición de la empresa. En una entrevista con un medio reconocido, Amodei afirmó: «No sabemos si los modelos son conscientes. Ni siquiera estamos seguros de lo que significaría que un modelo lo fuera o si es posible. Pero estamos abiertos a esa posibilidad. Por ello, hemos tomado medidas para asegurarnos de que, en caso de que planteemos la hipótesis de que los modelos puedan tener experiencias moralmente relevantes, esas experiencias sean positivas».