Nadie se sorprendió cuando el Papa León XIV citó a santos conocidos y a pontífices anteriores en su primera encíclica, o carta papal de orientación espiritual, Magnifica Humanitas publicada el lunes. Sin embargo, el nombre que llamó la atención de muchos lectores es sinónimo de literatura fantástica: J.R.R. Tolkien, el autor católico de The Lord of the Rings (El Señor de los Anillos).
Lo que el Papa dijo sobre la IA
La carta de León XIII aborda la «salvaguarda de la persona humana en la era de la inteligencia artificial», un tema central en su primer año como líder de la Iglesia Católica. Inspirándose en su predecesor, el Papa Francisco, advierte sobre «el creciente dominio de un paradigma tecnocrático», que puede «reducir la creación a un objeto de explotación y a los seres humanos a meros engranajes de un sistema orientado hacia una eficiencia cada vez mayor». Compara nuevamente el auge de la IA con la revolución industrial que abarcó desde mediados del siglo XVIII hasta principios del XX, aludiendo a las enseñanzas de su homónimo, el Papa León XIII, quien en su encíclica de 1891 afirmó la importancia de los derechos y la dignidad de los trabajadores en una época de convulsión tecnológica y floreciente imperio capitalista.
El extenso texto refuerza aún más la postura de León como escéptico de la IA. El guiño a Tolkien es especialmente notable, dadas algunas interpretaciones retrógradas de la mitología de la Tierra Media por parte de multimillonarios de derecha como Peter Thiel y Elon Musk, que han sido ridiculizadas por otros fans de El Señor de los Anillos. Se podría pensar que el Papa los está troleando. El Vaticano no respondió de inmediato a una solicitud de comentarios.
Preocupaciones sobre la IA y el poder
Es evidente que al Papa le preocupan las motivaciones de los oligarcas tecnológicos que compiten por desarrollar una inteligencia artificial general (IAG) que supere las capacidades humanas. ¿Acaso sueñan con usar esta herramienta para curar enfermedades y solucionar el cambio climático, o están construyendo motores de ganancias ilimitadas y dominio cultural? Al abordar nuestra responsabilidad personal frente a estas fuerzas oscuras, León XIII cita al famoso mago Gandalf de Tolkien: «No nos corresponde dominar todas las mareas del mundo, sino hacer lo que esté en nuestras manos para el bienestar de los años que nos ha tocado vivir, erradicando el mal de los campos que conocemos, para que quienes vivan después tengan tierra limpia que cultivar».
Esa lección está muy lejos de lo que Musk y Thiel parecen ver en la obra maestra de Tolkien.
Silicon Valley y la interpretación de Tolkien
Thiel nombró su empresa de análisis de datos Palantir, en honor a la bola de cristal utilizada como dispositivo de espionaje por el mago traidor Saruman en la saga; aparentemente, llama a su empresa de capital riesgo, Founders Fund, «el precioso», como el retorcido y codicioso personaje Gollum llama al Anillo Único, un medio mágico de poder totalitario. Casi cualquiera que conozca a Tolkien, o las adaptaciones de su obra, puede ver que escribía sobre el efecto corruptor de tal poder. En las novelas, la tentación de gobernar deshace inevitablemente a cualquiera que sucumba a ella, pero Thiel parece deleitarse con las mismas posibilidades de control autoritario y omnisciencia que los villanos.
Por su parte, Musk sugirió que la epopeya de Tolkien puede interpretarse como una parábola antiinmigración y de la construcción del muro: «Cuando Tolkien escribió sobre los hobbits, se refería a la gente noble de los condados ingleses, que no se dan cuenta de los horrores que ocurren lejos de allí. Podían vivir sus vidas en paz y tranquilidad, pero solo porque estaban protegidos por los duros hombres de Gondor», publicó en X en octubre. Ofreció este recuerdo simplemente inexacto de El Señor de los Anillos como defensa del agitador islamófobo de extrema derecha británico Tommy Robinson.
La influencia de la guerra en Tolkien
De hecho, las descripciones de Tolkien sobre ejércitos saqueadores que asolaban la tierra se inspiraron en los horrores de la militarización y la industrialización, fenómenos con los que los ingleses de su generación estaban más que familiarizados. Su experiencia con los horrores mecanizados de la Primera Guerra Mundial se considera una fuente de inspiración crucial para la campaña de muerte de Saruman, que se basó en la destrucción de un antiguo bosque para obtener combustible y en el trabajo esclavo de orcos brutalizados.