Las recientes advertencias de expertos en inteligencia artificial han generado preocupación sobre el rápido avance de esta tecnología y sus posibles consecuencias para la humanidad. Estas alarmas se fundamentan en la intensa competencia entre Estados Unidos y China, donde las empresas se apresuran a desarrollar modelos de IA que podrían superar con creces las capacidades humanas.
Sin embargo, el padre Paolo Benanti, sacerdote que asesora a la Iglesia católica en temas de IA, sostiene que esta controversia desvía la atención de un debate crucial sobre la necesidad de regular a las empresas que la desarrollan. Al presentar el desafío como algo tan complejo que solo ellos pueden abordar, los grandes laboratorios excluyen a otros actores de la conversación. “La ética no debe ser monopolio de un consejo de administración, sino que debe ser debatida en la esfera pública”, argumenta Benanti. “Es fundamental establecer una regulación democrática.”
Demandas de Evaluaciones Externas
En un ensayo posterior a las advertencias sobre la seguridad de la IA, Dario Amodei, CEO de Anthropic, abogó por que los nuevos modelos de IA sean sometidos a evaluaciones obligatorias por parte de organismos independientes antes de su lanzamiento. También propuso restricciones a la “destilación”, un proceso en el que laboratorios rivales entrenan sus modelos basándose en los resultados de otros modelos. Por otro lado, algunos expertos sugieren prohibir completamente la “automejora recursiva”, donde la IA utiliza sus propias capacidades para desarrollar versiones futuras de sí misma.
Benanti, por su parte, no se opone a los métodos de desarrollo per se, ya que teme que limitar estos enfoques podría frenar la innovación. Sin embargo, enfatiza la necesidad de establecer normas que aseguren que los modelos de IA permanezcan bajo control humano. Cualquier regulación debe ser diseñada por la sociedad y no por las mismas empresas que crean la tecnología. “Cuando un pequeño grupo de personas establece las reglas, eso se denomina un cártel”, afirma Benanti.
El Interés Detrás de las Declaraciones
Es difícil valorar la veracidad de las declaraciones exageradas sobre las capacidades de los nuevos modelos de IA, señala Benanti, en parte debido a los intereses económicos, políticos y personales que están en juego. Aunque OpenAI y Anthropic apoyan la idea de desacelerar el desarrollo, ambas empresas se preparan para salir a bolsa, lo que implica una intensa competencia por el dominio del mercado. La rivalidad entre Estados Unidos y China, que lideran el desarrollo de estas tecnologías, añade aún más complejidad al panorama.
Anthropic ha preferido no hacer comentarios al respecto, mientras que OpenAI y Google DeepMind no han respondido a las solicitudes de información.
Críticas a la Ideología de la Superinteligencia
Benanti también critica la forma en que algunos sectores de la industria describen la “superinteligencia” con un tono casi divino, presentándola como una entidad tan compleja que escapa a nuestra comprensión. Esta reverencia puede distorsionar el discurso, advierte. “¿Estamos hablando de algo o de alguien? Esa es la verdadera cuestión. No es una cuestión de fe, sino de matemáticas”, aclara. “No estamos creando una nueva divinidad; simplemente estamos confundidos al pensar que hay algo más que cálculos estadísticos en juego.”
Al reflexionar sobre las diferencias entre humanos y máquinas y cómo proteger a las futuras generaciones de los efectos negativos de la IA, Benanti sugiere que esta nueva era podría proporcionar un rol renovado para las religiones en el debate público. “Abordar los desafíos de nuestra época es parte de la misión de la Iglesia”, asevera.
La Perspectiva del Papa y la Ética de la IA
Aunque Benanti es sacerdote, no actúa en nombre oficial de la Santa Sede, sino que ofrece su expertise en filosofía, teología y tecnología. Utiliza la IA para crear herramientas educativas para sus estudiantes universitarios, pero se ha negado a revelar si hay un vínculo específico con el papa León XIV en lo que respecta a la tecnología, citando un “acuerdo de confidencialidad”.
Recientemente, el papa León publicó su primera encíclica, que aborda la IA como tema central, donde advierte sobre la lógica tecnocrática en este sector, que reduce a los humanos a meros proyectos de optimización. También hace un llamado a la colaboración internacional entre potencias rivales y empresas de IA, instando a que se priorice el bien común por encima de los intereses geopolíticos o comerciales. En uno de sus puntos más premonitorios, señala que existe “el riesgo de que la humanidad se convierta en víctima de sus propios logros”.
Benanti considera que el debate sobre la superinteligencia podría desviar la atención de las ambiciones expresadas en la encíclica, alentando a las personas a ceder su voz a un grupo reducido de matemáticos, informáticos y ejecutivos de grandes empresas. “Lo que realmente necesitamos son frenos y un volante”, concluye, enfatizando que los humanos deben mantener un control significativo sobre la tecnología.