La primera encíclica del papa León XIV, “Magnifica Humanitas”, la carta pastoral autorizada de la iglesia Católica publicada el 25 de mayo, remarcó la necesidad de “proteger a los humanos en el tiempo de la inteligencia artificial”, lo que incluye el uso de la IA en contextos de guerra y la amenaza que representan los sistemas de armas con autonomía operativa (robots asesinos).
Partiendo de la posición que mantiene la Iglesia desde hace mucho tiempo, el papa León escribió que “la decisión de emplear la fuerza letal no puede delegarse en procesos turbios o automatizados, sino que debe permanecer bajo un control humano efectivo, consciente y responsable”.
El sumo pontífice anterior, el papa Francisco, se refirió en 2024 a la amenaza existencial que representan los sistemas de armas autónomos y advirtió que “ninguna máquina debería elegir jamás quitarle la vida a un ser humano”.
Ambos pontífices han señalado que al confiar a algoritmos las decisiones que tienen consecuencias letales, se degrada la dignidad humana y se permite que políticos y líderes militares se desentiendan del peso moral de sus acciones. Un grupo integrado por organizaciones cristianas, budistas y musulmanas emitió en 2023 una declaración interreligiosa en reclamo de una “acción conjunta urgente contra los robots asesinos”.
La campaña “Stop Killer Robots”, que Human Rights Watch fundó con otros actores en 2013, ha instado a que se adopte un tratado donde se prohíban y se regulen los sistemas de armas autónomos. Y ahora el papa León ha pedido “que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas”, para asegurar que “el desarrollo y el uso de la IA en el ámbito bélico [estén] sujetos a las restricciones éticas más rigurosas, y al respeto de la dignidad humana y de la sacralidad de la vida”.
En junio, los Estados se reunirán en las Naciones Unidas para analizar por primera vez cómo abordar las “oportunidades y desafíos” que plantea el uso de la IA por parte de fuerzas militares. Los Estados volverán a reunirse en Ginebra en el mes de noviembre para analizar la posibilidad de poner en marcha oficialmente las negociaciones para un tratado que regule el uso de los sistemas de armas autónomas. Hasta la fecha, 130 Estados han manifestado estar a favor de un instrumento jurídicamente vinculante que prohíba o regule dichas armas.
Los Estados indecisos deben tener en cuenta al Vaticano, a los demás países y a las organizaciones de la sociedad civilque se han expresado abiertamente sobre el auge desenfrenado de la tecnología digital que crea la posibilidad real de que se confíen a los algoritmos las decisiones de vida o muerte. Deben adoptar medidas inmediatas para regular estas tecnologías y asegurar que operen en beneficio de la humanidad, y no para destruirla.
