La revista Time incluyó el año pasado al papa León XIV entre las 100 personalidades más importantes del mundo en inteligencia artificial (IA). No es casualidad. Solo pasaron ocho días desde su nombramiento hasta que habló de esa tecnología: “La verdad no nos aleja; por el contrario, nos permite afrontar con mayor vigor los desafíos de nuestro tiempo, como las migraciones, el uso ético de la IA y la protección de nuestra amada tierra”, dijo en su segundo discurso oficial. Su primera encíclica, Magnifica Humanitas (magnífica humanidad), la ha dedicado precisamente a esta tecnología.
Las críticas a las grandes tecnológicas de la primera encíclica de León XIV contrastan con el hecho de que la Iglesia no ve problema en comprar valores en esa industria
La revista Time incluyó el año pasado al papa León XIV entre las 100 personalidades más importantes del mundo en inteligencia artificial (IA). No es casualidad. Solo pasaron ocho días desde su nombramiento hasta que habló de esa tecnología: “La verdad no nos aleja; por el contrario, nos permite afrontar con mayor vigor los desafíos de nuestro tiempo, como las migraciones, el uso ético de la IA y la protección de nuestra amada tierra”, dijo en su segundo discurso oficial. Su primera encíclica, Magnifica Humanitas(magnífica humanidad), la ha dedicado precisamente a esta tecnología.
La IA preocupa en el Vaticano. Para el sumo pontífice, el asunto es tan importante que hasta determinó la elección de su nombre. “El papa León XIII (…) afrontó la cuestión social en el contexto de la primera gran revolución industrial. Y hoy, la Iglesia ofrece a todos el tesoro de su doctrina social en respuesta a otra revolución industrial y a los desarrollos de la inteligencia artificial, los cuales plantean nuevos desafíos en la defensa de la dignidad humana, de la justicia y el trabajo”, aseveró León XIV en su primera intervención como papa ante el colegio cardenalicio.
“La IA debe ser desarmada”, espetó ayer el papa durante la presentación de su encíclica. “Es una palabra fuerte, pero la elegí de forma consciente. La Iglesia lleva mucho tiempo trabajando por el desarme nuclear. La IA debe ser desarmada de las lógicas que la transforman en dominio, exclusión y muerte”, añadió. Antes que él, tomó la palabra Christopher Olah, cofundador de Anthropic, la desarrolladora de Claude y de Mythos, un programa de IA generativa tan sofisticado que ha desatado la alarma mundial por su potencial para poner en jaque la ciberseguridad. “Necesitamos voces morales que los incentivos no puedan doblegar. Necesitamos que más sectores del mundo hagan lo que su Santidad: tomarse esto en serio”.
En la encíclica Rerum Novarum, de 1891, León XIII adapta la Iglesia a la realidad social que traía el cambio de siglo, reclamando derechos laborales para el precario proletariado industrial de la época, con jornadas laborales de 20 horas de las que no se escapaban niños ni embarazadas, y criticando los excesos del capitalismo monopolista (43 años después de la publicación del Manifiesto Comunista). El primer papa estadounidense pretende hacer lo propio en el contexto de la IA. Aunque ha presentado su encíclica junto a un destacado miembro de la industria de la IA, lo que ha sido comentado (“es como si León XIII hubiera presentado Rerum Novarum junto a Henry Ford”, comenta una analista).
La encíclica publicada este lunes no solo se justifica como una forma de abordar las consecuencias sociales de la IA. La Iglesia no atraviesa su mejor momento, y ve en esta tecnología una posible fuente de problemas para la institución. “No es ninguna revelación que la Iglesia Católica está viviendo una de las crisis más profundas de su historia, fundamentalmente por la pérdida de credibilidad por la pederastia, un fenómeno extendido universalmente en su estructura”, opina el teólogo Juan José Tamayo, profesor emérito honorífico de la Universidad Carlos III y autor de Cristianismo Radical (editorial Trotta). “La IA es un mecanismo de comunicación para la difusión del mensaje católico, del Papa y de la jerarquía en general, para armonizarlo con la idea de la Iglesia universal. Por eso necesitan la IA para transmitir un mensaje a toda la ciudadanía que neutralice de alguna manera esa crisis”.
Inversiones en IA
Time presenta al papa León XIV como un “contrapeso espiritual” al liderazgo de Silicon Valley. Pero el discurso del sumo pontífice y el de su predecesor, el papa Francisco, muy crítico tanto con la IA como con la industria que la está desarrollando, contrasta con la política de inversiones de la Iglesia.
El banco del Vaticano, el Instituto per le Opere di Religione (IOR), gestiona activos por valor de 5.900 millones de euros, según sus propios reportes. La cantidad casi se ha triplicado desde 2020, cuando sumaba 2.200 millones. La institución dedica un 10% de su presupuesto a obras caritativas que refuercen “asistencias humanitarias que respondan a las necesidades más urgentes de los pobres y los marginados”.
El resto de ese dinero se invierte. ¿Dónde? El IOR no hace públicas sus posiciones. Lo que sí se conoce son los valores que, en opinión de la Iglesia, son aptos para invertir, es decir, están “alineados con los valores católicos”. En febrero de este año, el IOR y la empresa estadounidense de servicios financieros Morningstar sacaron dos índices bursátiles, uno europeo y otro estadounidense, cada uno de los cuales incluye 50 empresas de mediana y gran capitalización que “se ajustan a las enseñanzas católicas en materia de la vida, la responsabilidad social y la protección del medio ambiente”.
Entre las principales posiciones de esos índices figuran empresas como Meta, Microsoft, Amazon o Alphabet (matriz de Google), así como ASML, Intel o Nvidia Corp, Apple o Tesla. Es decir: desarrolladoras de IA, proveedoras de infraestructura en la nube, fabricantes del hardware necesario para que funcione esta tecnología y compañías cuyos productos estrella incorporan IA.
No se incluyen en estos índices empresas relacionadas con los sectores en los que, desde hace años, el Vaticano recomienda no invertir: apuestas y juego, aborto e interrupción del embarazo (como los fabricantes de preservativos), industria de combustibles fósiles y minería (por la contaminación) o armamentístico. Esto último contrasta con el hecho de que muchas de las tecnológicas que sí cuentan con el visto bueno de la Iglesia tienen firmados contratos con el Pentágono o han prestado apoyo directo al genocidio palestino.
Los índices con el sello del Vaticano son una guía para gestoras y fondos de inversión que, como iCapital, Altum Faithful o Portocolom, están especializadas en atraer el ahorro de congregaciones religiosas u organizaciones que observan el catolicismo. Manejan miles de millones de euros en activos, por lo que sus movimientos son influyentes. Y esos índices incluyen en una posición destacada a muchas de las principales desarrolladoras de IA.
El fraile que colocó a la Iglesia en la conversación
El sábado 13 de septiembre del año pasado, Karol G actuó ante una abarrotada plaza de San Pedro en una noche en la que también cantaron Andrea Bocelli, John Legend y Pharrell Williams. El insólito festival, Grace for the World, fue el colofón a una semana de jornadas de reflexión organizadas por la Fundación Fratelli Tutti, instituida por el papa Francisco. Durante esos días desfilaron por el Vaticano una decena de premios Nobel para debatir sobre distintas temáticas.
Hubo una mesa de discusión dedicada específicamente a la IA. La pregunta que debían responder era cómo pueden coexistir las inteligencias humana, animal y maquínica. El nivel de los participantes era alto: se sentaron en la misma mesa Geoffrey Hinton, premio Nobel de Física y creador del algoritmo Transformer, que hizo posible la IA generativa; Yoshua Bengio, otro padrino de la IA; o Stuart Russell, muy conocido también en la disciplina, además del cosmólogo Max Tegmark o del historiador Yuval Noah Harari.
El organizador de esa mesa redonda, capaz de juntar a primeras espadas de la academia, fue un monje franciscano, Paolo Benanti. Este teólogo fue asesor para IA por el papa Francisco, labor que también ha realizado para la primera ministra italiana, Giorgia Meloni. Los escritos de Benanti reflejan una visión humanocéntrica de la IA. Ve bien el desarrollo de una IA sapiente, siempre que quede circunscrita a un papel de herramienta.
“La propia pregunta de investigación ya implica una visión de la IA determinista y doomertista[quienes sostienen que la IA traerá el apocalipsis]”, explica a EL PAÍS una de las personas que participaron en esas reuniones. Los debates fueron acalorados. De la docena de expertos y expertas convocadas, solo dos trataron de que se hablase sobre los problemas actuales que provoca la IA, como su alto consumo energético, su efecto en el medio ambiente, los sesgos que incorporan muchos modelos o su efecto en la salud mental.
Tras la conclusión del grupo de trabajo, Tegmark, Bengio, Hinton y Russel impulsaron una nueva carta contra el desarrollo de la IAG (IA general, la que, teóricamente, igualará o superará a las capacidades humanas). Entre los firmantes se contaban Benanti o Steve Bannon, exasesor de comunicación de Donald Trump.
“La retórica de Benanti es, esencialmente, similar a la de [el director general de OpenAI, Sam] Altman: la IA es tan eficiente, potente y peligrosa que la IAG está al caer, así que lo importante es que quien la desarrolle sean las personas correctas”, señala quien participó en las discusiones del Vaticano.
No hay ningún indicio científico que lleve a pensar que podemos estar cerca de ver la IAG. Sin embargo, la Iglesia mueve ficha con su encíclica sobre IA. Tanto por las consecuencias sociales de esta tecnología, subrayadas por el papa Francisco y ahora por León XIV, como por el elefante en la habitación que se ha instalado en la Santa Sede: ¿cómo puede afectar a la propia existencia de la institución el desarrollo de máquinas que tienen respuestas, acertadas o no, para todas las preguntas, incluso para las existenciales?
Sociedad en EL PAÍS
