La encíclica del papa León XIV sobre IA: cuál es su relevancia

La inteligencia artificial (IA) suele discutirse entre ingenieros, empresas tecnológicas, gobiernos y laboratorios de investigación. Ahora también entró el Vaticano.

Con Magnifica humanitas, el papa León XIV convirtió la IA en el tema central de la primera encíclica de su pontificado, uno de los documentos más importantes que puede emitir la Iglesia católica.

Para entender por qué el Vaticano decidió entrar en esta conversación, CONECTA consultó a especialistas en filosofía de la ciencia, humanidades digitales, ética y teología del Tecnológico de Monterrey. 

Sus lecturas coinciden en algo: la encíclica utiliza inteligencia artificial para discutir la dignidad humana, concentración de poder y qué significa ser humano en medio de una revolución tecnológica.

 

¿Por qué León XIV eligió la IA como primera batalla?

La fecha elegida para firmar Magnifica humanitas parece una pista, según los especialistas del Tec consultados por CONECTA.

León XIV firmó el documento el 15 de mayo, exactamente 135 años después de Rerum Novarum, la encíclica con la que el papa León XIII respondió a las consecuencias sociales provocadas por la Revolución Industrial.

Para Joel Sierra Cavazos, profesor del Departamento de Estudios Humanísticos del Tec y autor de múltiples artículos y recursos enfocados en la fe, filosofía y dignidad humana, la referencia difícilmente puede entenderse como coincidencia.

“Hoy en día se vive un momento parecido a lo que ocurrió en el año 1891”. Entonces las preocupaciones giraban alrededor de fábricas, explotación obrera y profundas transformaciones sociales, comenta.

Hoy, aparecen la automatización, plataformas digitales, modelos generativos y sistemas capaces de reorganizar actividades cotidianas.

De acuerdo con Sierra, la preocupación es parecida, existe, dice: “La posibilidad o el peligro de deshumanización, marginación, explotación e injusticia”.

Para el especialista, la decisión también refleja otra transformación: “La idea es sacar la fe de una esfera privada y llevarla nuevamente a la esfera pública”.

Eso ayuda a entender por qué una encíclica sobre IA termina hablando también de trabajo, regulación, desigualdad o concentración tecnológica, explica, porque la discusión ya no ocurre únicamente en laboratorios o empresas tecnológicas, sino también en espacios que afectan la vida cotidiana.

Para Luis Ricardo Fernández Carril, profesor y coordinador de sostenibilidad del Tec y doctor en Filosofía de la Ciencia, dedicar la primera encíclica del pontificado a inteligencia artificial también funciona como una declaración institucional.

“(El papa) Francisco convirtió cambio climático en el tema central de su primera encíclica. León XIV eligió inteligencia artificial, (siendo) uno de los temas más urgentes que tenemos actualmente”.

La pregunta detrás de la encíclica

De acuerdo con los especialistas, la Magnifica humanitas despierta la pregunta: ¿qué ocurre cuando comenzamos a delegar creatividad, juicio, aprendizaje, toma de decisiones o producción intelectual?

Para Fernández Carril, profesor y coordinador de sostenibilidad del Tec y doctor en Filosofía de la Ciencia, ahí aparece el núcleo filosófico del documento.

“La inteligencia artificial no es presentada como un problema técnico, sino un desafío profundamente humano”.

La preocupación no surge únicamente porque existan sistemas cada vez más sofisticados. Aparece cuando comenzamos a medir valor humano utilizando productividad, eficiencia o rendimiento como variables principales.

“No podemos reducirnos únicamente al valor instrumental”.

José Miguel Muñiz Apresa, director de la Maestría en Humanidades Digitales del Tec, encuentra el problema en otro lugar.

“El problema tiene que ver en cómo aplicamos estos métodos”.

La discusión, dice, debe comenzar en qué problemas intentamos resolver, qué comunidades buscamos beneficiar y qué consecuencias estamos dispuestos a aceptar.

Porque la pregunta no es únicamente qué puede hacer la tecnología. También importa decidir qué queremos seguir haciendo nosotros.

“La inteligencia artificial no es presentada como un problema técnico, sino un desafío profundamente humano”.- Luis Ricardo Fernández

La discusión real: poder

Muñiz Apresa resume buena parte del documento en una frase: “Está hablando de poder”.

Para él, la discusión ocurre en un contexto donde infraestructura, capacidad de cómputo, datos y desarrollo tecnológico permanecen concentrados en pocos actores.

“Nosotros, desde el sur global, sí participamos en la construcción de datos. Solo que no está tampoco muy claro, una vez que participamos en eso, de qué manera nos pertenece también esa información.

"Al parecer no nos pertenece, porque luego tenemos que pagar por acceder a los mismos datos que nosotros hemos ido generando".

Y por otra parte, señala que la infraestructura necesaria para almacenar, clasificar y monetizar esa información está concentrada lejos de quienes la producen. 

La consecuencia, explica Muñiz, no es únicamente económica. También modifica representación, participación y capacidad de decisión.

"El poder tecnológico está concentrado en unos cuantos actores. Y muchas veces, agrega, esos actores ni siquiera son gobiernos. Son empresas", explica Fernández.

La consecuencia es que regulación, instituciones y mecanismos democráticos avanzan más lento que la tecnología.

Por eso, explica Muñiz, la discusión también necesita incorporar gobernanza democrática: quién regula, quién decide, quién participa y quién queda fuera.

Datos, trabajo invisible y colonialismo digital

La encíclica introduce conceptos poco comunes dentro de documentos papales. Uno de ellos es colonialismo digital, señalaron los especialistas.

Donde resalta que ya no se extraen únicamente recursos naturales, sino también datos sanitarios, mapas genéticos y perfiles epidemiológicos.

Y esta idea obliga a mirar más allá de los modelos. Cada búsqueda, fotografía, conversación, dato médico o actividad digital genera información útil para entrenar sistemas cada vez más sofisticados.

Para Muñiz, la pregunta deja de ser únicamente quién construye inteligencia artificial.

También importa quién produce información, quién obtiene beneficios y quién decide cómo utilizarla.

La encíclica menciona desde personas dedicadas a etiquetar datos hasta cadenas materiales necesarias para construir infraestructura tecnológica, incluyendo extracción de minerales estratégicos o trabajo mal remunerado necesario para sostener sistemas digitales cada vez más complejos.

Sierra encuentra ahí otra conexión con Rerum Novarum.

Explica que León XIII ya hablaba del destino universal de los bienes: la idea de que riqueza y abundancia existen para beneficiar colectivamente a la humanidad.

“La lluvia no cae solo para los ricos, y el aire no existe solamente para quienes lo pueden pagar”.

Para Sierra, la encíclica traslada esa discusión al mundo digital.

“Los datos, la información y el recurso que nos provee la inteligencia artificial no puede ser solo bien de unos cuantos, sino que tiene como destino ser distribuido universalmente”.

La encíclica subraya la fragilidad humana 

Parte del documento cuestiona una idea cada vez más presente dentro de ciertas conversaciones tecnológicas: que la fragilidad humana es un problema técnico.

La discusión aparece alrededor del transhumanismo, una corriente que suele plantear que límites biológicos, vulnerabilidad o dependencia eventualmente podrán resolverse mediante tecnología.

Para Sierra, ahí aparece una de las reflexiones más profundas de la encíclica: “La condición humana es precisamente la fragilidad”.

De acuerdo con la encíclica de León XIV, debemos aceptar nuestros límites y nuestra fragilidad humana.

"La pretensión de que lograremos vencer nuestras debilidades gracias a los robots o a las prótesis robóticas que podamos inventar es un engaño, una ilusión. Porque solamente estarán disponibles para los muy ricos, creando así una división más entre los que tienen y los que no tienen".

Fernández encuentra otra consecuencia. ¿Qué ocurre con nuestra idea de humanidad cuando la vulnerabilidad deja de formar parte de ella?

“La vulnerabilidad, los límites y la dependencia forman parte constitutiva de la condición humana. Esa fragilidad, añade, también permite compasión, reconocimiento mutuo y construcción colectiva".

"La pretensión de que lograremos vencer nuestras debilidades gracias a los robots o a las prótesis robóticas que podamos inventar es un engaño, una ilusión".- Joel Sierra

 

El costo de avanzar sin detenerse

La encíclica no está en contra de la IA, pero sí pide una pausa. Fernández considera que el desarrollo tecnológico, la regulación, la adaptación social y la reflexión ética están avanzando a ritmos distintos.

“La transformación que puede provocar la inteligencia artificial no es en los próximos diez años, es ahora”.

Por eso, la discusión no puede posponerse. Porque el impacto no ocurre únicamente sobre empleo o educación. También existen costos sociales, ambientales y espirituales.

“No podemos simplemente abrir los brazos y adoptar inteligencia artificial sin reflexionar”.

Y para Muñiz, la discusión no puede limitarse únicamente a tecnólogos o desarrolladores. También necesita incorporar humanidades, ética, filosofía y ciencias sociales.

¿Nueva Babel o nueva Jerusalén?

Para Joel Sierra, la metáfora que atraviesa gran parte del documento aparece cuando compara dos proyectos de construcción.

Sierra dice que Babel representa una sociedad que concentra poder, construye sin límites y termina fragmentándose. La referencia proviene del relato bíblico donde una ciudad intenta construir una torre capaz de alcanzar el cielo.

Pero Sierra encuentra otra lectura: “La torre de Babel tiene como finalidad la gloria humana”., pero también representa “la imposición de un solo idioma, de una sola tecnología y de una sola visión del mundo sobre toda la humanidad”.

Por eso, considera que Babel termina funcionando como una metáfora de dominación imperial.

Un escenario donde inteligencia artificial, datos o infraestructura tecnológica pueden utilizarse para imponer visiones del mundo, excluir a quienes no tienen acceso o crear nuevas élites construidas alrededor de información, algoritmos y capacidad tecnológica.

La encíclica propone otra imagen: Jerusalén. No únicamente como ciudad, explica Sierra, sino como otro proyecto de construcción.

La referencia, menciona, aparece en la reconstrucción de las murallas de Jerusalén liderada por Nehemías, donde distintos grupos participan colectivamente en una misma tarea.

“Es otro proyecto de construcción, pero que tiene como finalidad no la gloria humana, sino la gloria de Dios”.

Sierra utiliza otra expresión para describir esa diferencia: corresponsabilidad valiente.

“La corresponsabilidad valiente en la construcción de esta muralla”.

“Nadie puede hacerlo solo. Nadie tiene el monopolio de una agenda totalmente buena, positiva o correcta”.

La diferencia, explica, también está en el método: 

• Mientras Babel concentra. Jerusalén distribuye.
• Mientras Babel impone. Jerusalén construye colectivamente.

Para Luis: “Este no es un llamado al mundo católico. La discusión, involucra filosofía, política, economía, ética, religión y tecnología al mismo tiempo".

Y ahí aparece la principal conclusión de las tres lecturas. La encíclica utiliza inteligencia artificial para discutir algo más amplio: ¿Qué proyecto humano estamos construyendo con estas tecnologías?
 

Qué es una encíclica

De acuerdo con el Vaticano, las encíclicas son los documentos más importantes que escribe un pontífice y suelen dirigirse a obispos, fieles católicos y, en muchos casos, a personas fuera de la Iglesia.

El término "encíclica" proviene del latín "encyclia" y del griego "egkyklios", y significa “envolver en círculo”, es decir, es una carta circular de la más alta relevancia para la Iglesia y con carácter solemne.

Tradicionalmente se redactan en latín (el idioma oficial de la Iglesia católica) y después se traducen a distintos idiomas.

Magnifica humanitas es la primera encíclica del papa León XIV. 

El documento fue publicado el 25 de mayo y firmado diez días antes, el 15 de mayo, fecha que coincide con el aniversario 135 de Rerum Novarum, la encíclica con la que León XIII respondió a las transformaciones provocadas por la Revolución Industrial.

Está dividida en cinco capítulos, Magnifica humanitas aborda temas como automatización, trabajo, datos, regulación, concentración tecnológica y desarrollo digital. 

Puedes leer la encíclica aquí.

LEE ADEMÁS: