Un algoritmo decide lo que vemos, otros filtran lo que leemos y otros alimentan los procesos que organizan el trabajo, la información y las elecciones colectivas. en la encíclica Humanidad extraordinaria. Firmada por primera vez por el Papa León XIV y publicada el 25 de mayo, la inteligencia artificial no se considera una tecnología más; es parte de la infraestructura invisible de nuestra vida diaria.
Sin embargo, el texto no se entiende como un mero reflejo de la tecnología. Papa León cosas nuevas Papa León XIII (publicado el 15 de mayo de 1891) en el año de su 135 aniversario. La encíclica analiza cuestiones laborales en el apogeo de la revolución industrial a finales del siglo XIX.
Si las “res novae” de esa época eran las fábricas, los trabajadores y el capitalismo industrial, hoy los nuevos problemas giran en torno a plataformas digitales, algoritmos, datos y sistemas de automatización que están remodelando el poder, la economía y las relaciones sociales. Por tanto, esta encíclica no se presenta como un texto técnico sobre innovación, sino más bien como un intento de interpretar la transformación digital en aras de la dignidad humana y el bien común. La tecnología, escribió el Papa Francisco, no es mala; más bien pertenece a la historia y a la creatividad humana. Pero la situación actual es diferente tanto en escala como en profundidad: “Nunca antes la humanidad había tenido tanto poder sobre sí misma”, dice el texto, que describe la tecnología que ahora está dando forma a los procesos de toma de decisiones, la imaginación colectiva y la vida social de maneras cada vez más amplias.
Es desde este punto que Robert Francis Prevost decide comenzar: desde la creciente concentración de poder ejercido a través de sistemas cada vez más opacos pero cada vez más firmes, y desde la pregunta que recorre toda esta encíclica: ¿Qué queda de la dignidad humana, la protección de la verdad, el trabajo, la justicia social y la paz cuando las decisiones se transfieren a la lógica algorítmica?
Tecnología de desarme
En la encíclica hay una frase que es clave para interpretar todo el escenario: “desarmar la tecnología”. El significado no es de ninguna manera un intento de frenar el desarrollo de la inteligencia artificial o negar su potencial impacto transformador para siempre. Para Robert Francis Prevost, desarmar la IA significa evitar que se convierta en una forma de fuerza capaz de dominar la existencia humana.
Para León XIV lo importante no era la tecnología en sí, sino su organización y aplicación. La IA, escribió el Papa Francisco, es parte de la actual carrera global hacia “los algoritmos de mayor rendimiento” y “los centros de datos más grandes”, donde la ventaja competitiva también se está volviendo geopolítica. En este contexto, sólo unos pocos actores centralizan la infraestructura digital, los datos y la capacidad informática, lo que impacta la información, la economía e incluso la democracia.
Desarmar significa romper la ecuación entre poder técnico y derecho a gobernar. “Como ocurre en cada punto de inflexión tecnológico, la IA tiende a aumentar el poder de quienes ya tienen recursos económicos y acceso a los datos”, explicó el Papa.
Explícitamente, la encíclica afirma que simplemente regular la tecnología no es suficiente: la tecnología debe ser eliminada de los monopolios, debe hacerse transparente y abierta a cuestionamientos, es decir, debe hacerse “habitable” por una variedad de actores. Lo más importante es evitar que la IA se convierta en un instrumento de dominación económica, política o militar por parte de unos pocos. Esta no es una metáfora moral: es un llamado a evitar que la lógica de la competencia convierta la infraestructura compartida en un sistema de control.
La verdad en un sistema que selecciona la realidad
Si la tecnología concentra el poder, uno de los primeros impactos reales se producirá en la forma en que se forma la verdad colectiva. Esta encíclica aborda el tema de la desinformación, pero de una manera más profunda porque la realidad percibida, o la experiencia, está cada vez más filtrada por sistemas que deciden qué mostrar y qué ocultar.
No se trata sólo de noticias falsas o contenidos falsos en diversas formas. El problema es que las plataformas y los algoritmos seleccionan información basándose en criterios de maximizar la atención y el compromiso. En otras palabras, lo que se ve no es necesariamente lo que es verdad, sino lo que tiene más éxito a la hora de producir una reacción. De esta manera, la verdad no se pierde, sino que depende de sistemas opacos que influyen en las opiniones, percepciones y elecciones colectivas sin que siempre quede claro cómo.
