El Papa León XIV publicó su obra. primera encíclica el lunes, apodado Humanidad extraordinaria sobre “proteger a la persona humana en la era de la inteligencia artificial”. Si bien la IA es la causa, los problemas en los que se centra Leo son más antiguos y más amplios: la desigualdad, la guerra, la erosión de la democracia y la concentración del poder en manos de aquellos a quienes les importa poco si la humanidad en su conjunto sigue siendo excepcional.
En el documento de 200 páginas, que el Papa Francisco presentó junto con el cofundador de Anthropic, Chris Olah, Leo argumentó que la tecnología construida y administrada por una pequeña élite, por definición, no puede beneficiar el bien común.
“Cuando el poder se concentra en manos de unas pocas personas, tiende a volverse opaco y a evitar el escrutinio público, aumentando así el riesgo de distorsionar formas de desarrollo que dan lugar a dependencia, exclusión, manipulación y nuevas desigualdades”, escribió.
“De hecho, como ocurre con cualquier cambio tecnológico importante, es probable que la IA amplifique el poder de quienes ya tienen recursos económicos, experiencia y acceso a datos”, continúa la encíclica, destacando la preocupación de que las élites puedan usar su poder para “dar forma a patrones de información y consumo, influir en los procesos democráticos y dirigir la dinámica económica en su propio beneficio”.
La encíclica llega días después de que el presidente Donald Trump retrasara la firma de su orden ejecutiva sobre IA, que habría dado al gobierno supervisión de los nuevos modelos antes de su lanzamiento. reportado a instancias del inversionista de capital de riesgo y ex zar de inteligencia artificial de la Casa Blanca, David Sacks.
El Papa León pidió que AI se guíe por “criterios claros y una supervisión efectiva” basada en la participación de las comunidades a las que impactará. Más concretamente, Leo pidió el fin de la carrera armamentista de la IA “en busca de algoritmos más potentes y conjuntos de datos más grandes” que las empresas y los países creen que “asegurarán el dominio geopolítico o comercial”.
“Desarmar es desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar”, escribió.
Una vez más, esta dinámica es anterior a la IA. La Rerum Novarum del Papa León XIII en 1891 discutió la misma concentración de poder durante la Revolución Industrial, pero no necesitamos mirar tan atrás. La adquisición de Twitter por parte de Elon Musk y la aplicación de la plataforma para ayudar a elegir a Trump; Cientos de millones en fondos fluyeron desde la élite tecnológica hacia los súper PAC para bloquear la regulación de la IA, un patrón que claramente inspiró el trabajo de León XIV.
El Papa Francisco ha llegado a la misma conclusión a la que muchos han llegado: el poder y las capacidades de la IA hoy aumentan enormemente las apuestas.
Paolo Carozza, profesor de la Facultad de Derecho de Notre Dame, miembro de la Academia Pontificia de Ciencias Sociales y presidente de la Junta de Supervisión de Meta, dijo a TechCrunch que la desinformación impulsada por la IA y los deepfakes han “erosionado nuestra capacidad de reconocer lo que es verdad y lo que no es verdad, y esto realmente está teniendo un impacto en la política democrática”. La práctica de la industria tecnológica de “recolectar y manipular” datos humanos, añadió, plantea “desafíos fundamentales para la libertad cognitiva”.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
