El Papa León XIV advirtió sobre los riesgos de la IA y el poder ilimitado de la tecnología en su primer documento papal importante publicado el lunes. Humanidad extraordinaria es el manifiesto del Papa sobre “proteger a la persona humana en la era de la inteligencia artificial”, que aborda los peligros de la guerra impulsada por la IA, el impacto de la IA en la fuerza laboral y la necesidad de nuevos marcos legales y éticos para regular la tecnología.
En su encíclica papal –una especie de carta abierta de la Iglesia Católica– el Papa León enfatizó la agitación económica y social causada por la rápida adopción de la IA, con una protección inadecuada para las personas que amenazan la dignidad humana. Comparó la era actual de la IA con la Torre de Babel y dijo que la sociedad debe “evitar el ‘síndrome de Babel'”, que definió como “la idolatría de las ganancias a expensas de los débiles, la uniformidad que neutraliza las diferencias y la noción de que un solo lenguaje -incluso un lenguaje digital- puede traducirlo todo, incluidos los misterios humanos, en datos y desempeño”.
La carta del Papa León aborda áreas clave de la vida moderna en las que la IA se ha arraigado profundamente: pérdidas generales de empleo y fuerza laboral, guerras impulsadas por la IA y niños expuestos a herramientas y contenidos de IA, entre otros temas. Lo más importante es que la encíclica pide que la dignidad humana sea una parte central de la toma de decisiones y la gobernanza. La carta es un llamado a “una sabiduría moral y social que preserve la primacía de la persona humana, para asegurar que la inteligencia humana, con su conciencia y libertad, guíe la innovación técnica y determine responsablemente sus usos y límites”, escribió Leo.
La carta, que contiene más de 42.000 palabras, pide “precaución, evaluación rigurosa e incluso, en ocasiones, una adopción más lenta de la IA” como una “práctica responsable de cuidado de la familia humana”. Entre algunas de estas propuestas:
El impacto de la IA en la humanidad ha sido un tema importante para el Papa León: eligió el nombre de su papado en relación con la revolución industrial, que su predecesor, el Papa León XIII, publicó su propia encíclica sobre proteger a los trabajadores en medio de los avances tecnológicos. El Papa León también ha estado involucrado con la industria de la inteligencia artificial: el cofundador de Anthropic, Christopher Olah, estuvo presente cuando el Papa presentó su encíclica el lunes. Político reportado que representantes de Amazon, Meta y Google se habían reunido con funcionarios del Vaticano antes de la publicación de la encíclica del lunes mientras la industria tecnológica intentaba influir en la posición de la iglesia. (También hay una sección que prueba la “píldora AGI” del Papa; Humanidad extraordinaria no menciona explícitamente la inteligencia artificial general).
Esta encíclica no es un rechazo generalizado de la IA. Por el contrario, el Papa León pidió el “desarme” de la tecnología, tanto en el sentido militar como en el económico y social. La IA no debería utilizarse en una carrera para acumular poder o monopolizar la sociedad, afirmó.
“Desarmar significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar. Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad”.
