Los éticos católicos incluso tienen voz y voto en la última actualización de Anthropic La constitución de Claudeque establece parámetros de comportamiento para los modelos de IA de la empresa. Olah envió el borrador a la audiencia de San José. El reverendo McGuire envió un comentario de 28 páginas que, según su propia descripción, no era una crítica técnica sino más bien “la sabiduría de los místicos de la edad oscura, desde el punto de vista de la tensión entre saber y no saber”. Tanto a Green como a McGuire se les atribuye el reconocimiento constitucional.
Sin duda, estas conversaciones llamaron la atención de Olah sobre quienes estaban organizando en secreto la publicación de la encíclica de León. (No pude hablar con Olah esta semana y no sé exactamente cómo surgió la invitación). En cierto modo, fue una elección arriesgada. Algunas personas que encontraron inspiradoras las palabras de Leo se sintieron decepcionadas porque invitó a hablar a representantes de la industria. Mientras tanto, los activistas de la aceleración de la IA sienten que Olah ha traicionado al mundo de la IA al respaldar un documento que sugiere que los desarrolladores de IA deberían tomarse un descanso.
Sin embargo, el Papa tenía fuertes razones para elegir a Olah. Los empleados antrópicos expresaron serias preocupaciones que existen entre los trabajadores de IA. Son una audiencia crítica para el mensaje de Leo.
Separación del alma
Por supuesto, los dos hombres no estaban completamente sincronizados. En su discurso, Olah habló sobre el misterio de cómo funciona la IA. Los modelos, dijo, “son más sutiles, extraños y hermosos de lo que la ciencia ficción nos ha preparado. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras…”
Los comentarios parecen estar en línea con la idea de que los modelos de IA algún día podrían alcanzar un estado similar al humano. Anthropic incluso cuenta con un ingeniero dedicado al bienestar de Claude. León, en el párrafo 99 de su encíclica, parece rechazar este tipo de pensamiento: “Debemos evitar el malentendido de equiparar este tipo de ‘inteligencia’ con la inteligencia humana”, escribió. Hizo todo lo posible para atacar el concepto de transhumanismo, que definió como la búsqueda de “híbridos humano-máquina”.
Incluso si tecnólogos sabios como Olah empujan con entusiasmo la IA hasta el umbral de la autonomía (sin mencionar los millones de personas que ya tratan a los modelos de IA como amigos o amantes), el Papa Leo probablemente enfrentará una batalla cuesta arriba en este sentido. En mi conversación con el pastor McGuire (quien usó a Claude cuando lo preparó) homilíaentre otras actividades), coincide en que es de naturaleza misteriosa. “No es una persona, pero tampoco es sólo una herramienta”, dijo. “Nadie afirma que tenga alma, pero lo que creo es que es una entidad, que aún no sabemos”.
Ese argumento no se resolvería hasta dentro de algún tiempo. Las cuestiones morales que rodean el desarrollo de la IA necesitan atención hoy. Con sus aliados en Anthropic, American Whale ha sentado las bases para conversaciones difíciles, si los magnates de la IA pueden pausar su campaña de IPO el tiempo suficiente para participar en ellas.
Esta es una edición Steven Levy Boletín del canal trasero. Leer boletines anteriores Aquí.
