El filósofo Nick Bostrom recientemente publicar un documentodonde postula que la remota posibilidad de que la IA acabe con toda la humanidad puede valer la pena correr el riesgo, ya que la IA avanzada podría liberar a la humanidad de una “sentencia de muerte universal”. Esta apuesta optimista es un gran salto con respecto a sus oscuras reflexiones anteriores sobre la IA, que lo convirtieron en un padrino desastroso. El libro es 2014. Súper inteligencia Es un examen inicial de los riesgos existenciales de la IA. Un experimento mental impresionante: la IA encargada de fabricar clips termina destruyendo a la humanidad porque la necesidad de recursos de todos es un obstáculo para la producción de clips. Su último libro, Utopía profundarefleja su cambio de enfoque. Bostrom, que dirige el Instituto del Futuro de la Humanidad en Oxford, piensa en el “mundo resuelto” que sucederá si utilizamos correctamente la IA.
STEVE LEVY: Utopía profunda Más optimista que tu libro anterior. ¿Qué cambió para ti?
NICK BOSTROM: Me considero un optimista quisquilloso. Estoy muy entusiasmado con el potencial de mejorar radicalmente la vida humana y abrir posibilidades para nuestra civilización. Esto es consistente con la posibilidad de error.
Escribiste un artículo con un argumento sorprendente: dado que todos vamos a morir, lo peor que podría pasar con la IA es que muramos antes. Pero si la IA tiene éxito, probablemente prolongará nuestras vidas, tal vez indefinidamente.
El artículo analiza explícitamente sólo un aspecto. En cualquier artículo académico no se puede hablar de la vida, el universo y el significado de las cosas. Así que echemos un vistazo a este pequeño problema e intentemos resolverlo.
Ese no es un asunto menor.
Supongo que me molestan algunos de los argumentos de los agoreros que dicen que si construyes IA, nos matarás a mí y a mis hijos y ¿cómo te atreves? Como el último libro Si alguien lo construye, todos morirán. Lo que es más probable es que si nadie ¡Constrúyelo, todos mueren! Ésa es la experiencia de los últimos 100.000 años.
Pero en un escenario catastrófico, todos morirán y no nacerán más humanos. Gran diferencia.
Obviamente estoy muy preocupado por eso. Pero en este artículo analizo una cuestión diferente: ¿qué es lo mejor para la población humana existente como usted y yo, nuestras familias y la sociedad en Bangladesh? Parece que nuestra esperanza de vida aumentará si desarrollamos la IA, aunque sea bastante arriesgada.
En el Utopía profunda Usted especula que la IA podría crear una abundancia extraordinaria, hasta el punto de que la humanidad podría enfrentar grandes problemas para encontrar un propósito en la vida. Vivo en los Estados Unidos. Somos un país muy rico, pero nuestro gobierno, que aparentemente cuenta con el apoyo del pueblo, tiene políticas que no brindan servicios a los pobres y recompensan a los ricos. Creo que incluso si la IA es capaz de proporcionar abundancia para todos, no la haremos para todos.
Probablemente tengas razón. Utopía profunda toma como punto de partida el postulado de que todo va muy bien. Si hacemos un buen trabajo de gobernanza, todos recibirán su parte. Hay preguntas filosóficas bastante profundas sobre cómo sería una buena vida humana en estas condiciones ideales.
El significado de la vida es algo de lo que se oye hablar a menudo en las películas de Woody Allen y quizás en la comunidad de filósofos. Me preocupo más por la capacidad de sustentarme y compartir esta abundancia.
Este libro no trata sólo de significado. Era uno más entre un conjunto de valores diferentes que consideraba. Esto puede ser una gran emancipación del trabajo pesado que experimentan los humanos. Si tienes que renunciar, digamos, a la mitad de tu tiempo de vigilia como adulto sólo para llegar a fin de mes, trabajando en un trabajo que no te gusta y en el que no crees, esa es una condición miserable. La sociedad está tan acostumbrada a esto que creamos todo tipo de racionalizaciones en torno a ello. Es como una especie de esclavitud.
