El desarrollo de la inteligencia artificial ha progresado tan rápidamente que los sistemas gubernamentales actuales no pueden seguir el ritmo, según el Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU dijo en su informe inicial. El panel, compuesto por miembros de todo el mundo, proporcionará la información necesaria para convocar el Diálogo Global de las Naciones Unidas sobre la Gobernanza de la IA. La conferencia tendrá lugar en Ginebra, donde los estados miembros discutirán cómo gestionar la tecnología, y está previsto que comience el 6 de julio.
En su informe, el panel analizó la rapidez con la que se han desarrollado las capacidades de IA en los últimos años. Aparentemente, la complejidad de las tareas que los modelos de IA pueden resolver se duplica cada pocos meses. El informe reconoce que la IA tiene enormes beneficios para la humanidad, incluida la aceleración del descubrimiento de fármacos y el desarrollo de vacunas y una gran contribución a la investigación de la resistencia a los antibióticos. Los médicos también pueden utilizar sistemas de IA para detectar enfermedades de forma temprana, como el cáncer de mama, y los científicos pueden utilizar la IA como sistema de alerta temprana de la inseguridad alimentaria.
Sin embargo, el informe también describe nuevos tipos de impactos adversos que los sistemas de IA tienen y podrían causar. La gente ha utilizado la IA para crear y distribuir deepfakes sexualmente explícitos, incluido material de abuso sexual infantil, de personas reales. California inició una investigación sobre Grok en enero por deepfakes no consensuales y CSAM, por ejemplo. La IA también puede producir información falsa que parece verdadera, y los delincuentes pueden utilizar sistemas de IA para ayudar en sus ciberataques.
Algunos modelos de IA pueden ser aduladores; refuerzan el comportamiento peligroso del usuario, que puede incluso conducir al suicidio, según el informe. El panel también advirtió que a medida que los modelos de IA se vuelvan más autónomos, será cada vez más difícil monitorearlos y controlarlos. Además, existe una creciente preocupación por la construcción de centros de datos masivos para respaldar los sistemas de inteligencia artificial, lo que podría dañar a las comunidades que los rodean.
El panel de la ONU explicó que los formuladores de políticas están teniendo dificultades para seguir el ritmo de los avances en IA porque los sistemas de gobernanza actuales no están diseñados para una tecnología que evoluciona tan rápidamente. Normalmente, las autoridades exigen datos científicos antes de emitir regulaciones, pero cuando hay suficientes datos para comprender mejor la tecnología, es posible que los sistemas de inteligencia artificial hayan comenzado a avanzar.
“Este informe concluye que se necesitan una evaluación independiente más sólida, cooperación internacional y estándares comunes para garantizar que los sistemas de IA sigan siendo seguros, transparentes y responsables”, escribió el panel. Sin las salvaguardias adecuadas, la tecnología de IA “puede profundizar las desigualdades, difundir información errónea, amenazar los derechos humanos, perturbar los mercados laborales” y podría convertirse en una herramienta poderosa a la que sólo “pocos gobiernos y empresas tienen acceso”.
El informe señala que el acceso a los sistemas de IA está altamente concentrado en los países desarrollados y la mayoría de los sistemas se desarrollan en Estados Unidos y China. La mayoría de los países en desarrollo carecen de la infraestructura y la experiencia necesarias para obtener beneficios reales de la IA. “El desafío”, dijo el panel, “es encontrar formas de aprovechar los enormes beneficios de la IA y al mismo tiempo prevenir sus crecientes riesgos”. El panel de la ONU, cuyo papel es más científico que regulatorio, continuará evaluando las tecnologías de inteligencia artificial que las autoridades pueden utilizar para desarrollar políticas. Él se espera que sea publicado un informe más completo el año que viene.
