Las regulaciones también imponen nuevas expectativas de seguridad sobre los “servicios de chatbot de IA”.
Canadá se une a Australia, Indonesia y Malasia para prohibir a los adolescentes el uso de las redes sociales. Ley de redes sociales seguras presentado por Marc Miller, Ministro de Identidad y Cultura de Canadá, prohíbe que los niños menores de 16 años tengan cuentas de redes sociales e introduce nuevas expectativas regulatorias para los servicios de redes sociales y las plataformas de inteligencia artificial.
Según la ley, los servicios de redes sociales deben diseñar sus productos para que sean más seguros para los niños. También se espera que las plataformas eliminen los deepfakes y el contenido que “victimiza sexualmente a niños o revictimiza a sobrevivientes”. También se espera que la introducción de elementos como etiquetas para el contenido de IA, métodos claros para informar sobre material dañino y herramientas para bloquear usuarios evite una mayor exposición a contenido dañino.
Si bien las redes sociales están restringidas por ley, los servicios de chatbot de IA no lo estarán. “Los chatbots no han sido tan investigados como el daño causado por las plataformas de redes sociales”, dijo Miller durante una conferencia de prensa en la que se anunció el proyecto de ley. “No tienen los mismos roles sociales”. Dicho esto, la Ley de Redes Sociales Seguras también incluye lenguaje sobre “servicios de chatbot de IA”, lo que parece ser una respuesta al manejo de OpenAI del tiroteo en Tumbler Ridge. Como parte del proyecto de ley, se espera que las plataformas de inteligencia artificial mitiguen el riesgo de que los chatbots “comunican contenido dañino” y adoptan comportamientos peligrosos, al tiempo que introducen “medidas de emergencia” para hacer frente a situaciones de crisis.
Los detalles sobre qué plataformas se espera que brinden servicios más allá del requisito de 16 años serán determinados por la Comisión de Seguridad Digital de Canadá, según Miller, una comisión recién creada por una Ley separada de la Comisión de Seguridad Digital de Canadá. La comisión hará cumplir las reglas y también puede otorgar excepciones si cree que las plataformas brindan una “protección adecuada” a los niños.
