La tecnología totalmente responsable y confiable es un mandato casi imposible en un panorama tecnológico que prioriza la velocidad, pero eso no significa que algunas empresas no lo estén intentando.
Inmediatamente después del marco legislativo nacional de IA de la administración Trump el 20 de marzo, en el que “ganar la carrera de la IA” sigue siendo primordial, los desarrolladores de tecnología enfrentan tensión entre el espíritu común de moverse rápido y romper cosas versus implementar estratégicamente marcos tecnológicos responsables desde el principio.
En muchos casos, salir adelante ha tomado el control, cuyo costo ha quedado claro. La comprensión por parte de Microsoft de que el código generado por IA a menudo renuncia a la accesibilidad hace que la supervisión y la iteración humanas sean imprescindibles.
Para Jenny Lay-Flurrie, quien se convirtió en directora del Trusted Technology Group de Microsoft en febrero y ha trabajado en accesibilidad durante gran parte de sus 21 años en la compañía, el desarrollo y la implementación responsable de la tecnología tiene dos aspectos: “¿Cómo nos aseguramos de que la construimos correctamente? ¿Y cómo podemos asegurarnos de que siga siendo correcta?”
Microsoft lanzó su Trusted Technology Group a principios de 2025 y desde entonces ha consolidado todas las iniciativas tecnológicas responsables bajo su paraguas, incluida la anterior directiva de accesibilidad de Lay-Flurrie.
Si bien Microsoft ha centralizado su tecnología responsable bajo un modelo de arriba hacia abajo, competidores como Google mantienen una arquitectura más basada en ingeniería guiada por sus principios básicos de inteligencia artificial y consejos de seguridad especializados. Las técnicas varían según la gran tecnología, pero el enfoque de Microsoft ha sido remodelado desde 2002, cuando Bill Gates publicó el memorando Trustworthy Computing que priorizaba cosas como la confiabilidad sobre el desarrollo de nuevas funciones.
Los problemas de la IA (y las personas que los solucionan)
La incursión de Lay-Flurrie en el espacio tecnológico responsable más amplio puede ser reciente, pero dice que sigue los mismos principios generales a los que está acostumbrada, incluida la justicia, la transparencia, la inclusión y la responsabilidad. Microsoft opera según el principio de que “las personas deberían ser responsables de la IA” independientemente de sus resultados.
Por eso, cuando Microsoft se dio cuenta de que su IA no representaba con precisión a las personas ciegas, su equipo tomó medidas para solucionar el problema.
“Algunas de las imágenes generadas de personas ciegas regresaron con personas que llevaban esas horribles vendas en los ojos”, dijo. “Estos modelos se estaban entrenando con mucho material que existe en la sociedad. Desafortunadamente, la sociedad no siempre es el lugar más inclusivo, por lo que hay casos en los que tenemos que insertar datos para entrenarlos”.
Para hacer esto, Microsoft compró más de 20 millones de minutos de datos multimodales de Be My Eyes, una plataforma de accesibilidad sin fines de lucro que las personas ciegas y con baja visión pueden usar de forma gratuita para conectarse con voluntarios en vivo e inteligencia artificial, brindándoles información de audio sobre lo que están viendo. “Tenían una gran cantidad de material de video tomado por personas ciegas sobre su uso con bastones y perros y cómo encontrar llaves en la casa, y anonimizamos los datos desenfocando rostros y todo eso para poder entrenar nuestros modelos de manera más apropiada sobre la ceguera”, dijo Lay-Flurrie.
Este proceso es sólido, pero Annie Brown, directora ejecutiva y fundadora de Reliabl, un software de capacitación en aprendizaje automático que trabaja para minimizar el sesgo y maximizar el rendimiento en los modelos de IA, dijo que hay margen de mejora.
“Los datos más diversos son sólo una parte”, dijo Brown. “Si no prestas atención a lo que sucede en la capa de metadatos, que es cómo se etiquetan las imágenes que se cargaron en tu conjunto de datos, eso en sí mismo creará sesgos”.
A pesar de la carrera de la IA que está cambiando el mundo, Microsoft es parte de un movimiento más amplio de empresas que comparten públicamente sus aprendizajes sobre tecnología responsable. Microsoft Learn está disponible gratuitamente para estudiantes, académicos y desarrolladores e incluye módulos de capacitación sobre principios de IA responsable y más. Brown recomienda que Microsoft también aprenda de las organizaciones de bienestar social más pequeñas para ver “cómo están aportando inclusión a la IA”.
En cuanto a la mejora, Lay-Flurrie dice que viene con el territorio. “Se trata de escuchar claramente los comentarios, recibirlos, iterarlos, probarlos y resolverlos en el menor tiempo posible”, dijo.
Humanos contra ti
Microsoft es uno de los principales proveedores de tecnología empresarial, lo que significa que su propia IA está impulsando a otras empresas que a menudo toman la decisión de recortar empleados en lugar de soluciones avanzadas. La propia Microsoft es parte de una ola más amplia de despidos en las grandes empresas tecnológicas, aunque se ha aclarado que se trata más de una reorganización de prioridades que de un simple reemplazo. La compañía eliminó aproximadamente 15.000 puestos de trabajo en las divisiones de ventas, juegos y atención al cliente en 2025 y contrató nuevo personal en otros lugares con un enfoque en la infraestructura de inteligencia artificial.
Incluso mientras continúan los despidos en todas las industrias, Lay-Flurrie dice que la IA ya está nivelando el campo de juego para los trabajadores previamente marginados, incluidos aquellos que son neurodiversos y discapacitados.
“La primera comunidad en tener acceso a Copilot en Microsoft fue nuestro grupo de empleados discapacitados”, dijo. “Para la comunidad sorda, los subtítulos, las transcripciones, las notas de las reuniones, el reconocimiento del lenguaje de señas, eso les da independencia. No es necesario esperar a que un cartógrafo esté allí para transcribir lo que se dice”.
Para la comunidad neurodiversa que recibió Copilot desde el principio, ayudó tanto con la carga cognitiva que “no me dejaron recuperar la licencia”, dijo.
Diego Mariscal, director ejecutivo y fundador de la aceleradora global de startups 2Gether-International (2GI), dirigida por y para emprendedores con discapacidades, reconoce que Microsoft se ha esforzado por incluir a personas con discapacidades. “El hecho de que la posición de Jenny exista siquiera en este nivel es un testimonio de ello”, dijo. Aun así, incluir a las personas con discapacidad en la mesa de toma de decisiones es importante tanto de arriba hacia abajo como de abajo hacia arriba. “¿Cómo podemos garantizar que, a medida que evoluciona la IA, se incluya a las personas con discapacidad en la mesa de negociaciones, no desde una perspectiva benéfica, sino porque al hacerlo se garantizará que la tecnología y la innovación sean aún más vanguardistas y accesibles para todos?”
