GoogleLinkedIn y Wikipedia se encuentran entre cientos de sitios web y aplicaciones donde Meta planea capturar las pulsaciones de teclas y los clics del mouse de los empleados como parte de un proyecto para entrenar sus modelos de inteligencia artificial, según mensajes internos vistos por CNBC.
Una nueva herramienta de seguimiento de empleados, denominada Model Capability Initiative (MCI), permite a Meta observar y recopilar datos de las acciones del personal en sus computadoras de trabajo, informó Reuters por primera vez el martes. La lista de sitios que se están rastreando, que también incluye Microsoft GitHub, Salesforce flojo y Atlassianono ha sido reportado previamente.
Metapropiedades como Threads y Manus también están en la lista, que aún está en proceso de cambio y originalmente incluía aplicaciones de inteligencia artificial como ChatGPT de OpenAI y Claude de Anthropic.
La lista de sitios y servicios de terceros que la herramienta MCI está rastreando circuló ampliamente internamente y se discutió en foros de chat después de que un miembro de Meta Superintelligence Labs, o MSL, enviara un memorando destinado a disipar las preocupaciones sobre la vigilancia y la privacidad de los trabajadores. CNBC vio el memorando.
El proyecto de recopilación de datos está vinculado al ambicioso esfuerzo del CEO de Meta, Mark Zuckerberg, para ponerse al día en IA generativa, donde la compañía se ha quedado atrás con respecto a OpenAI, Anthropic y Google. Para intentar cerrar la brecha, Zuckerberg gastó mucho a partir del verano pasado y contrató a Alexandr Wang de Scale AI para formar un equipo y desarrollar nuevos modelos básicos.
A principios de este mes, Meta presentó su primer modelo importante de IA desde la costosa contratación de Wang. Apodado Muse Spark, el modelo marcó el debut de la nueva serie Muse desarrollada por MSL, la unidad de inteligencia artificial que supervisa Wang.
Al igual que otros gigantes tecnológicos, Meta está presionando con fuerza hacia agentes de inteligencia artificial que puedan realizar diversas tareas de oficina y relacionadas con la codificación que normalmente realizan los trabajadores administrativos.
Un portavoz de Meta confirmó el proyecto pero no hizo ningún comentario sobre la lista de sitios que se están rastreando.
“Si estamos creando agentes para ayudar a las personas a completar tareas cotidianas usando computadoras, nuestros modelos necesitan ejemplos reales de cómo las personas de hecho úselos, cosas como movimientos del mouse, hacer clic en botones y navegar por menús desplegables”, dijo el portavoz. “Para ayudar, estamos lanzando una herramienta interna que capturará este tipo de entradas en ciertas aplicaciones para ayudarnos a entrenar nuestros modelos. Existen medidas de seguridad para proteger el contenido confidencial y los datos no se utilizan para ningún otro propósito”.
Varios empleados de Meta caracterizaron el proyecto de seguimiento de datos como “distópico” en mensajes internos vistos por CNBC. Otros expresaron su preocupación de que MCI pudiera exponer ampliamente datos confidenciales, incluidas contraseñas de usuarios, detalles sobre el desarrollo de nuevos productos e información personal sobre el estado migratorio de los trabajadores, su salud o sus familiares.
El miembro del personal de MSL dijo en el memorando que para “enseñar a nuestros modelos a poder usar computadoras”, Meta requiere un conjunto de datos “grande e imparcial” que refleje cómo los empleados trabajan y realizan tareas en sus dispositivos corporativos.
“Necesitamos capturar el contenido en pantalla como el contexto de lo que se estaba manipulando o con lo que se interactuaba”, decía el memorando.
Al enumerar algunas “algunas garantías”, el representante de MSL señaló que la nueva herramienta sólo podría ver el “contenido de la pantalla” de los empleados tal como ellos lo ven, y “no leería archivos ni archivos adjuntos”.
“El modelo no aprenderá cualquier información personal incidental en su correo electrónico corporativo que pueda ser capturada en la pantalla, debido a las mitigaciones anteriores”, decía el memorando.
Los empleados de Meta que todavía están preocupados por la herramienta de seguimiento de datos “pueden controlar lo que aparece en su pantalla al no realizar trabajo personal en la computadora de su trabajo”, decía el memorando.
MIRAR: Las métricas de demanda de IA no funcionan y solo Anthropic está siendo realista.
