A Google le encanta contarnos cómo la gente utiliza sus productos de IA generativa para crear cosas nuevas, hacer crecer negocios y salvar el mundo. Debería. Por supuesto, la gente también usa la IA para el mal. Google ha anunciado una nueva salva legal dirigida a un grupo chino llamado Outsider Enterprise, supuestamente responsable de una campaña masiva de fraude impulsada por IA. Google dijo que estaba trabajando con las autoridades y los operadores móviles para contraatacar.
Según los documentos legales de Google, Outsider Enterprise opera a través de Telegram. Estos grupos ofrecen servicios de phishing a personas que tal vez no tengan los conocimientos técnicos suficientes para crear sus propios sitios web falsos y campañas de texto. En su canal Telegram, Outsider Enterprise supuestamente proporcionó instrucciones sobre cómo utilizar la IA Gemini de Google para crear sitios web que imiten los de Google, YouTube y agencias gubernamentales como E-ZPass en Nueva York. Este grupo ofrece casi 300 plantillas fraudulentas.
Google dijo ese fraude perpetrado por Outsider Enterprise resultó en el envío de más de 2,5 millones de mensajes de texto a usuarios de Android. Alrededor de 55.000 de esos mensajes se produjeron en un período de dos semanas el mes pasado. En total, Google ha rastreado 9.000 sitios falsos y 1 millón de URL conectadas a redes fraudulentas.
Los mensajes de texto suelen contener afirmaciones sobre problemas con la cuenta o problemas con la entrega de paquetes. Cuando los usuarios hacen clic en el enlace, terminan en uno de los sitios web falsos, diseñados por Gemini para parecer legítimos. Los ciberdelincuentes utilizan estos sitios para robar datos personales y bancarios. La presentación de Google no estima la cantidad de dinero robada a través de la estafa de Outsider Enterprise, pero la publicación del blog señala que cientos de personas han perdido algo de dinero.
Google trabaja con AT&T, Verizon y T-Mobile para bloquear muchos de estos mensajes de texto maliciosos, y Google señala que la detección de fraude en el dispositivo en Google Messages también puede ayudar a reducir la cantidad de intentos de phishing exitosos. Esta característica impulsada por IA aparentemente detiene 10 mil millones de mensajes de texto fraudulentos cada mes, por lo que es natural que detecte al menos alguna actividad de empresas externas.
