Ahora es más fácil que nunca para los delincuentes difundir spam en Internet porque se puede acceder fácilmente a potentes modelos de lenguaje grande (LLM). Si ha pasado aunque sea 10 minutos en Internet en los últimos años, sabrá que esto significa que el contenido spam y los bots se han convertido en un problema mayor que nunca.
reddit lo dijo herramientas desarrolladas con LLM para reducir el spam, la mayor parte del cual se crea con LLM. Es un poco irónico, pero en la era de la IA, las plataformas no tienen más remedio que combatir fuego con fuego. Según la plataforma, Reddit bloquear 23 millones de visitas de spam por día y captura aproximadamente 25.000 nuevas publicaciones y comentarios de spam cada día.
La plataforma social ha estado creando herramientas automatizadas de reducción de spam durante años, pero Reddit dice que sus herramientas actualizadas están detectando spam a un ritmo mayor.
“Aprovechamos el LLM para detectar patrones muy sutiles y coordinados de comportamiento falso y sensaciones artificiales que los sistemas heredados alguna vez pasaron por alto”, dijo Reddit. publicación de blog decir. La empresa afirma haber reducido la exposición de los usuarios al spam en un 20% de enero a marzo en comparación con los tres meses anteriores.
Plataformas como YouTube, Meta e Instagram permiten a los usuarios publicar contenido generado por IA siempre que lo expresen, y TikTok incluso permite a los usuarios cambiar la cantidad de contenido generado por IA que quieren ver.
Si las plataformas son capaces de detectar más rápidamente el contenido generado por IA, esto también significa que podrían detectar más rápidamente el contenido infractor, como el discurso de odio. Pero los expertos en plataformas siguen haciéndolo nos recuerda que la moderación del contenido de IA debe combinarse con la moderación humana para obtener los máximos resultados resultados efectivos.
