El Centro de Investigación sobre Antisemitismo (ARC) de la CAM ha publicado un nuevo informe exponer una red coordinada de «rabinos» falsos generados por IA que difunden tropos antisemitas en YouTube.
Los investigadores del ARC descubrieron 63 canales de YouTube en los que aparecían estos «rabinos». Juntos, estos canales han reunido un seguimiento de más de 526.000 suscriptoresprodujo más de 3.300 vídeosy generó más de 30,7 millones de visitas.
Lea el informe completo de ARC, «Cuentas de ‘rabino’ generadas por IA en YouTube difundiendo tropos antisemitas» AQUÍ.
Un análisis en profundidad reveló arcos narrativos comunes, patrones visuales idénticos y patrones lingüísticos compartidos entre los relatos. Haciéndose pasar por voces judías «autorizadas», estos «rabinos» socavan la confianza, difunden el odio antisemita e incitan a la violencia en el mundo real contra los judíos.
El ARC documentó previamente redes de más de 80 «rabinos» generadas por IA en Instagram y 49 cuentas de este tipo en tiktok. En colaboración con Meta y TikTok, CAM ha tomado medidas para frenar la proliferación de este tipo de contenidos.
CAM ahora insta a YouTube y su empresa matriz, Alphabet Inc/Google, a mostrar el mismo nivel de capacidad de respuesta.
Los pasos inmediatos que se deben tomar incluyen:
Detección: Invertir en herramientas de detección de IA específicamente entrenadas para identificar suplantaciones religiosas sintéticas, incluidos los patrones visuales recurrentes utilizados en esta red.
Algoritmo: Asegúrese de que los sistemas de recomendación, la página de inicio y el autocompletado de búsqueda de la plataforma «Up Next» no dirijan activamente el tráfico a los canales de esta red.
Monetización: Desmonetizar los canales que presentan personajes rabínicos inventados e interrumpir los flujos de ingresos asociados de afiliados, membresías y Super Thanks.
Coordinación entre plataformas: Comparta inteligencia con Meta y TikTok sobre personas compartidas, dominios de tienda y entidades de operador.
Ver AQUÍ la lista de las 63 cuentas de YouTube monitoreadas en el informe.
Leer más:
‘Rabinos’ falsos de IA difunden tropos antisemitas en una campaña coordinada de TikTok, revela un nuevo estudio de CAM
Los ‘rabinos’ falsos de IA impulsan conspiraciones antisemitas a millones en línea
El algoritmo de Instagram alimenta contenido antisemita a millones, según una nueva investigación de CAM
