El estudio “Moderación de contenidos en línea. Retos actuales en la detección de la incitación al odio”, desarrollado por la Agencia de la UE de Derechos Fundamentales (FRA), se centra en los mensajes de odio en cuatro redes sociales (Reddit, Telegram, X -antes Twitter- y YouTube).
Entre enero y julio de 2022, el estudio recopiló y analizó 344.132 publicaciones en redes sociales en cuatro países -Bulgaria, Alemania, Italia y Suecia- utilizando palabras clave que pudieran indicar odio.
El resultado es que los mensajes abusivos detectados se dirigían sobre todo hacia mujeres. Los siguientes grupos más afectados son afrodescendientes, judíos y gitanos de los cuatro países en los que se llevó a cabo la investigación.
"Usamos una metodología estándar de búsqueda de palabras clave para buscar incitación al odio en internet y, de esta forma, encontramos fácilmente una gran cantidad de discursos de odio", explicó a EFE David Reichel, el autor del estudio.
Más de la mitad de esos mensajes recopilados por la FRA, un 53 %, se consideraron de odio, ya que encajaron al menos en una de las categorías establecidas (elementos de incitación a la violencia, discriminación, denigración, lenguaje ofensivo o estereotipos negativos).
La misoginia es la forma más habitual de odio en línea en todas las plataformas. De hecho, el número de mensajes dirigidos a mujeres es casi tres veces superior al de los dirigidos a afrodescendientes.
Además, dos tercios (67 %) de los mensajes de odio hacia las mujeres eran de acoso.
Los mensajes dirigidos a las mujeres incluyen con mayor frecuencia lenguaje denigrante e incitación a la violencia, pero la violencia en línea contra las mujeres se caracteriza, con mayor frecuencia, por la de tipo sexual.
La investigación de la FRA solo analizó los mensajes que ya habían pasado por los procesos de moderación de las plataformas, por lo que se demostró que estos procesos no funcionan siempre.
"Hay problemas con la moderación de contenidos y tenemos que continuar los esfuerzos para reducir este discurso del odio de forma urgente", afirmó el experto.
Entre las plataformas también existen grandes diferencias y el estudio señala que Telegram es una de las redes sociales que menos capacidades tiene para detectar este tipo de contenido dañino.
Con el Acta de Servicios Digitales de la UE, que entró en vigor el año pasado, las plataformas digitales y los motores de búsqueda deben hacer más contra los discursos de odio o se arriesgan a sufrir fuertes sanciones.
La Comisión Europea abrió en octubre investigaciones sobre los esfuerzos de Meta, TikTok y X para eliminar contenido violento y que incitaba a la violencia de sus plataformas.