El presente informe tiene como objetivo mostrar un resumen de las estrategias que se siguen para la generación de contranarrativas, prestando especial atención a los sistemas automáticos basados en aprendizaje automático (ML) y Procesamiento de Lenguaje Natural (PLN).
El conocido aumento de las interacciones sociales a través de las plataformas digitales, ha provocado la presencia de comportamientos inadecuados en la web, como es la propagación del discurso de odio entre los usuarios de las plataformas. La libertad de expresión en estos medios ha expuesto a sus usuarios a publicaciones que en ocasiones se utilizan para denigrar, insultar o herir con un lenguaje, suave o grosero, en función del género, la raza, la religión, la ideología u otras características personales. Desafortunadamente, este tipo de comunicación puede ser muy perjudicial llegando a provocar efectos psicológicos negativos entre los usuarios, especialmente entre los jóvenes, en forma de ansiedad, sentimiento de ciberacoso e incluso suicidio en los casos más extremos.
Este problema implica principalmente a gobiernos y plataformas online, que requieren adoptar medidas en forma de leyes y políticas que contribuyan a fomentar una sana convivencia en estos medios. Por ejemplo, desde 2013, el Consejo Europeo ha promovido el movimiento "No Hate Speech" (No al discurso del odio) con el objetivo de movilizar a los jóvenes para combatir el discurso de odio y promover los Derechos Humanos en Internet. En mayo de 2016, la Comisión Europea llegó a un acuerdo con Facebook, Microsoft, Twitter y YouTube por el que firmaron un "Código de conducta sobre la lucha contra el discurso de odio ilegal en línea". Basado en este Código, en España se ha redactado el "Protocolo para combatir el discurso de odio ilegal en línea". Entre 2018 y 2020, otras plataformas como Instagram, Snapchat, Dailymotion y TikTok se unieron al Código de Conducta de la Comisión Europea