El “ranking del odio” en redes sociales: cómo funcionará la herramienta de seguimiento HODIO

El Gobierno de España ha presentado una nueva herramienta destinada a analizar el discurso de odio en internet. El sistema, denominado HODIO, permitirá rastrear contenidos en redes sociales y elaborar un ranking semestral de plataformas según su nivel de toxicidad. La iniciativa, impulsada desde el Ministerio de Inclusión que dirige Elma Saiz, busca medir de forma sistemática la presencia y evolución de mensajes de odio y polarización en el ecosistema digital.

El proyecto se enmarca dentro del trabajo del Observatorio Español del Racismo y la Xenofobia (Oberaxe), que desde hace años analiza la difusión de discursos discriminatorios en internet. Con HODIO, el Ejecutivo de Pedro Sánchez pretende ir más allá del simple seguimiento del fenómeno y ofrecer indicadores comparativos entre plataformas, lo que introduce una nueva dimensión en el debate sobre la responsabilidad de las redes sociales en la moderación de contenidos.

El núcleo del sistema será un informe público cada seis meses que clasificará a las principales redes sociales utilizadas en España según la cantidad y la difusión de contenidos de odio detectados en ellas.

El análisis abarcará plataformas como Instagram, TikTok, X, YouTube y Facebook, midiendo para su ranking dos variables principales: la prevalencia del discurso de odio —es decir, la cantidad de contenidos de este tipo que aparecen— y su amplificación, que evalúa el alcance y la difusión de dichos mensajes.

Según el Ministerio de Inclusión, estos datos permitirán comparar la exposición al odio entre plataformas y observar cómo evoluciona con el tiempo.

Inteligencia artificial y revisión humana

La metodología de HODIO combina análisis automatizado mediante inteligencia artificial con una revisión posterior por parte de expertos.

El sistema rastreará grandes volúmenes de contenido publicado en redes sociales utilizando técnicas de procesamiento de datos. Posteriormente, analistas del Observatorio revisarán las muestras para validar los resultados y asegurar que los criterios aplicados cumplen estándares académicos y jurídicos.

Este modelo híbrido intenta resolver uno de los principales problemas de la moderación automatizada: la dificultad de interpretar contexto, ironía o ambigüedad en el lenguaje digital.

El Gobierno ha aclarado que el ranking no implicará sanciones automáticas para las empresas tecnológicas que aparezcan en las posiciones más negativas. En lugar de medidas punitivas inmediatas, el objetivo sería generar presión pública y reputacional sobre las plataformas para que refuercen sus sistemas de moderación.

Durante la presentación del proyecto, el presidente del Gobierno Pedro Sánchez criticó lo que calificó como la “mercantilización del odio” en internet y señaló que algunos cambios en la gestión de redes sociales han coincidido con un aumento de este tipo de contenidos. En ese contexto mencionó al empresario Elon Musk, propietario de la plataforma X.

Las dudas sobre el sistema

El anuncio de HODIO ha provocado una rápida reacción política en España. El líder del PP, Alberto Núñez Feijóo, acusó al Gobierno de intentar erigirse en árbitro del debate público, mientras que el presidente de Vox, Santiago Abascal, criticó lo que considera un intento de vigilar las opiniones de los ciudadanos.

Estas críticas reflejan un debate más amplio sobre los límites entre la regulación del discurso de odio y la protección de la libertad de expresión, un tema recurrente en la política europea.

Las opiniones entre especialistas en comunicación digital y regulación de plataformas están divididas: mientras algunos consideran que el ranking es una herramienta útil para fomentar la transparencia y evaluar la moderación en redes sociales, otros advierten sobre el riesgo de sesgos metodológicos, especialmente si el sistema depende de un organismo gubernamental.

También señalan que existen otras medidas posibles para reducir la toxicidad en internet, como la verificación obligatoria de identidad de los usuarios, aunque esa opción no forma parte actualmente de la estrategia del Gobierno.

Más allá del debate político, HODIO introduce un elemento novedoso en el análisis del espacio digital: la creación de un indicador público periódico sobre el nivel de odio en redes sociales. Si el sistema se consolida, el ranking podría convertirse en una referencia para investigadores, reguladores y empresas tecnológicas interesadas en comprender cómo evoluciona el discurso polarizado en internet. @mundiario