Pedro Sánchez sorprendió a todos los españoles al confirmar que prohibiría las redes sociales a menores de 16 años en su intervención en la Cumbre Mundial de Gobiernos celebrada en Dubái. Ese proyecto llegaba junto a otras cuatro medidas como acabar con la impunidad de los directivos que son responsables de las infracciones o crear un sistema de rastreo que permitirá medir el odio en las redes sociales. Ahora sabemos que ese sistema ya está activo.
La polémica ha estallado en España con las cinco propuestas de Pedro Sánchezpresidente del gobierno, para regular las redes sociales. Las medidas propuestas esta semana han sido las de:
- Prohibir las redes sociales a menores de 16 años.
- Acabar con la impunidad de los directivos que son responsables de las infracciones que se cometen en sus redes sociales (alusión directa a Elon Musk y X).
- Tipificación como delito la manipulación de los algoritmos de las redes sociales que deciden cómo ya quién mostrar cierto tipo de contenido.
- La creación de un sistema de rastreo que permitirá medir el odio en las redes sociales y que explicaremos a continuación.
- Abordar junto a la fiscalía todas las vías que existen para investigar al detalle la actividad considerada como ilegal.
El rastreo de las redes ya está activo
Precisamente, hoy sabemos que el sistema de monitorización de redes sociales anunciado por Sánchez ya está en marcha. Hablamos concretamente del Sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), gestionado desde el Ministerio de Inclusión, Seguridad Social y Migraciones por ocho personas que vigilan los comentarios de Facebook, Instagram, TikTok, YouTube y X. Por el momento, únicamente se monitoriza texto, pero pronto se extenderá a imágenes y vídeos.
Este sistema es una adaptación de la herramienta ÁNIMOel Monitor de Observación de Odio en el Deporte, que utiliza LaLiga para una labor similar y que cuenta con un acuerdo con el gobierno para 3 años. Básicamente, como explicó LaLiga en su momento, el sistema:
“Analiza el lenguaje utilizando un motor semántico con más de 50.000 reglas lingüísticas y algoritmos de Inteligencia Artificial, que permiten identificar y clasificar los mensajes por contexto y uso del lenguaje”.
En el caso de FARO, esta herramienta ya se encuentra activa desde el 1 de enero de 2025recopilando millas de mensajes enviados por los españoles a partir de estas redes. Desde el 1 de enero de 2025 ha detectado 851.527 mensajes de odio y ha conseguido que las plataformas retiren el 41,30% de ellos.
¿Habrá multas además de retirada?
Actualmente, no se está llegando más allá con estos mensajes de odio, pero la idea del gobierno es que tengan una contraprestación económica para el que los propagan. Eso se desprende de las palabras de Pedro Sánchez que declaró hace unos días que:
“Durante demasiado tiempo se ha considerado que el odio era algo invisible e imposible de cuantificar, pero eso lo vamos a cambiar con una herramienta que va a ser la base para definir las futuras sanciones, porque difundir el odio tiene que tener un costo: un costo legal, por supuesto, también un costo económico y un costo ético que las plataformas ya no se podrán permitir ignorar”.
Por el momento, desconocemos las intenciones del gobierno en cuento a la cantidad de las multas, pero sí tenemos claro que las redes sociales ya se están monitorizando en España y guardando toda la información necesaria para sancionar cuando esté todo definido a nivel legal.
