La 'algolengua', el nuevo idioma que usan en redes para escapar del algoritmo y generar odio

En las redes sociales, cada vez es más común encontrar mensajes que difunden odio, pero disfrazados de eufemismos para evadir los algoritmos de detección. Por ejemplo, frases como "no me digas más, no comen jamón" o "los menas que no comen jamón no se mantienen solos" son utilizadas para referirse a personas migrantes, especialmente de religión islámica. Este uso del lenguaje permite a los creadores de bulos y a los incitadores del odio eludir la vigilancia de los algoritmos, que a menudo no reconocen estos mensajes como discursos de odio.

Este fenómeno ha dado lugar a un nuevo vocabulario que se ha denominado 'algolengua'. A través de símbolos y eufemismos, los usuarios buscan confundir a los algoritmos encargados de detectar el odio y combatir la desinformación en las redes sociales. Palabras como "jovenlandeses", que se refiere a jóvenes extranjeros asociados a delitos, son un ejemplo de este lenguaje que también es utilizado por partidos políticos, como Vox, como verifica Newtral.es: "Tres jovenlandeses agreden a un señor".

El diccionario de 'algolengua' incluye términos como "remigración", que alude a la deportación masiva de migrantes, y "segarro", que se usa para criminalizar a migrantes imitando acentos de manera despectiva.

Los algoritmos de las redes sociales, diseñados para identificar patrones de mensajes y realizar traducciones, a menudo no detectan este nuevo léxico, lo que permite que los mensajes de odio se filtren. Por ejemplo, al evadir términos directamente relacionados con la Alemania nazi, algunos usuarios pueden referirse a Hitler como "el famoso pintor austriaco". También se utilizan descripciones absurdas, como "los que llevan el posavasos en la cabeza", para despreciar a judíos practicantes.

El fenómeno no se limita al racismo y la xenofobia; también abarca conspiraciones y desinformación sobre temas como el cambio climático. Frases como "cambio cromático" se emplean para insinuar manipulación en los mapas térmicos, mientras que "aviones dibujando líneas" hace referencia a teorías de conspiración sobre la fumigación a través de estelas de aviones. En el ámbito de la pandemia, términos como "kakunas" y "kakunados" se utilizan para hablar despectivamente de las vacunas y los vacunados, y "Repentinitis" se refiere a muertes repentinas que los propagadores de bulos vinculan con la vacunación.

Además, hay casos en los que el algoritmo falla en detectar mensajes de odio en lenguas minoritarias. Un ejemplo trágico ocurrió en Etiopía, donde un joven fue asesinado y Facebook no pudo identificar las amenazas de muerte. También hay estudios que indican que en euskera, el término "palomo" se usa como un insulto hacia hombres que se presentan como mujeres, lo que subraya la falta de justificación para la difusión de mensajes de odio en cualquier forma.