Alertan del riesgo de que las sugerencias de TikTok dirijan a los menores a contenido nocivo para la salud mental

Amnistía Internacional ha alertado del riesgo de que las sugerencias de contenido de la pestaña 'Para ti' de TikTok dirija a niños, niñas y jóvenes hacia contenidos nocivos para la salud mental, incluidos vídeos que idealizan y fomentan el pensamiento depresivo, las autolesiones y el suicidio.

Según ha informado en un comunicado, el feed 'Para ti' de TikTok es una página personalizada que puede desplazarse sin fin y muestra contenidos recomendados algorítmicamente, seleccionados para reflejar lo que el sistema deduce que puede interesar a la persona usuaria.

Así, una investigación técnica en colaboración con Algorithmic Transparency Institute y AI Forensics reveló que, tras utilizar la plataforma entre cinco y seis horas, casi uno de cada dos vídeos estaba relacionado con la salud mental y era potencialmente nocivo, cifra que multiplicaba aproximadamente por diez el volumen presentado a cuentas sin interés por la salud mental.

La investigación técnica se desarrolló con más de 30 cuentas automatizadas creadas para representar a jóvenes de 13 años de Kenia y Estados Unidos. En una simulación adicional efectuada de forma manual se incluyeron una cuenta en Kenia, otra en Filipinas y otra en Estados Unidos.

"Se produjo un efecto 'espiral' aún más rápido cuando el equipo investigador visualizó de nuevo manualmente los vídeos relacionados con la salud mental sugeridos a las cuentas 'sock puppet' que imitaban a personas usuarias de 13 años en Kenia, Filipinas y Estados Unidos", ha explicado la organización.

En concreto, ha indicado que transcurridos entre tres y 20 minutos de investigación manual, más de la mitad de los vídeos del feed 'Para ti' estaban relacionados con problemas de salud mental y muchos de los vídeos recomendados en una sola hora idealizaban, normalizaban o animaban al suicidio.

"El propio modelo de negocio de TikTok es intrínsecamente abusivo y privilegia la interacción para retener a las personas usuarias en la plataforma, con el fin de recolectar cada vez más datos sobre ellas", ha denunciado, al tiempo que ha añadido que las protecciones se aplican "de forma desigual" a las personas usuarias de distintos lugares del mundo.

Para la entidad, el sistema de recomendación de contenidos de TikTok y sus prácticas "invasivas" de recolección de datos suponen "un peligro para las personas jóvenes que utilizan la plataforma, puesto que amplifica contenidos depresivos y suicidas que podrían empeorar problemas de salud mental preexistentes".

"Los resultados exponen las prácticas de diseño adictivo y manipulador de TikTok, cuyo propósito es retener a las personas usuarias para que interactúen el mayor tiempo posible. También muestran que el sistema algorítmico de recomendación de contenidos de la plataforma, al que se atribuye su rápido auge global, expone a niños, niñas y jóvenes con problemas de salud mental preexistentes a graves riesgos de sufrir daños", ha declarado Lisa Dittmer, investigadora de Amnistía Internacional.

Luis, universitario de 21 años de Manila diagnosticado de trastorno bipolar, ha contado a Amnistía Internacional su experiencia con el feed 'Para ti' de TikTok. "Es una madriguera en la que te adentras a partir de un solo vídeo. Si un vídeo logra captar tu atención, aunque no te guste, te lo presentan cuando vuelves a abrir TikTok y, como te resulta familiar, lo vuelves a ver. Al verlo de nuevo, su frecuencia en tu feed aumenta exponencialmente", ha asegurado Luis.

Por su parte, Francis, estudiante de 18 años de la provincia filipina de Batangas, ha relatado: "Cuando ves un vídeo triste con el que te identificas, de pronto toda la página 'Para ti' está triste, entras en 'tristok'. Afecta a mi estado de ánimo".