Jerarquías para moderar contenidos
Una moderadora expone el desconcertante criterio de Facebook: "Perseguía a su hija con un sable, para Meta lo más fuerte era un pezón"
En su trabajo como moderadora, 'Vanessa' se topó con un vídeo de una mujer "persiguiendo a su niña para cortarla con un sable". Lo etiquetó como "violencia contra un niño", pero cometió "un error": para Meta era más grave que estuviera desnuda.
*Advertencia: el texto a continuación incluye referencias a contenido sensible.
'Vanessa' (nombre ficticio) es moderadora de contenido de Facebook. Su trabajo, según revela en Salvados, pasa por elegir entre varias opciones: validar un contenido, borrarlo, advertir sobre él o enviarlo a un departamento superior.
De esta forma, según explica a Gonzo, se borra el contenido de discurso de odio o bullying o se le pone un "filtro de contenido delicado" para alertar al usuario de algo que pueda causarle impresión, como "una cirugía donde se pueda ver un órgano". Otra trabajadora, a quien nos referimos como 'Carmen' para preservar su anonimato, detalla a su vez que otros contenidos más extremos, por ejemplo "si están violando o a punto de hacerlo a un menor o alguien va a suicidarse", se remiten a un departamento superior.
La elección sobre cómo proceder, sin embargo, no es intuitiva ni sencilla. En este sentido, 'Vanessa' pone como ejemplo un vídeo con el que se topó en su trabajo: en él aparecía una mujer en una aldea "con un sable enorme persiguiendo a su niña para cortarla con el sable y ambas estaban desnudas", así que ella eligió la categoría "violencia contra un niño".
Pero se 'equivocó': "Cometí un error, porque más alto que eso era que estaba desnuda y se veía el pezón. Quizá para ti o para mí lo más fuerte es que una madre quiere matar a su hija, para Meta lo más fuerte es que hay un pezón", explica. "Luego te acostumbras a no cometer ese error y a estar bien concentrado en esta escala de jerarquías", relata.
No es la única dificultad a la que se enfrenta, porque para escalar un vídeo de un potencial suicidio a un departamento superior "tienes que estar seguro de que esa persona realmente va a saltar". "Es muy difícil gestionar eso porque tampoco te permiten escalar cosas que luego no van a suceder. Para ti que estás mirando a una persona es como: '¿Se tira o no se tira? ¿Lo escalo o no lo escalo?'", cuenta.
Más Noticias
-
El reproche de Arturo Béjar a Meta: "No quieren saber cuando una niña está siendo contactada por un pederasta" -
Gonzo compara las redes con la industria del petróleo o el tabaco: "Unos pocos fastidian a todos por su beneficio" -
El shock de una madre tras el programa de Salvados sobre redes sociales: "Cuando llegue a casa tiro todos los móviles" -
La advertencia de una educadora sobre las redes y los adolescentes: "Que puedan acceder a estos contenidos es un drama" -
Las razones del filósofo Vico para impedir que un menor de 16 años tenga móvil: "Los niños se están volviendo tontos"
Todo, además, con límite de tiempo: "Tú tienes que cumplir con un tiempo por cada 'ticket'. Tienes una pequeña excepción en casos de suicidio porque tienes que esperar a lo que pase, entonces, si esta persona no se suicida rápido, por decirlo así, tú tienes que esperar más tiempo y entre comillas te 'arruina' tus métricas, porque tú tienes un ticket cada 60 segundos", cuenta. "Cuando te cae un vídeo así lo primero que piensas es 'ay, mis métricas' y empieza también tu humor negro: '¿Te vas a tirar o no te vas tirar?'", reconoce.
"De golpe el odio se me empezó a impregnar"
Una moderadora de Facebook cuenta cómo se contagió del odio en redes: "Tenía fantasías de matar a todos con una ametralladora"
"Veo mucha violencia, mucho odio y de golpe se me empezó a impregnar a mí", recuerda 'Vanessa'. Como consecuencia del contenido al que estaba expuesta, llegó tener fantasías violentas y a sufrir un ataque de pánico en el tren.