Big Data antipobres: cuando el algoritmo confunde ser pobre con ser mal padre
'La automatización de la desigualdad' (Capitán Swing, 2019) es un crítico repaso, realizado por Virginia Eubanks, a todos esos sistemas automatizados en Estados Unidos que señalan a los pobres como problemáticos.
Los tenemos asociados a las redes sociales, pero los algoritmos y modelos matemáticostambién determinan quién tiene acceso a sanidad, a una vivienda pública o qué padres están bajo el radar de los servicios sociales. Una tecnología que está castigando a los pobres en los Estados Unidos.
Algoritmo discriminatorio
Como bien explica la profesor a de Ciencias Políticas de la Universidad de Albany, Virginia Eubanks: "Estamos tan comprometidos con las políticas de la austeridad en Estados Unidos y en el resto del mundo, que es muy difícil desarrollar herramientas que no vigilen, castiguen y discriminen a los pobres y a la clase trabajadora".
En su libro,'La automatización de la desigualdad', Eubanks nos cuenta cómo recibir ayudas públicas convierte a los padres en sospechosos para los servicios de protección a la infancia en Pennsylvania. Porque el modelo matemático para detectar casos de potenciales malos tratos a menores se basa en modelo sesgado.
"Está construido sobre una base de datos que tiene 1.000 millones de registros, más de 800.000 para cada individuo de ese condado, pero esos registros sólo se recogen sobre gente que tiene acceso a prestaciones sociales. El modelo confunde ser padre siendo pobre con ser un mal padre, así que hay una especie de discriminación de la pobreza", asegura la autora.
Nuevos algoritmos, viejos prejuicios
La tecnología puede ser nueva, pero los prejuicios en los que se basa son antiguos, basados en la mala fama que tienen en Estados Unidos los receptores de ayudas públicas y beneficios sociales, vistos como vagos o parásitos sociales.
Especialmente a partir de los 70, cuando los afroamericanos empezaron a tener acceso a esas ayudas públicas. "Ese es el momento en el que estas herramientas empiezan a diseñarse y a crearse en Estados Unidos Está basado en la idea desafortunada, incluso entre algunos blancos pobres y de clase trabajadora, de que estos programas deberían ser recortados, porque si no las personas de color accederán a ellos".
En realidad, más de la mitad de los estadounidenses subsistirán, en algún momento de su vida adulta, bajo el umbra de la pobreza. Y más del 70% necesitará alguna prestación pública.