CONTROL SOCIAL DIGITAL: Tecnología para supervisar y castigar a los pobres

La Dra. Virginia Eubanks es politóloga, profesora y escritora estadounidense, investigadora en privacidad digital, desigualdad económica y discriminación basada en algoritmos. Es autora de varias obras en las cuales denuncia los prejuicios generados por los algoritmos informáticos que reemplazan las decisiones humanas y cómo estos afectan negativamente a los pobres.

Sus obras más conocidas son «Callejón sin salida digital: luchando por la justicia social en la era de la información» (2011), y «Automatización de la desigualdad: herramientas de tecnología avanzada para supervisar y controlar a los pobres» (2018). Eubanks es además una activista social que ha fundado grupos para ayudar a la gente común a defenderse de las injusticias causadas por el control digital, de las cuales son víctimas.

Con motivo de la publicación en castellano de su libro «Automatización de la desigualdad», el digital catalán Vilaweb entrevistó a la Dra. Eubanks.

Un sistema en el que siempre gana la herramienta digital no puede funcionar

ORIOL BÄBLER / VILAWEB

Virginia Eubanks es profesora asociada de Ciencia Política en la Universidad de Albany (Estado de Nueva York, EEUU) y ha dedicado buena parte de estos últimos años a investigar sobre la privacidad digital y la desigualdad económica. Su libro La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres relata cómo la minería de datos y los algoritmos han convertido a los servicios sociales estadounidenses en un entramado de injusticias basado en datos falsos y prejuicios de clase, raza y género, que ha atrapado a millones de personas. «La única manera de sobrevivir y prosperar dentro de estos sistemas de control es chocar con un trabajador que esté dispuesto a romper las normas, e incluso las leyes, por ti», explica.

¿Las nuevas tecnologías son una perfección de los antiguos sistemas de control de la pobreza en Estados Unidos?

—Cuando hablamos de estas tecnologías lo solemos hacer como si fueran herramientas que han aparecido de repente y que tienen una pátina de objetividad y neutralidad. En mi libro, después de repasar cómo se ha controlado la pobreza en Estados Unidos en estos últimos doscientos años, intento desmentir esta idea. Las nuevas tecnologías tienen raíces muy profundas que conectan con el pasado. Es evidente que existe una continuidad en el control y la vigilancia, pero las nuevas herramientas han perfeccionado los sistemas existentes.

—¿Puede explicarlo?

La diferencia es que las nuevas herramientas, que en muchos casos hacen las mismas suposiciones que los sistemas antiguos, son más rápidas, están más integradas entre sí y los registros de las víctimas duran más tiempo. Además, estas potencialidades permiten realizar un nuevo modo de vigilancia, que consiste en observar grupos y comunidades enteras, en lugar de individuos por separado, para detectar posibles comportamientos sospechosos.

—¿Existe un consenso sobre qué es la pobreza?

—En Estados Unidos hemos incorporado el relato que considera que los pobres lo son porque han tomado decisiones erróneas. Son pobres por su culpa. Históricamente, con este pretexto, los sistemas de gestión de la pobreza han hecho sobre todo dos cosas. Por un lado, contener a los pobres y aislarlos socialmente para apaciguar o desmovilizar su poder político, y por otro, hacer una diagnosis moral de esta pobreza, es decir, señalar a los pobres y interrogarles: «¿Qué has hecho mal para que seas pobre?» Como decía, esto ha ocurrido durante siglos, desde las Casas de pobres, que eran auténticas prisiones, pasando por el Scientific Charity Movement, hasta la actualidad.

—¿Quién puede ser víctima de los algoritmos de control de la pobreza?

—La realidad es que el 51% de los estadounidenses estará por debajo del umbral de la pobreza en algún momento de la vida adulta. Y casi dos tercios de los estadounidenses recibirán en algún momento alguna prestación social. El relato sobre la pobreza debe cambiar, no es un problema de una minoría, es un problema gravísimo y afecta a la mayoría de la población. Por tanto, los sistemas de control deberían preocupar a todo el mundo. Ser un ciudadano de clase media no es ninguna garantía de nada. En mi familia, por ejemplo, nos ocurrió que la aseguradora bloqueó miles de dólares de mi marido, después de haber sufrido una agresión brutal, porque los algoritmos consideraron que podía ser un caso de fraude. ¿Qué hizo saltar las alarmas? Hacía poco que había cambiado de trabajo y, por tanto, de seguro médico.
Ser una víctima potencial es una forma de concienciarse sobre este problema. Ahora bien, creo que cualquier persona debería preocuparse. Aunque quizá no choque nunca con estas herramientas de control, todos los días el sistema comete injusticias y vulneraciones de derechos contra los ciudadanos. Retiran pensiones, custodias, seguros médicos…

Al final, quienes quieren un sistema cada vez más punitivo y policíaco para gestionar la pobreza, deben saber que se echan piedras sobre el propio tejado. Un ejemplo de esto podría ser la pandemia.

—¿En qué sentido?

—En Estados Unidos se ha creado una sociedad sin derecho a la sanidad universal y hay decenas de millones de personas que no reciben ningún tipo de atención médica. Este contexto ha generado que muchas de estas personas defenestradas por el sistema, y ​​por tanto que desconfían de la sanidad, no se hayan vacunado contra el coronavirus. Un problema que algunos podrían atribuir a ciertos grupos, colectivos o comunidades, se ha convertido en un problema de salud pública en todo el país. Sólo hace falta consultar los datos de la COVID. Esto que vemos con la pandemia, pasará igual con la pobreza.

—¿Estamos a tiempo de corregir la situación?

—Sí, por supuesto. Hay varias formas de hacerlo. Creo que el relato de las historias puede cambiar las cosas. Creo que en el debate sobre la gobernanza de los algoritmos y de la inteligencia artificial faltan las historias de quienes han sido directamente afectados. Tenemos esta tendencia de hablar de los problemas de las nuevas tecnologías como si ocurrieran en un futuro abstracto en el que la inteligencia artificial nos va a quitar el trabajo, pero la realidad es que estos sistemas tienen un impacto sobre la gente ahora mismo. Hay muchas formas de solucionarlo: crear nueva regulación; hacer formación específica para los diseñadores tecnológicos, de modo que rechacen crear herramientas que atenten contra derechos fundamentales; y, sobre todo, organizarnos socialmente para denunciar a todos los abusos.

Servicios sociales diseñados para que el solicitante no tenga éxito

—¿Es una opción viable reintegrar el factor humano en el sistema, de modo que los algoritmos no tengan la última palabra?

—Es interesante, pero es necesaria una reforma integral, no sólo incluir a personas. En Pittsburgh, donde analicé la herramienta de triaje de las familias del condado de Allegheny para detectar abusos a menores, me di cuenta de que los trabajadores de primera línea, a raíz de sus experiencias, no confiaban en el sistema. ¿Qué hacían los jefes cuando existía una discrepancia entre el sistema informático y los trabajadores? «Es una oportunidad para formar mejor a nuestros asistentes sociales porque es evidente que cometen un error», me contestaban. En lugar de que el factor humano entrene el sistema informático, las computadoras forman a los humanos. Un sistema en el que siempre gana la herramienta digital no puede funcionar bien.
Es una opinión ciertamente impopular, pero creo que la única forma de sobrevivir y prosperar dentro de estos sistemas de control es chocar con alguien, como un trabajador de primera línea, que esté dispuesto a romper las normas, e incluso las leyes , por ti. En caso contrario, quedas atrapado en un bucle administrativo que te ahoga y no te ofrece ningún horizonte de mejora. Romper las leyes no es equitativo, ni justo, pero el sistema de servicios sociales está diseñado para evitar que tengas éxito. Es un problema estructural y debe reformularse.

—¿Cómo hacer que los políticos se impliquen en este cambio, cuando ellos mismos se escudan en la “neutralidad” de la tecnología para no tomar ciertas decisiones?

—Mi teoría del cambio es que el poder no cede nada sin exigirlo. No creo que los políticos moderados sean la solución para nada. Ahora bien, el contexto político actual ha abierto una ventana para intentar modificar algunas cosas. El ejemplo más claro es el Estado de Indiana, donde los ciudadanos consiguieron tumbar el sistema de IBM que tenía por objetivo reducir el gasto en asistencia social dejando fuera a un millón de ciudadanos. El elemento clave para cambiarlo fue la organización popular de toda su vida. Actas, debates, panfletos, puntos informativos, manifestaciones…

—Hemos visto recientemente alertadores que denunciaban el funcionamiento de Facebook. ¿Esto ha ocurrido dentro de las administraciones con estos sistemas de control?

—No creo que ocurra dentro de la administración. Sin embargo, mientras me informaba para escribir el libro, las fuentes más críticas, articuladas y poderosas eran los trabajadores sociales que había dentro del sistema. Pero para levantar la voz en público es necesario un trabajo y una conciencia política importantes. La introducción de estas tecnologías ha hecho que los trabajadores sociales se vean a sí mismos como procesadores de información y no como personas que acompañan a los vecinos en momentos complicados. De hecho, en algunas ocasiones actúan casi como policías y asumen incluso el rol de investigar la vida de aquellos que solicitan ayudas, en lugar de mostrar empatía y solidaridad.

—La pandemia ha llevado a las sociedades al límite y más gente que nunca ha necesitado prestaciones sociales. En Estados Unidos, ¿este contexto ha abierto un debate sobre la importancia de universalizar los servicios y facilitar su acceso?


—Rebecca Solnit ha escrito un libro que admiro titulado A paradise built in hell: The extraordinaria communities that arise in disaster (Un paraíso construido en el infierno: las extraordinarias comunidades que surgen en el desastre). La idea básica del mismo es que estas tragedias que transforman el mundo también nos ofrecen oportunidades para sacudir el sistema. La pandemia nos ha enseñado que lo que decían las administraciones hasta ahora era mentira. Si hay voluntad política, los Estados pueden cuidar a los ciudadanos en cualquier situación. Ahora es un momento clave para hacer calar la idea de que la universalidad de los servicios es necesaria en Estados Unidos. Pero hasta que no entendamos que la pobreza es una emergencia, como lo es la pandemia, difícilmente avanzaremos. De hecho, los agentes económicos y las instituciones estadounidenses ya tiran de la cuerda para restablecer los obstáculos en los servicios sociales.