Virginia Eubanks: “Un sistema en què sempre guanya l’eina digital no pot funcionar”

  • Entrevista a Virginia Eubanks, politòloga i escriptora nord-americana, arran del llibre 'La automatización de la desigualdad' (Capitan Swing)

VilaWeb
Oriol Bäbler Mata
31.10.2021 - 21:50

Virginia Eubanks és professora associada de ciència política a la Universitat d’Albany (estat de Nova York, EUA) i ha dedicat bona part d’aquests darrers anys a investigar sobre la privadesa digital i la desigualtat econòmica. El seu llibre La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres relata com la mineria de dades i els algorismes han convertit els serveis socials nord-americans en un entramat d’injustícies basat en dades falses i prejudicis de classe, raça i gènere, que ha atrapat milions de persones. “L’única manera de sobreviure i prosperar dins aquests sistemes de control és topar amb un treballador que estigui disposat a trencar les normes, i fins i tot les lleis, per tu”, explica.

Les noves tecnologies són una perfecció dels antics sistemes de control de la pobresa als Estats Units? 
—Quan parlem d’aquestes tecnologies ho solem fer com si fossin eines que han aparegut de cop i volta i que tenen una pàtina d’objectivitat i neutralitat. Al llibre, després de repassar com s’ha controlat la pobresa als Estats Units aquests darrers dos-cents anys, intento de desmentir aquesta idea. Les noves tecnologies tenen unes arrels molt profundes que connecten amb el passat. És evident que hi ha una continuïtat en el control i la vigilància, però les noves eines han perfeccionat els sistemes existents.

Podeu aprofundir-hi?
—La diferència és que les noves eines, que en molts casos fan les mateixes suposicions que els sistemes antics, són més ràpides, estan més integrades entre elles i els registres de les víctimes duren més temps. A més, aquestes potencialitats permeten de realitzar una nova manera de vigilància, que consisteix a observar grups i comunitats senceres, en compte d’individus per separat, per detectar possibles comportaments sospitosos.

Existeix un consens sobre què és la pobresa?
—Als Estats Units hem incorporat el relat que considera que els pobres ho són perquè han pres decisions errònies. Són pobres per culpa seva. Històricament, amb aquest pretext, els sistemes de gestió de la pobresa han fet sobretot dues coses. Per una banda, contenir els pobres i aïllar-los socialment per tal d’apaivagar-ne o desmobilitzar-ne el poder polític, i per una altra banda, fer una diagnosi moral d’aquesta pobresa, és a dir, assenyalar els pobres i interrogar-los: “Què has fet malament que fa que siguis pobre?” Com deia, això ha passat durant segles, des de les cases de pobres, que eren autèntiques presons, passant pel Scientific Charity Movement, fins a l’actualitat.

Qui pot ser víctima dels algorismes de control de la pobresa?
—La realitat és que el 51% dels nord-americans estarà per sota el llindar de la pobresa en algun moment de la vida adulta. I gairebé dos terços dels nord-americans rebran en algun moment alguna prestació social. El relat sobre la pobresa ha de canviar, no és un problema d’una minoria, és un problema gravíssim i afecta la majoria de la població. Per tant, els sistemes de control haurien de preocupar tothom. Ser un ciutadà de classe mitjana no és cap garantia de res. A la meva família, per exemple, l’asseguradora ens va blocar milers de dòlars del meu marit, després d’haver estat apallissat brutalment, perquè els algorismes van considerar que podia ser un cas de frau. Què va fer saltar les alarmes? Feia poc que havia canviat de feina i, per tant, d’assegurança mèdica.


—Ser una víctima potencial és una manera de conscienciar-se sobre aquest problema. Ara bé, crec que qualsevol persona s’hauria de preocupar, encara que potser no toparà mai amb aquestes eines de control. Cada dia el sistema comet injustícies i vulneracions de drets contra els ciutadans. Retiren pensions, custòdies, assegurances mèdiques… Al final, qui vulgui un sistema cada volta més punitiu i policíac per a gestionar la pobresa ha de saber que es tira pedres a la teulada. Una metàfora d’això podria ser la pandèmia.

En quin sentit?
—Als Estats Units s’ha creat una societat sense dret a la sanitat universal i hi ha desenes de milions de persones que no reben cap mena d’atenció mèdica. Aquest context ha generat que moltes d’aquestes persones defenestrades pel sistema, i per tant que desconfien de la sanitat, no s’hagin vaccinat contra el coronavirus. Un problema que alguns podrien atribuir a certs grups, col·lectius o comunitats, s’ha convertit en un problema de salut pública arreu del país. Només cal consultar les dades de la covid. Això que veiem amb la pandèmia passarà igual amb la pobresa.

Som a temps de corregir la situació?
—Sí, i tant. Hi ha unes quantes maneres de fer-ho. Sóc narradora i estic compromesa amb la idea que les històries poden canviar les coses. Crec que al debat sobre la governança dels algorismes i de la intel·ligència artificial falten les històries d’aquells qui han estat directament afectats. Tenim aquesta tendència de parlar dels problemes de les noves tecnologies com si passessin en un futur abstracte en què la intel·ligència artificial ens prendrà la feina, però la realitat és que aquests sistemes tenen un impacte sobre la gent ara mateix. Hi ha moltes maneres de solucionar-ho: crear nova regulació; fer formació específica per als dissenyadors tecnològics, de manera que refusin de crear eines que atemptin contra drets fonamentals; i, sobretot, organitzar-nos socialment per denunciar tots els abusos.

És una opció viable reintegrar el factor humà en el sistema, de manera que els algorismes no tinguin l’última paraula?
—És interessant, però cal una reforma integral, no tan sols incloure-hi persones. A Pittsburgh, on vaig analitzar l’eina de triatge de les famílies del comtat d’Allegheny per detectar abusos a menors, em vaig adonar que els treballadors de primera línia, arran de les seves experiències, no confiaven en el sistema. Què feien els caps quan hi havia una discrepància entre el sistema informàtic i els treballadors? “És una oportunitat per formar millor els nostres assistents socials perquè és evident que cometen un error”, em contestaven. En comptes de fer que el factor humà entreni el sistema informàtic, els ordinadors formen els humans. Un sistema en què sempre guanya l’eina digital no pot funcionar bé. Puc afegir-hi una cosa?

Endavant.
—És una opinió certament impopular, però crec que l’única manera de sobreviure i prosperar dins aquests sistemes de control és topar amb algú, com ara un treballador de primera línia, que estigui disposat a trencar les normes, i fins i tot les lleis, per tu. En cas contrari, quedes atrapat en un bucle administratiu que t’ofega i no t’ofereix cap horitzó de millora. Trencar les lleis no és equitatiu, ni just, però el sistema de serveis socials està dissenyat per evitar que tinguis èxit. És un problema estructural i s’ha de reformular.

Com es pot fer que els polítics s’impliquin en aquest canvi, quan ells mateixos s’escuden en la “neutralitat” de la tecnologia per no prendre certes decisions?
—La meva teoria del canvi és que el poder no cedeix res sense exigir-ho. No crec que els polítics moderats siguin la solució per a res. Ara bé, el context polític actual ha obert una finestra per intentar de modificar algunes coses. L’exemple més clar és Indiana, on els ciutadans va aconseguir de tombar el sistema d’IBM que tenia per objectiu reduir la despesa en assistència social tot deixant-ne sense un milió de ciutadans. L’element clau per a canviar-ho fou l’organització popular de tota la vida. Actes, debats, pamflets, punts informatius, manifestacions…

Hem vist fa poc alertadors que denunciaven el funcionament de Facebook. Això ha passat dins les administracions amb aquests sistemes de control?
—No crec que passi dins l’administració. Ara bé, mentre m’informava per escriure el llibre, les fonts més crítiques, articulades i poderoses eren els treballadors socials que hi havia dins el sistema. Però per a alçar la veu en públic cal una feina i una consciència política importants. La introducció d’aquestes tecnologies ha fet que els treballadors socials es vegin a si mateixos com a processadors d’informació i no pas com a persones que acompanyen els veïns en moments complicats. De fet, en algunes ocasions actuen gairebé com a policies i assumeixen fins i tot el rol d’investigar la vida d’aquells que sol·liciten d’ajudes, en compte de mostrar empatia i solidaritat.

La pandèmia ha portat les societats al límit i més gent que mai ha necessitat prestacions socials. Als Estats Units, aquest context ha obert un debat sobre la importància d’universalitzar els serveis i facilitar-ne l’accés?
—Rebecca Solnit ha escrit un llibre que admiro titulat A paradise built in hell: the extraordinary communities that arise in disaster. La idea bàsica és que aquestes tragèdies que transformen el món també ens ofereixen oportunitats per a sacsejar el sistema. La pandèmia ens ha ensenyat que allò que deien les administracions fins ara era mentida. Si hi ha voluntat política, els estats poden tenir cura dels ciutadans en qualsevol situació. Ara és un moment clau per a fer calar la idea que la universalitat dels serveis és necessària als Estats Units. Però fins que no entenguem que la pobresa és una emergència, com ho és la pandèmia, difícilment avançarem. De fet, els agents econòmics i les institucions nord-americanes ja tiben la corda per restablir els obstacles dels serveis socials.

Recomanem

La premsa lliure no la paga el govern. La paguem els lectors.

Fes-te de VilaWeb, fem-nos lliures.

Fer-me'n subscriptor
des de 75€ l'any
Fer-me'n subscriptor