Josep Maria Ganyet: ‘A la llarga, pot ser que un algoritme voti per nosaltres’

La gran majoria de les enquestes d’aquests darrers mesos presentaven com a favorita Hillary Clinton i ahir els ciutadans dels Estats Units es van encarregar de desmentir totes les previsions. Totes? No. Si bona part de les enquestes la van errar, el sistema d’intel·ligència artificial MogIA havia previst la victòria de Trump tres mesos abans de les eleccions. Ens ho explica l’expert en internet Josep Maria Ganyet, que no descarta que, a la llarga, un algoritme sigui capaç de votar per nosaltres.

—Què fa MogIA?
—MogIA examina totes les reaccions a totes les xarxes socials i més plataformes d’internet dels seguidors de Trump i Clinton. El sistema és capaç de distingir entre els missatges de suport i els missatges contraris o sarcàstics. Una vegada feta aquesta distinció, és capaç de predir la decisió dels votants. I va anticipar que guanyaria Trump amb els mateixos mètodes de fa tres eleccions. La qüestió és que ara hi ha molta més informació que fa quatre anys i vuit: ara hi ha moltíssima més informació compartida, honesta i bona. I també hi ha molts més bots que amplifiquen els missatges de campanya. Per a aquesta elecció, MogIA va analitzar més de vint milions d’entrades (data points) i va preveure la victòria de Trump.

—Com afecta això la manera de fer política?
—L’algoritme de MogIA no fa valoracions sobre si un candidat és més agressiu o menys, més misogin o menys… Fa valoracions d’impacte mediàtic i, a partir d’aquí, valora la capacitat d’aquest impacte per a mobilitzar els votants. És principalment una qüestió quantitativa, però evidentment també hi ha una part qualitativa. Al final és semblant a  l’estatística, però en aquest cas l’algoritme analitza les reaccions a un anunci, a un debat electoral, a una declaració d’un candidat… I intenta quantificar i qualificar aquestes reaccions i veure qui guanya. És com fer estatístiques, però no analitzant les respostes que una persona dóna de manera conscient a una pregunta, sinó d’acord amb allò que la gent diu de manera inconscient, que és més fiable.

—Per tant, no hi ha una consciència.
—No. És un fenomen similar al de Netflix. Netflix demana quin cinema agrada a l’usuari, i ell respon, per exemple, cinema d’autor. La plataforma es guarda aquestes preferències, però si llavors l’usuari mira pel·lícules d’acció, el programa no li recomanarà el que li ha dit de manera conscient (cinema d’autor), sinó el que l’algoritme sap que fas (mirar pel·lícules d’acció). És la diferència entre una enquesta i l’explotació de dades en massa a internet.

—I té un grau de fiabilitat molt alt.
—MogIA va predir la victòria de Trump tres mesos abans de les eleccions. I aquests darrers tres comicis també en va encertar el president i els resultats de les primàries de demòcrates i republicans. Per tant, crec que el grau de fiabilitat és molt alt. Hi ha un fenomen curiós: tenim més tirada a dir què pensem des de l’anonimat que no pas quan estem identificats. Quan pensem que ningú no sap qui som, tendim a deixar-nos anar i a dir què pensem realment.  És el cas del famós vot ocult, que no apareix a les enquestes, que normalment és una opció més reaccionària o de dretes que queda amagada. Això ho hem vist darrerament a Catalunya i a Espanya.

—Creieu que hi ha cap manera de recuperar la nostra privadesa o d’evitar que s’analitzin les nostres dades sense donar-hi consentiment?
—No, això ho acceptem quan accedim a Facebook o Twitter: autoritzem que l’empresa utilitzi les nostres dades per a objectius estadístics o per a estudis. Són serveis gratuïts perquè viuen de les dades dels seus usuaris. Evidentment, són dades agregades, no ens identifiquen. I no són dades privades: les hem fetes públiques voluntàriament.

—Veient la capacitat predictiva d’aquests models, es faran servir cada vegada més?
—Segur. De fet, en aquestes eleccions als Estats Units hi havia més models basats en el big data i la intel·ligència artificial que predeien la victòria de Trump. Vivim en una societat en què prenen decisions els politòlegs o els analistes, però crec que els científics o els enginyers de dades hi tindran un paper més important. A la llarga, pot passar que ja no calgui anar a votar perquè l’algoritme ja decidirà pel votant.

—Això pot passar?
—I tant. Per què no? Si hi ha un mecanisme de control que garanteix que l’algoritme és neutre, que aprèn constantment i que pot fer coses que el votant no farà mai –com ara llegir els programes electorals o llegir la informació històrica de promeses electorals incomplertes–, i és capaç de presentar-ho amb dades objectives i verificables, ens estalviaríem molta manipulació.

—I al final un algoritme podria votar per nosaltres.
—Exacte, podria passar. I és clar que ens hem de preocupar sobre què es fa amb les nostres dades! Hem d’estar alerta per la manera com generem coneixement sense saber-ho. Pensem que un algoritme pot analitzar patrons de comportament que nosaltres desconeixem i que hi són. No podem descartar de tenir accés, en poc temps, a algoritmes o a grans sistemes d’intel·ligència artificial com els d’IBM o Google. Però el fet més important és que sigui neutre i accessible a tothom: no ha de ser un privilegi d’uns quants que puguin prendre decisions que ens afectin a tots. Evidentment que hi ha risc amb la intel·ligència artificial, però ara mateix a mi em preocupa més l’estupidesa natural.