Aquests dies les xarxes socials i l’impacte que causen sobre els menors i la societat tornen a ser al centre del debat públic. Després de la prohibició d’accés a les xarxes als menors de setze anys a Austràlia, acció pionera al món com us vam explicar a VilaWeb, el nostre país en seguirà els passos ben aviat. En primer lloc, el parlament francès va aprovar, fa pocs dies, una llei en la mateixa línia, en aquest cas per als menors de quinze anys. Amb un ampli suport social a les enquestes, s’espera que a mitjan febrer sigui aprovada pel senat, de manera que la llei entraria en vigor el primer de setembre. Les plataformes tindran temps fins el 31 de desembre per a desactivar els comptes dels menors. I, en segon lloc, el president espanyol ha anunciat la intenció de prohibir l’accés a les xarxes socials als menors de setze anys. En aquest cas, la polèmica ha anat més enllà, amb insults inclosos, perquè la intenció del govern socialista espanyol és fer-ne responsables els directius i controlar-ne el contingut “d’odi i polarització” política. Paral·lelament, als EUA hi ha milers de processos judicials en marxa contra les tecnològiques en què es comencen a equiparar les xarxes socials amb la indústria del tabac, pel fet d’amagar els efectes perjudicials sobre la salut que causen en els consumidors.

El cas francès

Com dèiem, als Països Catalans seguirem els passos pioners d’Austràlia si les iniciatives dels governs francès i espanyol s’acaben aprovant. Austràlia ha estat el primer país del món a establir una prohibició absoluta d’accés dels menors a les xarxes socials. Abans, el 2023, la Xina ja havia regulat l’accés als menors, però centrant-se en la protecció contra continguts nocius i en el control parental, més que no pas en la prohibició absoluta. El Regne Unit i Alemanya (i França fins ara), havien optat també per establir proteccions sense prohibicions genèriques. Dinamarca sí que ha expressat la voluntat de prohibir l’accés dels menors a les xarxes socials, amb l’argument de la protecció de la salut mental. “L’èxit de les xarxes socials es basa a robar el temps, la infantesa i el benestar dels nostres nens”, va argumentar la ministra de Digitalització del govern danès. El primer ministre australià havia adduït arguments similars: “Hi ha una relació causal i clara entre l’ús de les xarxes socials i l’empitjorament de la salut mental dels joves australians.”

A França, durant el debat de la nova llei, s’han dit idees semblants. El president Macron va assenyalar les xarxes socials com un factor de l’augment de la violència entre els més joves i va  declarar: “Les emocions dels nostres nens i adolescents no són a la venda ni han de poder ser manipulades per les plataformes americanes o els algorismes xinesos.” Alguns altres diputats van dir que amb la nova llei “es posa un límit clar a la societat i s’afirma que les xarxes socials no són innòcues” o que “els nostres fills llegeixen menys, dormen menys i es comparen més els uns amb els altres”. Alguns han parlat directament d’emergència de salut pública: “Les xarxes socials han permès a tothom d’expressar-se lliurement, però a quin cost per als nostres fills?” Per protegir els menors ja s’havien prohibit els mòbils a escoles i instituts entre 11 anys i 15, acció que s’ha demostrat insuficient. Segons enquestes privades, un 73% de la població de l’estat francès aprova la prohibició de l’accés dels menors de quinze anys a les xarxes socials.

La legislació francesa implicarà la verificació de l’edat per a tothom que accedeixi a les xarxes socials, siguin menors o adults. El govern francès encara no ha explicat amb detall quin sistema es farà servir, però sembla que es pot implantar a escala de la UE i pot servir per a més països. Les autoritats europees han promogut que els estats membres estableixin límits d’accés dels menors a les xarxes socials, però sense concretar l’edat ni les mesures exactes. Com més va més es demana que aquestes mesures s’apliquin a escala europea. Algunes fonts indiquen que la verificació d’edat es faria amb una entitat independent no governamental, però que hauria de complir la legislació europea de protecció de dades. Aquest és precisament un dels fronts que preocupa més alguns experts, el de la privadesa. La comprovació general de l’edat de tota la població pot implicar compilar en massa dades personals que poden ser aprofitades per empreses privades o pels estats mateix, per fer-ne una explotació comercial, per difondre desinformació o per reprimir la dissidència política.

La iniciativa espanyola

Però la iniciativa del govern espanyol és la que ha suscitat més polèmica. Aquesta setmana Pedro Sánchez ha anunciat la intenció de prohibir l’accés a les xarxes socials als menors de setze anys. Les plataformes hauran d’implantar sistemes de verificació d’edat de manera real i efectiva per a impedir l’entrada dels menors, com en el cas francès i australià. Tanmateix, va anar més enllà: la intenció és demanar responsabilitats legals als directius i CEO d’aquestes plataformes si el contingut “il·legal, d’odi o perjudicial no s’elimina ràpidament”. També es considerarà punible legalment l’amplificació algorítmica d’aquests continguts. Igualment, es pretén que les plataformes monitorin el contingut i creïn un índex que mostri i quantifiqui la “polarització i amplificació de l’odi” de cada xarxa social. “Avui dia els nostres fills estan exposats a un espai que no s’havia pensat mai perquè hi naveguessin tots sols, un espai d’addicció, abús, pornografia, manipulació i violència”, va dir el president espanyol. Finalment, va anunciar que les autoritats espanyoles emprenien una investigació per les infraccions comeses per Grok, TikTok i Instagram.

Aquestes mesures s’emmarquen dins la gran polèmica creada per Grok aquestes darreres setmanes. Aquesta intel·ligència artificial, emprada àmpliament a la xarxa social X, s’ha utilitzat per generar imatges sexualitzades de dones sense el seu consentiment i, fins i tot, contingut pedòfil, sense que hagi saltat cap barrera de seguretat a la plataforma d’intel·ligència artificial o les xarxes socials que han difós les imatges. Països com l’Índia, Indonèsia o Malàisia han arribat a prohibir l’accés a Grok. A més, tothom té al cap la xarxa social X, en què els algorismes s’empren per amplificar els discursos de la ultradreta, amb un impacte especial a Europa, on el propietari de Grok i X, Elon Musk, ha donat suport públic a aquests partits. Justament a l’estat francès, fa pocs dies es van escorcollar les oficines de X a París a conseqüència d’una investigació penal sobre possibles delictes vinculats als algorismes de la xarxa social i de Grok. La difusió de materials d’abusos sexuals a menors, la creació i distribució de deepfakes sexuals, la difusió de continguts negacionistes de l’Holocaust (que a l’estat francès és delicte) i l’ús d’algorismes i sistemes automatitzats per a amplificar contingut il·legal, manipulatiu i de desinformació són l’objecte de la investigació judicial francesa.

Elon Musk ha dit que aquesta investigació judicial era un “atac polític”, en represàlia per la seva posició ideològica pública. En el cas espanyol, ha estat més directe i ha arribat a insultar Sánchez, que ha titllat de tirà, traïdor al poble espanyol i feixista. També ha repiulat missatges d’atacs al president espanyol per part de diputats de Vox, un partit a què ja havia donat suport públicament. Musk seria un dels principals afectats per la nova legislació espanyola, també a títol personal. En aquest context, ministres espanyols han arribat fins i tot a parlar de prohibir la plataforma X a l’estat espanyol. En resposta a les accions europees, el congrés dels EUA estudia d’aplicar represàlies contra els funcionaris europeus involucrats en aquestes mesures i de prohibir a les xarxes socials que compleixin la “censura” de la UE.

Més enllà de la polarització i confrontació política, ideològica i geopolítica per l’anunci del president espanyol, alguns experts han manifestat preocupació pels perills que pot implicar la iniciativa espanyola a la llibertat d’expressió, què pot passar amb la dissidència política i les implicacions sobre la vigilància en massa de la població. Per exemple, que el govern espanyol s’excusi en la lluita contra “la polarització i els discursos d’odi” per augmentar la repressió contra els catalans i la persecució de l’independentisme. Pàvel Dúrov, el propietari de Telegram, ha fet arribar un comunicat dur a tots els usuaris de l’estat espanyol d’aquesta plataforma. Hi adverteix que la iniciativa espanyola erosiona l’anonimat i obre les portes a una recollida de dades personals a gran escala. I afegeix que les plataformes, per evitar riscos, poden silenciar periodistes i veus políticament dissidents. Adverteix que els governs, amb aquestes eines, poden silenciar els opositors i reemplaçar-los per veus propagandístiques a favor seu.

Cal tenir en compte que Telegram és també un dels més afectats per la iniciativa espanyola. Malgrat que n’hagi fet bandera, aquesta plataforma no és segura. Per defecte, les comunicacions hi són xifrades, però Telegram té les claus per a desxifrar els missatges als seus servidors. L’empresa no solament pot llegir el contingut dels missatges, sinó que per requeriment judicial pot haver-los de lliurar als governs, tant si ho vol com si no; en aquest cas, a les autoritats espanyoles. Plataformes més segures, com Signal, tenen un xifratge de punt a punt (opció també disponible als “missatges secrets” de Telegram), i encara que hi hagi un requeriment judicial no poden desxifrar el contingut dels missatges perquè els servidors no en tenen les claus.

Sigui com sigui, la polèmica tot just ha començat. Però cal tenir present la realitat: és un fet que, arreu del món, la salut dels joves es ressent greument de l’ús de les xarxes socials. Els professionals de la medicina fa temps que demanen mesures de protecció dels menors, una petició que té un ampli suport dels pares. També és evident per a molts experts i analistes que el magnat Elon Musk ha manipulat els algorismes de la xarxa social X per promocionar Donald Trump i partits d’ultradreta a Europa, escampar desinformació i provar de manipular eleccions, seguint el seu programa econòmic, ideològic i polític personal. I que la competència entre les grans multinacionals elimina barreres de seguretat en el camp de la IA, cosa que permet que proliferin els deepfakes sense control. És en aquest ambient que sorgeixen les iniciatives de governs de tot el món de diversos colors polítics per protegir-se contra tot això, malgrat els riscs per a les llibertats civils apuntats per alguns experts.

Als EUA es podrien equiparar les xarxes socials a les empreses de tabac

Tanmateix, no és tan sols a Europa que les multinacionals tecnològiques tenen dificultats creixents. Als EUA hi ha obert un front judicial que també pot tenir fortes implicacions per al seu model de negoci i per a la protecció dels menors. A Califòrnia, una jove de dinou anys ha demandat les plataformes Snapchat, Meta (propietària d’Instagram, Facebook i WhatsApp, entre més), TikTok i YouTube. Diu que el disseny algorítmic d’aquestes plataformes li va causar addicció i li va afectar la salut mental, amb depressió i desordres alimentaris, per exemple. Segons que sembla, tan sols a Califòrnia hi ha més de 1.800 demandes judicials en aquesta línia promogudes per pares i escoles, amb més de 6.000 pàgines amb correus i documents interns d’aquestes empreses, una documentació que pot demostrar que les plataformes han construït, amb ple coneixement, productes addictius perjudicials per als menors. Fins i tot treballadors de plataformes com Snapchat, de molt èxit entre menors de 13 anys a 17, han advertit internament dels perjudicis que causen algunes de les característiques de la plataforma en els menors, com els filtres de bellesa, però els directius no han pres mesures correctives.

Les querelles estableixen un paral·lelisme entre la situació actual a les xarxes socials i els judicis que es feren als anys noranta als EUA a les grans empreses de tabac, que amagaren els riscs contra la salut dels seus productes durant dècades, tot i saber-los perfectament. En relació amb això, argumenten que les plataformes digitals fan això mateix amb els efectes sobre la salut mental que causa el desplaçament infinit de contingut, la reproducció automàtica de vídeos i les recomanacions algorítmiques. Els usuaris de les xarxes socials són enganyats per continuar emprant les aplicacions, malgrat que tinguin efectes evidents contra la seva salut i causin depressió, trastorns alimentaris i autolesions, entre més. Tanmateix, fins ara les plataformes digitals s’han deslliurat de responsabilitats, perquè recorren a la legislació nord-americana, que considera que no són responsables legalment del contingut publicat pels usuaris.

De moment, la denunciant de dinou anys ha arribat a un acord amb Snapchat per a no anar a judici. L’empresa ha dit que “està satisfeta d’haver resolt aquesta qüestió de manera amistosa”. No s’han donat detalls dels termes de l’acord, però els analistes tenen coll avall que hi ha hagut una important indemnització econòmica. Tanmateix, la resta de tecnològiques demandades no han arribat a cap acord i hi haurà judici. Hi declararan els màxims responsables, com ara Mark Zuckerberg de Meta. Snapchat, per una altra banda, té més demandes semblants obertes. Tot plegat, per la via de judicis o per les accions reguladores que es comencen a aplicar en uns quants països arreu del món, tot fa pensar que les tecnològiques podrien començar a haver-se de responsabilitzar legalment dels efectes que els seus productes i algoritmes causen en els usuaris. Hi ha en joc la salut, democràtica i mental.