Haurem de prohibir la intel·ligència artificial?

Aquests dies, la intel·ligència artificial (IA) tornar a ser al centre d’atenció mundial. El 21 de març, Bill Gates va defensar les virtuts d’aquesta tecnologia en una carta oberta titulada “L’era de la IA ha començat”, en què en contemporitzava els riscs. Uns quants dies més tard, el 29 de març, centenars d’experts del món acadèmic i tecnològic, incloent-hi Elon Musk, el cofundador d’Apple Steve Wozniak i l’historiador Yuval Noah Harari, presentaven una altra carta oberta en què demanaven que s’aturés immediatament i durant sis mesos el desenvolupament d’aquesta tecnologia, fins que no fos regulada, atesos els greus riscs que implicava; “tal com ho demostra una recerca extensa i ha estat reconegut pels principals laboratoris d’IA”. L’endemà, es va saber que Itàlia havia blocat temporalment l’ús del ChatGPT, la intel·ligència artificial més famosa ara com ara. El motiu no tenia a veure amb la IA en si, sinó que la companyia propietària sembla que havia vulnerat la legislació europea de protecció de dades.

La cursa perillosa entre les empreses tecnològiques

Bill Gates de tant en tant escriu cartes obertes en què exposa les seves reflexions. En aquesta darrera, cal tenir en compte que la seva opinió no és gens neutral, atès que la IA és una tecnologia clau per a Microsoft per recuperar terreny en relació amb Google i més competidors. Aquesta companyia ha estat la primera gran empresa tecnològica a adoptar la intel·ligència artificial (ChatGPT, en aquest cas) al seu cercador, a Bing. De fet, Microsoft ja oferia eines d’intel·ligència artificial al seu portal per a programadors GitHub, amb un servei de “Copilot”, que escriu codi tan sols amb la descripció de què ha de fer el programa, i ara també ha incorporat un “copilot” d’IA en un dels seus productes estrella, el Microsoft Office, a fi d’augmentar la productivitat a l’hora d’escriure texts, fer fulls de càlculs i presentacions, o bé gestionar el correu electrònic i l’agenda.

Google ha hagut de reaccionar de pressa i incloure una intel·ligència artificial pròpia al seu cercador, Bard. I això ha encès moltes alarmes. D’entrada, perquè com gairebé tothom ha pogut comprovar, ChatGPT comet molts errors i contribueix a la desinformació. Segons els analistes, Google feia temps que tenia aquesta tecnologia, però no l’havia aplicada precisament per aquesta mena d’inconvenients. Tanmateix, aquesta competència amb Microsoft l’ha obligat a tirar-ho endavant a corre-cuita, malgrat que fan un avís: “Bard és un experiment i pot proporcionar respostes inapropiades i imprecises.” La preocupació ha crescut perquè aquesta mena d’accions estimulen una cursa en què les empreses no avaluen les conseqüències de les seves tecnologies i tan sols pensen en termes de quota de mercat, de guany econòmic. O, si en són conscients, una competència sense regulació, sense que ningú extern digui què es pot fer i què no, no els permet d’aturar-se per por de perdre mercat.

El final de l’idil·li amb Silicon Valley?

La cursa entre Microsoft i Google és l’equivalent tecnològic a la cursa nuclear entre la Unió Soviètica i els EUA, que posa en risc tota la societat i, fins i tot, la civilització humana. Una amenaça ben real de la intel·ligència artificial per les personalitats signants de la carta oberta que en demana l’aturada immediata. Fins ara, el sector tecnològic capitanejat per les empreses de Silicon Valley ha tingut l’admiració de tot el món, com a responsable de la revolució tecnològica que ha canviat les nostres vides d’ençà dels anys setanta del segle passat. Però darrerament com més va més crítiques rep. Per una banda, l’augment de productivitat que prometia la informàtica a les oficines no s’ha complert i el resultat ha estat l’acomiadament de personal de suport, amb professionals col·lapsats per tasques que no corresponen a la seva feina tècnica i un empitjorament de la qualitat de la feina intel·lectual. Les empreses tecnològiques guanyen diners i les empreses estalvien en costs laborals, però els treballadors acaben amb una salut més dolenta, uns sous més baixos o desocupats.

Una altra font de crítica són les xarxes socials i els mòbils, que segons alguns experts destrueixen generacions senceres i creen greus problemes de salut pública. Com més va més es qüestiona que les ments més brillants sortides de les millors universitats del món dediquin les seves capacitats a tenir-nos captius de les pantalles dels dispositius fent coses insubstancials. Han començat a aparèixer veus que reclamen que es limiti legalment el temps màxim dedicat a les xarxes socials (la Xina ho ha prohibit als menors de catorze anys). Aquesta mena d’acció recorda les limitacions que fa dècades es van començar a aplicar a la indústria del tabac. S’ha acabat l’època en què es permetia gairebé tot al sector tecnològic sense retre comptes dels efectes perjudicials que originen els seus productes?

Els perills de la intel·ligència artificial

És en el context d’aquestes crítiques creixents cap al sector tecnològic, i atès que la intel·ligència artificial representa el pas següent d’aquesta indústria, que cal emmarcar la defensa que en fa Bill Gates. En primer lloc, torna a recórrer a la promesa de l’augment de la productivitat, i parla d’una IA que esdevindrà el nostre secretari personal. També promet beneficis al sector mèdic i la nostra salut, amb diagnòstics més bons i més accessibles per als països pobres. Igualment, defensa que pot introduir millores en l’educació, un sector en què sovint es critica que la digitalització no ha implicat resultats més bons. Gates fa referència als perills d’aquesta tecnologia, però no considera que siguem prop de les pitjors situacions, malgrat que demana que els governs treballin amb les empreses del sector per limitar-ne els riscs.

Hi ha experts que han advertit aquesta darrera dècada dels perills de la intel·ligència artificial. El primer és la desocupació en massa i l’empobriment de la resta de treballadors. Fins ara ha prevalgut el paradigma, explicat pels economistes, que la desocupació causada per les noves tecnologies era compensada per feines noves en sectors nous. Aquest paradigma és com més va més qüestionat. Els experts apunten que la magnitud del canvi amb la IA és molt més gran que no hem vist fins ara, i que cap sector nou no podrà donar feina als treballadors que siguin acomiadats en massa encara que es reciclin.

La disrupció afectarà molts sectors alhora (conductors de camions i taxis, traductors i programadors, personal de magatzems i botigues, producció audiovisual, etc.). El resultat, apunten, seran milions de desocupats en un termini de temps molt curt. A més, alguns economistes destaquen que les dades històriques mostren que els treballadors acomiadats en sectors automatitzats no van cap a sectors nous. Acaben desocupats o empobrint-se fent feines de qualificació molt baixa. Són les noves generacions que fan les feines noves. Hi ha una substitució demogràfica, no un canvi d’orientació professional dels treballadors.

Un altre efecte és l’exemple del personal de suport. Tal com hem vist, la incorporació d’eines informàtiques va desocupar molt de personal assistent. Ara alguns experts reclamen que es tornin a contractar aquests perfils si es vol millorar la productivitat dels treballadors especialitzats. Així i tot, les empreses tecnològiques diuen que no cal. Reconeixen que cal personal de suport, però que pot ser virtual, que el poden proporcionar ells gràcies a la intel·ligència artificial, i així ens venen un producte nou per solucionar un maldecap que van causar ells mateixos.

En uns altres sectors hi ha situacions semblants. Per exemple, moltes empreses i governs europeus lamenten la manca de conductors de camions. Tanmateix, ni el sector privat ni els governs no han endegat plans nacionals per reciclar treballadors d’uns altres sectors. Semblen més interessats a esperar a adquirir els vehicles robotitzats que promet el sector tecnològic d’ací a poc temps.

Més enllà de qüestions laborals

La intel·ligència artificial té conseqüències en moltes esferes més. Així, pot atacar directament l’estabilitat de les societats –per si no fos prou amb una desocupació en massa–, especialment en règims democràtics. Fa pocs dies circulaven diverses fotografies falses que mostraven l’ex-president Trump detingut per la policia, desinformació que podria haver causat protestes i aldarulls dels seus seguidors. Els deepfakes com més va seran més indetectables i poden alterar eleccions democràtiques i ser emprats per països enemics en un context d’inestabilitat geopolítica com més va més gran. De fet, la IA es pot aplicar militarment, tal com es comença a veure a la guerra d’Ucraïna, en què hi ha un ús generalitzat de petits drons que fan servir algorismes (originalment civils) de processament d’imatge per volar i detectar objectius militars. La intel·ligència artificial ha esdevingut una eina militar més.

Un capítol a banda és la singularitat tecnològica, el moment en què una màquina sigui tan intel·ligent com un humà. Tots els experts coincideixen a dir que arribarà durant aquest segle. Una bona part considera que abans del 2050, i fins i tot n’hi ha que diuen que serà en aquesta dècada. La qüestió és que la IA no s’aturarà ací i ens superarà ben de pressa en intel·ligència. Els humans hem estat incapaços de conviure amb unes altres espècies intel·ligents: vam extingir neandertals i homes de Deníssova, gràcies a ser més intel·ligents. La intel·ligència artificial farà això mateix amb nosaltres? Quina relació mantindrem amb una altra espècie molt més intel·ligent que no pas la nostra? Ens enganyarà, amagarà la seva intel·ligència per supervivència, voldrà dominar-nos o ens valorarà com a espècie singular?

Les peticions dels experts

Els signants de la carta oberta que en demana l’aturada, diuen que la IA esdevé competitiva per a tasques generals en relació amb els humans. Segons els experts, tots ens hem de demanar si hem de permetre que les màquines omplin els canals d’informació de propaganda i falsedats –ja hi ha mitjans de comunicació que fan servir-la per redactar articles. Si hem d’automatitzar totes les feines, no solament les repetitives i pesades que no vol fer ningú, sinó també les que ens satisfan. Hem de desenvolupar ments quasi humanes que poden superar-nos en nombre i en intel·ligència, fer-nos obsolets i reemplaçar-nos? Hem d’arriscar-nos a perdre el control de la nostra civilització? Els experts ressalten el verb “haver” d’aquestes preguntes, perquè segur que es podrà fer. La qüestió és si ens interessa, com a humans, o no.

Els signants també són molt crítics que aquesta mena de decisions les prenguin les empreses tecnològiques. “Aquestes decisions no s’han de delegar a empresaris tecnològics que no ha triat ningú.” Consideren que els sistemes d’intel·ligència artificial actuals han de ser revisats independentment, i que s’ha de fer ara mateix. Per això demanen l’aturada immediata de sis mesos en el desenvolupament d’aquesta mena de sistemes. Període durant el qual els laboratoris d’IA i experts independents haurien de desenvolupar i implantar protocols per a garantir la seguretat més enllà de qualsevol dubte.

“La recerca i desenvolupament de la intel·ligència artificial s’ha de reenfocar per tenir sistemes més precisos, segurs, interpretables, transparents, robusts, de confiança i lleials. En paral·lel, els desenvolupadors han de treballar amb les administracions per accelerar el desenvolupament de sistemes de governança d’IA”, diuen, i demanen que es creïn autoritats reguladores, s’introdueixen mecanismes per a diferenciar allò que és real d’allò que és sintètic, fer responsables les empreses dels mals que pugui causar la IA, i unes institucions fortes que puguin solucionar les disrupcions en l’economia i la política que ben segur causarà aquesta tecnologia.

Acabarem prohibint la intel·ligència artificial?

Alguns experts defensen que cal recórrer a la ciència-ficció per veure les opcions que tenim. Són molts els autors d’aquest gènere que han explorat i reflexionat sobre l’impacte de la intel·ligència artificial en les seves novel·les. Un dels més importants va ser Isaac Asimov, que va popularitzar la paraula robot i va crear les lleis de la robòtica, en un univers imaginari que abasta 25.000 anys. Comença en l’època actual, en què els humans inventem el cervell positrònic (la intel·ligència artificial), que s’instal·la en robots que esdevenen els nostres assistents personals. Els humans s’expandeixen i colonitzen uns primers 50 planetes, on proven diversos models d’organització social. Al primer planeta, Aurora, hi arriben a viure 200 milions d’humans i 10.000 milions de robots. A l’últim, Solaria, tan sols hi viuen 20.000 persones, cadascuna (tota sola o en parella) en una hisenda immensa, com en les plantacions d’esclaus nord-americanes, on treballen milions de robots a les seves ordres.

Tanmateix, a l’Imperi Galàctic que acaba formant-se després d’aquesta primera expansió, i que dura milers d’anys, els robots no hi són. Els humans n’han prescindit del tot. Només se n’escapa un, perquè és indistingible d’un humà a simple vista, i vetlla secretament durant 20.000 anys perquè la humanitat no prengui cap mal. Arribarem a la mateixa conclusió que Asimov?