25.09.2023 - 21:40
|
Actualització: 26.09.2023 - 09:32
100 coses que cal saber sobre la intel·ligència artificial (Cossetània) és el títol del llibre de Ramon López de Mántaras i Badia (1952), un dels grans experts europeus en intel·ligència artificial (IA). Nascut a Sant Vicenç de Castellet (Bages), ha estat premiat per tres grans associacions d’investigadors d’intel·ligència artificial de tot el món (l’americana, l’europea i la internacional), i ha fet contribucions clau perquè els robots aprenguin. Un dels seus descobriments porta el seu cognom (distància Mántaras). Actualment jubilat, i amb dècades de coneixement, acaba d’escriure un llibre pensat per al gran públic que es divideix en onze grans àrees (orígens, robots, sanitat, canvi climàtic, univers, jocs, art, creativitat, impacte social, ètica i grans reptes) i cent capítols molt breus que il·luminen, amb cent idees, un món complex explicat de manera senzilla, gens alarmista, però posant el focus del perill on cal (per exemple, en l’ús militar de la IA).
Mántaras, molt preocupat per les implicacions ètiques de la IA, es queixa del tractament sensacionalista que la premsa dóna a la IA, i posa exemples de titulars reals que hauríem d’evitar: “Els ordinadors ara són millors que els humans reconeixent imatges” (The Guardian), “El traductor de Google tradueix amb una qualitat gairebé humana” (MIT Tecnology Review), “Creen un robot de metall líquid capaç de fondre’s per travessar barrots com Terminator” (Notícies 3/24).
Molt atent a la literatura científica, Mántaras n’explica els darrers avenços, i el llibre resumeix molts articles d’aquests anys que expliquen, per exemple, que “estudiar l’hipocamp del cervell humà pot ajudar a resoldre el problema de l’anomenat oblit catastròfic, és a dir, la tendència de les xarxes neuronals artificials a oblidar la informació apresa prèviament quan aprenen quelcom nou”.
Els avenços es veuen en tota mena de camps, incloent-hi el canvi climàtic, on la IA pot ajudar en el cultiu d’algues a gran escala (les algues absorbeixen grans quantitats de diòxid de carboni de l’atmosfera i la IA permet de cultivar-les a gran escala) i detectar la biodiversitat, l’evolució de les glaceres o dels terratrèmols. Passa que Màntaras sempre hi posa un matís: “La IA podria ser un element clau per a ajudar a combatre el canvi climàtic. Però és discutible si l’ús de la IA per a aquest fi pot compensar el seu consum elevat d’energia i, per tant, les emissions elevades de CO₂ que genera. Per exemple, una sessió d’entrenament, que pot trigar setmanes, d’alguns models complexos d’aprenentatge profund, com ara GPT-3, pot arribar a generar tres-centes tones d’emissions de diòxid de carboni. Això equival a les emissions de cinc cotxes mitjans als Estats Units durant un any.”
En alguns moments, el llibre deixa el lector perplex, per exemple, quan parla de l’ús de la IA per a llegir el pensament. En experiments fets amb voluntaris, els van demanar que pensessin una frase: “Aquella nit vaig pujar al nostre dormitori i, sense saber què més fer, vaig apagar els llums i em vaig estirar a terra.” I la IA va llegir-los el cervell, amb aquest resultat: “Vam tornar al meu dormitori; no tenia ni idea d’on era el meu llit, només vaig suposar que hi dormiria, però, en canvi, em vaig estirar a terra.” Les dues frases no són idèntiques, però Déu n’hi do. Poca broma: “Hi ha preocupacions ètiques òbvies, perquè parlem de l’accés als pensaments”, diu Mántaras, però afegeix: “Actualment, encara no és un problema, perquè el model requereix moltes dades per a entrenar l’algorisme i cooperació activa per part dels subjectes. […] En canvi, iniciatives basades en implants cerebrals, com ara la de l’empresa Neuralink Corporation, d’Elon Musk, sí que són un perill evident que cal regular si no volem fer realitat els pitjors malsons que ens mostra la sèrie Black mirror.”
En aquest llibre de 319 planes, també sobta el capítol titulat “Resurrecció”, on s’explica que l’escriptor Joshua Barbeau va decidir d’impregnar CHatGPT amb la personalitat de la seva difunta promesa, Jessica, “per tal de parlar amb ella una última vegada”. “Va parlar amb el bot de la Jessica durant uns mesos i, com més hi parlava, millor se sentia.” Al final, l’empresa OpenAI va tallar aquest camí, i va decidir de no permetre que unes altres persones fessin el mateix: “En canvi, l’empresa sud-coreana Deepbrain AI ha comercialitzat un sistema similar per a conversar amb un avatar hiperrealista d’un difunt en una sala especialment preparada a les instal·lacions de l’empresa. L’avatar imita la veu, les expressions facials i la gesticulació partint de l’anàlisi de vídeos i fotos del difunt.”
Mántaras prediu un present on la intel·ligència artificial té usos molt beneficiosos en el camp mèdic: de predir infarts amb quatre d’hores d’antelació i diagnosticar una cosa tan difícil com l’autisme a fer les primeres operacions dins un quiròfan, i també destaca la importància d’AlphaFold, que ha determinat l’estructura del 98,5% de les 20.000 proteïnes del cos humà. “Entendre aquestes estructures és molt important, atès que la funció d’una proteïna ve determinada en gran manera per la seva estructura i, per tant, si volem dissenyar un fàrmac que bloquegi o millori l’acció d’una proteïna determinada, cal conèixer-ne l’estructura.”
També hi apareixen dades ben xocants en el camp de la medicina, com ara que l’empresa Bluedot havia detectat indicis del virus de la covid-19 mitjançant un sistema d’IA, però que va classificar la gravetat de l’alerta en el nivell 3 sobre un màxim de 5. “És a dir, no va detectar l’extrema gravetat del brot. La intel·ligència humana fou fonamental per a avaluar-ne la gravetat real.” La combinació entre homes i IA és part de l’èxit, diu Mántaras, i aquesta és una idea que recorre tot el llibre.
En aquest sentit, ens fa veure que moltes màquines que consideren autònomes són, de fet, humans que no veiem: “Efectivament, moltes respostes gairebé instantànies de bots i assistents personals, com ara Siri o Alexa, impliquen humans pagats per respondre a les preguntes que reben mitjançant interfícies de programació d’aplicacions (API). Aquests humans treballen a casa seva asseguts davant l’ordinador o als consells editorials de les empreses […]. Els autors diuen que aquesta combinació d’IA i humans no desapareixerà aviat.”
“Un grup nombrós d’investigadors va analitzar més de 12.000 llançaments de penal fets a tot Europa durant les últimes temporades, i després va utilitzar aquesta informació per predir com era més probable xutar un penal i la probabilitat de marcar. Els davanters, per exemple, tenien més probabilitats d’enviar la pilota a la cantonada inferior esquerra que els migcampistes, que van adoptar un enfocament més divers.”. És una de les anècdotes que explica el llibre, que les barreja amb qüestions molt serioses en l’ús de la IA, per exemple, en geopolítica: “Molts països van desplegant IA per manipular l’opinió pública, determinen quina informació veu la gent, i la fan servir per reduir la llibertat d’expressió […]. Els poders legal i executiu semblen incapaços de fer-hi front. En primer lloc, els avenços en IA canviaran l’equilibri de poder entre les nacions. En segon lloc, la IA potenciarà un nou conjunt d’actors geopolítics més enllà dels estats nació. D’alguna manera, les empreses líders en tecnologia digital ja són més poderoses que moltes nacions. En tercer lloc, la IA obrirà la porta a noves formes de conflicte. Des d’influir en l’opinió pública i els resultats electorals, mitjançant notícies falses i publicacions manipulades a les xarxes socials, fins a interferir en el funcionament d’infrastructures crítiques, com ara l’energia, el transport o les comunicacions.”
O qüestions encara més serioses, com l’armament: “L’estiu del 2015, a Buenos Aires, durant el principal congrés internacional d’IA, centenars d’experts en IA vam donar a conèixer una carta oberta per a demanar la regulació de les armes autònomes letals.” És a dir, armes que decideixen qui matar, quan i on, sense la intervenció d’humans. “De fet, alts oficials del Pentàgon estan convençuts que hi haurà una ‘guerra dels robots’. El temps els ha donat ràpidament la raó. Segons la revista New Scientist, el 2020, drons militars varen atacar humans de forma autònoma per primera vegada.” Va passar a Líbia.
Un llibre llegidor, que mira de treure del cap algunes pors molt instal·lades (“No hi ha proves que la IA condueixi a un atur massiu, però molts economistes sí que preveuen clarament que, com en anteriors revolucions industrials, l’automatització basada en IA donarà lloc a noves feines”) i que aporta imatges ben suggeridores del món que ens espera: “Anthony Levandowski, un enginyer de Silicon Valley, ha creat la primera ‘església’ d’IA, anomenada Way of the Future una nova versió del gnosticisme dedicada a la realització, l’acceptació i l’adoració d’una ‘divinitat’ basada en la IA desenvolupada amb maquinari i programari informàtic. Per això, alguns grups religiosos diuen que la IA podria ser el principi del final de Déu.”
Per acabar, és d’agrair l’obsessió de Mántaras per introduir l’ètica en el món de la IA. El darrer exemple d’aquesta ressenya, que no ha fet servir cap ChatGTP, va en aquesta direcció: “Les emocions es manifesten gairebé sempre en l’àmbit físic i això es fa servir en la tecnologia del reconeixement d’emocions (TRE), una indústria multimilionària i en creixement, que utilitza la IA per detectar emocions a partir d’expressions facials. Moltes empreses utilitzen TRE per detectar les reaccions dels clients als seus productes. Però també es fa servir en situacions molt més preocupants, com ara en entrevistes de feina, en controls de seguretat d’aeroports i controls fronterers per a detectar expressions facials que revelin nerviosisme o por, en la recerca policial de delinqüents, o en educació per a controlar la implicació dels estudiants a l’hora de fer els seus deures […]. Però la TRE té un problema molt més bàsic: la ciència de l’emoció que hi ha darrere és molt controvertida. Aquesta tecnologia es basa en la teoria de les “emocions primàries” (alegria, tristesa, por, sorpresa, ràbia, fàstic) de Paul Ekman, que sosté que les emocions estan biològicament cablejades i expressades de la mateixa manera per a tothom a tot arreu del món […], però investigacions recents en antropologia mostren que les emocions s’expressen de manera diferent en diferents cultures i societats.”
