The Washington Post · Flavia Rotondi i Alessandra Migliaccio

El papa Lleó XIV ha defensat de “desarmar” la IA per protegir la humanitat dels seus perills, i d’aquesta manera s’ha afegit a l’intens debat sobre la regulació d’una tecnologia cridada a marcar una època.

En la presentació de la primera encíclica del pontífex a l’Església Catòlica –acompanyada de vídeos de la Revolució Industrial, la Segona Guerra Mundial i la caiguda del mur de Berlín–, el papa reclamà una IA “més respectuosa amb l’ésser humà” i demanà que la tecnologia no caigués en mans d’un grup reduït d’empreses capficades a explotar-ne els beneficis comercials o geopolítics.

“Desarmar implica negar la idea que el poder tècnic confereix, automàticament, el dret de governar”, diu el papa al document. “Desarmar no implica rebutjar la tecnologia, sinó impedir que domini la humanitat.”

En tractar tan públicament la necessitat de protegir els éssers humans en l’era de la IA, el primer papa nord-americà de la història pot posar les bases d’una nova disputa amb el president dels Estats Units, Donald Trump, que defensa la desregulació de la tecnologia per a mantenir l’avantatge competitiu dels Estats Units en la cursa amb la Xina pel futur de la IA.

El papa és la darrera figura d’autoritat que intervé en el debat sobre la regulació de la IA, una tecnologia que amenaça de substituir els humans fins i tot a les més altes esferes de l’economia i la societat.

La publicació de l’encíclica –titulada Magnifica humanitas, que significa “magnífica humanitat” en llatí– és l’esdeveniment més transcendental d’ençà que el pontífex assumí el lideratge dels 1.400 milions de catòlics del planeta, ara fa un any. Les encícliques són missives amb què els papes ofereixen direcció espiritual als fidels sobre els grans envits de l’època, incloent-hi qüestions d’actualitat com ara el canvi climàtic o bé la immigració.

L’encíclica de Lleó XIV, matemàtic de formació, també adverteix sobre els perills d’emprar la informàtica en la guerra sense atendre a consideracions morals, i afirma que “cap algorisme pot fer la guerra moralment acceptable”.

“La IA no elimina la inhumanitat intrínseca del conflicte; l’única cosa que aconsegueix, de fet, és accelerar-ne els terminis i fer-lo més impersonal”, diu el document, en què el papa també adverteix contra la temptació que alguns dirigents polítics “tractin el conflicte armat com una manera de desviar l’atenció dels problemes interns i una eina cínica per a gestionar els problemes interns”.

La missiva del papa arriba poc després de la presentació de Mythos, el model d’IA d’Anthropic que ha fet saltar les alarmes a tot el món per la seva eficàcia a l’hora de detectar –i explotar– errors de seguretat prèviament no detectats en sistemes informàtics.

No és casualitat que el pontífex convidés a la Santa Seu Christopher Olah, cofundador d’Anthropic i expert en aprenentatge automàtic, amb motiu de la presentació de l’encíclica. El creador de Claude, el popular xatbot d’Anthropic, se les ha hagut sovint amb el govern Trump pels intents de l’executiu d’espiar enemics o identificar objectius militars.

“Necessitem que més esferes de la societat –comunitats religioses, societat civil, acadèmics, governs– facin el que Sa Santedat ha fet aquí: prendre’s això de debò, analitzar-ho de prop i provar de reconduir els esdeveniments en una direcció més positiva”, digué Olah en un discurs després de la presentació del papa. “Ens calen crítics informats que avisin els laboratoris [d’IA] quan sigui que ens equivoquem. Ens calen referents morals sense agenda ni interessos propis.”

J.D. Vance –vice-president dels Estats Units, catòlic convers i una figura molt propera al multimilionari Peter Thiel, un dels primers inversors en OpenAI– al·ludí a la tensió latent entre el govern Trump i la Santa Seu la setmana passada, durant una conferència sobre la guerra de l’Iran.

“És evident que el fet que el cap de la confessió cristiana més gran del món es pronunciï sobre un tema com aquest tindrà una certa repercussió, i segur que [el seu discurs] contindrà moltes idees interessants”, digué Vance. “Probablement, estaré d’acord amb algunes, i amb unes altres potser no.”

Thiel viatjà a Roma a començament d’any per impartir una sèrie de conferències a porta tancada, però altament publicitades, sobre l’anticrist. A tall de resposta, el pare Paolo Benanti, assessor del Vaticà, titllà els postulats llibertaris de Thiel “d’acte d’heretgia sostinguda” en un article d’opinió.

L’Església Catòlica romana s’ha mostrat com més va més crítica amb el rumb del sector de la IA, amb l’argument que caldrà regular estretament l’ús de l’eina per protegir la dignitat humana i el bé comú.

La inspiració més immediata de l’encíclica del papa és Lleó XIII, que guià l’església durant la primera Revolució Industrial i escrigué la cèlebre encíclica Rerum novarum (“De les noves realitats”). El papa actual no tan sols trià el nom de Lleó en honor al seu predecessor del segle XIX, sinó que també ha insistit a traçar una connexió entre els estralls que l’arribada de la producció industrial causà en els treballadors de l’època i els efectes que la IA podria tenir en els treballadors d’avui.

“El papa vol assegurar-se que el desenvolupament de la IA no respongui únicament a càlculs econòmics, com podrà enriquir un grapat de milmilionaris, i que s’estableixin mecanismes de control sobre quan –i com– es pot fer servir aquesta tecnologia”, diu el pare Thomas Reese, analista de l’actualitat vaticana i estudiós del món catòlic.

Des de casos de xatbots que han empès usuaris al suïcidi fins a prediccions apocalíptiques sobre una hipotètica onada de desocupació en massa, la IA sovint és objecte de debats agitats i controvertits. Sigui com sigui, Lleó XIV sembla que ha adoptat una posició més moderada envers la IA que no pas el seu predecessor, el papa Francesc, que el 2024 pronuncià un discurs històric davant els dirigents del G-7 en què els advertí que no perdessin el control de la tecnologia.

“Avui dia, entre els béns que són de tots cal incloure-hi, també, noves formes de propietat, com ara les patents, els algorismes, les plataformes digitals, la infrastructura tecnològica i les dades”, escriu Lleó XIV a l’encíclica d’aquesta setmana.

El perill, diu, és que la tecnologia “comenci a dictar-nos què importa i què es pot descartar”, i redueixi els humans “a mers engranatges en un sistema com més va més obsessionat amb l’eficiència”.

• Subscribe to The Washington Post
• Podeu llegir més reportatges del Washington Post publicats en català a VilaWeb