Open IA i Anthropic alerten del risc global de la intel·ligència artificial al Consell de Seguretat de l’ONU: “O un nou renaixement o caos”

Els màxims responsables d’OpenAI i Anthropic, Sam Altman i Dario Amodei, han advertit al Consell de Seguretat de l’ONU dels riscos globals que pot representar la intel·ligència artificial per a la humanitat. Tots dos han reclamat d’aturar el desenvolupament d’aquesta tecnologia per controlar-ne els possibles perills i evitar que ningú no pugui tenir el domini total dels models d’IA.

Sam Altman ha destacat: “La IA pot donar lloc a una nova era de Renaixement per a la creativitat i el descobriment, o bé a una nova revolució industrial marcada per l’agitació i el caos.” Segons que ha dit, la IA podria tenir un paper anàleg al d’altres innovacions disruptives: “El Renaixement va ser una època en la qual noves idees i institucions van ampliar els límits del que les persones creien possible. La IA pot exercir aquest mateix paper en la nostra època.”

Altman posa els humans al centre del desenvolupament de la IA, i argumenta que la tecnologia “no ha de convertir tota la societat en autòmats”, sinó que han de continuar prenent les decisions. “La història contínua del progrés humà no tracta d’eines que reemplacen la capacitat d’acció humana, sinó de com les eines adequades potencien les capacitats de les persones; i crec que això arribarà molt més lluny del que avui considerem possible”, ha manifestat.

Alhora, ha volgut defugir un relat catastrofista sobre l’impacte de la IA, alertant que arrossegar-se pels extrems no ens ajudarà a resoldre amb èxit els desafiaments.

Dario Amodei, conseller delegat d’Anthropic, ha situat els riscs en dues categories: l’ús indegut dels models d’IA, com el terrorisme o la creació d’armes biològiques, i la pèrdua de control sobre la mateixa tecnologia. “Aquestes qüestions tenen un abast global i concerneixen tota la humanitat. Són prou greus per considerar-les temes clau per a este Consell”, ha assenyalat.

El màxim responsable d’Anthropic insta les empreses de la indústria i els governs, així com el mateix Consell de Seguretat de l’ONU, a comprometre’s en tres nivells: integrar avaluadors externs, establir estàndards dins la indústria i fixar normes internacionals per a tots els països.

“Considero que aquest és l’assumpte de seguretat global més important al qual s’enfronta el món avui dia. Més enllà de les diferències entre les persones presents en aquesta sala, hem de deixar-les de costat per afrontar l’oportunitat i l’amenaça globals que se’ns presenten simultàniament”, ha reblat.

El secretari general de l’ONU, António Guterres, també ha subratllat la importància d’una IA amb rendició de comptes: “El perill no resideix en la nova tecnologia. El perill resideix en la tecnologia sense rendició de comptes. Les decisions de vida o mort mai han de confiar-se a les màquines. Els robots assassins no han de tenir cabuda en el nostre futur”.