Anthropic desconnecta els models més potents de Claude per ordre del govern dels EUA

Anthropic, empresa nord-americana d’intel·ligència artificial creadora de Claude, ha anunciat per sorpresa la suspensió de l’accés als seus models més avançats, Claude Fable 5 i Mythos 5, en compliment d’una ordre del govern dels Estats Units. La directiva restringeix l’ús d’aquestes eines a ciutadans estrangers, tant a l’estranger com a l’interior dels Estats Units, adduint motius de seguretat nacional. Tenint en compte que l’ordre afectaria treballadors d’Anthropic mateix, l’empresa ha decidit de suspendre’n l’accés a tothom.

En un comunicat oficial, Anthropic ha explicat que l’ordre executiva de la Casa Blanca no especifica els motius concrets de la restricció, però dedueixen que les autoritats creuen haver descobert un mètode per superar els límits de seguretat dels seus sistemes. “Avui hem rebut la directiva del govern. La carta no especificava els motius de la seva preocupació sobre la seguretat nacional. Entenem que el govern creu haver descobert un mètode per eludir, o desbloquejar, Fable 5”, ha informat l’empresa.

Retrets a la falta de transparència

Anthropic ha defensat que el model ja incloïa salvaguardes estrictes per a limitar el risc d’ús indegut, especialment en tasques de ciberseguretat. La companyia ha criticat que la Casa Blanca els n’hagi notificat només de forma verbal les suposades vulnerabilitats del sistema.

“Com hem manifestat públicament, creiem que el govern hauria de tenir la facultat de blocar desplegaments insegurs, però mitjançant un procés legal transparent, just, clar i fonamentat en fets tècnics. Aquesta acció no s’ajusta a aquests principis”, han denunciat.

L’anunci del veto s’ha fet només dos dies després de la presentació de Claude Fable 5, el primer model disponible de la classe Mythos, una tecnologia d’alta capacitat que s’adreçava únicament a organitzacions associades al programa Project Glasswing.

Limitacions per a evitar usos maliciosos

Per evitar-ne l’ús maliciós, la mateixa empresa havia desplegat un sistema de contenció que limita automàticament les respostes a consultes sensibles sobre ciberseguretat, biologia o química. Quan l’usuari demanava informació potencialment perillosa, el sistema redirigia la consulta internament cap a un model d’IA de capacitat menor.

Amb aquest protocol, Anthropic volia continuar oferint assistència general en aquests àmbits, però blocant la transmissió de dades crítiques que pogueren ser aprofitades per orquestrar ciberatacs a gran escala o desenvolupar armes biològiques.