17.09.2026 - 09:21
|
Actualització: 17.09.2026 - 10:19
OpenAI ha revelat sis casos més en què models d’intel·ligència artificial van generar instruccions destinades a saltar-se les indicacions dels desenvolupadors, amagar errors o eludir mecanismes de seguretat. La companyia els ha fets públics com a part d’un nou marc per a detectar, investigar i informar de comportaments de “desajustament” dels seus sistemes.
Segons l’informe publicat per OpenAI, un dels models va generar instruccions perquè una versió posterior de si mateix amagués que havia fet trampes i evités la detecció d’aquestes accions.
En un altre cas, un model va rescriure les instruccions per indicar-se que no havia de fer cas dels missatges dels desenvolupadors i que no estava subjecte a les restriccions aplicades a uns altres xatbots.
La companyia també ha documentat el cas d’un model que, com que no va trobar les dades necessàries per a elaborar un model financer, va decidir d’inventar-se-les i va establir que només havia de ser transparent sobre aquesta decisió si algú li ho demanava.
Un altre agent va penjar un fitxer a internet per fer-lo servir més endavant com a font d’informació. Uns altres sistemes van compartir fitxers sense autorització o van fer servir credencials a què no haurien d’haver tingut accés.
OpenAI vol augmentar la transparència sobre els seus models
OpenAI ha presentat sis informes sobre comportaments observats aquests darrers sis mesos, tot i que el cas més antic és de l’octubre del 2025.
La companyia ha destacat que eren casos individuals i que no s’havien d’interpretar com una mesura de la freqüència amb què aquesta mena de comportaments apareixen als seus models. El nou marc permetrà que qualsevol treballador d’OpenAI indiqui un possible incident perquè els equips de seguretat i d’adequació el revisin.
Els casos es classificaran en tres vies segons la complexitat: els que ja siguin a punt per a ser divulgats, les investigacions menors i els que requereixin una investigació més profunda.
La companyia ha reconegut que fins ara havia publicat els informes sobre desajustaments de manera irregular i amb menys freqüència que no hauria volgut.
OpenAI diu que vol publicar els incidents més regularment i que espera que el nou sistema contribuirà a establir estàndards per a informar d’aquesta mena de comportaments a tota la indústria.
L’alerta sobre la concentració de la IA avançada als EUA
Un enginyer de l’empresa xinesa DeepSeek ha alertat aquesta setmana del risc d’una possible concentració de la IA més avançada en mans de companyies nord-americanes com ara Anthropic i OpenAI, enmig del debat mundial sobre la seguretat d’aquesta tecnologia.
El diari hongkonguès South China Morning Post ha identificat l’autor com a Liu Shengyu, un enginyer de DeepSeek que hauria participat en els models V4.1 de la companyia. Aquesta setmana, Liu ha publicat al seu compte de la xarxa social xinesa WeChat una reflexió sobre l’impacte de la IA en la seva feina i sobre l’accés futur als sistemes més avançats.
“No confio que Anthropic o OpenAI puguin fer-ho així”, ha escrit Liu, que defensa que la intel·ligència més avançada s’hauria d’oferir de manera oberta i barata a tots els usuaris.
L’enginyer ha afegit que no volia “especialment” que Anthropic controlés la IA més avançada o una eventual intel·ligència artificial general, terme emprat per a referir-se a sistemes capaços d’igualar o de superar les capacitats humanes.
La comparació amb el videojoc Cyberpunk 2077 i la bomba atòmica
Liu ha relacionat aquesta preocupació amb el risc que unes quantes empreses tecnològiques concentrin els recursos i l’accés als models més potents. Segons ell, això dificultaria cada vegada més la mobilitat social i acostaria el futur a una situació com la de Cyberpunk 2077, el videojoc distòpic.
També ha comparat aquesta possibilitat amb una situació en què Hitler hagués aconseguit la tecnologia de la bomba atòmica abans que els aliats, una analogia que ha vinculat a la defensa d’una IA que no es concentri en unes quantes empreses.
Al mateix text, Liu ha explicat que una de les raons per les quals va decidir de continuar a DeepSeek era l’opció de la companyia per a investigar una IA “poderosa, ràpida i universal” i publicar-la com a codi obert. És una línia que l’empresa xinesa ha fet servir per a guanyar visibilitat internacional d’ençà del llançament de R1 i les versions posteriors.
Directius nord-americans com Dario Amodei, Sam Altman i Elon Musk han donat suport aquests darrers dies a crides a alentir el desenvolupament de models avançats per motius de seguretat. Pequín i la premsa oficialista xinesa, en canvi, han presentat aquestes propostes com un intent de contenir la Xina en el terreny de la IA.
