Un informe assenyala Vox i Aliança Catalana per l’ús de la IA en campanyes de desinformació

L’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) assenyala Vox i Aliança Catalana com dos dels actors polítics que han fet un ús més intensiu de la IA en campanyes de desinformació. L’informe, elaborat per encàrrec del Departament de Justícia i Qualitat Democràtica, documenta que aquestes pràctiques s’inscriuen en una dinàmica més àmplia de manipulació digital del debat públic.

Segons l’estudi, la IA ha deixat de ser una eina marginal i s’ha convertit en un instrument capaç d’alterar la comunicació política i influir en el comportament electoral. En aquest context, l’ús d’imatges creades artificialment, la difusió automatitzada de continguts i la segmentació de missatges es combinen per a crear narratives persuasives amb una capacitat de viralització molt elevada.

En el cas d’Aliança Catalana, l’informe destaca episodis en què s’han utilitzat imatges creades amb intel·ligència artificial per a reforçar missatges de caràcter xenòfob. Un dels casos documentats és el d’una imatge difosa a Manresa amb dades manipulades sobre població estrangera, que es va escampar ràpidament a les xarxes abans de poder ser desmentida. També s’esmenta la difusió d’una altra imatge, igualment generada amb IA, en què la cap del partit apareixia en una escena de violència contra Carles Puigdemont. En aquest cas, ha acabat als tribunals.

Respecte a Vox, l’OEIAC descriu una estratègia basada en l’amplificació en massa de continguts per mitjà de les xarxes socials. Ja el 2019 el partit va impulsar centenars de grups a Facebook amb una gran capacitat de mobilització digital. Segons l’informe, aquestes dinàmiques s’han sofisticat amb el temps i incorporen ara continguts creats amb IA i tècniques de segmentació que permeten d’adaptar el missatge a perfils d’usuari concrets.

L’estudi situa aquestes pràctiques en un context més ampli de desinformació automatitzada i identifica cinc grans eines amb potencial de manipulació: els deepfakes, els grans models de llenguatge, els bots d’amplificació, la microsegmentació psicogràfica i la suplantació d’identitat. Totes contribueixen, segons els investigadors, a distorsionar la percepció pública i a fragmentar l’espai informatiu. A escala mundial, l’informe documenta més de seixanta casos en processos electorals recents en què s’han utilitzat aquestes tecnologies amb finalitats malicioses. L’any 2024, en particular, és considerat un punt d’inflexió, amb incidències registrades en més de seixanta estats. La conclusió és que la desinformació impulsada per IA no solament cerca d’influir en el vot, sinó també d’erosionar la confiança en les institucions democràtiques.

Per això, l’observatori avisa que la velocitat de propagació d’aquests continguts supera la capacitat de verificació i resposta i reclama una actualització del marc regulador, més transparència en la publicitat política digital i un reforç de l’alfabetització mediàtica de la ciutadania. Sense aquestes mesures, sosté l’informe, el perill de manipulació sistèmica del debat públic continuarà creixent.