La Comissió Europea investiga X per la difusió d’imatges sexuals creades amb IA

La Comissió Europea ha obert una nova investigació a la xarxa social X per haver permès la difusió d’imatges sexuals generades mitjançant l’eina d’intel·ligència artificial Grok, que posteriorment va limitar. Segons Brussel·les, X podria haver vulnerat la legislació europea sobre serveis digitals per no haver “avaluat ni mitigat adequadament” el perill que comportava Grok. L’executiu comunitari diu que la plataforma d’Elon Musk va permetre la distribució de continguts il·legals a la Unió Europea, com ara imatges “sexualment explícites manipulades, incloent-hi contingut que podria constituir material d’abús sexual infantil”. “Els riscs sembla que s’han materialitzat”, diu la Comissió Europea en un comunicat.

La Comissió ha detallat que revisarà si X va avaluar i va mitigar “diligentment” els perills “sistèmics” de l’eina Grok per tal d’impedir la propagació de continguts il·legals a la Unió. Entre aquests, s’hi inclouen les imatges sexualment explícites, les que mostren violència de gènere i continguts que poden tenir conseqüències negatives per a la salut mental.

Investigació oberta a final del 2023

Alhora, l’executiu que encapçala Ursula von der Leyen ha ampliat la investigació ja oberta a X d’ençà del desembre del 2023, per tal de determinar si la plataforma de Musk ha avaluat i ha mitigat els riscs associats als sistemes de recomanació, ara reforçats amb Grok.

L’executiu comunitari recollirà proves i demanarà més informació a X. Si es confirma que X ha vulnerat alguna de les disposicions de la llei de serveis digitals de la Unió Europea (DSA), la xarxa social podria haver d’afrontar una multa corresponent a un 6% de la seva facturació anual.