La Comissió Europea investiga X per la difusió d’imatges sexuals creades amb IA

La Comissió Europea ha obert una nova investigació a la xarxa social X per haver permès la difusió d’imatges sexuals generades mitjançant l’eina d’intel·ligència artificial Grok, que posteriorment va limitar. Segons Brussel·les, X podria haver vulnerat la legislació europea sobre serveis digitals per no haver “avaluat i mitigat adequadament” els perills que comportava Grok. L’executiu comunitari diu que la plataforma d’Elon Musk va permetre la distribució de continguts il·legals a la Unió Europea, com ara imatges “sexualment explícites manipulades, incloent-hi contingut que podria constituir material d’abús sexual infantil”. “Els riscs sembla que s’han materialitzat”, diu la Comissió Europea en un comunicat.

La Comissió ha detallat que revisarà si X va avaluar i va mitigar “diligentment” els perills “sistèmics” de l’eina Grok per tal d’impedir la propagació de continguts il·legals a la Unió. S’hi inclouen les imatges sexualment explícites, les que mostren violència de gènere i el contingut que pot tenir conseqüències negatives per a la salut mental.

Investigació oberta a final del 2023

Alhora, l’executiu que encapçala Ursula von der Leyen ha ampliat la investigació ja oberta a X d’ençà del desembre del 2023, per tal de determinar si la plataforma de Musk ha avaluat i mitigat els riscs associats als sistemes de recomanació, ara reforçats amb Grok.

L’executiu comunitari recollirà proves i demanarà més informació a X. Si es confirma que X ha vulnerat alguna de les disposicions de la llei de serveis digitals de la Unió Europea (DSA), la xarxa social podria haver d’afrontar una multa fins a un 6% de la seva facturació anual.