Onada d’indignacions per l’ús de la intel·ligència artificial de X per a desvestir dones

Els primers compassos de l’any han arribat amb un nou ús masclista de la tecnologia. Usuaris de X han començat a demanar a Grok, la intel·ligència artificial d’aquesta xarxa social, que editi fotografies de dones perquè en substitueixi la roba per un biquini o en faci la roba transparent, entre més sexualitzacions. Una petició que Grok atén sense tenir en compte els drets d’aquestes dones, a qui no es demana pas si autoritzen una exposició així del seu cos. La intel·ligència artificial no fa diferències i despulla tant dones com homes, tot i que la gran majoria d’imatges sexualitzades són de dones.

El fet és que aquesta funció de Grok no és pas nova. A l’estiu va incorporar una actualització que rebaixava les limitacions de caràcter sexual en la generació d’imatges i vídeos, fins al punt que l’eina Grok Imagine té un “mode picant” orientat directament a crear fotografies i vídeos sexuals, sense arribar a les imatges explícites de genitals o de pràctiques sexuals. D’aquesta manera, xAI –la filial de X dedicada a la intel·ligència artificial– es desmarcava de grans competidors en aquest àmbit, com OpenAI o Google, que tenen una política d’usos més restrictiva.

D’aleshores ençà, moltes celebritats han vist com es publicaven imatges seves sexualitzades, cosa que ja va causar indignació per la manca de respecte als drets de les afectades. Ara bé, al tombant de l’any la polèmica ha crescut perquè s’ha popularitzat el fet de demanar edicions de fotografies sexualitzades de manera multitudinària i en obert. És a dir, si fins ara els usuaris les demanaven a la pàgina web de Grok i, potser, després les difonien; ara les demanen directament a X i Grok les penja en obert.

Aquest canvi té dos efectes. D’una banda, la difusió de les imatges és més gran, perquè es publiquen directament a una xarxa social amb un impacte enorme. I, d’una altra, ha fet que molta gent que no sabia que Grok es prestava a fer imatges sexuals sense el consentiment de l’afectat, ara ho sap i n’hi demana.

Imatges de menors

Per si no fos prou, alguns usuaris han alertat que Grok també accedeix a fer imatges sexualitzades de menors d’edat. En aquests casos, el servei d’intel·ligència artificial ha reaccionat dient que eren errades en les limitacions que tenia establertes i que l’equip treballava per resoldre-ho. De fet, acabava el missatge dient que xAI estava compromesa amb la prevenció de la pornografia infantil i encoratjava a denunciar casos així.

We appreciate you raising this. As noted, we've identified lapses in safeguards and are urgently fixing them—CSAM is illegal and prohibited. For formal reports, use FBI https://t.co/EGLrhFD3U6 or NCMEC's CyberTipline at https://t.co/dm9H5VYqkb. xAI is committed to preventing such…

— Grok (@grok) January 2, 2026

Musk en fa befa amb una imatge seva en biquini

Amb l’esclat de la polèmica, moltes dones afectades s’han queixat directament al propietari de xAI, Elon Musk. En comptes d’entrar en el debat de si és adequat que la intel·ligència artificial sigui utilitzada per desvestir algú sense el seu consentiment, Musk ha demanat que generés una imatge seva en biquini.

pic.twitter.com/LfcCADWjje

— Grok (@grok) January 1, 2026

Després, encara ha continuat mostrant la seva indiferència compartint imatges en biquini generades de mandataris internacionals com Kim Jong Un, o, fins i tot, d’objectes com una torradora.

Not sure why, but I couldn’t stop laughing about this one 🤣🤣 https://t.co/5r2JjOuuse

— Elon Musk (@elonmusk) January 2, 2026

El govern francès ho denuncia i l’espanyol recorda que ho vol prohibir

L’executiu francès ha corregut a anunciar una denúncia penal contra Grok per la generació i difusió d’imatges sexuals sense consentiment. En un comunicat conjunt, els ministres francesos d’Economia, Roland Lescure; d’Intel·ligència Artificial i Economia Digital, Anne Le Henanff; i d’Igualtat entre Dones i Homes, Aurore Bergé, ho han condemnat “amb la màxima fermesa” i han dit que violava el codi penal francès.

A més, el govern ha demanat a l’Autoritat de Regulació de la Comunicació Audiovisual i Digital que examinés si X havia incomplert les obligacions previstes en el Reglament de Serveis Digitals de la Unió Europea, especialment en relació amb la prevenció de la difusió de continguts il·lícits.

Per la seva banda, el ministre de Justícia  espanyol, Félix Bolaños, ha dit que quan s’aprovés la llei espanyola de protecció dels infants en entorns digitals, ara en tramitació parlamentària, aquest ús de Grok seria delicte. “Les xarxes han de ser un espai segur i no una barra lliure masclista per a assetjadors”, ha escrit a X.

Aquesta nova llei castigarà amb penes entre un any de presó i dos aquells que “sense autorització de la persona afectada i amb ànim de menystenir la seva integritat moral, difonguin, exhibeixin, o cedeixin la seva imatge corporal d’àudio o veu generada, modificada o recreada mitjançant sistemes automatitzades, programari, algorismes, intel·ligència artificial o qualsevol altra tecnologia, de manera que sembli real, simulant situacions de contingut sexual o greument vexatòries”. En cas que la persona afectada sigui menor d’edat o tingui alguna discapacitat, la condemna serà entre un any i mig i dos.

L’alta comissionada per a la infància francesa, Sarah El Haïry, ha expressat públicament la seva indignació per l’ús de Grok per a despullar virtualment nenes i dones. Ha remarcat que, tot i que les imatges fossin artificials, el dany causat a les víctimes era real.