“Si ets una dona coneguda, és impossible que no t’hagin fet un ‘deepfake’ pornogràfic”

  • Entrevista a la presentadora neerlandesa Welmoed Sijtsma i la investigadora Marieke Smits, que presenten un documentari sobre la pornografia artificial 'deepfake'

VilaWeb
Sijtsma (esquerra) i Smits (dreta), a l'hotel Turin de Barcelona (fotografia: Albert Salamé).
Això és una prova de lectura dels articles de Vilaweb amb veu sintètica, que ben aviat serà a disposició dels subscriptors del diari. Subscriviu-vos-hi ací. Si trobeu algun problema, escriviu-nos a suport@vilaweb.cat.

L’octubre de l’any passat, tot revisant la safata d’entrada, la presentadora neerlandesa Welmoed Sijtsma es va trobar amb un vídeo pornogràfic en què, sense tenir-ne constància, hi apareixia ella. Sijtsma, és clar, no havia protagonitzat mai cap vídeo pornogràfic: algú, sense el seu consentiment, havia inserit la seva cara en un vídeo ja existent amb finalitats eròtiques.

És allò que s’anomena tecnologia deepfake, que, tot emprant intel·ligència artificial, és capaç d’alterar els vídeos per fer-los mostrar coses que realment no han passat. Arran d’aquell cas, Sijtsma va començar a indagar i va descobrir que el seu cas no era pas únic: internet, comprovà, en va ple. Hi ha milions de vídeos en què apareixen d’estrelles mundials a adolescents anònimes. Aquest és l’argument de Welmoed and the Sexfakes, el documentari amb què Sijtsma aprofundeix un fenomen com més va més escampat. En parlem amb ella i la seva assistent, Marieke Smits, que aquest cap de setmana han presentat el film al festival Miniput, al Centre de Cultura Contemporània de Barcelona (CCCB).

Què us passa pel cap quan veieu que sou la protagonista d’un vídeo pornogràfic?
—Welmoed Sijtsma [W. S.]: Vaig quedar completament en xoc. Recordo veure el vídeo i pensar: “Oh, no, realment són el meu cap i la meva cara. Així és com se’m veu al llit?” Però, sobretot, vaig sentir vergonya. Recordo que hi vaig fer molts tombs, a això: és molt estrany com pots sentir tanta vergonya per un vídeo que saps que és fals i en el qual saps que tu, en el fons, no hi apareixes. Al cap d’un temps vaig començar a contemporitzar-ho una mica, però els primers dies van ser durs: estava en un estat de negació, com si fos un estruç que amaga el cap sota terra. Poc després, la persona que em va alertar del vídeo em va enviar una captura de pantalla de la pàgina de deepfakes d’on havia sortit el meu vídeo. Hi havia de tot: tant estrelles mundials de Hollywood com personalitats mediàtiques neerlandeses. Als Països Baixos, i en molts altres països, si ets una dona que surt per la televisió –o bé ets relativament coneguda– és pràcticament impossible que no t’hagin fet un vídeo pornogràfic deepfake on apareguis.

Entenc, per tant, que la majoria de víctimes d’aquests vídeos són dones.
—W. S.: En aquestes pàgines hi ha milers i milers de vídeos d’aquesta mena, i sí, la gran majoria de persones que hi ha apareixen són dones. Hi ha alguns homes, però comparativament són molt pocs; no n’hi vaig trobar sinó un grapat.

Abans parlàveu de figures públiques. Però de deepfakes també se’n fan molts sobre dones anònimes.
—W. S.: Sí, molts. Gran part d’aquestes dones anònimes eren molt joves: de fet, molts d’aquests vídeos s’havien fet justament el dia en què la noia que hi apareixia feia divuit anys. Jo no sabia que es podia fer res de tot això, i vaig pensar que m’havia de posar a investigar.

I què vau trobar?
—W.S.: Una de les coses que més em van sorprendre és que aquests vídeos no eren fets aïllats: darrere hi ha una comunitat sencera, amb tot d’usuaris que s’aconsellen mútuament sobre com aconseguir que els vídeos siguin més realistes. Mentre en llegia els missatges, no podia evitar de preguntar-me: “Què en pensen, de les dones que fan aparèixer als vídeos?” Això em va motivar a continuar indagant.

En un moment del documentari, decidiu de parlar amb l’home que va fer el vostre vídeo. Per què?
—Marieke Smits [M. S.]: Vaig decidir de fer-me un compte de correu electrònic fals i enviar-li un missatge demanant-li si tenia més vídeos de la Welmoed, i ell va respondre’m aviat. Després d’uns quants missatges, li vaig explicar que era la Welmoed Sijtsma i que havia fet un vídeo de mi, i li vaig demanar si podíem quedar per a parlar-ne. Ell, és clar, no ho volia, però vam trobar un hacker ètic que, a partir de les seves respostes, ens va ajudar a obtenir-ne molta informació: la seva adreça IP, que era neerlandès i no anglès com ens havia dit… Li vam oferir un tracte: si s’avenia a parlar amb nosaltres, no el denunciaríem. Però ni tan sols així va voler parlar després de saber que tractava amb la Welmoed.

Abans de descobrir-ho, us havia dit que no volia fer mal a ningú amb els seus vídeos.
—M. S.: Crec que, com que tota la comunitat que l’envoltava el felicitava pels seus vídeos i l’encoratjava a fer-ne més, de fet no pensava que fes res mal fet. També crec que, en el cas de les dones famoses en concret, hi ha la percepció entre els homes que poden reclamar-les o posseir-les perquè són de domini públic, com si poguessin fer-ne allò que volguessin. Aquest sentiment d’impunitat, evidentment, s’agreuja perquè tots aquests usuaris operen anònimament: pensen que poden anar fent i que no hi haurà conseqüències.

Vau prendre la decisió sorprenent de mostrar el vídeo a la vostra família. Per què?
—W. S.: En gran part va ser perquè cap altra dona que apareixia en aquests vídeos no va voler parlar amb nosaltres. Vaig enviar missatges a moltes dones conegudes als Països Baixos –presentadores, cantants, actrius, etcètera– perquè volíem tractar el fenomen dels deepfakes de manera conjunta, però no n’hi va haver cap que volgués cooperar amb nosaltres ni parlar-hi…
—M. S.: …Crec que no van voler parlar, sobretot, per vergonya. Per què parlar d’una cosa confinada en un racó fosc d’internet i que tothom que sàpiga que existeix? Una dona fins i tot es va enfadar amb nosaltres quan li ho vam preguntar… Una altra ens va dir que tenia por que els amics dels seus fills cerquessin el vídeo i l’assetgessin a l’escola.
—W. S.: Per això vaig pensar: “Per què no mostro el vídeo als meus pares?” I, quan en vam parlar, em va semblar molt interessant de constatar que les respostes dels meus pares eren molt diferents.

Què voleu dir?
—W. S.: El meu pare em va dir des d’un primer moment que no ho fes, que em trobaria en una posició vulnerable i que faria que, quan algú pensés en mi, li vingués al cap instantàniament la pornografia. Ell tan sols pensava en les conseqüències de tot això, en el perill d’arriscar la meva reputació com a periodista seriosa.
—M. S.: Penseu que, abans del documentari, tan sols unes poques persones coneixen el vídeo, i ara som ací, a Barcelona, parlant-ne. Crec que era una por comprensible.

I la vostra mare?
—W. S.: La meva mare, en canvi, em va dir que això no estava bé i que calia que hi fes alguna cosa, perquè, evidentment, jo no era pas l’única persona a qui havien fet un vídeo com aquest. Quan vam parlar amb experts, ens van explicar que els deepfakes afecten com més va més dones, fins i tot en entorns de proximitat: també n’hi ha als instituts o bé a les feines, per exemple.

Com a figura pública, teníeu una plataforma per a denunciar el vostre cas. Per a les víctimes anònimes que no compten amb aquest recurs, quines són les conseqüències dels deepfakes?
—Les conseqüències poden ser enormes, i més encara per a les dones anònimes. És una mena de pornovenjança artificial. Hem sentit a parlar de casos de dones que han perdut la feina per aquesta mena de vídeos, o de noies que han estat víctimes d’assetjament als instituts per això. En molts casos, la gent sap que aquests vídeos són falsos, però tot això tant se val: l’única cosa que importa és que la víctima aparegui al vídeo i tothom la pugui veure fent qualsevol cosa.

La tecnologia deepfake, tanmateix, no és necessàriament pornogràfica: també pot tenir finalitats artístiques o humorístiques, per exemple. Però quina presència té en aquesta mena de vídeos?
—W. S.: Una de les coses que més impacte ens van fer a l’hora d’elaborar el documentari va ser descobrir que el 96% dels deepfakes són pornografia, generalment no consentida. La gran majoria de dones que apareixen en aquests vídeos no hi consenten; moltes ni tan sols en tenen constància.
—M. S.: Vam parlar amb gent que fa servir la tecnologia deepfake amb propòsits artístics, per exemple, però eren una minoria. La gran majoria –i parlem de milions i milions de vídeos, és difícil fer-se’n una idea– són pornogràfics.

Suposo que, una volta detectat, esborrar un vídeo d’aquesta mena d’internet no és fàcil.
—W. S.: No és gens fàcil, no. Nosaltres el vam poder eliminar d’una pàgina web, de fet, però algú ja se l’havia descarregat i poc després va aparèixer en canals de WhatsApp i en més pàgines de deepfakes. Encara que la justícia digui que el vídeo és il·legal, tan sols que un usuari ja l’hagi descarregat és massa tard: és pràcticament impossible d’evitar que, eventualment, torni a aparèixer a internet.

La llei que regula aquesta mena de casos és obsoleta?
—W. S.: Sens dubte. La tecnologia dels deepfakes es mou tan de pressa, i la llei tan a poc a poc… Als Països Baixos hi havia una llei que deia que no es podien emprar imatges pornogràfiques d’una persona –la pornovenjança de què parlàvem– sense el seu consentiment, però aquesta llei, evidentment, parlava d’imatges reals: de les falses, no en deia res. Fa poques setmanes, tanmateix, el jutge del nostre cas va dictaminar que és igual si la imatge és real o fictícia. Arran d’aquesta decisió, l’home que va fer el meu vídeo va ser sentenciat a 180 hores de servei comunitari.

I si el jutge no hagués dictaminat això?
—M. S.: Aleshores, l’home que va fer el meu vídeo se n’hauria escapat sense càrrecs. Ara qualsevol qui denunciï una situació com aquesta té el precedent legal del nostre cas. Aquesta ha estat la nostra gran victòria.

Què cal fer, per tant, en matèria legislativa?
—W. S.: Cal millorar les regulacions sobre el deepfake. Nosaltres vam aconseguir que el jutge canviés la interpretació de la llei pel nostre cas, sí, però el vídeo continua penjat a internet. Potser s’hauria de canviar la llei per prohibir d’arrel que es puguin fer aquesta mena de vídeos. Però aquesta tecnologia, com deia abans, es mou tan de pressa que potser canvies la llei i l’has de tornar a canviar al cap de poc. Jugues permanentment al gat i la rata.
—M. S.: Es mou tan de pressa que potser és impossible que la legislació hi pugui fer res. Aquest és el problema fonamental.

Amb l’auge de la intel·ligència artificial, temeu que els deepfakes pornogràfics s’escampin cada vegada més?
—W.S.: Sí. Quan vam començar el documentari, fa cosa d’un any i mig, la intel·ligència artificial encara no havia assolit la popularitat que té ara. Em fa por que, d’ací a un any i mig, els deepfakes seran molt més bons i molt més fàcils de fer. Qui sap on serem.
–M. S. Gràcies a Déu que fa temps que no entrem a la pàgina on vam trobar el vídeo de la Welmoed.
—W. S.: Però sí que crec que, ara que els pares han vist que aquesta mena de vídeos són tan fàcils de fer, es preocuparan més sobre què els pot passar a les seves filles. I és curiós, perquè els experts fa anys que avisen d’això: n’han fet desenes d’estudis de centenars de pàgines cadascun. Però, fins ara, ningú no ha volgut escoltar-los.

Precisament, hi ha qui diu que, amb la popularització de la intel·ligència artificial, les nostres societats esdevindran més conscients dels perills dels deepfakes. Sou optimistes en relació amb això?
–W. S.: No, si més no a curt termini. Tot això, com deia abans, es mou molt de pressa. Controlar-ho serà molt difícil.
—M. S.: Mentre fèiem el documentari, un expert ens va dir que, al començament, pràcticament tot internet era pornografia, i en cert sentit això continua essent així. La tecnologia potser ha canviat, però el fenomen és el de sempre.

Recomanem

La premsa lliure no la paga el govern. La paguem els lectors.

Fes-te de VilaWeb, fem-nos lliures.

Fer-me'n subscriptor
des de 75€ l'any