Pedeset zastupnika Europskog parlamenta, a od toga su čak 46 žene, bilo je na meti deepfake pornografije, pokazuje novo istraživanje objavljeno ovoga tjedna.
Svaka šesta eurozastupnica bila izložena deepfake pornografiji
Broj žena koje su postale žrtve takvih sadržaja znači da je otprilike svaka šesta eurozastupnica bila pogođena tom vrstom zlouporabe, navodi se u izvješću njemačke organizacije civilnog društva Agora Digitale Transformation (ADT).
Organizacija opisuje deepfake pornografiju (AIG-NCII) kao intimne slike generirane umjetnom inteligencijom bez pristanka osobe. U slučajevima koje su oni analizirali, a odnosili na zastupnike i zastupnice u nacionalnim parlamentima te u Europskom parlamentu, sama žrtva nije objavila nikakav intimni sadržaj, a kao izvorni materijal korišten je službeni portret ili javno dostupna fotografija s društvenih mreža.
ADT zaključuje da postojeća EU pravila ne sprječavaju zloporabu. Europska unija zabranjuje aplikacije koje uz pomoć umjetne inteligencije digitalno uklanjaju odjeću s osoba na fotografijama, podsjeća u svom tekstu Politico, a još uvijek se provodi i istraga o sličnoj zlouporabi alata Grok na društvenoj mreži X, o čemu smo pisali i na WiA.
Najviše su izložene žene
„Kao i u našoj nedavnoj analizi izloženosti zastupnika u nacionalnim parlamentima država članica EU-a, utvrdili smo da su ovoj vrsti zloporabe uvjerljivo najviše izložene žene, da se rizik povećava s većom institucionalnom vidljivošću te da pogađa sve glavne političke skupine diljem političkog spektra“, stoji u sažetku istraživanja njemačke organizacije ADT. U analizi rezultata napominju također da seksualizirani deepfake sadržaji nisu toliko novi tehnološki fenomen koliko novi alat za stari problem – nasilje nad ženama. „Obrazac koji dokumentira naša analiza ima iste mizogine korijene kao uznemiravanje, uhođenje i zastrašivanje u stvarnom životu. Žene u javnom životu na meti su daleko češće nego muškarci, a rizik da postanu žrtve raste s njihovom vidljivošću i razinom moći. Cilj je poniziti ih, ušutkati i potisnuti iz javnih uloga“, poručuju.
Trenutačni regulatorni okvir EU-a, stoji u izvješću, djeluje tek nakon što je šteta već nastala. Drugo, oslanja se na to da žrtve same pronađu intimne sadržaje generirane umjetnom inteligencijom bez njihova pristanka i same ih prijave. Treće, njegove najstrože obveze odnose se samo na najveće platforme, dok se najveći dio štetnog sadržaja nalazi na manjim internetskim stranicama, često registriranima izvan EU-a.
„Ni Akt o digitalnim uslugama (DSA), ni Opća uredba o zaštiti podataka (GDPR), ni najavljeni Digital Omnibus o umjetnoj inteligenciji ne propisuju fiksni rok u kojem platforme moraju ukloniti sadržaj koji krši pravila. Nasuprot tome, novousvojena pravila u Sjedinjenim Američkim Državama i Ujedinjenom Kraljevstvu sada zahtijevaju uklanjanje takvih sadržaja u roku od 48 sati“, objavio je ADT.
Pismo predsjednici Europske komisije
Politico pak piše, izvještavajući o istraživanju ADT-a, da je skupina od 119 zastupnika Europskog parlamenta iz različitih političkih stranaka pozvala na učinkovitu provedbu zabrane i što skorije zaključenje istrage o Groku. Zahtjev su iznijeli u pismu od 30. rujna, upućenom predsjednici Europske komisije Ursuli von der Leyen, predsjedniku Europskog vijeća Antóniju Costi, predsjednici Europskog parlamenta Roberti Metsoli, izvršnoj potpredsjednici Europske komisije zaduženoj za tehnologiju Henni Virkkunen te povjerenici Hadji Lahbib.
Benjamin Shultz, jedan od autora izvješća, za Politico kaže da Europska komisija, kako bi učinkovito provela zabranu, mora pozvati na odgovornost sve subjekte koji, ponekad i nenamjerno, omogućuju funkcioniranje industrije aplikacija za digitalno „svlačenje” osoba uz pomoć AI-a. To uključuje i pružatelje usluga obrade plaćanja te registre internetskih domena.
U izvješću se navodi i da bi Komisija trebala razmotriti kako potaknuti internetske tražilice da iz svojih baza uklone stranice s AI alatima za „svlačenje“.
Foto: Screenshot
