DeepFake pornografija na pohodu!

Umetna inteligenca z velikimi koraki vstopa na vsa področja našega življenja. Tako je sedaj na spletu moč zaslediti ogromno pornografskih filmov, v katerih nastopajo znane osebe, le da to niso one!

Kako dolgo bo trajalo, preden se bo brez soglasja tudi naša podoba pojavila v pornografskem videoposnetku?

Med klikanjem po pornografski strani opazim nek znan obraz in neverjetne scene. V zgornjem desnem kotu, ko se videoposnetek vrti, je fotografija igralke Emme Watson, s promocijskega snemanja za filme o Harryju Potterju, posneta v najstniških letih. Njen obraz je prilepljen na obraz pornoigralke. Nenadoma je v njem prikazana ženska, ki še nikoli ni nastopala v pornografiji. Kako je to mogoče, je sploh legalno in kdo si je drznil?!

Oglasi, ki so uporabnike usmerjali na aplikacijo, ki ustvarja lažne videoposnetke, so bili odkriti v več kot 230 primerih na družabnih omrežjih Facebook, Instagram in Meta’s Messenger, kot je razkrila Kat Tenbarge v preiskavi novic NBC. Večina oglasov je vsebovala podobo Watsonove, nekateri drugi so uporabljali obraz Scarlett Johansson.

Isti oglasi so se pojavili v aplikacijah za urejanje fotografij in igranje iger, ki so na voljo v trgovini Apple App Store. Da gledalci ne bi izgubili zanimanja, je v oglasih jasno navedeno, da so aplikacije namenjene pomoči uporabnikom pri ustvarjanju pornografije, s katero koli osebo, ki jim je všeč.

“Zamenjajte katerikoli obraz v videoposnetku!” piše v oglasih. “Zamenjajte obraz s komer koli. Uživajte s tehnologijo zamenjave obrazov umetne inteligence.”

Podobni oglasi za storitve deepfake se pojavljajo neposredno ob eksplicitnih videoposnetkih na PornHubu. Čeprav se tehnologija deepfake teoretično lahko uporablja za vse vrste vsebin – od šaljive satire do zlonamernih političnih dezinformacijskih kampanj – se večinoma uporablja za ustvarjanje pornografije. Po podatkih iz poročila za leto 2019 je 96 % spletnega gradiva deepfake pornografskega značaja!

Lahko se zgodi tudi tebi

Hitro naraščanje števila in dostopnosti lažnih pornografskih videoposnetkov sproža zaskrbljujoča vprašanja o zasebnosti in privolitvi v digitalni prihodnosti. Kako bo ogromno število žensk – in manjše, a precejšnje število moških – ki jih je prizadela ta nova maščevalna pornografija z umetno inteligenco, upravljalo svoj ugled in življenje?

Kako bodo gledalci ob izboljšanju tehnologije prepoznali razliko med dejstvi in fikcijo, ki jo je ustvarila umetna inteligenca? Kako je mogoče odstraniti gradivo brez soglasja, ko se internet premika veliko hitreje od predpisov?

Kako se je začelo?

Porast zanimanja za DeepFake pornografijo je posledica spora, ki je januarja pretresel skupnosti spletnih videoiger, ko je priljubljeni streamer Brandon Ewing, ki se imenuje Atrioc, v eni od svojih spletnih oddaj prikazal deepfake pornografijo več priljubljenih ženskih streamerjev. Pozneje je priznal, da je za eksplicitne posnetke žensk, ki so bile njegove kolegice in prijateljice, plačal, ko je videl oglas, podoben tistim, ki so se pojavili na platformah Meta in Apple.

Privlačnost deepfake pornografije je do neke mere razumljiva, po drugi strani pa naravnost strašljiva. Te aplikacije namreč svojim uporabnikom ponujajo možnost, da (v večini primerov) prizadenejo ženske, tako da jih proti njihovi volji »prisilijo« v pornografijo, ki se na koncu znajde celo v javnosti.

Potem ko je Ewing januarja razkril svoje deepfake »izdelke« občinstvu, je ena od upodobljenih žensk objavila lasten video posnetek, v katerem je s solzami v očeh opisala, kako sta jo zlonamernost in deepfake za vedno ranili. V odgovor ji je nek moški poslal sliko njenega jokajočega obraza, ki se je pojavil na njegovi tablici. Zaslon je bil prekrit s spermo. Plaz se je sprožil.

Kaj pa zakon?

Še posebej grozljivo se zdi, da zakon v večini primerov oškodovanih ne ščiti. Največkrat je podjetje, ki aplikacijo trži, registrirano v državi, ki teh zakonov nima, še bolj zanimivo pa je dejstvo, da se svet na kaj takšnega sploh še ni pripravil. AI, DeepFake itd., kliče po regulaciji tega segmenta in le vprašanje časa je, kdaj se bo zgodil velik preobrat v zakonodaji na digitalnem področju.