Australian Broadcasting Corporation (ABC) glavni australski javni servis prove je nedavno zanimljiv eksperiment: četirima srednjoškolcima su prikazali 21 kratki video – 10 stvarnih i 11 generiranih umjetnom inteligencijom – pa su od učenika zatražili da ocijene je li ono što su vidjeli stvarno ili stvoreno umjetnom inteligencijom.
Prije nego što je test uopće počeo, učenici nisu bili baš sigurni u svoju sposobnost uočavanja lažnog.
“Mislim da se vjerojatno stalno pojavljuje u mom feedu, a ja to ni ne primjećujem, pa ne znam. Vidjet ćemo kako će ići”, rekla je jedna od sudionica.
Rezultati su pokazali da su učenici ukupno ispravno prepoznali AI generirani sadržaj u 67 % slučajeva, što znači da su sudionici eksperimenta trećinu vremena bili prevareni da misle da se radi o pravom videozapisu.
Bili su skeptični i prema pravim videozapisima, pogrešno pretpostavivši da je 33 % njih generirano umjetnom inteligencijom.
„Teško je razlikovati kada postoje pravi videozapisi koji izgledaju tako nestvarno i lažni videozapisi koji… su dizajnirani da izgledaju tako stvarno“, naglasila je sudionica koje je uspjela ispravno razlikovati videozapise u 70 % slučajeva. „Još uvijek imam osjećaj da nisam baš sigurna u razlikovanju“, rekla je nakon što je završio eksperiment.
Nedavno je OpenAI, tvrtka koja stoji iza ChatGPT-a, objavila novu verziju svog AI generatora videozapisa, Sora 2. Istodobno je pokrenula i novu platformu društvenih medija na kojoj je sve generirano s pomoću AI, a ljudi mogu prenositi svoja lica i dopustiti drugima da ih lažiraju.
Jeremy Carrasco, koji putem društvenih mreža pomaže ljudima da uoče AI videozapise, kaže da su od pokretanja ove nove platforma ostali društveni mediji preplavljeni AI generiranim videozapisima.
„Ako imate osjećaj da danas niste vidjeli nijedan AI video, vjerojatno nemate dobar osjećaj“, rekao je za ABC.
Carrasco, poznat po svom profilu ShowTools.AI, kaže da je najnovija iteracija Sore posebno dizajnirana za stvaranje viralnih videa. „Prije se puno AI video uradaka činilo vrlo neurednima i nisu bili baš zanimljivi, ali Sora 2 može stvarati zanimljive stvari nekako po defaultu. Sora 2 Ima određenu viralnost ugrađenu u sebe i očito je obučena za to, ili se to pojavilo kao sposobnost da bude pomalo smiješna i prilično zanimljivog izgleda, bez potrebe za ulaganjem puno truda.“
Od lansiranja Sore 2, aplikacija je bila metom mnogih kritika. U početku se činilo da gotovo da nema ograničenja za materijal koji zaštićen autorskim pravima, što se pokušalo popraviti ažuriranjem aplikacije.
Sora je također kritizirana jer korisnicima dopušta korištenje likova mrtvih ljudi. Videozapisi Michaela Jacksona generirani umjetnom inteligencijom postali su viralni, a u svojoj online izjavi Zelda Williams – kći pokojnog Robina Williamsa – zamolila je ljude da joj prestanu slati videozapise njezina oca.
Carrasco kaže da tvrtke koje se bave razvojem umjetne inteligencije prebacuju odgovornost na druge, a da je širenje deepfakeova na društvenim mrežama duboko zabrinjavajuće. „Oni [tvrtke koje se bave umjetnom inteligencijom] uopće nisu zabrinuti i prebacuju odgovornost. Osjećaju da je ovo neizbježno, pa nam zapravo čine uslugu dopuštajući nam da svi razgovaramo o tome i nosimo se s tim, kao da nisu stvorili svojevrstan ubrzač, kao da razilaženje o tome nije važno. Ali u stvarnosti, razilaženje oko stvaranja deep fakeova, razilaženje oko stvaranja stvari koje obmanjuju ljude – to razilaženje je bitno. Iako možda misle da to rade na sigurna način, ljudi intuitivno imaju osjećaj da je normalizacija deepfakeova izuzetno opasna. Ljudi su frustrirani i siti su poplave AI sadržaja u svojim feedovima“, rekao je Carrasco.
Šesnaestogodišnji Gio, koji je sudjelovao u eksperimentu ABC-a i ispravno je razlikovao generirane od pravih videa u zavidnih 86 % slučajeva, rekao je da su njegovi feedovi preplavljeni sadržajem generiranim umjetnom inteligencijom.
„Mislim da je umjetna inteligencija općenito preuzela svaku aplikaciju koju koristim, poput aplikacija društvenih medija, poput Instagrama“, kaže. „Uglavnom mogu prepoznati koji su videozapisi napravljeni s pomoću AI, a koji ne, ali ponekad… zastrašujuće je znati da… možda nisam shvatio je li određeni videozapis generiran umjetnom inteligencijom ili ne.“
Gordana Ilić Ostojić
