OpenAI je nedavno predstavio svoj najnoviji sustav umjetne inteligencije, Sora, koji ima sposobnost transformacije teksta u foto-realistične videozapise. Ovaj tehnološki napredak izaziva uzbuđenje u području umjetne inteligencije, ali istodobno izaziva zabrinutost zbog potencijalnih rizika vezanih uz deepfakeove.
Sora trenutno može generirati videozapise do 60 sekundi duljine koristeći samo tekstualne upute ili kombinaciju teksta i slike. Unatoč nekim pogreškama, Sora se ističe kao znatno uvjerljiviji u usporedbi s prethodnim modelima, što otvara mogućnost za realističnije deepfake videozapise. Međutim, stručnjaci upozoravaju na potencijalne zloupotrebe, naglašavajući kako kombinacija Sore s tehnologijom kloniranja glasa može rezultirati stvaranjem uvjerljivih deepfakeova koji bi ljudima mogli pripisivati izjave i postupke koje nikada nisu učinili, piše New Scientist.
4. Drone view of waves crashingpic.twitter.com/1RMaPNMGNt
— The AI Colony (@TheAIColony) February 15, 2024
“Kao i s drugim tehnikama u generativnoj umjetnoj inteligenciji, nema razloga vjerovati da se pretvaranje teksta u video neće nastaviti ubrzano poboljšavati te nas približiti trenutku kada će biti teško razlikovati lažno od stvarnog”, kaže Hany Farid s Berkeleya, sveučilišta u Kaliforniji.
Iako Sora još uvijek pokazuje neke greške, poput zamjene lijeve i desne noge hodajuće osobe ili prisutnosti nekih nelogičnosti u videozapisima, stručnjaci primjećuju značajan napredak u realizmu i manje karikaturalnosti. Ipak, naglašava se važnost testiranja i procjene mogućnosti zloupotrebe prije nego što Sora postane javno dostupna.
8. A drone shotpic.twitter.com/B3HMN1WyS5
— The AI Colony (@TheAIColony) February 15, 2024
“Sora je apsolutno sposobna stvoriti videozapise koji bi mogli prevariti obične ljude. Video ne mora biti savršen da bi bio vjerodostojan jer mnogi ljudi još uvijek ne shvaćaju da se videom može manipulirati jednako lako kao i slikama”, objašnjava Rachel Tobac, suosnivačica SocialProof Securityja, IT organizacije usredotočene na društveni inženjering.
2.A close-up shot of a Victoria crowned pigeonpic.twitter.com/dZLIrnoqxy
— The AI Colony (@TheAIColony) February 15, 2024
OpenAI je odgodio javnu dostupnost Sore dok provodi testiranje s odabranim stručnjacima, posebno onima koji su stručnjaci za dezinformacije, zlonamjerni sadržaj i pristranost. Ova faza testiranja ključna je kako bi se procijenila pouzdanost i sigurnost Sora sustava, s obzirom na moguće štetne posljedice, uključujući zloupotrebu umjetno stvorenih videa u svrhu širenja dezinformacija.
