SORA: Nova era video zapisa ili etički izazov?

Prije nekoliko dana OpenAI, tvorac revolucionarnog ChatGPT-a, predstavio je Sora AI model koji može stvoriti realistične i maštovite scene prema tekstualnim uputama. O revoluciji u području umjetne inteligencije pisali smo ranije, a njen je napredak zapanjujuće brz. Sjetite se samo da smo se prije godinu dana divili tekstovima koje je AI pisao, a sada su razvijeni alati koji se u poslovnom i privatnom svijetu koriste svakodnevno i utječu na razvoj industrija. 

Zašto Sora predstavlja revoluciju?

“Sora je sposobna generirati složene scene s više likova, specifičnim tipovima pokreta i preciznim detaljima o predmetima i pozadini”, stoji na web stranici tvrtke. “Model razumije ne samo što je korisnik pitao u upitu, već i kako te stvari postoje u fizičkom svijetu.”

Iako su ranije Google, Meta i Runaway predstavili alate za pretvaranje teksta u video od strane, Sora se izdvaja od postojećih tehnologija jer može generirati video od 60 sekundi. Također, prvi je alat koji ne skuplja kadar po kadar već generira video odjednom čime se gubi mogućnost nestajanja objekata čak i kada privremeno nestanu iz videokruga.

Posebno se ističe u generiranju složenih scena koje uključuju više likova i detaljna okruženja, pokazujući napredno razumijevanje kako jednostavnih tako i složenih uputa. U stanju je odvojiti glavni subjekt videa od pozadine, pa generirati oboje uz visoku razinu detalja.

Pristup SORI trenutno imaju samo testeri i programeri te navode kako je alat u razvojnoj fazi i ima nedostataka. Konzistentnost u stvaranju kompleksnih scena ponekad se gubi i “ne razumije” uzrok i posljedicu kao ni lijevo i desno. To se naprimjer može primjetiti na video zapisima u kojima osoba na videu odgrize komad kruha, a nakon toga taj komad izgleda netaknuto. Unatoč sposobnosti generiranja složenih scena s više likova i pokreta, Sora još uvijek može napraviti pogreške u detaljima i dosljednosti tih scena.

AI animacije

Sorine sposobnosti sežu dalje od stvaranja realističnih ljudskih likova do proizvodnje kratkih animiranih filmova u Pixar stilu. Znači li to da će zamijeniti animatore i da ćemo u kino dvoranama gledati animirane filmove napravljene od strane umjetne inteligencije? Zasad još ne.

Jednostavan generator teksta u video može lako generirati videozapise, ali još uvijek je potrebno umijeće iskusnog profesionalca da spoji isječke u film koji ljudi zapravo žele gledati. Osim toga, AI često ima problema s kreiranjem originalnog sadržaja i razvijanjem novih umjetničkih stilova te često generira varijacije postojećih podataka.

Što to znači za nas?

U svibnju 2023. Svjetski ekonomski forum iznio je podatak kako je samo između 2019. i 2020. godine broj deepfake sadržaja objavljenih na internetu porastao za 900 posto, a danas je taj rast zasigurno i mnogo veći.

Razlika između sadržaja generiranog umjetnom inteligencijom i stvarnosti postati će gotovo nemoguća. Budućnost u kojoj će linija prepoznavanja između izmišljenih, generiranih videozapisa i autentičnih snimaka donosi veliko nepovjerenje javnosti u digitalno doba. Već smo nebrojeno puta imali prilike vidjeti “tamnu stranu” umjetne inteligencije izmišljenim slikama ozlijeđene djece koje su predstavljene kao žrtve rata, eksplicitnim slikama poznatih osoba pa čak i pornografije. Takvi sadržaji mogu uništiti nečiji život i ugled, utjecati na mentalno zdravlje, uplesti ih u probleme sa zakonom te sa sobom nose dugoročne posljedice.

Jedan od najpoznatijih primjera je deepfake videosnimka ukrajinskog predsjednika Volodimira Zelenskog koja se pojavila u 2022., nedugo nakon početka invazije Rusije na Ukrajinu, a u kojoj on traži od svojih vojnika da se predaju. Ta je snimka izazvala veliku paniku u Ukrajini i ako je vrlo brzo otkrivena, mogla je utjecati na poteze ukrajinske vojske i ishod rata.

Možemo li se zaštiti?

OpenAI navodi kako u svrhu zaštite korisnika i sprječavanja deepfake radi sa stručnjacima u područjima dezinformacija, sadržaja mržnje i pristranosti kako bi testirali alat prije nego što ga stave na raspolaganje široj javnosti. Također, tvrtka razvija alate koji mogu uključiti metapodatke u stvorene videozapise kako bi ih lakše otkrili videozapise koje je izradila Sora. Ipak, nemoguće je znati kako će alat pomoći ili odmoći čovječanstvu.

No što je sa zakonskim regulativama? Diljem svijeta pravosuđe još nema konkretne i definirane odgovore i zakone koji reguliraju umjetnu inteligenciju. Najveći korak naprijed napravila je EU u prosincu prošle godine kada je postignut privremeni dogovor o ključnim pravilima za regulaciju umjetne inteligencije. Parlament i Vijeće sada trebaju službeno odobriti dogovoreni tekst kako bi on postao zakon, a time će EU postati prva velika svjetske sile koja imati donijeti zakon za kontroverzni segment i postaviti regulatorne standarde.

Sve ovisi o nama!

Napredak tehnologije i AI alata osim što nosi veliki broj prednosti, “prijeti” čovječanstvu brisanjem granice između stvarih i lažnih sadržaja. U narednim mjesecima očekuje se lansiranje SORE u javnost, a na ljudima ostaje kako će ju i u koje svrhe koristiti. Sudeći po onome što smo dosad vidjeli, deepfake sadržaji doživjeti će svoj procvat.