Kako AI-generirani videozapisi postaju sve uvjerljiviji i dostupniji, istraživači sa Sveučilišta California Riverside udružili su snage s Googleom kako bi razvili snažno novo oružje protiv digitalne obmane.
Njihov sustav, nazvan Universal Network for Identifying Tampered and synthEtic videos (UNITE), rješava ključnu ranjivost trenutne tehnologije za otkrivanje deepfakeova. Dok se postojeći alati uglavnom fokusiraju na anomalije lica, UNITE analizira cijele kadrove videa, uključujući pozadine, obrasce kretanja i suptilne prostorno-vremenske nekonzistentnosti koje otkrivaju manipulaciju.
"Deepfakeovi su evoluirali," objašnjava Rohit Kundu, doktorand na UC Riversideu koji je vodio istraživanje. "Više se ne radi samo o zamjeni lica. Ljudi sada stvaraju potpuno lažne videozapise — od lica do pozadina — koristeći moćne generativne modele. Naš je sustav osmišljen da sve to prepozna."
Suradnja, u kojoj su sudjelovali profesor Amit Roy-Chowdhury te Googleovi istraživači Hao Xiong, Vishal Mohanty i Athula Balachandra, predstavljena je na Konferenciji o računalnom vidu i prepoznavanju uzoraka 2025. u Nashvilleu. Njihova inovacija dolazi u trenutku kada su platforme za generiranje teksta u video i slike u video učinile sofisticirane video krivotvorine dostupnima gotovo svakome.
UNITE koristi model dubokog učenja temeljen na transformatorima, izgrađen na osnovi nazvanoj SigLIP, koja izdvaja značajke neovisne o određenim osobama ili objektima. Novi način treniranja, nazvan "attention-diversity loss", prisiljava sustav da prati više vizualnih područja u svakom kadru, čime se sprječava pretjerano oslanjanje na lica.
Iako je još uvijek u razvoju, UNITE bi uskoro mogao postati ključan za društvene mreže, redakcije i fact-checkere koji nastoje spriječiti širenje manipuliranih videa. Kako deepfakeovi sve više ugrožavaju javno povjerenje, demokratske procese i integritet informacija, univerzalni alati za detekciju poput UNITE-a predstavljaju ključnu liniju obrane protiv digitalne dezinformacije.