S rastúcou presvedčivosťou a dostupnosťou AI-generovaných videí spojili výskumníci z UC Riverside sily s Googlom, aby vyvinuli silnú novú zbraň proti digitálnym podvodom.
Ich systém s názvom Universal Network for Identifying Tampered and synthEtic videos (UNITE) rieši zásadnú slabinu súčasných technológií na detekciu deepfakov. Kým existujúce nástroje sa primárne zameriavajú na anomálie v tvárach, UNITE skúma celé snímky videa vrátane pozadia, pohybových vzorcov a jemných priestorovo-časových nezrovnalostí, ktoré prezrádzajú manipuláciu.
„Deepfaky sa vyvinuli,“ vysvetľuje Rohit Kundu, doktorand z UC Riverside, ktorý viedol výskum. „Už nejde len o výmenu tvárí. Ľudia dnes vytvárajú úplne falošné videá – od tvárí až po pozadia – pomocou výkonných generatívnych modelov. Náš systém je navrhnutý tak, aby zachytil všetko z toho.“
Na spolupráci sa podieľali aj profesor Amit Roy-Chowdhury a výskumníci z Google Hao Xiong, Vishal Mohanty a Athula Balachandra. Výsledky predstavili na konferencii Computer Vision and Pattern Recognition 2025 v Nashville. Ich inovácia prichádza v čase, keď platformy na generovanie textu na video a obrázku na video sprístupnili tvorbu sofistikovaných video podvodov prakticky komukoľvek.
UNITE využíva hlboký učením poháňaný model typu transformer, ktorý je postavený na základoch systému SigLIP. Ten extrahuje vlastnosti, ktoré nie sú viazané na konkrétne osoby alebo objekty. Nová tréningová metóda s názvom „attention-diversity loss“ núti systém sledovať viacero vizuálnych oblastí v každom snímku, čím zabraňuje prílišnej závislosti od tvárí.
Hoci je UNITE stále vo vývoji, čoskoro by sa mohol stať nevyhnutným nástrojom pre sociálne siete, redakcie a fact-checkerov, ktorí sa snažia zabrániť šíreniu manipulovaných videí. Keďže deepfaky čoraz viac ohrozujú verejnú dôveru, demokratické procesy a integritu informácií, univerzálne detekčné nástroje ako UNITE predstavujú kľúčovú obrannú líniu proti digitálnej dezinformácii.