S tím, jak jsou AI-generovaná videa stále přesvědčivější a dostupnější, spojili výzkumníci z UC Riverside síly s Googlem a vyvinuli mocnou novou zbraň proti digitálním podvodům.
Jejich systém s názvem Universal Network for Identifying Tampered and synthEtic videos (UNITE) řeší zásadní slabinu současných technologií pro detekci deepfaků. Zatímco stávající nástroje se zaměřují především na anomálie v oblasti obličeje, UNITE zkoumá celé snímky videa – včetně pozadí, pohybových vzorců a jemných prostorově-časových nesrovnalostí, které mohou prozradit manipulaci.
„Deepfaky se vyvinuly,“ vysvětluje Rohit Kundu, doktorand z UC Riverside, který výzkum vedl. „Nejde už jen o výměny obličejů. Lidé dnes vytvářejí zcela falešná videa – od obličejů až po pozadí – pomocí výkonných generativních modelů. Náš systém je navržen tak, aby odhalil všechny tyto případy.“
Na spolupráci se podíleli také profesor Amit Roy-Chowdhury a výzkumníci z Googlu Hao Xiong, Vishal Mohanty a Athula Balachandra. Výsledky byly představeny na konferenci Conference on Computer Vision and Pattern Recognition 2025 v Nashvillu. Jejich inovace přichází v době, kdy platformy pro generování textu na video a obrázku na video umožňují vytvářet sofistikované video padělky prakticky komukoliv.
UNITE využívá hluboký model strojového učení založený na transformerech, který staví na základě zvaném SigLIP. Ten extrahuje rysy, které nejsou vázány na konkrétní osoby či objekty. Nová trénovací metoda, označovaná jako „attention-diversity loss“, nutí systém sledovat více vizuálních oblastí v každém snímku a zabraňuje tak nadměrnému spoléhání na obličeje.
Ačkoliv je UNITE stále ve vývoji, mohl by se brzy stát klíčovým nástrojem pro sociální sítě, redakce i fact-checkery, kteří se snaží zabránit šíření manipulovaných videí. S tím, jak deepfaky čím dál více ohrožují důvěru veřejnosti, demokratické procesy a integritu informací, představují univerzální detekční nástroje jako UNITE zásadní obrannou linii proti digitálním dezinformacím.