Efterhånden som AI-genererede videoer bliver mere overbevisende og tilgængelige, har forskere fra UC Riverside indgået et samarbejde med Google om at udvikle et stærkt nyt våben mod digital bedrag.
Deres system, Universal Network for Identifying Tampered and synthEtic videos (UNITE), adresserer en kritisk sårbarhed i den nuværende teknologi til deepfake-detektion. Hvor eksisterende værktøjer primært fokuserer på ansigtsanomalier, undersøger UNITE hele videorammer – inklusive baggrunde, bevægelsesmønstre og subtile rum-tidsmæssige uoverensstemmelser, der afslører manipulation.
"Deepfakes har udviklet sig," forklarer Rohit Kundu, ph.d.-studerende ved UC Riverside og leder af forskningen. "Det handler ikke længere kun om at bytte ansigter. Folk skaber nu fuldstændig falske videoer – fra ansigter til baggrunde – ved hjælp af kraftfulde generative modeller. Vores system er bygget til at afsløre det hele."
Samarbejdet, som også omfattede professor Amit Roy-Chowdhury samt Google-forskerne Hao Xiong, Vishal Mohanty og Athula Balachandra, blev præsenteret på Conference on Computer Vision and Pattern Recognition 2025 i Nashville. Innovationen kommer på et tidspunkt, hvor tekst-til-video- og billede-til-video-platforme har gjort sofistikerede videoforfalskninger tilgængelige for stort set alle.
UNITE benytter en transformer-baseret deep learning-model, der bygger på fundamentet SigLIP, som udtrækker egenskaber, der ikke er bundet til bestemte personer eller objekter. En ny træningsmetode, kaldet "attention-diversity loss", tvinger systemet til at overvåge flere visuelle områder i hver ramme og forhindrer dermed overafhængighed af ansigter.
Selvom UNITE stadig er under udvikling, kan systemet snart blive uundværligt for sociale medieplatforme, nyhedsredaktioner og faktatjekkere, der arbejder for at forhindre manipulerede videoer i at gå viralt. Efterhånden som deepfakes i stigende grad truer den offentlige tillid, demokratiske processer og informationsintegritet, udgør universelle detektionsværktøjer som UNITE en afgørende forsvarslinje mod digital misinformation.