Društvene mreže preplavljene su AI-generiranim videima koji nude sumnjive zdravstvene proizvode, osobito nedokazane seksualne tretmane, stvarajući, prema mišljenju stručnjaka, online okruženje puno obmana s ciljem manipulacije ranjivim potrošačima.
Istraživači s Cornell Tech-a dokumentirali su porast 'AI doktora' avatara na TikToku koji promoviraju upitne seksualne pripravke, a neki od tih videa dosežu milijunske preglede. Ti videi najčešće prikazuju mišićave, polugole muškarce ili AI-generirane osobe koje koriste eufemistički jezik kako bi izbjegli moderaciju sadržaja, usmjeravajući korisnike na kupovinu dodataka prehrani s pretjeranim ili potpuno izmišljenim tvrdnjama.
Još zabrinjavajuće, brzo napredujući AI alati omogućili su stvaranje deepfakeova koji imitiraju slavne osobe i javne ličnosti. Tvrtka Resemble AI iz Bay Area, specijalizirana za detekciju deepfakeova, identificirala je brojne videe u kojima javne osobe poput Anthonyja Faucija te glumaca Roberta De Nira i Amande Seyfried navodno podržavaju nedokazane tretmane. Ti manipulirani videi često nastaju izmjenom postojećeg sadržaja uz pomoć AI-generiranih glasova i sofisticirane tehnologije sinkronizacije usana.
"Kao što se vidi u ovom primjeru, obmanjujući AI-generirani sadržaj koristi se za promociju dodataka prehrani s pretjeranim ili neprovjerenim tvrdnjama, što potencijalno ugrožava zdravlje potrošača", izjavio je Zohaib Ahmed, izvršni direktor Resemble AI-ja, naglašavajući zabrinutost za sigurnost potrošača koju ove prevare izazivaju.
Savezna trgovinska komisija (FTC) odgovorila je na ovu rastuću prijetnju prijedlogom novih regulativa koje su posebno usmjerene na AI-omogućene prevare putem imitacije. U veljači 2024. FTC je objavio dopunsko obavještenje o prijedlogu regulative kojom bi se zabranila imitacija pojedinaca u komercijalne svrhe, a potencijalno bi se odgovornost proširila i na AI platforme koje svjesno pružaju alate korištene u takvim prevarama.
"Prevaranti koriste AI alate za imitaciju pojedinaca s jezivom preciznošću i u znatno većem opsegu. S porastom kloniranja glasova i drugih AI-pokretanih prevara, zaštita Amerikanaca od prevara imitatora važnija je nego ikad", izjavila je predsjednica FTC-a Lina M. Khan.
Brzina kojom nastaju kratki AI videi predstavlja jedinstvene izazove za moderaciju sadržaja, jer čak i kada platforme uklone sumnjive materijale, gotovo identične verzije brzo se ponovno pojavljuju. Istraživači tvrde da to stvara situaciju 'udarca po krtici' (engl. whack-a-mole), koja zahtijeva sofisticiranije alate za detekciju i nove regulatorne pristupe kako bi se učinkovito suzbila rastuća prijetnja prevarama potaknutima umjetnom inteligencijom.