Binabaha ngayon ang mga social media platform ng mga AI-generated na video na nagbebenta ng mga kahina-hinalang produkto para sa kalusugan, partikular na ang mga hindi napatunayang sexual na paggamot, na lumilikha ng isang online na kapaligiran na puno ng panlilinlang at layuning manipulahin ang mga mahihinang mamimili.
Ayon sa mga mananaliksik mula sa Cornell Tech, tumaas ang bilang ng mga 'AI doctor' avatar sa TikTok na nagpo-promote ng mga kaduda-dudang sexual na lunas, kung saan ang ilan sa mga video ay umaabot ng milyun-milyong views. Karaniwan, tampok sa mga video na ito ang mga maskuladong lalaking walang damit o mga AI-generated na persona na gumagamit ng malalabong termino upang makaiwas sa content moderation, at hinihikayat ang mga manonood na bumili ng mga suplemento gamit ang pinalabis o ganap na imbentong mga pahayag.
Mas nakakabahala pa, ang mabilis na pag-unlad ng mga AI tool ay nagbigay-daan sa paggawa ng mga deepfake na ginagaya ang mga celebrity at kilalang personalidad. Ayon sa Resemble AI, isang kumpanya sa Bay Area na dalubhasa sa deepfake detection, natukoy nila ang maraming video kung saan tila ineendorso nina Anthony Fauci at mga aktor na sina Robert De Niro at Amanda Seyfried ang mga hindi napatunayang paggamot. Madalas, nililikha ang mga manipuladong video na ito sa pamamagitan ng pagbabago ng umiiral na content gamit ang AI-generated na boses at makabagong lip-syncing technology.
"Tulad ng nakikita sa halimbawang ito, ginagamit ang mapanlinlang na AI-generated na content upang i-market ang mga suplemento na may pinalabis o hindi napatunayang mga pahayag, na maaaring magdulot ng panganib sa kalusugan ng mga mamimili," ayon kay Zohaib Ahmed, chief executive ng Resemble AI, na binigyang-diin ang mga alalahanin sa kaligtasan ng mamimili na dulot ng mga scam na ito.
Tumugon ang Federal Trade Commission sa lumalaking banta na ito sa pamamagitan ng panukalang mga bagong regulasyon na partikular na tumutugon sa AI-enabled na panlilinlang gamit ang paggagaya. Noong Pebrero 2024, naglabas ang FTC ng supplemental notice of proposed rulemaking na nagbabawal sa paggagaya ng mga indibidwal sa kalakalan at posibleng palawakin ang pananagutan sa mga AI platform na alam na ginagamit ang kanilang mga tool sa ganitong mga scam.
"Ginagamit ng mga manloloko ang AI tools upang gayahin ang mga tao nang nakakatakot ang pagkakatulad at sa mas malawak na saklaw. Sa pagdami ng voice cloning at iba pang AI-driven na scam, mas mahalaga kaysa dati ang protektahan ang mga Amerikano laban sa impersonator fraud," ayon kay FTC Chair Lina M. Khan.
Ang mabilis na paggawa ng maiikling AI video ay nagdudulot ng kakaibang hamon sa content moderation, dahil kahit tanggalin ng mga platform ang mga kahina-hinalang content, mabilis na lumilitaw ang halos magkaparehong bersyon. Sabi ng mga mananaliksik, nagdudulot ito ng 'whack-a-mole' na sitwasyon na nangangailangan ng mas sopistikadong detection tools at mga bagong regulasyon upang epektibong labanan ang lumalaking banta ng AI-powered na scam.