Социалните мрежи са залети от генерирани от изкуствен интелект видеа, които рекламират съмнителни здравни продукти, особено недоказани сексуални лечения, създавайки според експерти среда, изпълнена с измами, насочена към манипулиране на уязвими потребители.
Изследователи от Cornell Tech документират ръст на „ИИ доктори“ аватари в TikTok, които промотират съмнителни сексуални средства, като някои видеа достигат милиони гледания. Обикновено тези клипове показват мускулести мъже без ризи или генерирани от ИИ персонажи, използващи евфемистичен език, за да избегнат модерацията на съдържание, и насочват потребителите към закупуване на добавки с преувеличени или напълно измислени твърдения.
Още по-тревожно е, че бързо развиващите се инструменти на ИИ позволяват създаването на дийпфейк видеа с имитации на знаменитости и публични личности. Bay Area компанията Resemble AI, специализирана в откриването на дийпфейк съдържание, е идентифицирала множество видеа, в които личности като Антъни Фаучи, актьорите Робърт Де Ниро и Аманда Сейфрид изглежда одобряват недоказани лечения. Тези манипулирани видеа често се създават чрез модифициране на съществуващо съдържание с гласове, генерирани от ИИ, и усъвършенствана технология за синхронизация на устните.
„Както се вижда в този пример, подвеждащо съдържание, генерирано от ИИ, се използва за маркетинг на добавки с преувеличени или непотвърдени твърдения, което потенциално излага здравето на потребителите на риск“, казва Зохаиб Ахмед, изпълнителен директор на Resemble AI, подчертавайки притесненията за потребителската безопасност, които тези измами пораждат.
Федералната комисия по търговията реагира на тази нарастваща заплаха с предложение за нови регулации, насочени специално към измамите с имитация, подпомогнати от ИИ. През февруари 2024 г. FTC публикува допълнително уведомление за предложено правило, което ще забрани имитирането на личности в търговията и потенциално ще разшири отговорността към ИИ платформите, които съзнателно предоставят инструменти, използвани в такива измами.
„Измамниците използват инструменти на изкуствения интелект, за да имитират личности с плашеща прецизност и в много по-голям мащаб. С нарастването на измамите с клониране на глас и други ИИ-базирани измами, защитата на американците от измами с имитация е по-важна от всякога“, заяви председателят на FTC Лина М. Хан.
Бързият темп на създаване на кратки ИИ видеа създава уникални предизвикателства пред модерацията на съдържание, тъй като дори когато платформите премахват съмнителни материали, почти идентични версии се появяват отново. Изследователите твърдят, че това създава ситуация тип „удари-къртицата“, която изисква по-усъвършенствани инструменти за откриване и нови регулаторни подходи за ефективна борба с нарастващата заплаха от измами, задвижвани от ИИ.