Sosyal medya platformları, özellikle kanıtlanmamış cinsel tedaviler başta olmak üzere şüpheli sağlık ürünlerini pazarlayan yapay zekâ üretimi videolarla adeta istila ediliyor. Uzmanlar, bu ortamı savunmasız tüketicileri manipüle etmek için tasarlanmış, aldatıcı içeriklerle dolu bir çevrimiçi ekosistem olarak tanımlıyor.
Cornell Tech araştırmacıları, TikTok'ta 'yapay zekâ doktoru' avatarlarının şüpheli cinsel tedavileri tanıttığı ve bazı videoların milyonlarca izlenmeye ulaştığı bir artış tespit etti. Bu videolar genellikle kaslı, üstü çıplak erkekler veya yapay zekâ ile üretilmiş karakterler içeriyor; içerik denetimini aşmak için örtülü bir dil kullanıyor ve kullanıcıları abartılı ya da tamamen uydurma iddialarla takviye ürünleri satın almaya yönlendiriyor.
Daha da endişe verici olan ise, hızla gelişen yapay zekâ araçlarının ünlülerin ve kamuya mal olmuş kişilerin deepfake taklitlerinin oluşturulmasına imkân tanıması. Deepfake tespiti alanında uzmanlaşmış Bay Area merkezli Resemble AI şirketi, Anthony Fauci ve oyuncular Robert De Niro ile Amanda Seyfried gibi isimlerin kanıtlanmamış tedavileri destekliyormuş gibi gösterildiği çok sayıda video tespit etti. Bu manipüle edilmiş videolar, genellikle mevcut içeriklerin yapay zekâ ile üretilmiş sesler ve gelişmiş dudak senkronizasyon teknolojisiyle değiştirilmesiyle oluşturuluyor.
Resemble AI CEO’su Zohaib Ahmed, 'Bu örnekte de görüldüğü gibi, yanıltıcı yapay zekâ içerikleri abartılı veya doğrulanmamış iddialarla takviyeleri pazarlamak için kullanılıyor ve bu durum tüketicilerin sağlığını riske atabilir,' diyerek bu dolandırıcılıkların yarattığı güvenlik endişelerine dikkat çekti.
Federal Ticaret Komisyonu (FTC), büyüyen bu tehdide karşı özellikle yapay zekâ destekli taklit dolandırıcılıklarını hedef alan yeni düzenlemeler önerdi. Şubat 2024’te FTC, ticarette kişilerin taklit edilmesini yasaklayacak ve bu tür dolandırıcılıklarda bilerek araç sağlayan yapay zekâ platformlarına da sorumluluk yükleyebilecek ek bir düzenleme teklifini yayımladı.
FTC Başkanı Lina M. Khan, 'Dolandırıcılar, bireyleri ürkütücü bir hassasiyetle ve çok daha geniş ölçekte taklit etmek için yapay zekâ araçlarını kullanıyor. Ses klonlama ve diğer yapay zekâ destekli dolandırıcılıklar artarken, Amerikalıları taklitçi dolandırıcılıklardan korumak her zamankinden daha kritik,' dedi.
Kısa biçimli yapay zekâ videolarının hızla üretilmesi, içerik denetimi için benzersiz zorluklar doğuruyor; çünkü platformlar şüpheli içerikleri kaldırsa bile, neredeyse aynı videolar hızla yeniden ortaya çıkıyor. Araştırmacılar, bunun 'köstebek vurma'ya benzeyen bir durum yarattığını ve yapay zekâ destekli dolandırıcılıklarla etkili mücadele için daha gelişmiş tespit araçları ile yeni düzenleyici yaklaşımlara ihtiyaç olduğunu belirtiyor.