Yapay zeka ile üretilen medyanın hızla artması ve içeriklerin gerçekliğine dair endişelerin yükselmesi üzerine Google, kendi yapay zeka teknolojileriyle oluşturulan içerikleri tespit etmek için geliştirdiği gelişmiş doğrulama aracı SynthID Dedektörü'nü tanıttı.
Google I/O 2025 etkinliğinde duyurulan SynthID Dedektörü, yüklenen medya dosyalarını Google'ın Gemini, Imagen, Lyria ve Veo gibi yapay zeka modelleriyle oluşturulan içeriklere eklediği görünmez dijital filigranlar için tarıyor. Filigran tespit edildiğinde, portal içeriğin hangi bölümlerinde filigran bulunma olasılığının yüksek olduğunu hassas bir şekilde belirliyor—örneğin ses dosyalarında belirli segmentleri, görsellerde ise belirli alanları öne çıkarıyor.
Bu teknoloji, günümüz dijital ortamında önemli bir ihtiyaca yanıt veriyor. Son tahminlere göre, yalnızca deepfake videolarının sayısı 2019'dan 2024'e %550 artarken, sosyal medyada yüksek izlenmeye sahip gönderilerin önemli bir kısmı artık yapay zeka ile üretilmiş unsurlar içeriyor. SynthID'nin filigranlama sistemi, içerik çeşitli dönüşümlerden geçse bile tespit edilebilecek şekilde tasarlandı ve böylece sağlam bir doğrulama yöntemi sunuyor.
"İçerik şeffaflığı hâlâ karmaşık bir sorun olmaya devam ediyor," diyen Google, teknolojinin erişimini genişletmek için NVIDIA ile iş birliği yaparak NVIDIA Cosmos modeliyle oluşturulan videolara da filigran ekliyor. Ayrıca GetReal Security ile daha geniş kapsamlı tespit yetenekleri için ortaklık kuruldu. Google, SynthID'nin metin filigranlama teknolojisini de açık kaynak olarak geliştiricilere sundu, böylece bu teknolojiyi kendi modellerine entegre edebiliyorlar.
Ancak SynthID Dedektörü'nün bazı sınırlamaları bulunuyor. Sistem, esas olarak Google ekosistemi içinde çalışıyor ve Microsoft, Meta veya OpenAI gibi diğer şirketlerin geliştirdiği araçlarla oluşturulan içerikleri tespit edemiyor; çünkü bu şirketlerin kendilerine ait filigranlama teknolojileri mevcut. Uzmanlar ayrıca, filigranların saldırgan tekniklerle kaldırılabileceğine de dikkat çekiyor.
Şu anda gazeteciler, araştırmacılar ve medya profesyonellerine yönelik bir bekleme listesiyle erken test kullanıcılarına sunulan SynthID Dedektörü, yapay zeka ile üretilen içeriklerin giderek arttığı bir dünyada güven tesis etme yolunda önemli bir adım olarak öne çıkıyor. Google, önümüzdeki haftalarda araca erişimi genişletmeyi planlarken, bu gelişme dijital medyada gerçekliğin korunmasına yönelik süregelen çabalarda önemli bir kilometre taşı niteliğinde.