Σε μια εποχή όπου η διάκριση μεταξύ ανθρώπινου και τεχνητά παραγόμενου περιεχομένου γίνεται ολοένα και πιο δύσκολη, η Google παρουσιάζει ένα κρίσιμο νέο εργαλείο στη μάχη κατά της παραπληροφόρησης και των deepfakes.
Ανακοινωμένο στο Google I/O 2025 τον Μάιο, το SynthID Detector προσφέρει μια κεντρική πύλη επαλήθευσης, όπου οι χρήστες μπορούν να ανεβάσουν πολυμέσα για να διαπιστώσουν αν περιέχουν τα αόρατα υδατογραφήματα SynthID της Google. Το σύστημα μπορεί να αναλύσει εικόνες, κείμενο, ήχο και βίντεο, επισημαίνοντας συγκεκριμένα τμήματα που είναι πιο πιθανό να έχουν παραχθεί από τεχνητή νοημοσύνη.
"Καθώς αυτές οι δυνατότητες εξελίσσονται και γίνονται ευρύτερα διαθέσιμες, προκύπτουν ερωτήματα αυθεντικότητας, πλαισίου και επαλήθευσης," δήλωσε ο Pushmeet Kohli, Αντιπρόεδρος Επιστήμης και Στρατηγικών Πρωτοβουλιών στη Google DeepMind. Η πύλη αντιμετωπίζει αυτές τις ανησυχίες προσφέροντας ουσιαστική διαφάνεια στο ταχέως μεταβαλλόμενο τοπίο των γενετικών μέσων.
Η τεχνολογία SynthID έχει ήδη υδατογραφήσει πάνω από 10 δισεκατομμύρια κομμάτια περιεχομένου από το αρχικό της λανσάρισμα το 2023. Αρχικά επικεντρωμένη σε εικόνες που παράγονται από τεχνητή νοημοσύνη, η Google επέκτεινε την τεχνολογία ώστε να καλύπτει και κείμενο, ήχο και βίντεο που παράγονται από τα μοντέλα Gemini, Imagen, Lyria και Veo.
Παρότι το SynthID αποτελεί σημαντική πρόοδο στην επαλήθευση περιεχομένου, έχει και περιορισμούς. Το σύστημα λειτουργεί κυρίως στο οικοσύστημα της Google, αν και η εταιρεία συνεργάστηκε με τη NVIDIA για την υδατογράφηση βίντεο από το μοντέλο Cosmos. Επιπλέον, η Google αναγνωρίζει ότι το SynthID δεν είναι αλάνθαστο και μπορεί να παρακαμφθεί, ειδικά σε κείμενο ή με ακραίες τροποποιήσεις σε εικόνες.
Μελέτη του Πανεπιστημίου του Maryland διαπίστωσε ότι τεχνικές παραπλάνησης μπορούν συχνά να αφαιρέσουν τα υδατογραφήματα τεχνητής νοημοσύνης, με τους ερευνητές να καταλήγουν ότι «τα υδατογραφήματα προσφέρουν αξία στις προσπάθειες διαφάνειας, αλλά δεν παρέχουν απόλυτη ασφάλεια έναντι της παραποίησης περιεχομένου που παράγεται από τεχνητή νοημοσύνη».
Για να επεκτείνει τη διάδοση του SynthID, η Google έκανε ανοιχτό τον κώδικα του πλαισίου υδατογράφησης κειμένου και συνεργάστηκε με την GetReal Security για επαλήθευση από τρίτους. Η εταιρεία ξεκινά σταδιακά τη διάθεση του SynthID Detector σε πρώιμους δοκιμαστές, με δημοσιογράφους, επαγγελματίες των μέσων και ερευνητές να μπορούν να εγγραφούν σε λίστα αναμονής για πρόσβαση.