Σε μια εποχή όπου η διάκριση μεταξύ ανθρώπινου και τεχνητά παραγόμενου περιεχομένου γίνεται ολοένα και πιο δύσκολη, η Google παρουσίασε ένα ισχυρό νέο εργαλείο επαλήθευσης στο συνέδριο προγραμματιστών I/O 2025.
Η πύλη SynthID Detector επιτρέπει στους χρήστες να εντοπίζουν γρήγορα περιεχόμενο που έχει δημιουργηθεί από τεχνητή νοημοσύνη, ανιχνεύοντας αόρατα υδατογραφήματα που ενσωματώνονται από τα συστήματα ΑΙ της Google. Όταν οι χρήστες ανεβάζουν μια εικόνα, ένα ηχητικό κομμάτι, βίντεο ή κείμενο που έχει δημιουργηθεί με εργαλεία ΑΙ της Google όπως τα Gemini, Imagen, Lyria ή Veo, η πύλη όχι μόνο προσδιορίζει αν το περιεχόμενο περιέχει υδατογράφημα SynthID, αλλά επισημαίνει και τα συγκεκριμένα τμήματα που είναι πιθανότερο να φέρουν το υδατογράφημα.
Αυτή η τεχνολογία καλύπτει μια κρίσιμη ανάγκη, καθώς τα μέσα που παράγονται από ΑΙ κατακλύζουν το διαδίκτυο. Σύμφωνα με πρόσφατες εκτιμήσεις, τα deepfake βίντεο αυξήθηκαν κατά 550% μεταξύ 2019 και 2024, ενώ ένα σημαντικό ποσοστό δημοφιλών αναρτήσεων στα κοινωνικά δίκτυα πλέον περιέχει περιεχόμενο που έχει δημιουργηθεί από τεχνητή νοημοσύνη. Το σύστημα υδατογράφησης του SynthID παραμένει ανιχνεύσιμο ακόμη και όταν το περιεχόμενο υφίσταται μετασχηματισμούς, όπως περικοπή, αλλαγή μεγέθους ή άλλες τροποποιήσεις, καθιστώντας το ιδιαίτερα αποτελεσματικό απέναντι σε προσπάθειες απόκρυψης της προέλευσης του ΑΙ.
Η Google έχει ήδη επεκτείνει τη χρήση του SynthID πέρα από το δικό της οικοσύστημα μέσω στρατηγικών συνεργασιών. Η εταιρεία έχει διαθέσει ως ανοιχτό κώδικα την τεχνολογία υδατογράφησης κειμένου και έχει συνεργαστεί με τη NVIDIA για την υδατογράφηση βίντεο που παράγονται από το μοντέλο Cosmos της NVIDIA. Επιπλέον, η συνεργασία με την GetReal Security θα επιτρέψει την εξωτερική επαλήθευση των υδατογραφημάτων SynthID, συμβάλλοντας στη δημιουργία ενός πιο αξιόπιστου ψηφιακού οικοσυστήματος.
Αν και το SynthID Detector αποτελεί σημαντική πρόοδο στην επαλήθευση περιεχομένου, παρουσιάζει και ορισμένους περιορισμούς. Το εργαλείο λειτουργεί κυρίως με τα μοντέλα ΑΙ της Google και όσα χρησιμοποιούν την τεχνολογία υδατογράφησής της, αφήνοντας περιεχόμενο από άλλες πλατφόρμες μη ανιχνεύσιμο. Επιπλέον, επικριτές σημειώνουν πως η υδατογράφηση δεν αποτρέπει την κακή χρήση του περιεχομένου, αλλά επιτρέπει μόνο την ανίχνευσή της εκ των υστέρων.
Το SynthID Detector είναι προς το παρόν διαθέσιμο σε περιορισμένο αριθμό δοκιμαστών, με δημοσιογράφους, επαγγελματίες των μέσων, ερευνητές και εκπαιδευτικούς να μπορούν να εγγραφούν σε λίστα αναμονής για πρόσβαση. Αναμένεται ευρύτερη διάθεση τις επόμενες εβδομάδες, καθώς η Google συνεχίζει να βελτιώνει αυτό το σημαντικό εργαλείο στη μάχη κατά της παραπληροφόρησης που παράγεται από τεχνητή νοημοσύνη.