Οι πλατφόρμες κοινωνικής δικτύωσης κατακλύζονται από βίντεο που έχουν δημιουργηθεί με τεχνητή νοημοσύνη και προωθούν αμφιλεγόμενα προϊόντα υγείας, κυρίως αδοκίμαστες θεραπείες για τη σεξουαλική υγεία, δημιουργώντας ένα διαδικτυακό περιβάλλον γεμάτο παραπλάνηση που στοχεύει στην εκμετάλλευση ευάλωτων καταναλωτών.
Ερευνητές του Cornell Tech έχουν καταγράψει αύξηση των «AI γιατρών» avatars στο TikTok, οι οποίοι προωθούν αμφισβητήσιμες σεξουαλικές θεραπείες, με ορισμένα βίντεο να συγκεντρώνουν εκατομμύρια προβολές. Αυτά τα βίντεο συνήθως παρουσιάζουν μυώδεις, ημίγυμνους άνδρες ή περσόνες που έχουν δημιουργηθεί από τεχνητή νοημοσύνη, χρησιμοποιώντας ευφημιστική γλώσσα για να παρακάμπτουν τους ελέγχους περιεχομένου, κατευθύνοντας τους χρήστες στην αγορά συμπληρωμάτων με υπερβολικούς ή εντελώς ψευδείς ισχυρισμούς.
Ακόμα πιο ανησυχητικό είναι ότι τα ταχέως εξελισσόμενα εργαλεία τεχνητής νοημοσύνης έχουν επιτρέψει τη δημιουργία deepfakes που μιμούνται διασημότητες και δημόσια πρόσωπα. Η Resemble AI, μια εταιρεία της Καλιφόρνια που ειδικεύεται στην ανίχνευση deepfake, έχει εντοπίσει πολυάριθμα βίντεο όπου δημόσια πρόσωπα όπως ο Anthony Fauci και οι ηθοποιοί Robert De Niro και Amanda Seyfried φαίνεται να εγκρίνουν αδοκίμαστες θεραπείες. Αυτά τα παραποιημένα βίντεο δημιουργούνται συχνά με τροποποίηση υπάρχοντος περιεχομένου, χρησιμοποιώντας φωνές που έχουν παραχθεί από τεχνητή νοημοσύνη και προηγμένη τεχνολογία συγχρονισμού χειλιών.
«Όπως φαίνεται σε αυτό το παράδειγμα, παραπλανητικό περιεχόμενο που έχει δημιουργηθεί από τεχνητή νοημοσύνη χρησιμοποιείται για την προώθηση συμπληρωμάτων με υπερβολικούς ή ανεπιβεβαίωτους ισχυρισμούς, θέτοντας ενδεχομένως σε κίνδυνο την υγεία των καταναλωτών», δήλωσε ο Zohaib Ahmed, διευθύνων σύμβουλος της Resemble AI, υπογραμμίζοντας τις ανησυχίες για την ασφάλεια των καταναλωτών που προκαλούν αυτές οι απάτες.
Η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) έχει ανταποκριθεί σε αυτή την αυξανόμενη απειλή προτείνοντας νέους κανονισμούς που στοχεύουν ειδικά στην απάτη μίμησης μέσω τεχνητής νοημοσύνης. Τον Φεβρουάριο του 2024, η FTC δημοσίευσε συμπληρωματική ειδοποίηση προτεινόμενης νομοθεσίας που θα απαγορεύει τη μίμηση ατόμων στο εμπόριο και ενδεχομένως θα επεκτείνει την ευθύνη και στις πλατφόρμες τεχνητής νοημοσύνης που γνωρίζουν ότι τα εργαλεία τους χρησιμοποιούνται για τέτοιες απάτες.
«Οι απατεώνες χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να μιμούνται άτομα με ανατριχιαστική ακρίβεια και σε πολύ μεγαλύτερη κλίμακα. Με την αύξηση των απατών μέσω κλωνοποίησης φωνής και άλλων τεχνολογιών τεχνητής νοημοσύνης, η προστασία των Αμερικανών από απάτες μίμησης είναι πιο κρίσιμη από ποτέ», δήλωσε η πρόεδρος της FTC Lina M. Khan.
Ο ταχύς ρυθμός παραγωγής σύντομων βίντεο με τεχνητή νοημοσύνη δημιουργεί μοναδικές προκλήσεις για τον έλεγχο περιεχομένου, καθώς ακόμη και όταν οι πλατφόρμες αφαιρούν αμφισβητήσιμο υλικό, σχεδόν πανομοιότυπες εκδοχές εμφανίζονται ξανά άμεσα. Οι ερευνητές αναφέρουν ότι αυτό δημιουργεί μια κατάσταση «χτυπώ-και-φεύγω» που απαιτεί πιο εξελιγμένα εργαλεία ανίχνευσης και νέες ρυθμιστικές προσεγγίσεις για την αποτελεσματική αντιμετώπιση της αυξανόμενης απειλής των απατών με τεχνητή νοημοσύνη.