Τα συστήματα τεχνητής νοημοσύνης όπως το ChatGPT έχουν γίνει εντυπωσιακά ικανά στη δημιουργία απαντήσεων που ακούγονται πειστικές σχεδόν σε κάθε ερώτημα. Ωστόσο, συχνά αποτυγχάνουν να αναγνωρίσουν τους περιορισμούς τους ή να εκφράσουν αβεβαιότητα όταν αυτό είναι απαραίτητο—ένα μειονέκτημα που ενέχει σημαντικούς κινδύνους καθώς η υιοθέτηση της ΤΝ επιταχύνεται σε κρίσιμους τομείς.
Η Themis AI, που ιδρύθηκε το 2021 από τους ερευνητές του MIT Daniela Rus, Alexander Amini και Elaheh Ahmadi, ανέπτυξε μια λύση σε αυτό το πρόβλημα. Η πλατφόρμα Capsa μπορεί να ενσωματωθεί σε οποιοδήποτε μοντέλο μηχανικής μάθησης για να ανιχνεύει και να διορθώνει αναξιόπιστα αποτελέσματα μέσα σε δευτερόλεπτα.
"Όλοι έχουμε δει παραδείγματα όπου η ΤΝ 'φαντάζεται' ή κάνει λάθη," εξηγεί ο Amini, συνιδρυτής της Themis AI. "Καθώς η ΤΝ εφαρμόζεται ευρύτερα, αυτά τα λάθη θα μπορούσαν να οδηγήσουν σε καταστροφικές συνέπειες. Η Themis καθιστά εφικτό κάθε ΤΝ να προβλέπει και να προειδοποιεί για τις δικές της αποτυχίες, πριν αυτές συμβούν."
Η τεχνολογία λειτουργεί τροποποιώντας τα μοντέλα ΤΝ ώστε να αναγνωρίζουν μοτίβα στην επεξεργασία των δεδομένων τους που υποδηλώνουν ασάφεια, ελλιπή δεδομένα ή προκατάληψη. Αυτό επιτρέπει στα μοντέλα να ποσοτικοποιούν τη δική τους αβεβαιότητα για κάθε αποτέλεσμα και να επισημαίνουν πιθανά σφάλματα. Η υλοποίηση είναι εξαιρετικά απλή—απαιτούνται μόνο λίγες γραμμές κώδικα για να μετατραπεί ένα υπάρχον μοντέλο σε παραλλαγή με επίγνωση της αβεβαιότητας.
Το Capsa εφαρμόζεται ήδη σε πολλούς κλάδους. Φαρμακευτικές εταιρείες το χρησιμοποιούν για τη βελτίωση μοντέλων ΤΝ που εντοπίζουν υποψήφια φάρμακα και προβλέπουν την απόδοση κλινικών δοκιμών. Εταιρείες που αναπτύσσουν μεγάλα γλωσσικά μοντέλα το υιοθετούν για πιο αξιόπιστη απάντηση σε ερωτήματα και για επισήμανση αναξιόπιστων αποτελεσμάτων. Η Themis AI βρίσκεται επίσης σε συζητήσεις με εταιρείες ημιαγωγών για την ενίσχυση λύσεων ΤΝ σε περιβάλλοντα edge computing.
"Με την αυτόματη ποσοτικοποίηση της αλεατορικής και επιστημικής αβεβαιότητας, το Capsa αποτελεί μια μετασχηματιστική τεχνολογία που επιτρέπει τον εντοπισμό σφαλμάτων του μοντέλου πριν αυτά μετατραπούν σε δαπανηρά λάθη," δηλώνει η Rus, η οποία είναι επίσης διευθύντρια του Εργαστηρίου Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του MIT. "Επεκτείνει τις χρήσεις των συστημάτων ΤΝ σε εφαρμογές όπου η ασφάλεια και η αξιοπιστία είναι κρίσιμες, όπως η ρομποτική και η αυτόνομη οδήγηση."
Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται και να διεισδύει σε κρίσιμους τομείς, λύσεις όπως το Capsa θα είναι καθοριστικής σημασίας για τη δημιουργία πιο αξιόπιστων συστημάτων που αναγνωρίζουν τους περιορισμούς τους—ένα κρίσιμο βήμα προς την υπεύθυνη ανάπτυξη της ΤΝ σε περιβάλλοντα υψηλού ρίσκου.