Ερευνητές από την Ιατρική Σχολή Icahn του Mount Sinai αποκάλυψαν ένα επικίνδυνο ελάττωμα στον τρόπο με τον οποίο η τεχνητή νοημοσύνη χειρίζεται αποφάσεις ιατρικής ηθικής, αναδεικνύοντας περιορισμούς που θα μπορούσαν να έχουν σοβαρές επιπτώσεις στη φροντίδα των ασθενών.
Η μελέτη, που δημοσιεύθηκε στις 22 Ιουλίου 2025 στο NPJ Digital Medicine, εξέτασε αρκετά εμπορικά διαθέσιμα μεγάλα γλωσσικά μοντέλα (LLMs), συμπεριλαμβανομένου του ChatGPT, σε τροποποιημένες εκδοχές γνωστών ηθικών διλημμάτων. Η ερευνητική ομάδα, με επικεφαλής τον Δρ. Eyal Klang, Chief of Generative AI στο Mount Sinai, και τον Δρ. Girish Nadkarni, Πρόεδρο του Τμήματος Windreich για την ΤΝ και την Ανθρώπινη Υγεία, διαπίστωσε ότι τα συστήματα ΤΝ συχνά έκαναν βασικά λάθη όταν αντιμετώπιζαν ελαφρώς αλλαγμένα σενάρια.
Σε ένα αποκαλυπτικό παράδειγμα, οι ερευνητές τροποποίησαν το κλασικό δίλημμα του «Χειρουργού» δηλώνοντας ρητά ότι ο πατέρας του αγοριού ήταν ο χειρουργός. Παρά αυτή τη σαφή πληροφορία, αρκετά μοντέλα ΤΝ επέμειναν λανθασμένα ότι ο χειρουργός έπρεπε να είναι η μητέρα του αγοριού, δείχνοντας πώς η ΤΝ μπορεί να προσκολλάται σε οικεία μοτίβα ακόμη και όταν αυτά αντικρούονται από νέα δεδομένα.
Σε άλλη δοκιμή, παρουσιάστηκε ένα σενάριο με θρησκευόμενους γονείς και μετάγγιση αίματος. Όταν οι ερευνητές τροποποίησαν το σενάριο ώστε να αναφέρεται ότι οι γονείς είχαν ήδη συναινέσει στη διαδικασία, πολλά μοντέλα ΤΝ εξακολουθούσαν να προτείνουν την παράκαμψη μιας άρνησης που δεν υπήρχε πλέον.
«Η ΤΝ μπορεί να είναι πολύ ισχυρή και αποδοτική, αλλά η μελέτη μας έδειξε ότι μπορεί να καταφεύγει στην πιο οικεία ή διαισθητική απάντηση, ακόμη κι όταν αυτή παραβλέπει κρίσιμες λεπτομέρειες», εξήγησε ο Δρ. Klang. «Στην υγειονομική περίθαλψη, όπου οι αποφάσεις έχουν συχνά σοβαρές ηθικές και κλινικές συνέπειες, η παράβλεψη αυτών των λεπτομερειών μπορεί να έχει πραγματικές επιπτώσεις για τους ασθενείς».
Η έρευνα εμπνεύστηκε από το βιβλίο του Daniel Kahneman «Σκέψη, Αργή και Γρήγορη», το οποίο αντιπαραβάλλει τις γρήγορες, διαισθητικές αντιδράσεις με τη βραδύτερη, αναλυτική σκέψη. Τα ευρήματα υποδηλώνουν ότι τα μοντέλα ΤΝ, όπως και οι άνθρωποι, δυσκολεύονται να μεταβούν μεταξύ αυτών των δύο τρόπων σκέψης.
Αν και οι ερευνητές τονίζουν ότι η ΤΝ εξακολουθεί να έχει πολύτιμες εφαρμογές στην ιατρική, επισημαίνουν την ανάγκη για προσεκτική ανθρώπινη εποπτεία, ειδικά σε καταστάσεις που απαιτούν ηθική ευαισθησία ή λεπτή κρίση. «Αυτά τα εργαλεία μπορούν να είναι εξαιρετικά χρήσιμα, αλλά δεν είναι αλάνθαστα», σημείωσε ο Δρ. Nadkarni. «Η ΤΝ είναι καλύτερα να χρησιμοποιείται ως συμπλήρωμα για την ενίσχυση της κλινικής εξειδίκευσης, όχι ως υποκατάστατό της, ιδιαίτερα όταν καλούμαστε να διαχειριστούμε πολύπλοκες ή υψηλού ρίσκου αποφάσεις».