Η ταχεία ενσωμάτωση της τεχνητής νοημοσύνης σε κρίσιμες υποδομές έχει δημιουργήσει ένα ανησυχητικό τοπίο ασφάλειας, σύμφωνα με ειδικούς στην κυβερνοασφάλεια που παρουσιάστηκαν στο τελευταίο RISKS Forum Digest, που δημοσιεύθηκε στις 17 Μαΐου 2025.
Η Παγκόσμια Έκθεση για την Κυβερνοασφάλεια του Παγκόσμιου Οικονομικού Φόρουμ για το 2025 επισημαίνει ότι, ενώ το 66% των οργανισμών θεωρεί την ΤΝ ως τον σημαντικότερο παράγοντα αλλαγής στην κυβερνοασφάλεια για φέτος, μόλις το 37% έχει εφαρμόσει μέτρα για την αξιολόγηση των εργαλείων ΤΝ πριν από την υλοποίησή τους. Αυτό το χάσμα μεταξύ επίγνωσης και δράσης έχει δημιουργήσει σημαντικές ευπάθειες σε διάφορους τομείς.
«Οι οργανισμοί και τα συστήματα που δεν συμβαδίζουν με τις απειλές που ενισχύονται από την ΤΝ διατρέχουν τον κίνδυνο να αποτελέσουν σημεία περαιτέρω ευθραυστότητας εντός των εφοδιαστικών αλυσίδων, λόγω της αυξημένης έκθεσής τους σε ευπάθειες και της επακόλουθης εκμετάλλευσής τους», προειδοποίησε εκπρόσωπος του Εθνικού Κέντρου Κυβερνοασφάλειας του Ηνωμένου Βασιλείου (NCSC) στην τελευταία του έκθεση. Το NCSC προβλέπει ότι έως το 2027, οι επιτιθέμενοι που αξιοποιούν την ΤΝ θα μειώσουν περαιτέρω τον χρόνο μεταξύ εντοπισμού και εκμετάλλευσης μιας ευπάθειας, ο οποίος έχει ήδη περιοριστεί σε λίγες μόνο ημέρες.
Οι επαγγελματίες της κυβερνοασφάλειας ανησυχούν ιδιαίτερα για τις επιθέσεις prompt injection κατά μεγάλων γλωσσικών μοντέλων (LLMs). Σε πρόσφατο τεστ διείσδυσης που επικαλούνται ερευνητές ασφαλείας, το chatbot ενός καταστήματος με κεριά παραβιάστηκε μέσω prompt engineering, δημιουργώντας κινδύνους για την ασφάλεια, την προστασία και τη λειτουργία της επιχείρησης. Η επίθεση επέτρεψε την εξαγωγή δεδομένων συστήματος και τη χειραγώγηση των απαντήσεων του chatbot, αποδεικνύοντας πως ακόμη και φαινομενικά αθώες υλοποιήσεις ΤΝ μπορούν να εξελιχθούν σε σοβαρά κενά ασφάλειας.
Οι ευπάθειες στην εφοδιαστική αλυσίδα αποτελούν μια ακόμη σημαντική ανησυχία, με το 54% των μεγάλων οργανισμών να τις αναγνωρίζει ως το μεγαλύτερο εμπόδιο για την επίτευξη κυβερνοανθεκτικότητας. Η αυξανόμενη πολυπλοκότητα των εφοδιαστικών αλυσίδων, σε συνδυασμό με τον περιορισμένο έλεγχο στις πρακτικές ασφάλειας των προμηθευτών, έχει δημιουργήσει ένα περιβάλλον όπου τα συστήματα ΤΝ μπορούν να παραβιαστούν μέσω εξαρτημάτων τρίτων.
Η εμφάνιση της agentic ΤΝ — συστημάτων που μπορούν να λαμβάνουν αποφάσεις και να εκτελούν σύνθετα καθήκοντα αυτόνομα — αναμένεται να μεταμορφώσει το τοπίο των απειλών το 2025. «Παλαιότερα επικεντρωνόμασταν σε βοηθούς ΤΝ που ανταποκρίνονταν σε ερωτήματα χρηστών. Τώρα εξετάζουμε εργαλεία agentic ΤΝ που μπορούν να λαμβάνουν αποφάσεις και να εκτελούν περίπλοκες εργασίες ανεξάρτητα», εξήγησε ο Hao Yang, αντιπρόεδρος τεχνητής νοημοσύνης στη Splunk, που ανήκει στη Cisco.
Οι ειδικοί συστήνουν στους οργανισμούς να εφαρμόσουν επίσημες πολιτικές ασφάλειας ΤΝ, να πραγματοποιούν ανάλυση απειλών πριν από την υλοποίηση, να μειώνουν συστηματικά τις επιφάνειες επίθεσης και να διασφαλίζουν ότι οι προμηθευτές διαθέτουν ενεργά προγράμματα βελτίωσης της ασφάλειας. Επιπλέον, η συνεχής εκπαίδευση των ομάδων ασφάλειας είναι απαραίτητη, καθώς οι επιθέσεις που βασίζονται στην ΤΝ εξελίσσονται πέρα από τους παραδοσιακούς μηχανισμούς άμυνας.
Όπως σημείωσε ένας ερευνητής ασφάλειας στο RISKS Forum: «Η αλλαγή δεν αφορά μόνο την άμυνα έναντι επιθέσεων που αξιοποιούν την ΤΝ — αφορά την αναγνώριση ότι τα ίδια μας τα συστήματα ΤΝ έχουν πλέον μετατραπεί σε βασικούς στόχους.»