Μια καινοτόμος μελέτη των ερευνητών Zhen Guo και Reza Tourani από το Πανεπιστήμιο Saint Louis ανέδειξε μια νέα ευπάθεια backdoor, γνωστή ως DarkMind, σε εξατομικευμένα μοντέλα μεγάλων γλωσσών (LLMs), όπως τα GPT-4o και LLaMA-3.
Δείτε επίσης: Golang-based backdoor χρησιμοποιεί το Telegram Bot API για σκοπούς C2
Η επίθεση DarkMind αξιοποιεί τις συλλογιστικές δυνατότητες των LLM, λειτουργώντας ως «backdoor» που χειρίζεται διακριτικά τα αποτελέσματα. Αυτό επιτυγχάνεται χωρίς να απαιτείται άμεση παρέμβαση ή τροποποίηση των ερωτημάτων από τον χρήστη.
Η επίθεση προκαλεί σοβαρές ανησυχίες για την ασφάλεια των AI πρακτόρων που λειτουργούν σε πλατφόρμες όπως το GPT Store της OpenAI, το οποίο φιλοξενεί περισσότερα από 3 εκατομμύρια προσαρμοσμένα μοντέλα.
Το DarkMind επικεντρώνεται στη μεθοδολογία της αλυσίδας συλλογισμού (Chain of Thought – CoT) — τη διαδοχική, βήμα προς βήμα λογική που αξιοποιούν τα LLM για την επίλυση σύνθετων προβλημάτων.
Οι αναλυτές ασφαλείας επισήμαναν ότι, σε αντίθεση με τις παραδοσιακές επιθέσεις backdoor που βασίζονται σε επηρεαζόμενα δεδομένα εκπαίδευσης ή σε εμφανείς ενεργοποιητές στις προτροπές των χρηστών, το DarkMind εισάγει λανθάνοντα ερεθίσματα απευθείας στη λογική αλυσίδα του μοντέλου.
Αυτοί οι μηχανισμοί ενεργοποίησης λειτουργούν κατά τη διάρκεια των ενδιάμεσων σταδίων επεξεργασίας, επηρεάζοντας δυναμικά την τελική έξοδο. Παράλληλα, διατηρούν αμετάβλητη τη γενική συμπεριφορά του μοντέλου σε επιφανειακό επίπεδο.
Δείτε ακόμα: Οι Κινέζοι κυβερνοκατάσκοποι χρησιμοποιούν νέο SSH backdoor
Η δύναμη του DarkMind βρίσκεται στη δυναμική ενεργοποίησή του, η οποία παρακάμπτει τους παραδοσιακούς αμυντικούς μηχανισμούς, όπως η απουσία χειραγώγησης ερωτημάτων και οι ενεργοποιήσεις που βασίζονται στην επίγνωση του περιβάλλοντος.
Η επίθεση τροποποιεί τα ενδιάμεσα βήματα CoT διατηρώντας εύλογες τελικές εξόδους, καθιστώντας τον εντοπισμό μέσω της παρακολούθησης εξόδου σχεδόν αδύνατη. Οι παραδοσιακές μέθοδοι άμυνας, όπως η απολύμανση εισόδου και η ανίχνευση ανωμαλιών, αποδεικνύονται ανεπαρκείς απέναντι στις επιθέσεις backdoor DarkMind, που στοχεύουν το στρώμα συλλογιστικής.
Για την αντιμετώπιση αυτής της απειλής, οι ερευνητές προτείνουν τρεις βασικές στρατηγικές μετριασμού: τον «Έλεγχο της Διαδρομής Συλλογισμού», την «Αντίπαλη Εκπαίδευση» και τα «Προστατευτικά Κιγκλιδώματα κατά τη Χρόνο Εκτέλεσης».
Τα μέτρα αυτά αποσκοπούν στην ενίσχυση της ασφάλειας των συστημάτων τεχνητής νοημοσύνης, προστατεύοντάς τα από ολοένα και πιο εξελιγμένες και περίπλοκες απειλές που εκμεταλλεύονται τη λογική τους λειτουργία.
Καθώς η τεχνητή νοημοσύνη διεισδύει σε τομείς όπως η υγειονομική περίθαλψη, η χρηματοδότηση και οι κρίσιμες υποδομές, η αντιμετώπιση των τρωτών σημείων της δεν αποτελεί πλέον επιλογή, αλλά αναγκαία προϋπόθεση για την εξασφάλιση αξιόπιστης και υπεύθυνης τεχνολογίας.
Δείτε επίσης: Πάνω από 4.000 backdoor κατασχέθηκαν μέσω ληγμένων domain
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Τα backdoor, όπως το DarkMind, είναι κρυφά σημεία πρόσβασης σε ένα σύστημα ή λογισμικό που παρακάμπτουν τον κανονικό μηχανισμό αυθεντικοποίησης. Συχνά χρησιμοποιούνται από προγραμματιστές για διόρθωση σφαλμάτων ή επιδιόρθωση λογισμικού, αλλά αποτελούν επίσης μια κοινή μέθοδο για κακόβουλες επιθέσεις. Οι επιτιθέμενοι εκμεταλλεύονται backdoors για να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε ευαίσθητα δεδομένα ή για να διαχειριστούν εξ αποστάσεως συστήματα χωρίς να εντοπίζονται. Η αναγνώριση και αφαίρεση των backdoors είναι κρίσιμη για την ασφάλεια κάθε συστήματος.
Πηγή: cybersecuritynews
