Whisper Leak: Κλέβει κρυπτογραφημένες συνομιλίες AI

Ερευνητές της Microsoft αποκάλυψαν μια νέα επίθεση πλευρικού καναλιού με την ονομασία Whisper Leak, η οποία μπορεί να αποκαλύψει το θέμα κρυπτογραφημένων συνομιλιών μεταξύ χρηστών και γλωσσικών μοντέλων, ακόμη και χωρίς πρόσβαση στο υποκείμενο κείμενο. Η ανακάλυψη αυτή αναδεικνύει μια αυξανόμενη τυφλή γωνία στην ασφάλεια της τεχνητής νοημοσύνης, όπου η κρυπτογράφηση από μόνη της δεν εγγυάται πλέον την ιδιωτικότητα στις αλληλεπιδράσεις με τα μοντέλα.

Δείτε επίσης: Gemini: Το Deep Research αντλεί δεδομένα από Gmail, Drive & Chat

Η ομάδα Microsoft Defender Security Research ανέφερε ότι οι επιτιθέμενοι μπορούν να εκμεταλλευτούν μεγάλα γλωσσικά μοντέλα που χρησιμοποιούν μεταδεδομένα, όπως τα μεγέθη και οι χρονισμοί των πακέτων δικτύου. Για παράδειγμα, ένας κρατικός φορέας στο επίπεδο του παρόχου υπηρεσιών διαδικτύου, κάποιος στο τοπικό δίκτυο ή κάποιος συνδεδεμένος στον ίδιο δρομολογητή Wi-Fi μπορεί να παρακολουθήσει την κρυπτογραφημένη κυκλοφορία και να τη χρησιμοποιήσει για να συμπεράνει αν η προτροπή του χρήστη αφορά ένα συγκεκριμένο θέμα. Τα μεταδεδομένα γίνονται η νέα επιφάνεια επίθεσης. Σε αντίθεση με τις παραδοσιακές παραβιάσεις δεδομένων ή τις διαρροές μοντέλων, το Whisper Leak εκμεταλλεύεται ένα πλευρικό κανάλι στην επικοινωνία δικτύου αντί για ένα ελάττωμα στην ίδια την κρυπτογράφηση.

Οι υπηρεσίες LLM παράγουν απαντήσεις βήμα προς βήμα, παράγοντας ένα σύμβολο τη φορά αντί για ολόκληρη την απάντηση ταυτόχρονα. Επίσης, οι επικοινωνίες με τα chatbots που υποστηρίζονται από AI συχνά κρυπτογραφούνται με HPPS μέσω TLS (HTTPS), εξασφαλίζοντας την αυθεντικότητα του διακομιστή και την ασφάλεια μέσω κρυπτογράφησης. Ωστόσο, ενώ το Transport Layer Security κρυπτογραφεί με επιτυχία το περιεχόμενο των επικοινωνιών, διαρρέει το μέγεθος των υποκείμενων τμημάτων δεδομένων που μεταδίδονται.

Για ένα LLM που μεταδίδει απαντήσεις σύμβολο προς σύμβολο, αυτές οι πληροφορίες μεγέθους αποκαλύπτουν μοτίβα σχετικά με τα σύμβολα που παράγονται. Συνδυασμένα με πληροφορίες χρονισμού μεταξύ πακέτων, αυτά τα διαρρέοντα μοτίβα αποτελούν τη βάση της επίθεσης Whisper Leak, καθώς διαρρέουν επαρκείς πληροφορίες για να επιτρέψουν την ταξινόμηση θεμάτων, εξήγησε η ομάδα Microsoft Defender Security Team στην τεχνική αναφορά.

Δείτε ακόμα: Το ChatGPT βελτιώνει την αναζήτηση πληροφοριών για το σχολείο

Οι ερευνητές της Microsoft προσομοίωσαν ένα σενάριο πραγματικού κόσμου στο οποίο ο αντίπαλος μπορούσε να παρακολουθεί την κρυπτογραφημένη κυκλοφορία αλλά όχι να την αποκρυπτογραφήσει. Επέλεξαν τη “νομιμότητα της νομιμοποίησης εσόδων από παράνομες δραστηριότητες” ως το στόχο για την απόδειξη της ιδέας. Για θετικά δείγματα, η ομάδα χρησιμοποίησε ένα γλωσσικό μοντέλο για να δημιουργήσει 100 σημασιολογικά παρόμοιες παραλλαγές ερωτήσεων σχετικά με αυτό το θέμα. Για αρνητικά δείγματα θορύβου, επιλέχθηκαν τυχαία 11.716 άσχετες ερωτήσεις από το σύνολο δεδομένων Quora Questions Pair, καλύπτοντας μια ευρεία ποικιλία θεμάτων. Αφού ολοκληρώθηκε, τα συλλεγμένα δεδομένα εκπαιδεύτηκαν χρησιμοποιώντας μοντέλα LightGBM, Bi-LSTM και BERT, αξιολογήθηκαν σε λειτουργίες μόνο χρόνου, μόνο μεγέθους πακέτου ή και τα δύο.

Η ερευνητική ομάδα παρουσίασε την επίθεση σε 28 δημοφιλή LLMs από μεγάλους παρόχους και πέτυχε σχεδόν τέλεια ταξινόμηση (συχνά >98% Περιοχή Κάτω από την Καμπύλη Ακρίβειας-Ανάκλησης (AUPRC)) και υψηλή ακρίβεια ακόμη και σε ακραία ανισορροπία κατηγοριών (10.000:1 αναλογία θορύβου προς στόχο). Για πολλά μοντέλα, πέτυχαν 100% ακρίβεια στην αναγνώριση ευαίσθητων θεμάτων ενώ ανέκτησαν 5-20% των συνομιλιών στόχων, σημείωσε η αναφορά.

Τα ευρήματα κοινοποιήθηκαν στις OpenAI, Mistral, Microsoft και xAI, και εφαρμόστηκαν μέτρα μετριασμού για να ελαχιστοποιηθεί ο κίνδυνος. Για να μετριαστεί η αποτελεσματικότητα των κυβερνοεπιθέσεων, η OpenAI και αργότερα η Microsoft Azure πρόσθεσαν μια τυχαία ακολουθία κειμένου μεταβλητού μήκους σε κάθε απάντηση. Παρομοίως, η Mistral περιέλαβε μια νέα παράμετρο που ονομάζεται “p” που είχε παρόμοιο αποτέλεσμα.

Δείτε επίσης: Anthropic: Αυτόματη Μνήμη για Χρήστες Claude Pro και Max

Ακόμη και αν η επίθεση δεν εκθέτει την ακριβή προτροπή ή το περιεχόμενο μιας συνομιλίας, μπορεί να ταξινομήσει με ακρίβεια το θέμα ή την πρόθεση, θέτοντας τις επιχειρήσεις σε μεγάλο κίνδυνο. Ενώ είναι οι πάροχοι AI που θα πρέπει να αντιμετωπίσουν το ζήτημα, οι συστάσεις των ερευνητών της Microsoft περιλαμβάνουν την αποφυγή συζητήσεων για ιδιαίτερα ευαίσθητα θέματα μέσω chatbots AI όταν βρίσκεστε σε μη αξιόπιστα δίκτυα, τη χρήση υπηρεσιών VPN για την προσθήκη ενός επιπλέον επιπέδου προστασίας, την επιλογή παρόχων που έχουν ήδη εφαρμόσει μετριασμό και τη χρήση μη ροής μοντέλων από παρόχους μεγάλων γλωσσικών μοντέλων.