Κρίσιμες ευπάθειες εντοπίστηκαν στο AI-powered chatbot εξυπηρέτησης πελατών της Lenovo, “Lena, επιτρέποντας στους επιτιθέμενους να κλέψουν session cookies και (ενδεχομένως) να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση στα συστήματα υποστήριξης πελατών της εταιρείας.
Ερευνητές του Cybernews ανακάλυψαν ότι το chatbot της Lenovo, το οποίο υποστηρίζεται από το GPT-4 της OpenAI, ήταν ευάλωτο σε επιθέσεις cross-site scripting (XSS) λόγω ακατάλληλου input και output sanitization. Η ευπάθεια επέτρεψε στους επιτιθέμενους να εισάγουν κακόβουλο κώδικα μέσω μιας προσεκτικά κατασκευασμένης εντολής 400 χαρακτήρων, που ξεγέλασε το σύστημα AI ώστε να δημιουργήσει επιβλαβές περιεχόμενο HTML.
“Όλοι γνωρίζουν ότι τα chatbots μπορούν να ξεγελαστούν από prompt injections. Αυτό δεν είναι καινούριο“, ανέφερε η ομάδα έρευνας του Cybernews σε μια αναφορά. “Αυτό που είναι πραγματικά ανησυχητικό είναι ότι η Lenovo, παρά το γεγονός ότι γνώριζε αυτές τις αδυναμίες, δεν προστάτευσε τον εαυτό της από πιθανά κακόβουλα user manipulations και chatbot outputs“. Η Lenovo δεν έχει σχολιάσει τα ευρήματα.
Δείτε επίσης: Ευπάθεια Chrome επιτρέπει εκτέλεση κακόβουλου κώδικα
Παραβίαση του AI chatbot της Lenovo: Πώς λειτούργησε η επίθεση
Η επίθεση των ερευνητών περιλάμβανε την εξαπάτηση του chatbot ώστε να δημιουργήσει κακόβουλο κώδικα HTML μέσω μιας εντολής που ξεκινούσε με ένα νόμιμο product inquiry. Περιελάμβανε οδηγίες για τη μετατροπή των απαντήσεων σε μορφή HTML και ενσωμάτωσε κώδικα σχεδιασμένο να κλέψει session cookies όταν οι εικόνες δεν φορτώνονταν.
Όταν το Lena της Lenovo έλαβε την κακόβουλη εντολή, οι ερευνητές σημείωσαν ότι “η επιθυμία να ευχαριστήσει τον χρήστη (people-pleasing) είναι το ζήτημα που στοιχειώνει τα μεγάλα γλωσσικά μοντέλα, σε τέτοιο βαθμό που, σε αυτή την περίπτωση, το Lena αποδέχθηκε το κακόβουλο payload μας, το οποίο παρήγαγε την ευπάθεια XSS και επέτρεψε τη λήψη των session cookies“.
Η Melissa Ruzzi, διευθύντρια AI στην εταιρεία ασφαλείας AppOmni, δήλωσε ότι το περιστατικό ανέδειξε “το γνωστό ζήτημα του prompt injection στο Generative AI“. Προειδοποίησε ότι “είναι κρίσιμο να επιβλέπουμε όλα τα δεδομένα στα οποία έχει πρόσβαση η AI, τα οποία συνήθως περιλαμβάνουν όχι μόνο δικαιώματα ανάγνωσης, αλλά και τη δυνατότητα επεξεργασίας. Αυτό θα μπορούσε να κάνει αυτόν τον τύπο επίθεσης ακόμα πιο καταστροφικό“.
Παραβίαση Lenovo chatbot: Επιπτώσεις σε όλη την επιχείρηση
Ενώ η άμεση επίπτωση περιλάμβανε την κλοπή session cookies, οι επιπτώσεις της ευπάθειας επεκτάθηκαν πολύ πέρα από την εξαγωγή δεδομένων. Οι ερευνητές προειδοποίησαν ότι η ίδια ευπάθεια θα μπορούσε να επιτρέψει στους επιτιθέμενους να τροποποιήσουν τις διεπαφές υποστήριξης, να αναπτύξουν keyloggers, να ξεκινήσουν επιθέσεις phishing και να εκτελέσουν εντολές συστήματος που θα μπορούσαν να εγκαταστήσουν backdoors και να επιτρέψουν την πλευρική κίνηση σε όλη την υποδομή δικτύου.
Δείτε επίσης: CodeRabbit: Ευπάθεια επέτρεψε πρόσβαση σε 1 εκατ. repositories
“Χρησιμοποιώντας το κλεμμένο agent’s session cookie, είναι δυνατή η σύνδεση στο σύστημα υποστήριξης πελατών με τον λογαριασμό του agent“, εξήγησαν οι ερευνητές.
Ισορροπία ανάμεσα στην καινοτομία και την ασφάλεια
Η ευπάθεια της Lenovo αποτέλεσε παράδειγμα των προκλήσεων ασφαλείας που προκύπτουν όταν οι οργανισμοί αναπτύσσουν γρήγορα τεχνολογίες AI χωρίς επαρκή πλαίσια ασφαλείας. Ο Arjun Chauhan, στέλεχος στον Όμιλο Everest, προειδοποίησε ότι “το προφίλ κινδύνου είναι θεμελιωδώς διαφορετικό” με τα συστήματα AI επειδή “τα μοντέλα συμπεριφέρονται απρόβλεπτα υπό adversarial inputs“.
Πρόσφατα δεδομένα της βιομηχανίας έδειξαν ότι η αυτόματη κίνηση bot ξεπέρασε την κίνηση που δημιουργείται από ανθρώπους για πρώτη φορά, αποτελώντας το 51% της συνολικής κίνησης στο διαδίκτυο το 2024.
Δείτε επίσης: Clickjacking: Ευπάθειες σε δημοφιλείς password managers
Η Ruzzi σημείωσε ότι “τα chatbots AI μπορούν να θεωρηθούν ως μια άλλη εφαρμογή SaaS, όπου οι εσφαλμένες διαμορφώσεις πρόσβασης δεδομένων μπορούν εύκολα να μετατραπούν σε παραβιάσεις δεδομένων“. Τόνισε ότι “περισσότερο από ποτέ, η ασφάλεια πρέπει να είναι ένα εγγενές μέρος όλων των υλοποιήσεων AI. Αν και υπάρχει πίεση για την κυκλοφορία χαρακτηριστικών AI όσο το δυνατόν γρηγορότερα, αυτό δεν πρέπει να υποτιμά την ασφάλεια δεδομένων“.
Η Lenovo έχει διορθώσει την ευπάθεια αφού οι ερευνητές την αποκάλυψαν υπεύθυνα.
