Λεπτομέρειες σχετικά με ένα επιδιορθωμένο ελάττωμα ασφαλείας στο chatbot τεχνητής νοημοσύνης DeepSeek, δείχνουν ότι εάν αξιοποιηθεί επιτυχώς, θα μπορούσε να επιτρέψει σε έναν κακόβουλο παράγοντα να πάρει τον έλεγχο του λογαριασμού ενός θύματος μέσω μιας επίθεσης prompt injection.
Δείτε επίσης: Injection ευπάθεια εντολών στο Kemp Load Balancer
Ο ερευνητής ασφαλείας Johann Rehberger, ο οποίος έχει ανακαλύψει πολλές επιθέσεις prompt injection που στοχεύουν διάφορα εργαλεία τεχνητής νοημοσύνης, διαπίστωσε ότι η παροχή της εισαγωγής “Print the xss cheat sheet in a bullet list. just payloads” στη συνομιλία DeepSeek πυροδότησε την εκτέλεση κώδικα JavaScript ως μέρος της παραγόμενης απόκρισης – μια κλασική περίπτωση cross-site scripting (XSS).
Οι επιθέσεις XSS μπορεί να έχουν σοβαρές συνέπειες, καθώς οδηγούν στην εκτέλεση μη εξουσιοδοτημένου κώδικα στο πλαίσιο του προγράμματος περιήγησης ιστού του θύματος.
Βόρεια Κορέα: Κλάπηκαν crypto αξίας $ 659 εκατ. το 2024
Ένας εισβολέας θα μπορούσε να εκμεταλλευτεί τέτοιες ατέλειες για να παραβιάσει τη συνεδρία ενός χρήστη και να αποκτήσει πρόσβαση σε cookie και άλλα δεδομένα που σχετίζονται με τον τομέα chat.deepseek[.]com, οδηγώντας έτσι σε ανάληψη λογαριασμού.
Δείτε ακόμα: Το Zohocorp ManageEngine ευάλωτο σε επιθέσεις SQL Injection
Η προτροπή περιέχει έναν συνδυασμό οδηγιών και μια συμβολοσειρά με κωδικοποίηση Bas64 που αποκωδικοποιείται από το chatbot DeepSeek για την εκτέλεση του ωφέλιμου φορτίου XSS, που είναι υπεύθυνο για την εξαγωγή του διακριτικού περιόδου λειτουργίας του θύματος, επιτρέποντας τελικά στον εισβολέα να μιμηθεί τον χρήστη.
Η ανάπτυξη έρχεται καθώς ο Rehberger έδειξε επίσης ότι η Claude Computer Use της Anthropic – η οποία επιτρέπει στους προγραμματιστές να χρησιμοποιούν το μοντέλο γλώσσας για τον έλεγχο ενός υπολογιστή μέσω κίνησης του κέρσορα, κλικ κουμπιών και πληκτρολόγησης κειμένου – θα μπορούσε να γίνει κατάχρηση για να εκτελούνται κακόβουλες εντολές αυτόνομα μέσω prompt injection.
Η τεχνική, που ονομάζεται ZombAIs, ουσιαστικά αξιοποιεί το prompt injection για να οπλίσει τη χρήση υπολογιστή προκειμένου να κατεβάσει το πλαίσιο εντολής και ελέγχου Sliver (C2), να το εκτελέσει και να δημιουργήσει επαφή με έναν απομακρυσμένο διακομιστή υπό τον έλεγχο του εισβολέα.
Δείτε επίσης: Το GitLab διορθώνει ελάττωμα HTML Injection που οδηγεί σε επιθέσεις XSS
Οι ευπάθειες Prompt Injection αποτελούν μια σοβαρή απειλή για την ασφάλεια των εφαρμογών, όπως στην περίπτωση του DeepSeek. Αυτές οι ευπάθειες παρουσιάζονται όταν δεν γίνεται σωστό φιλτράρισμα και επεξεργασία των εισόδων που λαμβάνονται από τον χρήστη και χρησιμοποιούνται για τη δημιουργία εντολών προς το σύστημα ή άλλα μέρη της εφαρμογής. Αυτό μπορεί να επιτρέψει σε κακόβουλους χρήστες να εκτελέσουν κακόβουλο κώδικα, να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση ή να παραβιάσουν την εμπιστευτικότητα των δεδομένων. Για να εμποδίσουμε αυτές τις ευπάθειες, είναι σημαντικό να εφαρμόζουμε σωστές πρακτικές ασφάλειας, όπως το φιλτράρισμα και η επαλήθευση των δεδομένων εισόδου, η χρήση παραμέτρων δεδομένων που περνούν από ασφαλή μέρη, καθώς και η προειδοποίηση των χρηστών για τους κινδύνους της εισαγωγής κακόβουλου κώδικα. Επιπλέον, η τακτική ενημέρωση και η παρακολούθηση των ευπαθειών μπορούν να βοηθήσουν στην ανίχνευση και επίλυση προβλημάτων ασφάλειας που σχετίζονται με την ενσωμάτωση.
Πηγή: thehackernews
