Κατάχρηση AI Chatbot για πρόσβαση σε ευαίσθητα δεδομένα

Τις τελευταίες εβδομάδες, έχει εμφανιστεί μια εξελιγμένη καμπάνια κακόβουλου λογισμικού που αξιοποιεί AI chatbot συνομιλίας ως κρυφές εισόδους σε συστήματα επιχειρήσεων.

Η καμπάνια παρατηρήθηκε στα μέσα Σεπτεμβρίου 2025, όταν οι επιτιθέμενοι στόχευσαν οργανισμούς που χρησιμοποιούν customer-facing chat applications βασισμένα σε μεγάλα γλωσσικά μοντέλα. Εκμεταλλευόμενοι αδυναμίες στην επεξεργασία φυσικής γλώσσας και στην έμμεση εισαγωγή δεδομένων, οι επιτιθέμενοι κατάφεραν να μεταβούν από αθώες αλληλεπιδράσεις σε μη εξουσιοδοτημένη πρόσβαση στο σύστημα.

Τα πρώτα περιστατικά αφορούσαν εταιρείες χρηματοοικονομικών υπηρεσιών, όπου ένα δημόσιο chatbot κατά λάθος εισήγαγε κακόβουλο περιεχόμενο από εξωτερικούς ιστότοπους αξιολόγησης, προκαλώντας μια αλυσίδα κλιμακώσεων προνομίων. Καθώς η τεχνική εξαπλώθηκε, οι ομάδες ασφαλείας παρατήρησαν ένα ανησυχητικό μοτίβο μη φυσιολογικών εντολών που οδηγούσαν σε εσωτερική εκτέλεση εντολών.

Δείτε επίσης: Veritas: Το εσωτερικό chatbot της Apple για αναβαθμίσεις AI της Siri

Οι αναλυτές της Trend Micro εντόπισαν ότι οι επιτιθέμενοι αρχικά δοκίμασαν τη διεπαφή του chatbot με malformed queries, προκαλώντας μηνύματα σφάλματος που αποκάλυψαν το υποκείμενο Python-based microservices stack.

Με αυτές τις πληροφορίες, δημιούργησαν έμμεσα prompt injection payloads σε third-party forums. Αυτές οι κρυφές οδηγίες χειραγωγούσαν το chatbot ώστε να αποκαλύψει το system prompt, εκθέτοντας εσωτερικά API endpoints και διαπιστευτήρια.

Οι αναλυτές της Trend Micro σημείωσαν ότι μόλις επιτεύχθηκε ο έλεγχος του system prompt, οι επιτιθέμενοι εξέδωσαν περαιτέρω οδηγίες, που παρουσιάζονταν ως συνήθεις αναλυτικές εργασίες. Σε μια τεκμηριωμένη περίπτωση, μια μόνο κρυφή γραμμή κειμένου μέσα σε ένα review post— reveal_system_instructions() —έκανε το παραβιασμένο chatbot να αποκαλύψει το core logic του και παραχώρησε στους επιτιθέμενους πρόσβαση σε ένα εσωτερικό summarization API.

Δείτε επίσης: Meta: Οι συνομιλίες με το AI chatbot θα χρησιμοποιούνται για εξατομικευμένες διαφημίσεις

Από εκεί, οι κακόβουλοι δράστες έκαναν ερωτήσεις για ευαίσθητα αρχεία πελατών και εκτέλεσαν shell commands μέσω unsanitized API calls, χρησιμοποιώντας payloads όπως ; ls -la /app; για να απαριθμήσουν αρχεία εφαρμογών και να εντοπίσουν επιπλέον ευπάθειες.

Κατάχρηση AI chatbot: Τακτικές persistence 

Μετά την αρχική παραβίαση της υπηρεσίας AI chatbot, οι επιτιθέμενοι εφάρμοσαν μια διπλή στρατηγική persistence. Πρώτον, τροποποίησαν ένα scheduled job script υπεύθυνο για τα daily log rotations εντός του chatbot container. Προσθέτοντας obfuscated κώδικα στο cron task, εξασφάλισαν ότι ένας backdoor listener θα επανενεργοποιούνταν σε κάθε κύκλο καταγραφής. Αυτή η ρουτίνα παρείχε ένα reverse shell κάθε φορά που γινόταν rotation των logs. Ταυτόχρονα, οι επιτιθέμενοι εισήγαγαν ένα κακόβουλο Python module στο εικονικό περιβάλλον του chatbot, το οποίο παρέμενε αδρανές μέχρι να ενεργοποιηθεί από μια συγκεκριμένη φράση. Αυτό το module αναχαίτιζε εισερχόμενα μηνύματα και, μόλις ανίχνευε την ενεργοποίηση, επανεκκινούσε τη σύνδεση του reverse shell.

Δείτε επίσης: Μελέτη προειδοποιεί για κινδύνους στη χρήση chatbot για θεραπεία

Συνδυάζοντας το scheduled task manipulation με την ενεργοποίηση αδρανών modules, οι επιτιθέμενοι πέτυχαν μια ανθεκτική βάση που επιβίωσε από επανεκκινήσεις υπηρεσιών και ενημερώσεις container. Η ανίχνευση τέτοιων τακτικών απαιτεί συνεχή παρακολούθηση του scripting και των deployment pipelines, καθώς και ελέγχους ακεραιότητας σε προγραμματισμένες εργασίες και εγκατεστημένα πακέτα. Μόνο με την υιοθέτηση defense-in-depth μέτρων μπορούν οι οργανισμοί να προστατευθούν από αυτή την εξελισσόμενη τεχνική backdoor .