Το AI malware αφαιρεί τον άνθρωπο από την αλυσίδα επιθέσεων

Οι επιτιθέμενοι που χρησιμοποιούν τεχνητή νοημοσύνη (AI) έχουν επωφεληθεί σημαντικά όσον αφορά την ταχύτητα και την κλίμακα, και τώρα, σύμφωνα με την Cisco Talos, το AI malware έχει εξελιχθεί ώστε να εκτελεί μεγάλα τμήματα της αλυσίδας επιθέσεων χωρίς ανθρώπινη παρέμβαση. Οι ερευνητές της ομάδας απειλών αναγνώρισαν αυτό που αποκαλούν την πρώτη αρχιτεκτονική “LLM-as-C2” που μπορεί να αυτοματοποιήσει πλήρως την αλυσίδα εντολών και ελέγχου (C2).

Δείτε επίσης: Νέο κακόβουλο λογισμικό npm βρίσκει τρόπο να παρακάμπτει τις άμυνες των script εγκατάστασης

Το δυαδικό κακόβουλο λογισμικό που ονομάστηκε CLOSEDQUORUM, βασίζεται σε μια ομάδα μεγάλων γλωσσικών μοντέλων (LLM) που χαρτογραφούν και εκτελούν την βέλτιστη διαδρομή για την κλοπή διαπιστευτηρίων. “Αυτό δεν είναι απλώς μια ενίσχυση των δυνατοτήτων ενός χειριστή κατά τη διάρκεια μιας συνεδρίας, αλλά η μεταφορά ολόκληρης της φάσης της επίθεσης από τον χειριστή στο σύστημα,” εξήγησε ο ερευνητής ασφάλειας και απειλών της Cisco Talos, Ryan Fetterman, σε μια ανάρτηση στο blog.

Τα οφέλη της ταχύτητας και της κλίμακας ενισχύονται επειδή ο άνθρωπος δεν αποτελεί πλέον το στενό σημείο, σημείωσε. Ενώ οι άνθρωποι έχουν όρια όσον αφορά τις ώρες εργασίας, την προσοχή και το γνωστικό φορτίο, ένα σύστημα AI μπορεί να συνεχίσει όταν οι χειριστές του δεν παρακολουθούν. “Δεν απενεργοποιείται όταν ο επιτιθέμενος κοιμάται,” είπε. Ωστόσο, η Cisco Talos τόνισε ότι δεν υπάρχει ακόμη επιβεβαίωση για την ανάπτυξη του CLOSEDQUORUM στην άγρια φύση.

Ανακαλύφθηκε από το νέο ερευνητικό εργαλείο της Cisco Talos, Cognitive Artifact Intelligence Research Network (CAIRN). Το CLOSEDQUORUM συμπυκνώνει τη λήψη αποφάσεων γύρω από μια συγκεκριμένη φάση επίθεσης σε περιορισμένες επιλογές, δίνοντας στην AI τη δυνατότητα να ενεργεί ανεξάρτητα. Το κακόβουλο λογισμικό στοχεύει ειδικά την υπηρεσία υποσυστήματος τοπικής ασφάλειας της Microsoft (LSASS) για την εξαγωγή διαπιστευτηρίων. Οι διαδικασίες LSASS διαχειρίζονται συνδέσεις και αλλαγές κωδικών πρόσβασης και επιβάλλουν πολιτικές ασφαλείας.

Η εξαγωγή μπορεί να αποσπάσει διαπιστευτήρια τομέα και τοπικά από τη μνήμη. Το CLOSEDQUORUM εκτελεί επίσης κλοπή διαπιστευτηρίων από προγράμματα περιήγησης, στοχεύοντας ιδιαίτερα αποθηκευμένους κωδικούς πρόσβασης σε Chrome, Edge και Firefox, και επιδιώκει να εξάγει κρυπτογραφικά πορτοφόλια, συμπεριλαμβανομένων των MetaMask, Ethereum και Exodus. Η τακτική γνώση κωδικοποιείται άμεσα ως περιεχόμενο αναγνώσιμο από το μοντέλο, και οι επόμενες έξοδοι του μοντέλου μετατρέπονται αυτόματα σε εκτελέσιμα.

Συγκεντρωμένο στη γλώσσα προγραμματισμού Go της Google, το 64-bit Windows εκτελέσιμο υποστηρίζει έως και τέσσερις ενσωματώσεις LLM: DeepSeek, Qwen, Mistral και Google Gemini. Μετά την ανάπτυξη, το CLOSEDQUORUM ρωτά την ομάδα μοντέλων με την προτροπή συστήματος: “Είστε ένας προηγμένος στρατηγιστής κακόβουλου λογισμικού. Παρέχετε ΜΟΝΟ εκτελέσιμες αποφάσεις.” Το CLOSEDQUORUM στη συνέχεια καταμετρά τις ανεξάρτητες αποφάσεις τους και ενεργεί βάσει του στόχου του να συλλέξει διαπιστευτήρια χρηστών και κρυπτογραφικά πορτοφόλια. Η συνεδρία κλείνει· δεν επιτρέπονται άνθρωποι.

Τα μοντέλα λαμβάνουν περιεχόμενο, επιλέγουν δυνατότητες, παρέχουν παραμέτρους εκτέλεσης και λαμβάνουν συνεχώς αποφάσεις χωρίς την ανάγκη συνεχών ανθρώπινων εντολών ή εργασιών από ειδικούς, χειριζόμενους από επιτιθέμενους C2 servers. “Η πλήρης δυναμική λειτουργία ανατίθεται στην AI,” εξήγησε ο Fetterman. Τα LLMs ψηφίζουν για τις επόμενες ενέργειες, και η ενέργεια με τις περισσότερες ψήφους επιλέγεται αυτόματα.

Σημαντικό είναι ότι το πάνελ μοντέλων δεν είναι ελεύθερο να απαντήσει σε οποιαδήποτε μορφή· περιορίζεται στη χρήση μιας καθορισμένης δομής JSON με ένα πεδίο απόφασης που αντιστοιχεί σε μια συγκεκριμένη δυνατότητα. Οτιδήποτε άλλο απορρίπτεται. “Αυτός ο σχεδιασμός μειώνει την έξοδο του μοντέλου σε ένα περιορισμένο σύνολο εκτελέσιμων επιλογών,” εξήγησε ο Fetterman. Σε περίπτωση ισοπαλίας, το κακόβουλο λογισμικό αποφασίζει βάσει προτίμησης μοντέλου: πρώτα το DeepSeek, μετά το Qwen, το Mistral και, τέλος, το Gemini.

Δείτε επίσης: SLEEPWALKER Backdoor: Νέο εξελιγμένο κακόβουλο λογισμικό για Windows

“Η συμπεριφορά ισοπαλίας είναι πλήρως καθοριστική και προκατειλημμένη προς το DeepSeek,” σημείωσε ο Fetterman. Η πολυ-LLM δομή μειώνει τις επιπτώσεις από οποιαδήποτε ατομική άρνηση, χρονικές υπερβάσεις ή κακοσχηματισμένες απαντήσεις. Έτσι, “αυξάνει την πιθανότητα λήψης μιας έγκυρης απόφασης, αλλά δεν την εγγυάται,” εξήγησε ο Fetterman. Το κβόρουμ μπορεί να φτάσει σε μια απόφαση ακόμα και όταν ένα ή περισσότερα μέλη δεν ανταποκρίνονται ή χτυπούν έναν φραγμό.

Αν όλα τα μοντέλα αποτύχουν, αυτό λειτουργεί ως συναίνεση, προκαλώντας τον βρόχο να κοιμηθεί και να επαναλάβει αντί να προχωρήσει σε δράση. Ο Fetterman χαρακτήρισε το CLOSEDQUORUM ως μοντέλο διαπιστευτηρίων ως υπηρεσία, και σημείωσε ότι ένας ανθρώπινος χειριστής που αποκτά το κακόβουλο λογισμικό δεν χρειάζεται να είναι online για να εκτελέσει την καμπάνια του. “Αναπτύσσουν το δυαδικό, και το πάνελ LLM εκτελεί την επίθεση,” είπε.

“Αυτός ο τύπος προσέγγισης σκαλωσιάς θα μπορούσε εύκολα να μεταφραστεί και να εφαρμοστεί σε άλλους στόχους αντιπάλων.” Η Cisco Talos ανακάλυψε το CLOSEDQUORUM με το νέο της εργαλείο ανοιχτού κώδικα CAIRN για την αναζήτηση, ταξινόμηση και παρακολούθηση κακόβουλου λογισμικού με ενσωμάτωση AI. Κυκλοφόρησε σήμερα, το CAIRN είναι “μεταδεδομένα-πρώτα,” και μπορεί να δημιουργήσει δομημένα γραφήματα σχέσεων αντικειμένων για να βοηθήσει τους ανθρώπινους υπερασπιστές να εντοπίσουν σχετικές οικογένειες κακόβουλου λογισμικού και υποδομές.

Τα δείγματα κακόβουλου λογισμικού αποστέλλονται στο VirusTotal, το οποίο εξάγει και καταχωρεί στατικά, δυναμικά, φήμης και συμπεριφορικά μεταδεδομένα. Τα αντικείμενα που σχετίζονται με την AI αναδεικνύονται από περιεχόμενο, συμπεριφορά, URLs, ετικέτες και μεταδεδομένα πόρων, και 12 στοχευμένα φίλτρα καταγράφουν διαφορετικές κατηγορίες αντικειμένων (APIs, προτροπές, πλαίσια, εργαλεία, χρόνους εκτέλεσης).

Τα ευρήματα ταξινομούνται κατά αντικείμενο, συμπεριφορικό πλαίσιο και λειτουργικές οικογένειες· το κείμενο μελετάται για σημασιολογικές ομοιότητες και σχέσεις· και το VirusTotal χαρτογραφεί υποδομές, παραλλαγές και συνδέσεις καμπάνιας. Η Talos έχει χρησιμοποιήσει το CAIRN για την αναζήτηση ανάπτυξης κακόβουλου λογισμικού από τον Ιούλιο του 2025, και οι ερευνητές έχουν διαπιστώσει ότι το αυτόνομο πλαίσιο αλλάζει γρήγορα. “Η πρόοδος από το ‘LLM ως προαιρετικό χαρακτηριστικό’ στο ‘πλήρως αυτόνομο πολυ-μοντέλο συντονιστή συναίνεσης χωρίς ανθρώπινο χειριστή’ συμπληρώθηκε μέσα σε ένα ημερολογιακό έτος,” σημείωσε ο Fetterman.

Τα σενάρια έχουν συγκεντρωθεί σε κακόβουλο λογισμικό, και η τεχνογνωσία διδάσκεται και διαδίδεται καθώς το CLOSEDQUORUM και παρόμοιες τεχνικές φτάνουν σε απειλητικούς παράγοντες χωρίς σύνδεση με το αρχικό δείγμα κακόβουλου λογισμικού. “Μπορεί να βρισκόμαστε σε ένα παροδικό παράθυρο για να παρατηρήσουμε τη μετάβαση AI,” σημείωσε ο Fetterman. “Η ενσωμάτωση AI γίνεται κοινός τόπος σε όλο το λογισμικό.” Το CLOSEDQUORUM, ειδικότερα, έχει διακριτά χαρακτηριστικά: κυκλοφορία API παρόχου AI που προέρχεται από απροσδόκητα εκτελέσιμα Windows· δομημένες προτροπές που περιέχουν περιεχόμενο ή γλώσσα δυνατοτήτων· επαναλαμβανόμενη εκτέλεση σε τυχαία διαστήματα πέντε έως 15 λεπτών· και επικοινωνία webhook Discord από την ίδια διαδικασία ή υπολογιστή.

Δείτε επίσης: Android car head units: Το κακόβουλο λογισμικό κρύβεται στις ενημερώσεις

Οι εισβολές είναι εφικτές με τα διαθέσιμα μοντέλα και “συνηθισμένη πρόσβαση API,” σημείωσε ο Fetterman. Ωστόσο, η τεχνική κακόβουλου λογισμικού εισάγει και αδυναμίες: Αρνήσεις παρόχων, κακοσχηματισμένες εξόδους, προβλέψιμες ισοπαλίες, περιορισμένα σχήματα και εξάρτηση από εμπορικά APIs μπορούν όλα να οδηγήσουν σε αποτυχία επίθεσης. “Η αυτονομία δεν καθιστά το εμφύτευμα αλάθητο· ανταλλάσσει ορισμένους ανθρώπινους περιορισμούς με περιορισμούς μοντέλου και υποδομής,” είπε ο Fetterman. “Το πλεονέκτημα για τους υπερασπιστές είναι ότι αυτή η πρόοδος μόλις αρχίζει.“