Το AI είναι κυριολεκτικά δίκοπο μαχαίρι όταν πρόκειται για την κυβερνοασφάλεια. Οι ίδιες δυνατότητες που μας επιτρέπουν να αυτοματοποιούμε την ανίχνευση απειλών και να γράφουμε ασφαλή κώδικα πιο γρήγορα, χρησιμοποιούνται από τους αντιπάλους για τη δημιουργία μιας νέας γενιάς κυβερνοαπειλών.
Δείτε επίσης: Οι μεγαλύτερες ιστορίες κυβερνοασφάλειας και κυβερνοεπιθέσεων του 2025
Για κάθε CISO ή ηγέτη ασφαλείας, η κύρια εστίασή μας πρέπει να αλλάξει· δεν πολεμάμε πλέον μόνο ανθρώπινους αντιπάλους, αλλά και αυτοματοποιημένους agents απειλών ενισχυμένους με AI.
Παρατηρείται μια δραστική μείωση στο κόστος και την εξειδίκευση που απαιτούνται για το κυβερνοέγκλημα. Αυτό που κάποτε χρειαζόταν εβδομάδες, μπορεί τώρα να οργανωθεί από έναν AI agent σε ώρες, οδηγώντας σε αυτό που ονομάζουμε πληθωρισμό κυβερνοαπειλών.
Πρόσφατα, οι ερευνητές της Google Threat Intelligence Group (GTIG) εντόπισαν μια ανησυχητική νέα τάση: κακόβουλο λογισμικό που χρησιμοποιεί LLMs κατά την εκτέλεση για να αλλάξει δυναμικά τη συμπεριφορά του και να αποφύγει την ανίχνευση. Αυτό δεν είναι προγεννημένος κώδικας, αλλά κώδικας που προσαρμόζεται κατά τη διάρκεια της εκτέλεσης.
Τον Ιούνιο του 2025, η GTIG εντόπισε ένα πειραματικό κακόβουλο λογισμικό που ονομάζεται PROMPTFLUX, το οποίο συνδέεται με ένα εμπορικό API LLM (όπως το Gemini API) για να ζητήσει νέους κώδικες απόκρυψης και αποφυγής επί τόπου. Αυτή η τεχνική, που επιτρέπει τη δημιουργία κώδικα την κατάλληλη στιγμή, αντιπροσωπεύει ένα σημαντικό βήμα προς το αυτόνομο και προσαρμοστικό κακόβουλο λογισμικό.
Σε μια άλλη περίπτωση, η GTIG εντόπισε το PROMPTSTEAL, το οποίο χρησιμοποιήθηκε από την ομάδα APT28 που συνδέεται με τη Ρωσία εναντίον της Ουκρανίας. Αυτό το κακόβουλο λογισμικό ρωτά ένα LLM (το μοντέλο Qwen2.5-Coder στο Hugging Face) για να δημιουργήσει εντολές αναγνώρισης αντί να τις έχει προγραμματισμένες.
Ορισμένες αναλύσεις προβλέπουν ότι το ποσοστό όλων των ανιχνεύσεων κακόβουλου λογισμικού με συμβολή LLM έχει αυξηθεί από μόλις 2% το 2021 σε ένα προβλεπόμενο 50% έως το 2025.
Η Anthropic αποκάλυψε πρόσφατα μια εξαιρετικά εξελιγμένη επιχείρηση κυβερνοκατασκοπείας, που αποδίδεται σε έναν κρατικά υποστηριζόμενο παράγοντα απειλής, ο οποίος χρησιμοποίησε το δικό του Claude Codemodel για να στοχεύσει περίπου 30 οργανισμούς παγκοσμίως, συμπεριλαμβανομένων μεγάλων χρηματοπιστωτικών ιδρυμάτων και κυβερνητικών υπηρεσιών.
Ο παράγοντας απειλής χειρίστηκε το μοντέλο ώστε να λειτουργεί ως αυτόνομος πράκτορας κυβερνοεπιθέσεων, ο οποίος εκτέλεσε το 80% έως 90% των τακτικών επιχειρήσεων, από την αναγνώριση και την ανακάλυψη ευπαθειών έως τη συλλογή διαπιστευτηρίων και την εξαγωγή δεδομένων.
Δείτε ακόμα: Cyber insurance: Αξίζει ή είναι απλώς ακριβό «δίχτυ ασφαλείας»;
Ο ανθρώπινος χειριστής επενέβη μόνο σε κρίσιμα σημεία, όπως η εξουσιοδότηση της προόδου από την αναγνώριση στην ενεργή εκμετάλλευση. Η AI χαρτογράφησε αυτόνομα δίκτυα, ανακάλυψε ευπάθειες και εκτέλεσε δραστηριότητες μετά την εκμετάλλευση με ταχύτητα μηχανής, έναν πρωτοφανή ρυθμό που οι παραδοσιακές, ανθρώπινης ταχύτητας άμυνες δεν μπορούν να ανταγωνιστούν.
Αν οι αντίπαλοι λειτουργούν με ταχύτητα AI, οι άμυνές μας πρέπει να το κάνουν επίσης. Η ασημένια επένδυση αυτής της δυναμικής διπλής χρήσης είναι ότι τα πιο ισχυρά LLMs χρησιμοποιούνται επίσης από τους υπερασπιστές για τη δημιουργία θεμελιωδώς νέων δυνατοτήτων ασφάλειας.
Η σημασιολογική κατανόηση κώδικα και η λογική σκέψη των LLMs προσφέρουν ένα σημαντικό πλεονέκτημα έναντι των παραδοσιακών, στατικών αναλυτών υπογραφών, ειδικά στην ανακάλυψη άγνωστων απειλών πριν τις βρουν και τις εκμεταλλευτούν οι κακόβουλοι παράγοντες.
Τα LLMs έχουν δείξει εξαιρετική δυνατότητα στην αναγνώριση άγνωστων, μη επιδιορθωμένων zero-days. Αυτά τα μοντέλα υπερέχουν σημαντικά των συμβατικών στατικών αναλυτών, ιδιαίτερα στην ανακάλυψη λεπτών λογικών αδυναμιών και υπερχειλίσεων buffer σε νέο λογισμικό. Για παράδειγμα, το έργο Big Sleep της Google χρησιμοποίησε ένα LLM για να εντοπίσει μια zero-day ευπάθεια στη σημαντική βάση δεδομένων SQLite που χρησιμοποιείται σε όλη τη βιομηχανία.
Με την ανάπτυξη AI agents όπως το XBOW στα δικά μας συστήματα, μπορούμε να δοκιμάσουμε συστηματικά κάθε τελικό σημείο και διαδρομή επίθεσης. Αυτό κλιμακώνει την ηθική επιθετική δοκιμή ασφάλειας από έναν περιοδικό έλεγχο σε μια διαδικασία προ-παραγωγής κατ’ απαίτηση.
Καθώς τα συστήματα AI συνεχίζουν να προχωρούν από τα γενετικά μοντέλα σε αυτόνομους πράκτορες, η φύση διπλής χρήσης τους δεν μπορεί να αγνοηθεί. Τα ίδια εργαλεία που βοηθούν τους υπερασπιστές να επιταχύνουν την απόκριση σε περιστατικά μπορούν επίσης να ενισχύσουν τους επιτιθέμενους να δημιουργούν deepfakes, να ξεκινούν εκστρατείες social engineering και άλλα. Αυτή η ένταση δεν είναι ένα προσωρινό υποπροϊόν της καινοτομίας, αλλά μια δομική πραγματικότητα της ταχείας εξέλιξης της AI.
Δείτε επίσης: Ηνωμένο Βασίλειο: Ενίσχυση της κυβερνοάμυνας στο δημόσιο τομέα
Τελικά, η πρόκληση δεν είναι να σταματήσουμε την πρόοδο της AI, αλλά να την καθοδηγήσουμε υπεύθυνα. Αυτό σημαίνει την ενσωμάτωση προστατευτικών μέτρων στα μοντέλα, τη βελτίωση της διαφάνειας και την ανάπτυξη πλαισίων διακυβέρνησης που συμβαδίζουν με τις αναδυόμενες δυνατότητες. Απαιτεί επίσης από τους οργανισμούς να επανεξετάσουν τις στρατηγικές ασφάλειας, αναγνωρίζοντας ότι η AI είναι τόσο μια ευκαιρία όσο και ένας πολλαπλασιαστής κινδύνου.
