Καθώς η υιοθέτηση της Τεχνητής Νοημοσύνης (AI) επιταχύνεται στις επιχειρήσεις — και μεταξύ των ψηφιακών αντιπάλων — έχει ξεσπάσει μια έντονη συζήτηση σχετικά με το αν ο ρόλος της AI στην αλυσίδα απειλών στον κυβερνοχώρο πρέπει να αποτελεί κορυφαία ανησυχία για τους CISOs. Μια ομάδα ειδικών, μαζί με έναν προμηθευτή κυβερνοασφάλειας, επιμένουν ότι οι προειδοποιήσεις για τις απειλές AI είναι υπερβολικός θόρυβος, που προωθείται από εταιρείες κυβερνο-νοημοσύνης και εταιρείες AI που επιθυμούν να πουλήσουν νέα αμυντικά εργαλεία.
“Έχετε όλους αυτούς τους ανθρώπους που ανησυχούν για υποθετικά σενάρια στα οποία η AI μαγικά παρακάμπτει όλες τις πολιτικές και τις τεχνολογίες κυβερνοασφάλειας“, λέει ο Marcus Hutchins, κύριος ερευνητής απειλών στην Expel. “Αυτό που πραγματικά συμβαίνει είναι ότι οι διευθυντές απομακρύνονται από δοκιμασμένες πολιτικές, εργαλεία και μετριασμούς κυβερνοασφάλειας και προσεγγίζουν προϊόντα Gnerative AI που δεν έχουν δείξει την αξίας τους και πιθανότατα δεν θα λειτουργήσουν όταν πραγματικά χρειαστεί“.
Ωστόσο, οι περισσότεροι “πρακτικοί” πρώτης γραμμής και βετεράνοι ηγέτες threat-intel διαφωνούν έντονα. Υποστηρίζουν ότι οι απειλές που υποβοηθούνται από την AI δεν είναι υποθετικές — είναι ήδη εδώ — και ότι η απόρριψή τους θέτει τις οργανώσεις σε κίνδυνο καθώς οι όλο και πιο ευέλικτοι αντίπαλοι πειραματίζονται με την AI για να επιταχύνουν και να κλιμακώσουν τις επιθέσεις τους. “Βλέπουμε την AI να χρησιμοποιείται σε δυνατότητες που το παραδοσιακό κακόβουλο λογισμικό δεν έχει“, λέει στο CSO ο Steve Stone, στέλεχος στη SentinelOne.
Δείτε επίσης: Σοβαρό κενό RCE στο Codex CLI της OpenAI αναδεικνύει νέους κινδύνους
“Βλέπουμε την AI να χρησιμοποιείται για να βελτιώνει το κακόβουλο λογισμικό πολύ πιο γρήγορα, να χρησιμοποιείται ως βοηθός για τη δημιουργία κώδικα ή να αναπτύσσεται για κοινωνική μηχανική. Κατά τη διάρκεια του κύκλου ζωής της επίθεσης, οι επιτιθέμενοι χρησιμοποιούν την AI“. Δύο πρόσφατες ερευνητικές αναφορές υπογραμμίζουν την άποψη ότι η AI είναι ένα αυξανόμενο — και ενδεχομένως πιο επικίνδυνο — μέρος του κύκλου κυβερνοεπιθέσεων, και υποδηλώνουν ότι οι CISOs μπορεί να εξαντλούν το χρόνο για να αξιολογήσουν πόσο καλά μπορούν να υπερασπιστούν εναντίον αντιπάλων που αυτή τη στιγμή έχουν σημαντικό πλεονέκτημα ταχύτητας.
Οι αποδείξεις για χρήση της AI σε επιθέσεις αυξάνονται
Αν και πολλές κορυφαίες εταιρείες κυβερνοασφάλειας και AI, συμπεριλαμβανομένων των Microsoft και OpenAI, έχουν εκδώσει αναφορές που περιγράφουν πώς η AI μπορεί να ενισχύσει τις κυβερνοεπιθέσεις, δύο πρόσφατες ερευνητικές αναφορές προσθέτουν βάρος σε αυτήν την άποψη, υποδηλώνοντας ότι οι αντίπαλοι προχωρούν πέρα από την AI για απλά κέρδη παραγωγικότητας και αρχίζουν να την ενσωματώνουν πιο άμεσα στα εργαλεία λειτουργίας τους.
Στις 5 Νοεμβρίου, η Ομάδα Πληροφοριών Απειλών της Google (GTIG) κυκλοφόρησε μια αναφορά που κατέληξε στο συμπέρασμα ότι οι παράγοντες απειλών έχουν εισέλθει σε μια νέα λειτουργική φάση κατάχρησης της AI. Δεν περιορίζονται στην παραδοσιακή παραγωγικότητα της AI για τη δημιουργία καλύτερων phishing emails ή τη γρήγορη συγγραφή κώδικα. Χρησιμοποιούν εργαλεία που αλλάζουν δυναμικά τη συμπεριφορά κατά την εκτέλεση.
Σύμφωνα με την αναφορά, “οι κρατικά υποστηριζόμενοι παράγοντες απειλών και οι κυβερνοεγκληματίες ενσωματώνουν και πειραματίζονται με την AI σε ολόκληρη τη βιομηχανία καθ’ όλη τη διάρκεια του κύκλου ζωής της επίθεσης“. Η Google εντόπισε πέντε πρόσφατα δείγματα κακόβουλου λογισμικού που αναπτύχθηκαν χρησιμοποιώντας AI.
Δείτε επίσης: Ερευνητές αποκαλύπτουν πάνω από 30 ευπάθειες σε εργαλεία κωδικοποίησης AI
Η αναφορά της Google δέχθηκε αρχικά κριτική. Αρκετοί (Hutchins και άλλοι ερευνητές) είπαν ότι προωθούσε αχρείαστο φόβο. Ωστόσο, ο Hutchins αργότερα ανακάλεσε τις καταγγελίες του, υποδηλώνοντας πόσο αχαρτογράφητο είναι το νέο τοπίο κυβερνοαπειλών AI.
Μόλις μια εβδομάδα μετά την έκδοση της αναφοράς της GTIG, στις 13 Νοεμβρίου, η εταιρεία AI Anthropic εξέδωσε μια αναφορά στην οποία ισχυρίστηκε ότι ανακάλυψε την πρώτη οργανωμένη κυβερνοκατασκοπεία από μια κινεζική ομάδα, που χειραγώγησε το εργαλείο Claude Code της εταιρείας για να προσπαθήσει να διεισδύσει σε περίπου 30 στόχους.
Η επίθεση βασίστηκε σε αρκετά χαρακτηριστικά των μοντέλων AI που δεν υπήρχαν, ή ήταν σε πολύ πιο αρχική μορφή, μόλις ένα χρόνο πριν. Ωστόσο, το μεγαλύτερο μέρος της επίθεσης περιλάμβανε παραδοσιακή ανθρώπινη παρέμβαση σε διάφορα στάδια κατά τη διάρκεια της διαδικασίας. Η Anthropic δήλωσε ότι μοιράζεται αυτό το περιστατικό δημόσια για να βοηθήσει “τη βιομηχανία, την κυβέρνηση και την ευρύτερη ερευνητική κοινότητα να ενισχύσουν τις δικές τους κυβερνοάμυνες“.
Οι επικριτές των αναφορών σχετικά με τις απειλές AI γρήγορα εκμεταλλεύτηκαν την απόφαση της Anthropic να μην κυκλοφορήσει δείκτες παραβίασης (IOCs), ισχυριζόμενοι ότι η παράλειψη υπονομεύει την αξία της έρευνας.
Αλλά οι έμπειροι ηγέτες απειλών λένε ότι αυτή η κριτική παρεξηγεί τη φύση των επιθέσεων που οδηγούνται από την AI. “Οι ερευνητές πάντα θέλουν να δουν όλους τους IOCs“, λέει η Morgan Adamski. “Αλλά μπορεί να υπάρχουν πολύ συγκεκριμένοι λόγοι που δεν συμπεριλήφθηκαν. Η λεπτομέρεια του πώς ένας αντίπαλος πραγματικά το διεξήγαγε θα μπορούσε ουσιαστικά να δώσει το εγχειρίδιο σε άλλους αντιπάλους“.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Με τη σειρά του, ο Rob T. Lee, επικεφαλής AI στο SANS Institute, είπε: “Η Anthropic δεν είναι μια εταιρεία κυβερνοασφάλειας όπως η Mandiant ή η Google, οπότε δώστε τους ένα διάλειμμα. Και ποιοι δείκτες παραβίασης πρόκειται πραγματικά να βοηθήσουν τους υπερασπιστές; Τι πρέπει να κάνουν — να κυκλοφορήσουν IOCs που μόνο αυτοί μπορούν να χρησιμοποιήσουν; Είναι γελοίο“.
Δείτε επίσης: Κακόβουλο πακέτο npm αποφεύγει τα εργαλεία ασφαλείας AI
Από την πλευρά της, η Anthropic λέει πως η η κυκλοφορία IOCs, προτροπών ή τεχνικών λεπτομερειών μπορεί να δώσει στους παράγοντες απειλών ένα εγχειρίδιο για να το χρησιμοποιήσουν πιο ευρέως.
Πώς οι CISOs θα μπορούσαν να ανταποκριθούν σε αυτή τη σύγχυση
Οι αντιφατικές αφηγήσεις γύρω από τις απειλές της AI αφήνουν πολλούς CISOs να αγωνίζονται να συμφιλιώσουν τον θόρυβο με την επιχειρησιακή πραγματικότητα.
Δεδομένης της εμφάνισης κυβερνοαπειλών AI, εν μέσω της αντίδρασης από ορισμένους ειδικούς κυβερνοασφάλειας που υποστηρίζουν ότι αυτές οι απειλές δεν είναι πραγματικές, ο CEO της Sophos, Joe Levy, ότι η AI γίνεται ένα “τεστ Rorschach, που σημαίνει ότι όπως και αν επιλέξουν να το δουν τα άτομα, αυτό είναι το μοτίβο που θα βρουν εκεί“. Ωστόσο, ο Levy προειδοποιεί ότι οι ηγέτες πρέπει να έχουν μια πιο ισορροπημένη άποψη της κατάστασης.
“Αυτό το στοιχείο είναι σίγουρα πραγματικό. Αλλά δεν νομίζω ότι μέχρι αυτό το σημείο έχουμε δει μια σημαντική κλιμάκωση που εμποδίζει την ικανότητά μας να χρησιμοποιούμε το τρέχον σύνολο αμυνών μας στο ίδιο επίπεδο αποτελεσματικότητας“. Η Adamski της PwC τονίζει ότι οι CISOs πρέπει να είναι έτοιμοι να αναστρέψουν νέες άμυνες αμέσως, δεδομένου του πόσο γρήγορη θα είναι η νέα εποχή της AI.
Δείτε επίσης: Microsoft: Κίνδυνοι ασφαλείας από τη νέα λειτουργία Agentic AI
“Από αμυντική άποψη, θα πρέπει να είναι δευτερόλεπτα“, λέει. Πιστεύει επίσης ότι είναι σημαντικό να διαλυθεί οποιαδήποτε σύγχυση ότι οι απειλές AI δεν είναι πραγματικές. “Η ουσία είναι ότι είναι μια αναδυόμενη τεχνολογία και δυνατότητα που οι αντίπαλοί μας μπορούν να αξιοποιήσουν. Υπάρχει, και ξέρουμε ότι υπάρχουν άνθρωποι εκεί έξω που το δοκιμάζουν, το αναπτύσσουν και, ειλικρινά, είναι επιτυχημένοι στη χρήση του“, λέει.
Ο Clyde Williamson, ανώτερος αρχιτέκτονας ασφάλειας προϊόντων στην Protegrity, συμφωνεί ότι είναι επικίνδυνο να υποθέσουμε ότι οι επιτιθέμενοι δεν θα εκμεταλλευτούν τα Generative AI εργαλεία. “Οποιοσδήποτε έχει αυτή τη νοοτροπία χάκερ, όταν παρουσιάζεται με ένα εργαλείο αυτοματοποίησης όπως αυτό που έχουμε τώρα με το Generative AI, θα το χρησιμοποιήσει για να βελτιώσει τις δεξιότητές του“, λέει στο CSO.
