Το Εθνικό Κέντρο Κυβερνοασφάλειας του Ηνωμένου Βασιλείου (NCSC) συνιστούν προσεκτική υιοθέτηση της agentic AI, επισημαίνοντας τους αυξανόμενους κυβερνοκινδύνους και λειτουργικούς κινδύνους που συνδέονται με τα εξαιρετικά αυτόνομα συστήματα AI.
Σε ένα νέο έγγραφο κατευθυντήριων γραμμών, που συνυπογράφεται με διεθνείς εταίρους, το NCSC ανέφερε ότι οι επιχειρήσεις πρέπει να μη βιάζονται για μαζική ανάπτυξη εργαλείων agentic AI και να κατανοούν πρώτα τις επιπτώσεις στην ασφάλεια. Οι κατευθυντήριες γραμμές συνιστούν να ξεκινήσουν με περιπτώσεις χαμηλού κινδύνου, να περιορίσουν τα προνόμια του συστήματος και να διατηρήσουν ισχυρή ανθρώπινη εποπτεία κατά τη διάρκεια της ανάπτυξης.
Η συμβουλή έρχεται καθώς οι οργανισμοί πειραματίζονται όλο και περισσότερο με συστήματα AI ικανά να λαμβάνουν αποφάσεις, να έχουν πρόσβαση σε εργαλεία και να εκτελούν ενέργειες με περιορισμένη ανθρώπινη παρέμβαση.
Δείτε επίσης: Claw Chain: Ευπάθειες OpenClaw επιτρέπουν πλήρη παραβίαση συστημάτων
Τι είναι η Agentic AI;
Σε αντίθεση με τα παραδοσιακά συστήματα generative AI, που κυρίως δημιουργούν κείμενο, εικόνες ή προβλέψεις, τα συστήματα agentic AI είναι σχεδιασμένα να επιδιώκουν ανεξάρτητα στόχους. Αυτά τα συστήματα μπορούν να έχουν πρόσβαση σε πηγές δεδομένων, να θυμούνται το πλαίσιο, να λαμβάνουν αποφάσεις, να αλληλεπιδρούν με εργαλεία λογισμικού, ακόμη και να δημιουργούν υπο-πράκτορες για την ολοκλήρωση εργασιών.
Σύμφωνα με το NCSC, αυτή η πρόσθετη αυτονομία καθιστά την agentic AI χρήσιμη για τομείς όπως η κυβερνοάμυνα, η αυτοματοποίηση ροής εργασιών και η λειτουργική αποδοτικότητα. Ωστόσο, εισάγει επίσης μια ευρύτερη επιφάνεια επίθεσης και αυξάνει τη δυσκολία παρακολούθησης της συμπεριφοράς του συστήματος.
Η υπηρεσία σημείωσε ότι πολλοί κίνδυνοι ασφαλείας, που συνδέονται με την AI, δεν είναι εντελώς νέοι. Ανησυχίες γύρω από τον έλεγχο πρόσβασης, την ασφάλεια της αλυσίδας εφοδιασμού, την παρακολούθηση και την απόκριση σε περιστατικά ήδη υπάρχουν στα παραδοσιακά συστήματα IT. Τα συστήματα agentic AI κληρονομούν επίσης υπάρχοντες κινδύνους μεγάλων γλωσσικών μοντέλων, συμπεριλαμβανομένων επιθέσεων εισαγωγής εντολών και επιθέσεων jailbreaking.
Ωστόσο, το ΝCSC προειδοποίησε ότι η αυτονομία των συστημάτων agentic AI μπορεί να ενισχύσει αυτά τα ζητήματα, ειδικά αν οι οργανισμοί τα αναπτύξουν χωρίς κατάλληλες διασφαλίσεις.
Γιατί η Agentic AI Αυξάνει τους Κινδύνους Ασφαλείας
Οι κατευθυντήριες γραμμές περιγράφουν αρκετούς κινδύνους που συνδέονται με τις αναπτύξεις agentic AI. Ένα από τα κύρια ζητήματα είναι η ευρύτερη πρόσβαση σε συστήματα και ευαίσθητα δεδομένα. Οι AI agents μπορεί να αλληλεπιδρούν με εξωτερικά εργαλεία, APIs ή βάσεις δεδομένων με τρόπους που οι παραδοσιακές εφαρμογές AI δεν το κάνουν.
Δείτε επίσης: H TeamPCP πουλά code repos της Mistral AI
Το ΝCSC, επίσης, τόνισε τη δυνατότητα απρόβλεπτης συμπεριφοράς. Δεδομένου ότι οι AI agents ερμηνεύουν στόχους αυτόνομα, μπορεί να λάβουν ενέργειες που διαφέρουν από τις ανθρώπινες προσδοκίες ή να υπερβούν το προβλεπόμενο πεδίο εφαρμογής τους.
Μια άλλη πρόκληση αφορά την ορατότητα και την εποπτεία. Τα αυτόνομα συστήματα μπορούν να λειτουργούν με ταχύτητες που καθιστούν δύσκολη την ουσιαστική ανθρώπινη ανασκόπηση, ιδιαίτερα σε επιχειρηματικά περιβάλλοντα όπου πολλά συστήματα και ροές εργασιών είναι διασυνδεδεμένα.
Οι κατευθυντήριες γραμμές σημείωσαν περαιτέρω ότι η εξήγηση της συμπεριφοράς των συστημάτων agentic AI μπορεί να είναι πιο δύσκολη από την κατανόηση των συμβατικών μοντέλων AI. Ο συνδυασμός λήψης αποφάσεων, χρήσης εργαλείων και αυτόνομων ενεργειών δημιουργεί πρόσθετη πολυπλοκότητα κατά τη διάρκεια ερευνών περιστατικών ή ελέγχων συμμόρφωσης.
Το NCSC Καλεί για Σταδιακή Ανάπτυξη Agentic AI
Για να μειωθούν οι κίνδυνοι, το ΝCSC προέτρεψε τους οργανισμούς να υιοθετήσουν την agentic AI σταδιακά αντί να την αναπτύξουν σε κρίσιμα συστήματα από την αρχή.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Οι αρχές συνιστούν αυστηρά ελεγχόμενες πιλοτικές αναπτύξεις που επικεντρώνονται σε σαφώς καθορισμένες, χαμηλού κινδύνου εργασίες. Οι οργανώσεις ενθαρρύνονται επίσης να αξιολογήσουν αν η AI είναι πραγματικά απαραίτητη πριν ενσωματώσουν αυτόνομους πράκτορες στις υπάρχουσες ροές εργασιών.
“Αν δεν μπορείτε να κατανοήσετε, να παρακολουθήσετε ή να περιορίσετε τις ενέργειες ενός πράκτορα, δεν είναι έτοιμος για ανάπτυξη”, αναφέρει η κατευθυντήρια γραμμή.
Η υπηρεσία τόνισε ότι οι οργανώσεις δεν πρέπει ποτέ να παρέχουν απεριόριστη πρόσβαση σε ευαίσθητα δεδομένα ή κρίσιμη υποδομή. Η διατήρηση της ορατότητας στη συμπεριφορά του συστήματος AI και η διατήρηση ουσιαστικού ανθρώπινου ελέγχου αναγνωρίστηκαν ως βασικές απαιτήσεις για ασφαλή ανάπτυξη.
Δείτε επίσης: Η OpenAI επιβεβαιώνει παραβίαση μέσω του TanStack supply chain attack
Η Ανθρώπινη Υπευθυνότητα Παραμένει Απαραίτητη
Παρά τις αυξανόμενες δυνατότητες των αυτόνομων συστημάτων AI, το NCSC τόνισε ότι οι άνθρωποι παραμένουν πλήρως υπεύθυνοι για το πώς χρησιμοποιούνται αυτές οι τεχνολογίες. Η κατευθυντήρια γραμμή αναφέρει ότι οι οργανώσεις πρέπει να καθορίζουν σαφώς ποιος είναι υπεύθυνος για την έγκριση πρόσβασης AI, την παρακολούθηση της συμπεριφοράς του συστήματος, την ανασκόπηση περιστατικών και το κλείσιμο συστημάτων όταν είναι απαραίτητο.
Οι ομάδες ασφαλείας καλούνται, επίσης, να ενσωματώσουν τη διαχείριση κινδύνων agentic AI στα υπάρχοντα πλαίσια κυβερνοασφάλειας και διακυβέρνησης αντί να αντιμετωπίζουν την ασφάλεια AI ως ξεχωριστή διαδικασία.
Οι συνιστώμενες πρακτικές περιλαμβάνουν την εφαρμογή ελέγχων πρόσβασης με το λιγότερο προνόμιο, τον περιορισμό του πεδίου εφαρμογής του συστήματος, την αποφυγή μακροχρόνιων διαπιστευτηρίων, την παρακολούθηση ασυνήθιστης συμπεριφοράς και τον σχεδιασμό για περιστατικά που αφορούν κακή χρήση AI ή απώλεια ελέγχου.
