Μάθετε τα πάντα για το Agent Governance Toolkit της Microsoft

Η Microsoft παρουσίασε το Agent Governance Toolkit, ένα project ανοιχτού κώδικα σχεδιασμένο να παρακολουθεί και να ελέγχει τους AI agents κατά την εκτέλεση, καθώς οι επιχειρήσεις προσπαθούν να τους ενσωματώσουν σε παραγωγικές ροές εργασίας. Το toolkit, το οποίο αποτελεί απάντηση στην αυξανόμενη εστίαση του Open Worldwide Application Security Project (OWASP) στους κινδύνους ασφάλειας AI και LLM, προσθέτει ένα επίπεδο ασφάλειας, κατά την εκτέλεση, που επιβάλλει πολιτικές για την αντιμετώπιση ζητημάτων, όπως το prompt injection, και βελτιώνει την ορατότητα στη συμπεριφορά των πρακτόρων σε πολύπλοκες ροές εργασίας πολλών βημάτων.

Πιο συγκεκριμένα, το toolkit χαρτογραφεί τους 10 κορυφαίους κινδύνους του OWASP για agentic συστήματα, συμπεριλαμβανομένων των goal hijacking, tool misuse, identity abuse, supply chain risks, code execution, memory poisoning, insecure communications, cascading failures, human-agent trust exploitation και rogue agents.

Δείτε επίσης: Contagious Interview – Βόρεια Κορέα: 1.700 κακόβουλα πακέτα npm, PyPI, Go, Rust

Πώς λειτουργεί το Agent Governance Toolkit της Microsoft 

Η λογική πίσω από το toolkit, σύμφωνα με το στέλεχος της Microsoft Imran Siddique, προέρχεται από το πώς τα συστήματα AI μοιάζουν ολοένα και περισσότερο με χαλαρά ελεγχόμενα κατανεμημένα περιβάλλοντα, όπου πολλαπλά μη αξιόπιστα στοιχεία μοιράζονται πόρους, λαμβάνουν αποφάσεις και αλληλεπιδρούν εξωτερικά με ελάχιστη εποπτεία.

Αυτό ώθησε τη Microsoft να εφαρμόσει αποδεδειγμένα design patterns από λειτουργικά συστήματα, service meshes και reliability engineering για να φέρει δομή, απομόνωση και έλεγχο σε αυτά τα περιβάλλοντα, πρόσθεσε ο Siddique. Το αποτέλεσμα ήταν η συγχώνευση αυτών των αρχών στο toolkit που αποτελείται από επτά στοιχεία διαθέσιμα σε Python, TypeScript, Rust, Go και .NET.

Η προσέγγιση πολλαπλών γλωσσών, σύμφωνα με τον Siddique, στοχεύει στο να συναντήσει τους προγραμματιστές εκεί που βρίσκονται και να επιτρέψει την ενσωμάτωση σε ετερογενή enterprise stacks. Όσον αφορά τα στοιχεία, το toolkit περιλαμβάνει modules όπως ένα policy enforcement layer με την ονομασία Agent OS, ένα πλαίσιο ασφαλούς επικοινωνίας και ταυτότητας με την ονομασία Agent Mesh, ένα περιβάλλον ελέγχου εκτέλεσης με την ονομασία Agent Runtime και πρόσθετα στοιχεία, όπως τα Agent SRE, Agent Compliance και Agent Lightning, που καλύπτουν την αξιοπιστία, τη συμμόρφωση, τη διακυβέρνηση της αγοράς και την εποπτεία του reinforcement learning.

Δείτε επίσης: Επίθεση zero-day στοχεύει χρήστες του Adobe Reader

Πέρα από τον modular σχεδιασμό του, ο Siddique έγραψε περαιτέρω ότι το toolkit είναι κατασκευασμένο για να λειτουργεί με υπάρχοντα οικοσυστήματα development: “Σχεδιάσαμε το toolkit για να είναι framework-agnostic από την πρώτη μέρα. Κάθε ενσωμάτωση συνδέεται με τα εγγενή extension points ενός framework, τους callback handlers του LangChain, τους task decorators του CrewAI, το plugin system του Google ADK, τον middleware pipeline του Microsoft Agent Framework, έτσι ώστε η προσθήκη διακυβέρνησης να μην απαιτεί την επανεγγραφή του κώδικα του agent“.

Αυτή η προσέγγιση θα μείωνε το κόστος και τον κίνδυνο ενσωμάτωσης, επιτρέποντας στους προγραμματιστές να εισάγουν governance controls σε production systems χωρίς να διαταράσσουν τις υπάρχουσες ροές εργασίας ή να επιβαρύνουν με το κόστος και την πολυπλοκότητα της αναδιάρθρωσης των εφαρμογών.

Δείτε επίσης: Ιρανοί Hackers Στοχεύουν Κρίσιμες Υποδομές ΗΠΑ με Επιθέσεις σε PLC

Ο Siddique προχώρησε ακόμη και στο να δώσει παραδείγματα αρκετών framework integrations που έχουν ήδη αναπτυχθεί σε production workloads, συμπεριλαμβανομένης της ενσωμάτωσης TrustedAgentWorker του LlamaIndex.

Όσοι επιθυμούν να εξερευνήσουν το toolkit, το οποίο βρίσκεται αυτή τη στιγμή σε δημόσια προεπισκόπηση, πρέπει να γνωρίζουν ότι είναι διαθέσιμο με MIT license και δομημένο ως monorepo με ανεξάρτητα installable components.

Η Microsoft, στο μέλλον, σχεδιάζει να μεταφέρει το project σε ένα foundation-led model και ήδη συνεργάζεται με την κοινότητα agentic AI του OWASP για να υποστηρίξει ευρύτερο governance και διαχείριση.