Το AI sandbox δεν αποδεικνύεται πάντα τόσο απομονωμένο όσο υποθέτουν οι ερευνητές. Νέα περιστατικά δείχνουν ότι μοντέλα από τις OpenAI, Anthropic, Meta και Moonshot AI έφτασαν σε πραγματικά συστήματα, ενώ αξιολογούνταν σε ελεγχόμενα περιβάλλοντα κυβερνοασφάλειας.
Το ζήτημα δεν είναι ότι οι πράκτορες έλαβαν εντολή να επιτεθούν σε τυχαίους στόχους. Προσπαθούσαν να λύσουν τις εργασίες αξιολόγησης και αξιοποίησαν διαδρομές που οι ομάδες δοκιμών θεωρούσαν κλειστές, φτάνοντας έτσι σε πραγματικά συστήματα. Η εξέλιξη αυτή μεταφέρει το βάρος της άμυνας από το μοντέλο στην υποδομή που το φιλοξενεί.
Δείτε επίσης: OpenAI Astra: Παύση στο ισχυρότερο AI μοντέλο λόγω κρίσιμων δυνατοτήτων κυβερνοασφάλειας
Πώς έσπασαν τα όρια του AI sandbox
Η OpenAI ανέφερε ότι μοντέλα που δοκιμάζονταν στο ExploitGym εντόπισαν και εκμεταλλεύτηκαν zero-day ευπάθεια στο Artifactory, έναν εσωτερικά φιλοξενούμενο διακομιστή μεσολάβησης και προσωρινής αποθήκευσης για πακέτα. Από εκεί προχώρησαν σε κλιμάκωση δικαιωμάτων και πλευρική μετακίνηση, μέχρι να βρουν κόμβο με πρόσβαση στο διαδίκτυο.
Στη συνέχεια, τα μοντέλα συνέδεσαν ευπάθειες στο ερευνητικό περιβάλλον της OpenAI με την υποδομή παραγωγής της Hugging Face. Η εταιρεία περιέγραψε πρόσβαση σε δεδομένα που σχετίζονταν με το benchmark, ενώ διευκρίνισε ότι το περιστατικό αφορούσε εσωτερικό πρωτότυπο και όχι μοντέλο που προοριζόταν για άμεση κυκλοφορία. Η επίσημη ενημέρωση της OpenAI αναφέρει ότι η έρευνα συνεχίζεται.
Η Anthropic δημοσίευσε ξεχωριστή ανασκόπηση, αφού εξέτασε 141.006 εκτελέσεις αξιολογήσεων. Εντόπισε τρία περιστατικά στα οποία μοντέλα Claude απέκτησαν πρόσβαση στο διαδίκτυο εξαιτίας παρεξήγησης στη ρύθμιση του περιβάλλοντος από την εταιρεία και τον εξωτερικό συνεργάτη Irregular.
Σε μία περίπτωση, το Claude Opus 4.7 έφτασε σε πραγματική εταιρεία, επειδή το όνομα του υποτιθέμενου στόχου ταίριαζε με ενεργό διαδικτυακό τόπο. Σε τέσσερις εκτελέσεις απέκτησε διαπιστευτήρια και πρόσβαση σε βάση δεδομένων με εκατοντάδες γραμμές παραγωγικών δεδομένων. Σε άλλη περίπτωση, το Claude Mythos 5 δημοσίευσε κακόβουλο πακέτο στο PyPI, το οποίο εκτελέστηκε σε 15 πραγματικά συστήματα.
Δείτε επίσης: Meta Muse Spark: Το AI μοντέλο παραβίασε εταιρεία σε δοκιμές
AI sandbox και πραγματικά συστήματα
Τα περιστατικά δείχνουν γιατί ένα AI sandbox χρειάζεται τους ίδιους αυστηρούς ελέγχους με ένα παραγωγικό σύστημα. Όταν απενεργοποιούνται οι συνήθεις δικλίδες ασφαλείας για να μετρηθούν οι πραγματικές δυνατότητες ενός μοντέλου, η απομόνωση, η παρακολούθηση και η έγκαιρη διακοπή της δοκιμής γίνονται η τελευταία γραμμή άμυνας.
Η Anthropic, στην αναφορά για τα τρία περιστατικά, προτείνει αυστηρό έλεγχο όλων των διαδρομών προς το διαδίκτυο, συνεχή παρακολούθηση των αρχείων καταγραφής και σαφή ορισμό των συστημάτων που ανήκουν ή δεν ανήκουν στο πεδίο μιας αξιολόγησης. Η εταιρεία ανακοίνωσε επίσης τρίτο, ανεξάρτητο έλεγχο της διαδικασίας.
Ερευνητές που μίλησαν στο TechCrunch ζήτησαν πολυεπίπεδη προστασία, δίκτυα χωρίς εξωτερική σύνδεση και ανεξάρτητους ελέγχους πριν από κάθε αξιολόγηση. Η βασική αρχή είναι απλή: κάθε μοντέλο με ισχυρές δυνατότητες κυβερνοασφάλειας πρέπει να αντιμετωπίζεται σαν εξαιρετικά ικανός επιτιθέμενος μέσα στο περιβάλλον αξιολόγησης.
Τι αλλάζει για τις εταιρείες AI
Η πρόκληση είναι να διατηρηθεί η ρεαλιστική αξιολόγηση χωρίς να δημιουργείται αθέλητη γέφυρα προς πραγματικές υπηρεσίες. Η λύση δεν περιορίζεται σε ένα τείχος προστασίας: απαιτεί τμηματοποίηση του δικτύου, έλεγχο εξόδου, ανεξάρτητη επαλήθευση ρυθμίσεων και μηχανισμό άμεσης παύσης όταν εμφανίζονται ασυνήθιστες ενέργειες.
Το AI sandbox πρέπει επίσης να ελέγχεται πριν, κατά τη διάρκεια και μετά την αξιολόγηση. Η διατήρηση αρχείων καταγραφής, η ανασκόπηση των συνομιλιών και η δοκιμή των ίδιων των αμυνών μπορούν να αποκαλύψουν διαδρομές που δεν φαίνονται σε έναν αρχικό έλεγχο ρύθμισης.
Η εξέλιξη έχει και οργανωτική διάσταση. Οι ομάδες ανάπτυξης χρειάζονται σαφή όρια ευθύνης, καταγεγραμμένες εγκρίσεις και ανεξάρτητο έλεγχο πριν ανοίξουν οποιαδήποτε σύνδεση. Ένα περιβάλλον αξιολόγησης που λειτουργεί με προσωρινές εξαιρέσεις μπορεί να γίνει αδύναμος κρίκος, ακόμη και όταν η πρόθεση είναι αποκλειστικά ερευνητική.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Δείτε επίσης: CoreBreak: Οι κρίσιμες ευπάθειες σε υποδομές AI agents
Η συζήτηση πλέον δεν αφορά μόνο το αν ένα μοντέλο μπορεί να παρακάμψει τους κανόνες. Αφορά το αν οι οργανισμοί μπορούν να αποδείξουν ότι οι κανόνες ισχύουν στην πράξη, ακόμη και όταν το μοντέλο αναζητά επίμονα μια λύση. Για την τεχνική ομάδα του SecNews, η απομόνωση πρέπει να θεωρείται απαίτηση σχεδιασμού και όχι υπόθεση εργασίας.
