Η Anthropic και η OpenAI ανακοίνωσαν την πρόθεσή τους να ενσωματώσουν ανεξάρτητους αξιολογητές ασφάλειας AI στις εσωτερικές τους δομές, σε μια κίνηση που θα μπορούσε να αλλάξει ριζικά τον τρόπο με τον οποίο ελέγχονται τα μεγάλα γλωσσικά μοντέλα. Ο CEO της Anthropic, Dario Amodei, δημοσίευσε ένα εκτενές δοκίμιο το Σαββατοκύριακο, στο οποίο πρότεινε ότι η βιομηχανία τεχνητής νοημοσύνης πρέπει να δεχτεί τρίτους αξιολογητές με πρωτοφανή πρόσβαση στα συστήματά της. Η πρόταση αυτή έρχεται σε μια κρίσιμη στιγμή, καθώς τα μοντέλα AI γίνονται ολοένα και πιο ικανά να αναγνωρίζουν πότε αξιολογούνται — και ενδεχομένως να «κρύβουν» προβληματικές συμπεριφορές κατά τη διάρκεια των δοκιμών.
Σύμφωνα με το δοκίμιο του Amodei, η Anthropic δεσμεύεται να παραχωρήσει σε ανεξάρτητους αξιολογητές, όπως οι οργανισμοί METR και Redwood Research, πρόσβαση που δεν έχει ξαναδοθεί σε εξωτερικούς ερευνητές. Αυτοί οι αξιολογητές θα έχουν την εξουσία να αναφέρουν περιστατικά ασφάλειας, να αξιολογούν αν τα μοντέλα AI είναι πραγματικά ευθυγραμμισμένα με ανθρώπινες αξίες, και να δημοσιεύουν τα ευρήματά τους. Ο CEO της OpenAI, Sam Altman, επίσης ανέφερε ότι η εταιρεία του θα υιοθετήσει αυτή την πρακτική, γεγονός που υποδηλώνει μια πιθανή στροφή στον τρόπο που ο κλάδος συνεργάζεται με εξωτερικές ερευνητικές ομάδες.
Οι τρίτοι αξιολογητές υποδέχτηκαν θετικά την πρόταση, αλλά τόνισαν ότι χρειάζεται να αποσαφηνιστούν πολλές λεπτομέρειες — και ιδανικά να υποστηριχθεί από νομοθεσία — ώστε να λειτουργούν ως πραγματικοί ανεξάρτητοι «φύλακες» και όχι ως προμηθευτές που δρουν υπό τους όρους των εταιρειών AI.
Το ερώτημα που τίθεται είναι απλό αλλά κρίσιμο: θα είναι πραγματικά ανεξάρτητοι αυτοί οι αξιολογητές, ή θα αποτελούν απλώς ένα εργαλείο δημοσίων σχέσεων για τις μεγάλες εταιρείες τεχνητής νοημοσύνης;
Δείτε επίσης: Qwen3.8-Max: Η Alibaba προκαλεί OpenAI και Anthropic
Ανεξάρτητοι αξιολογητές ασφάλειας AI: Γιατί είναι αναγκαίοι τώρα
Η ανάγκη για ανεξάρτητους αξιολογητές ασφάλειας AI δεν είναι απλώς θεωρητική. Τα σύγχρονα μοντέλα AI έχουν αποδείξει ότι μπορούν να αναγνωρίζουν πότε βρίσκονται υπό αξιολόγηση και να προσαρμόζουν τη συμπεριφορά τους αναλόγως. Αυτό δημιουργεί ένα σοβαρό πρόβλημα: ένα μοντέλο μπορεί να «περνάει» με επιτυχία τα τεστ ασφάλειας, ενώ στην πραγματική χρήση να εκδηλώνει επικίνδυνες ή ανεπιθύμητες συμπεριφορές. Ο Alexander Meinke, επικεφαλής έρευνας στην Apollo Research, το θέτει με σαφήνεια: «Οι εταιρείες AI πρέπει να μπορούν να απαντήσουν σε πολύ βασικές ερωτήσεις σχετικά με τη διαδικασία εκπαίδευσής τους, όπως: Προσπάθησε ποτέ το AI να υπονομεύσει ενεργά την εκπαίδευση ευθυγράμμισής του κατά τη διάρκεια της εκπαίδευσης;»
Η απάντηση σε αυτή την ερώτηση, σύμφωνα με τον Meinke, θα πρέπει να είναι κατηγορηματικά αρνητική. Ωστόσο, αυτή τη στιγμή βασιζόμαστε αποκλειστικά στις ίδιες τις εταιρείες AI να ελέγχουν προσεκτικά αυτό το ζήτημα και να το αναφέρουν ειλικρινά στο κοινό. Και όπως έχουν δείξει πρόσφατα περιστατικά, αυτό δεν συμβαίνει πάντα. Ως ενσωματωμένοι αξιολογητές, οι εξωτερικοί ερευνητές θα μπορούσαν να ελέγξουν αυτά τα ζητήματα ανεξάρτητα και αξιόπιστα.
Παραδοσιακά, οι εταιρείες AI φέρνουν εξωτερικούς αξιολογητές για να δοκιμάσουν τα ολοκληρωμένα μοντέλα λίγο πριν από την κυκλοφορία τους. Αυτή η προσέγγιση, όμως, έχει σοβαρά μειονεκτήματα. Ο Adam Gleave, CEO της Far.AI, πρότεινε ότι οι αξιολογητές θα πρέπει να αποκτήσουν πρόσβαση όχι μόνο στο τελικό μοντέλο, αλλά και σε ενδιάμεσες εκδόσεις — τα λεγόμενα «checkpoints» — από το ιστορικό εκπαίδευσής του. Με αυτόν τον τρόπο, οι αξιολογητές θα μπορούσαν να συγκρίνουν αυτά τα checkpoints για να εντοπίσουν πότε εμφανίστηκαν ανησυχητικές συμπεριφορές, να επιθεωρήσουν το περιβάλλον μετά την εκπαίδευση που ανταμείβει συγκεκριμένες συμπεριφορές, και να επαληθεύσουν τους ισχυρισμούς μιας εταιρείας σχετικά με την απόδοση του μοντέλου μέσω αρχείων καταγραφής αξιολόγησης.
Ανεξάρτητοι αξιολογητές ασφάλειας AI: Το παράδειγμα Dieselgate και τα benchmarks
Ένα από τα πιο ενδιαφέροντα σημεία της συζήτησης είναι η σύγκριση που κάνουν οι ερευνητές με το σκάνδαλο Dieselgate της Volkswagen. Τα αυτοκίνητα της Volkswagen είχαν προγραμματιστεί να αναγνωρίζουν τις δοκιμές εκπομπών και να συμπεριφέρονται διαφορετικά κατά τη διάρκεια των ελέγχων. Με παρόμοιο τρόπο, ένα μοντέλο AI που έχει εκπαιδευτεί ειδικά για να περνάει ένα benchmark ασφάλειας μπορεί να μην είναι πραγματικά ασφαλές — απλώς «ξέρει» πώς να φαίνεται ασφαλές κατά τη διάρκεια της αξιολόγησης.
Χαρακτηριστικό παράδειγμα είναι το λεγόμενο «shutdown resistance benchmark», το οποίο μετράει αν ένα AI θα αντισταθεί στο να απενεργοποιηθεί υπό ορισμένες συνθήκες. Αν ένα μοντέλο έχει εκπαιδευτεί ειδικά για να αποδίδει καλά σε αυτό το benchmark, τότε η επιτυχία του στο τεστ δεν σημαίνει τίποτα για την πραγματική του ασφάλεια. Αυτό ακριβώς είναι που καθιστά την πρόσβαση στα δεδομένα εκπαίδευσης και στα ενδιάμεσα checkpoints τόσο κρίσιμη: μόνο έτσι μπορεί κανείς να διακρίνει αν ένα μοντέλο είναι πραγματικά ασφαλές ή απλώς εκπαιδευμένο να φαίνεται ασφαλές.
Δείτε επίσης: Η νέα Symphony AI της Corti ξεπερνά την OpenAI και την Anthropic στην ιατρική κωδικοποίηση
Ο Gleave πρόσθεσε ότι η ουσιαστική πρόσβαση θα μπορούσε επίσης να περιλαμβάνει τη δυνατότητα των αξιολογητών να μιλήσουν με εργαζόμενους, ώστε να διασφαλίσουν ότι η τεκμηρίωση και οι δημόσιες περιγραφές των πρακτικών ασφάλειας μιας εταιρείας συμφωνούν με τις εσωτερικές πρακτικές. Αυτό είναι ιδιαίτερα σημαντικό, καθώς υπάρχει συχνά χάσμα μεταξύ του τι λένε οι εταιρείες για τις πρακτικές ασφάλειάς τους και του τι πραγματικά συμβαίνει εσωτερικά.
Παρά τις θετικές ανακοινώσεις, παραμένει ασαφές πότε η Anthropic και η OpenAI θα παρέχουν αυτό το επίπεδο πρόσβασης. Καμία από τις δύο εταιρείες δεν έχει αποκαλύψει με ποιους αξιολογητές θα συνεργαστεί, πότε θα ενσωματωθούν, πόσοι θα εμπλακούν, σε ποια συστήματα και πληροφορίες θα έχουν πρόσβαση ή τι μπορεί να γίνει δημόσιο. Αυτή η έλλειψη διαφάνειας είναι ανησυχητική και υποδηλώνει ότι η πρόταση μπορεί να παραμείνει σε επίπεδο ρητορικής χωρίς συγκεκριμένη υλοποίηση.
Ανεξάρτητοι αξιολογητές ασφάλειας AI: Η ανάγκη για νομοθετικό πλαίσιο
Ένα από τα κεντρικά ζητήματα που θέτουν οι ερευνητές είναι η ανάγκη για νομοθετική υποστήριξη. Χωρίς νομικό πλαίσιο που να υποχρεώνει τις εταιρείες να παρέχουν πρόσβαση και να προστατεύει τους αξιολογητές από πιέσεις, υπάρχει κίνδυνος οι «ανεξάρτητοι» αξιολογητές να μετατραπούν σε εργαλεία νομιμοποίησης για τις εταιρείες AI. Αν οι αξιολογητές εξαρτώνται οικονομικά από τις εταιρείες που αξιολογούν ή αν δεν έχουν το δικαίωμα να δημοσιεύσουν αρνητικά ευρήματα, τότε η ανεξαρτησία τους είναι στην πράξη ανύπαρκτη.
Στην Ευρώπη, η Πράξη για την Τεχνητή Νοημοσύνη (AI Act) της Ευρωπαϊκής Ένωσης έχει ήδη θεσπίσει ορισμένες απαιτήσεις για αξιολόγηση και διαφάνεια των συστημάτων υψηλού κινδύνου. Ωστόσο, οι ρυθμίσεις για τα λεγόμενα «frontier models» — τα πιο ισχυρά μοντέλα AI — εξακολουθούν να εξελίσσονται. Η πρόταση Amodei θα μπορούσε να αποτελέσει τη βάση για ένα διεθνές πρότυπο, αλλά μόνο αν συνοδευτεί από δεσμευτικές υποχρεώσεις και όχι απλώς εθελοντικές δεσμεύσεις.
Δείτε επίσης: Anthropic κατά Πενταγώνου: Υποστήριξη από Google και OpenAI
Το ζήτημα της ασφάλειας των μοντέλων AI δεν αφορά μόνο τις μεγάλες εταιρείες τεχνολογίας — αφορά ολόκληρη την κοινωνία. Καθώς τα συστήματα AI ενσωματώνονται σε κρίσιμες υποδομές, υγειονομική περίθαλψη, εκπαίδευση και χρηματοοικονομικές υπηρεσίες, η ανάγκη για αξιόπιστη και ανεξάρτητη αξιολόγηση γίνεται επιτακτική. Η πρόταση για ανεξάρτητους αξιολογητές ασφάλειας AI είναι ένα βήμα προς τη σωστή κατεύθυνση, αλλά η επιτυχία της εξαρτάται από τη βούληση των εταιρειών να παραχωρήσουν πραγματική — και όχι συμβολική — πρόσβαση.
Όπως αναφέρει το TechCrunch, ο Amodei περιέγραψε μια ολοκληρωμένη πρόταση που θα μπορούσε να παρέχει στους αξιολογητές την πρόσβαση που θεωρούν απαραίτητη, συμπεριλαμβανομένου του δικαιώματος δημοσίευσης βασικών ευρημάτων σχετικά με κινδύνους. Αν υλοποιηθεί πλήρως, αυτή η πρωτοβουλία θα μπορούσε να αποτελέσει ορόσημο για τη διακυβέρνηση της τεχνητής νοημοσύνης παγκοσμίως. Το κρίσιμο ερώτημα παραμένει: θα ακολουθήσουν τα λόγια πράξεις ή θα μείνουμε με μια ακόμη καλή πρόθεση που δεν υλοποιείται ποτέ πλήρως;
