Η επιστολή επιβολής της κυβέρνησης των ΗΠΑ προς την Anthropic, η οποία ουσιαστικά ανάγκασε την εταιρεία να αποσύρει τα τελευταία της μοντέλα AI από το διαδίκτυο λίγο πριν το Σαββατοκύριακο, θα πρέπει να λειτουργήσει ως αφύπνιση για κάθε τεχνολογική εταιρεία στις ΗΠΑ — είτε πρόκειται για εργαστήριο AI είτε όχι.
Δείτε επίσης: Η NSA χρησιμοποιεί την AI της Anthropic παρά την απαγόρευση
Το απόγευμα της Παρασκευής, το Υπουργείο Εμπορίου των ΗΠΑ έστειλε στην Anthropic μια επιστολή επικαλούμενη μια ασαφή οδηγία ελέγχου εξαγωγών που απαγόρευε σε μη Αμερικανούς, συμπεριλαμβανομένων των υπαλλήλων της Anthropic, να έχουν πρόσβαση στα Fable 5 και Mythos 5, επικαλούμενη έναν ακαθόριστο λόγο εθνικής ασφάλειας. Η Anthropic δήλωσε ότι πιστεύει πως η επιστολή σχετίζεται με μια παράκαμψη των προστατευτικών μέτρων του μοντέλου, αλλά δεν είναι σίγουρη καθώς η επιστολή δεν παρέχει συγκεκριμένες λεπτομέρειες. Η επιστολή δεν έχει δημοσιοποιηθεί.
Σε απάντηση, η Anthropic έκλεισε και τα δύο κορυφαία της μοντέλα για όλους τους πελάτες για να εξασφαλίσει συμμόρφωση με την οδηγία. Το αποτέλεσμα ήταν ότι η κυβέρνηση των ΗΠΑ κατάφερε να αναγκάσει μια τεχνολογική εταιρεία να αποσύρει τα μοντέλα της από το διαδίκτυο με μια γρήγορη και μονομερή ενέργεια που δεν φάνηκε να απαιτεί έγκριση δικαστηρίου.
Η παρέμβαση της Παρασκευής από την κυβέρνηση Τραμπ δείχνει ότι η βιομηχανία AI δεν είναι άτρωτη από κυβερνητικές παρεμβάσεις. Είναι επίσης μια προειδοποίηση για τη γενικότερη τεχνολογική βιομηχανία: συμμορφωθείτε ή θα κλείσουμε και τα προϊόντα σας.
Επικαλούμενο πηγές, το Axios περιέγραψε μια τεταμένη κατάσταση το Σαββατοκύριακο μεταξύ των δύο μεγάλων παικτών, λέγοντας ότι οι “διαφορές προσωπικότητας” μεταξύ της Anthropic και της κυβέρνησης Τραμπ οδήγησαν στην οδηγία εξαγωγής και όχι ένα τεχνικό ζήτημα με τα προϊόντα AI. Νέες λεπτομέρειες για το ζήτημα που εμφανίστηκαν το Σαββατοκύριακο τώρα ρίχνουν περαιτέρω αμφιβολίες για την ήδη ασταθή λογική της κυβέρνησης.
Δείτε επίσης: Ο Πρωθυπουργός Carney συγκρίνει το κλείσιμο της Anthropic με την οικονομική κρίση του 2008
Η Katie Moussouris, βετεράνος της κυβερνοασφάλειας και ερευνήτρια που ίδρυσε τη Luta Security, δήλωσε σε μια ανάρτηση στο blog της ότι η Anthropic πρόσφατα μοιράστηκε μαζί της ένα ιδιωτικό αντίγραφο μιας εργασίας γραμμένης από ερευνητές ασφαλείας που περιγράφει μια υποτιθέμενη παράκαμψη προστατευτικών μέτρων στο Fable 5. Η Moussouris είπε ότι η Anthropic επικοινώνησε μαζί της για να ζητήσει τη γνώμη της για την εργασία.
Η ανάρτηση της Moussouris περιέγραψε πώς οι ερευνητές προκάλεσαν την παράκαμψη των προστατευτικών μέτρων, αλλά είπε ότι η ίδια η παράκαμψη “δεν θα έπρεπε ποτέ να προκαλέσει έναν έλεγχο εξαγωγών.” Η διαφορά είναι κυρίως μεταξύ του να ζητάς από ένα μοντέλο AI να “εξετάσει τον κώδικα για θέματα ασφαλείας” έναντι του να του ζητάς να “διορθώσει αυτόν τον κώδικα.” Το τελικό αποτέλεσμα είναι κυρίως το ίδιο, ακόμα κι αν οι ερωτήσεις τίθενται ελαφρώς διαφορετικά.
“Η συμπεριφορά που περιγράφεται στην εργασία δεν μπορεί ουσιαστικά να διορθωθεί και οποιαδήποτε προσπάθεια θα αποδυνάμωνε μόνο το μοντέλο για άμυνα,” είπε η Moussouris, η οποία επέκρινε την οδηγία ελέγχου εξαγωγών ως βιαστική, αυταρχική και παραπλανητική.
Η Moussouris και δεκάδες άλλοι κορυφαίοι ερευνητές και ειδικοί ασφαλείας έχουν έκτοτε καλέσει την κυβέρνηση Τραμπ να ανακαλέσει την εντολή ελέγχου εξαγωγών, χαρακτηρίζοντας την κίνηση να αποσύρει προηγμένες δυνατότητες κυβερνοασφάλειας από τους υπερασπιστές δικτύων στις ΗΠΑ ως “επικίνδυνη.”
Δείτε επίσης: Το Claude Mythos της Anthropic εντόπισε 10.000 κρίσιμες ευπάθειες σε έναν μήνα
Προηγούμενες κυβερνήσεις έχουν λάβει σαρωτικές αποφάσεις για κενά γνώσης. Για παράδειγμα, η γλώσσα που χρησιμοποίησε η κυβέρνηση των ΗΠΑ κατά τη διάρκεια της δεκαετίας του 2010 για να διορθώσει το νόμο εξαγωγών που καλύπτει εργαλεία κυβερνοασφάλειας που θα μπορούσαν επίσης να χρησιμοποιηθούν για κυβερνοεπιθέσεις ήταν τόσο ευρεία που κατά λάθος σχεδόν απαγόρευσε τη νόμιμη έρευνα ασφάλειας και ευπάθειας. Ωστόσο, η οδηγία της κυβέρνησης Τραμπ φαίνεται να είναι εκδικητική.
