Τα γενετικά μοντέλα AI που χρησιμοποιούνται σε απόρρητα περιβάλλοντα μπορούν να απαντούν σε ερωτήσεις, αλλά προς το παρόν δεν μαθαίνουν από τα δεδομένα που βλέπουν. Αυτό θα μπορούσε σύντομα να αλλάξει. Το Πεντάγωνο συζητά σχέδια για τη δημιουργία ασφαλών περιβαλλόντων όπου εταιρείες γενετικής ΑΙ θα μπορούν να εκπαιδεύουν στρατιωτικά εξειδικευμένες εκδόσεις των μοντέλων τους με απόρρητα δεδομένα, όπως αναφέρει το MIT Technology Review.
Δείτε επίσης: Anthropic κατά Πενταγώνου: Υποστήριξη από Google και OpenAI
Τα μοντέλα ΑΙ όπως το Claude της Anthropic χρησιμοποιούνται ήδη για την απάντηση ερωτήσεων σε απόρρητες ρυθμίσεις, συμπεριλαμβανομένης της ανάλυσης στόχων στο Ιράν.
Ωστόσο, η εκπαίδευση των μοντέλων με απόρρητα δεδομένα θα ήταν μια νέα εξέλιξη που παρουσιάζει μοναδικούς κινδύνους ασφαλείας. Αυτό θα σήμαινε ότι ευαίσθητες πληροφορίες, όπως αναφορές παρακολούθησης ή αξιολογήσεις πεδίου μάχης, θα ενσωματώνονταν στα ίδια τα μοντέλα, φέρνοντας τις εταιρείες ΑΙ σε πιο στενή επαφή με απόρρητα δεδομένα από ό,τι πριν. Η εκπαίδευση εκδόσεων των μοντέλων ΑΙ με απόρρητα δεδομένα αναμένεται να βελτιώσει την ακρίβεια και την αποτελεσματικότητά τους σε ορισμένες εργασίες, σύμφωνα με Αμερικανό αξιωματούχο άμυνας που μίλησε ανώνυμα στο MIT Technology Review.
Αυτή η είδηση έρχεται καθώς η ζήτηση για πιο ισχυρά μοντέλα είναι υψηλή: το Πεντάγωνο έχει συνάψει συμφωνίες με την OpenΑΙ και την xΑΙ του Elon Musk για τη λειτουργία των μοντέλων τους σε απόρρητες ρυθμίσεις και εφαρμόζει μια νέα ατζέντα για να γίνει μια “ΑΙ-first” πολεμική δύναμη καθώς η σύγκρουση με το Ιράν κλιμακώνεται. Η εκπαίδευση θα πραγματοποιείται σε ένα ασφαλές κέντρο δεδομένων που είναι πιστοποιημένο για τη φιλοξενία απόρρητων κυβερνητικών έργων, όπου ένα αντίγραφο ενός μοντέλου ΑΙ θα συνδυάζεται με απόρρητα δεδομένα.
Αν και το Υπουργείο Άμυνας θα παραμείνει ο ιδιοκτήτης των δεδομένων, το προσωπικό από τις εταιρείες AI με κατάλληλες άδειες ασφαλείας μπορεί, σε σπάνιες περιπτώσεις, να έχει πρόσβαση στα δεδομένα. Πριν επιτραπεί αυτή η νέα εκπαίδευση, ο αξιωματούχος δήλωσε ότι το Πεντάγωνο σκοπεύει πρώτα να αξιολογήσει πόσο ακριβή και αποτελεσματικά είναι τα μοντέλα όταν εκπαιδεύονται με μη απόρρητα δεδομένα, όπως εμπορικά διαθέσιμες δορυφορικές εικόνες.
Δείτε ακόμα: CMMC: Το Πεντάγωνο απαιτεί επαληθευμένη κυβερνοασφάλεια από τους εργολάβους
Ο στρατός χρησιμοποιεί εδώ και καιρό μοντέλα υπολογιστικής όρασης, μια παλαιότερη μορφή ΑΙ, για την αναγνώριση αντικειμένων σε εικόνες και πλάνα που συλλέγονται από drones και αεροπλάνα. Ομοσπονδιακές υπηρεσίες έχουν αναθέσει συμβόλαια σε εταιρείες για την εκπαίδευση μοντέλων ΑΙ σε τέτοιο περιεχόμενο. Οι εταιρείες AI που κατασκευάζουν μεγάλα γλωσσικά μοντέλα (LLMs) και chatbots έχουν δημιουργήσει εκδόσεις των μοντέλων τους προσαρμοσμένες για κυβερνητική εργασία, όπως το Claude Gov της Anthropic, σχεδιασμένο να λειτουργεί σε περισσότερες γλώσσες και σε ασφαλή περιβάλλοντα.
Ωστόσο, τα σχόλια του αξιωματούχου είναι η πρώτη ένδειξη ότι οι εταιρείες ΑΙ που κατασκευάζουν LLMs, όπως η OpenΑΙ και η xΑΙ, θα μπορούσαν να εκπαιδεύσουν κυβερνητικά εξειδικευμένες εκδόσεις των μοντέλων τους απευθείας με απόρρητα δεδομένα. Ο iFixit, που διευθύνει το Wadhwani ΑΙ Center στο Center for Strategic and International Studies και προηγουμένως ηγήθηκε των προσπαθειών πολιτικής ΑΙ στην Google και την OpenΑΙ, σημειώνει ότι η εκπαίδευση με απόρρητα δεδομένα, σε αντίθεση με την απλή απάντηση σε ερωτήσεις σχετικά με αυτά, θα παρουσίαζε νέους κινδύνους.
Ο πιο σημαντικός κίνδυνος, εξηγεί, είναι ότι οι απόρρητες πληροφορίες που εκπαιδεύονται αυτά τα μοντέλα θα μπορούσαν να επανεμφανιστούν σε οποιονδήποτε χρησιμοποιεί το μοντέλο. Αυτό θα μπορούσε να αποτελέσει πρόβλημα εάν διάφορα στρατιωτικά τμήματα, καθένα με διαφορετικά επίπεδα ταξινόμησης και ανάγκες πληροφόρησης, μοιράζονταν το ίδιο ΑΙ.
Δείτε επίσης: Βουλή των Αντιπροσώπων ΗΠΑ: Απαγορεύεται η χρήση του WhatsApp
Ωστόσο, ο Mehta υποστηρίζει ότι δεν είναι τόσο δύσκολο να κρατηθούν οι πληροφορίες περιορισμένες από τον ευρύτερο κόσμο: “Αν το στήσετε σωστά, θα έχετε πολύ μικρό κίνδυνο να εμφανιστούν αυτά τα δεδομένα στο γενικό διαδίκτυο ή να επιστρέψουν στην OpenΑΙ.“
