Ερευνητές ανέπτυξαν ένα εργαλείο αυτοματοποιημένου data poisoning που, όπως λένε, μπορεί να καταστήσει άχρηστα τα κλεμμένα δεδομένα υψηλής αξίας που χρησιμοποιούνται σε συστήματα AI, μια λύση που οι CSOs ίσως χρειαστεί να υιοθετήσουν για να προστατεύσουν τα εξελιγμένα μοντέλα μεγάλων γλωσσών (LLMs). Η τεχνική, που δημιουργήθηκε από ερευνητές από πανεπιστήμια της Κίνας και της Σιγκαπούρης, είναι να εισάγουν πειστικά αλλά ψευδή δεδομένα σε αυτό που είναι γνωστό ως γράφημα γνώσης (KG) που δημιουργείται από έναν χειριστή AI.
Δείτε επίσης: Τα παραδοσιακά πλαίσια ασφάλειας αφήνουν τις οργανώσεις εκτεθειμένες σε επιθέσεις AI
Ένα γράφημα γνώσης περιέχει τα ιδιόκτητα δεδομένα που χρησιμοποιούνται από το LLM. Η εισαγωγή δηλητηριασμένων ή αλλοιωμένων δεδομένων σε ένα σύστημα δεδομένων για προστασία από κλοπή δεν είναι καινούργια.
Αυτό που είναι καινούργιο σε αυτό το εργαλείο – που ονομάζεται AURA (Active Utility Reduction via Adulteration) – είναι ότι οι εξουσιοδοτημένοι χρήστες έχουν ένα μυστικό κλειδί που φιλτράρει τα ψεύτικα δεδομένα, ώστε η απάντηση του LLM σε ένα ερώτημα να είναι χρήσιμη. Αν όμως το γράφημα γνώσης κλαπεί, είναι άχρηστο για τον επιτιθέμενο εκτός αν γνωρίζει το κλειδί, καθώς τα αλλοιωμένα δεδομένα θα ανακτηθούν ως πλαίσιο, προκαλώντας επιδείνωση στη λογική του LLM και οδηγώντας σε πραγματολογικά λανθασμένες απαντήσεις.
Οι ερευνητές λένε ότι το AURA μειώνει την απόδοση των μη εξουσιοδοτημένων συστημάτων σε ακρίβεια μόλις 5,3%, ενώ διατηρεί 100% πιστότητα για τους εξουσιοδοτημένους χρήστες, με “αμελητέο φόρτο”, οριζόμενο ως μέγιστη αύξηση καθυστέρησης ερωτήματος κάτω από 14%. Επίσης, λένε ότι το AURA είναι ανθεκτικό σε διάφορες προσπάθειες καθαρισμού από έναν επιτιθέμενο, διατηρώντας το 80,2% των αλλοιωμένων δεδομένων που εισήχθησαν για άμυνα, και τα ψεύτικα δεδομένα που δημιουργεί είναι δύσκολο να ανιχνευθούν.
Γιατί είναι όλα αυτά σημαντικά; Επειδή τα KGs συχνά περιέχουν την πολύ ευαίσθητη πνευματική ιδιοκτησία (IP) ενός οργανισμού, αποτελούν πολύτιμο στόχο. Ωστόσο, η πρόταση έχει αντιμετωπιστεί με σκεπτικισμό από έναν ειδικό και με προσοχή από έναν άλλο.
Δείτε ακόμα: Η σκοτεινή πλευρά των αλγορίθμων: Όταν το AI γίνεται στόχος κυβερνοεπιθέσεων
“Το data poisoning δεν έχει ποτέ πραγματικά λειτουργήσει καλά,” είπε ο Bruce Schneier, επικεφαλής αρχιτεκτονικής ασφάλειας στην Inrupt Inc., και συνεργάτης και λέκτορας στη Σχολή Kennedy του Harvard. “Τα honeypots, όχι καλύτερα. Αυτή είναι μια έξυπνη ιδέα, αλλά δεν το βλέπω ως κάτι περισσότερο από ένα βοηθητικό σύστημα ασφαλείας.” Ο Joseph Steinberg, σύμβουλος κυβερνοασφάλειας και AI με έδρα τις ΗΠΑ, διαφώνησε, λέγοντας, “γενικά αυτό θα μπορούσε να λειτουργήσει για κάθε είδους συστήματα AI και μη AI. Αυτό δεν είναι μια νέα έννοια“.
Γράφημα γνώσης 101: Τα LLMs χρησιμοποιούν μια τεχνική που ονομάζεται RAG για να αναζητήσουν πληροφορίες βάσει ενός ερωτήματος χρήστη και να παρέχουν τα αποτελέσματα ως πρόσθετη αναφορά για τη δημιουργία απαντήσεων του συστήματος AI. Το 2024, η Microsoft εισήγαγε το GraphRAG για να βοηθήσει τα LLMs να απαντούν σε ερωτήματα που χρειάζονται πληροφορίες πέρα από τα δεδομένα στα οποία έχουν εκπαιδευτεί.
Το GraphRAG χρησιμοποιεί γραφήματα γνώσης που δημιουργούνται από LLM για να βελτιώσει την απόδοση και να μειώσει τις πιθανότητες παραισθήσεων στις απαντήσεις όταν πραγματοποιεί ανακάλυψη σε ιδιωτικά σύνολα δεδομένων όπως η ιδιόκτητη έρευνα μιας επιχείρησης, επιχειρηματικά έγγραφα ή επικοινωνίες. Τα ιδιόκτητα γραφήματα γνώσης εντός των GraphRAGs τα καθιστούν “πρωταρχικό στόχο για κλοπή IP,” όπως κάθε άλλο ιδιόκτητο δεδομένο.
Δείτε επίσης: AI red teaming: Δοκιμάζοντας την ασφάλεια των ίδιων των μοντέλων
Το AI κινείται ταχύτερα από την ασφάλεια για το AI. Καθώς η χρήση του AI εξαπλώνεται, οι CSOs πρέπει να θυμούνται ότι η τεχνητή νοημοσύνη και όλα όσα χρειάζονται για να λειτουργήσει καθιστούν επίσης πολύ πιο δύσκολο να ανακάμψουν από κακά δεδομένα που εισάγονται σε ένα σύστημα, σημείωσε ο Steinberg.
