Το Data poisoning απειλεί την ακεραιότητα των μοντέλων Τεχνητής Νοημοσύνης (AI). Για τους CISOs, η ΑI σπάνια μειώνει την πολυπλοκότητα, αλλά μάλλον γεμίζει την ήδη φορτωμένη ατζέντα τους. Εκτός από τις παραδοσιακές προτεραιότητες ασφαλείας, πρέπει τώρα να αντιμετωπίσουν και νέους κινδύνους που σχετίζονται με την ΑI, όπως όταν οι λύσεις ΑI χρησιμοποιούνται ανεξέλεγκτα για επιχειρηματικούς σκοπούς, τα μοντέλα χειραγωγούνται και οι νέοι κανονισμοί δεν τηρούνται.
Δείτε επίσης: Nova Sonic: Το νέο AI voice model της Amazon
Μία από τις πιο πιεστικές προκλήσεις είναι το shadow ΑI: η χρήση εργαλείων και μοντέλων ΑI χωρίς εποπτεία από το IT ή την ασφάλεια. Όπως ακριβώς το shadow IT δημιουργεί τυφλά σημεία σε εταιρικά περιβάλλοντα, έτσι και το shadow ΑI φέρνει μη εποπτευόμενους κινδύνους, όπως διαρροές δεδομένων, μη ασφαλείς ενσωματώσεις και απειλές από μη επαληθευμένους τρίτους παρόχους και υπηρεσίες.
Ακόμα και αν οι CISOs έχουν διαφάνεια σχετικά με τη χρήση του AI και γνωρίζουν ποια δεδομένα χρησιμοποιούνται, ποια μοντέλα ΑI χρησιμοποιούνται για ποιο σκοπό, εξακολουθούν να αντιμετωπίζουν ένα ευρύ φάσμα απειλών. Ένα κεντρικό ζήτημα είναι το πού φιλοξενούνται αυτά τα μοντέλα. Τα περισσότερα είναι βασισμένα στο cloud και συχνά δημόσια προσβάσιμα.
Αυτό δημιουργεί νέες επιφάνειες επίθεσης, όπως το command injection, το data poisoning και οι επιθέσεις αντιπαλότητας. Ακόμα και χωρίς άμεση χειραγώγηση, τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) είναι ευάλωτα σε ψευδαισθήσεις και συχνά παράγουν ανακριβή ή παραπλανητικά αποτελέσματα.
Το data poisoning – τόσο στα δεδομένα εκπαίδευσης όσο και στα ίδια τα μοντέλα ΑI – έχει αυξηθεί. Πολλοί άνθρωποι δεν έχουν ακόμα σαφή κατανόηση των επιπτώσεων αυτού του προβλήματος. Αυτό μπορεί να συγκριθεί με ένα αυτοκίνητο που οδηγείται αυτόματα, το οποίο έχει εκπαιδευτεί με poisoned data και επομένως ερμηνεύει λανθασμένα ένα σήμα στοπ ως σήμα περιορισμού ταχύτητας. Αυτό θα μπορούσε να οδηγήσει το όχημα να επιταχύνει αντί να σταματήσει, θέτοντας έτσι σε κίνδυνο τη ζωή των επιβατών, των πεζών και άλλων χρηστών του δρόμου.
Δείτε ακόμα: Βρέθηκαν ευπάθειες σε open-source AI και ML μοντέλα
Αυτή η κρίσιμη απειλή έχει παραμείνει σε μεγάλο βαθμό απαρατήρητη για μεγάλο χρονικό διάστημα, αλλά θα μπορούσε να αποτελέσει μία από τις πιο επικίνδυνες απειλές στο τοπίο της ΑI. Σε έναν κόσμο όπου η AI επηρεάζει όλο και περισσότερο αποφάσεις που επηρεάζουν τη ζωή των ανθρώπων, η έλλειψη προσοχής σε αυτό το θέμα είναι εξαιρετικά ανησυχητική.
Ο ειδικός William L. Scherlis από το Πανεπιστήμιο Carnegie Mellon ορίζει την απειλή της ακεραιότητας στο πλαίσιο της ΑI ως εξής: «Στο πλαίσιο της σύγχρονης ΑI που βασίζεται σε νευρωνικά δίκτυα, συμπεριλαμβανομένης της Μηχανικής Μάθησης (ML) και της γενετικής AI, οι κίνδυνοι ακεραιότητας αναφέρονται στο δυναμικό για επιθέσεις που οδηγούν σε λανθασμένα αποτελέσματα.»
Ή πιο απλά: Ακόμα και μια μικρή τρύπα μπορεί να βυθίσει ένα ολόκληρο πλοίο. Τα χειραγωγημένα μοντέλα AI μπορούν να οδηγήσουν από λανθασμένες υποθέσεις και αποφάσεις, μέχρι και την επιδείνωση της ψυχικής υγείας των χρηστών τους.
Λανθασμένα αποτελέσματα από LLMs και μηχανική μάθηση μπορούν επίσης να οδηγήσουν σε οικονομικές απώλειες. Για να εκπαιδευτεί σωστά ένα μοντέλο, απαιτούνται τεράστιες ποσότητες δεδομένων. Από την άλλη πλευρά, λίγα μόνο σύνολα δεδομένων αρκούν για να χειραγωγήσουν μεγάλα γλωσσικά μοντέλα. Έρευνες δείχνουν ότι ήδη το 0,001 τοις εκατό διεφθαρμένων δεδομένων που εισάγονται στα δεδομένα εκπαίδευσης ενός μοντέλου AI αρκούν για να προκαλέσουν λανθασμένα αποτελέσματα.
Δείτε επίσης: Η Opera λανσάρει το AI πρόγραμμα περιήγησης Neon επι πληρωμή
Για να αποτραπούν οι επιθέσεις στην ακεραιότητα, οι CISOs πρέπει να ενσωματώσουν τις αρχές του Ασφαλούς Προγραμματισμού και της Ασφάλειας από το Σχεδιασμό σε πρώιμο στάδιο στα έργα ανάπτυξης λογισμικού AI. Αυτό περιλαμβάνει όχι μόνο ελέγχους για τη διασφάλιση της συμμόρφωσης με το GDPR, τον νόμο AI της ΕΕ και το ISO/IEC 42001. Πρέπει επίσης να ληφθούν μέτρα για την πρόληψη των αποκλίσεων των μοντέλων και τη διατήρηση της αξιοπιστίας των μοντέλων για μεγάλο χρονικό διάστημα. Εξίσου σημαντικές είναι οι απαιτήσεις για τη διαφάνεια, την εξηγησιμότητα και την ερμηνευσιμότητα των μοντέλων AI. Μόνο έτσι διασφαλίζεται ότι οι αποφάσεις των συστημάτων ai είναι κατανοητές και αιτιολογημένες.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
