ΑρχικήΕπιστήμη & ΤεχνολογίαPhysical Hacking: Η "Thales" προειδοποιεί για τα συστήματα τεχνητής νοημοσύνης

Physical Hacking: Η “Thales” προειδοποιεί για τα συστήματα τεχνητής νοημοσύνης

Στο πλαίσιο του AISec, η Thales παρουσίασε μια επίδειξη επίθεσης πλευρικού καναλιού σε ένα σύστημα τεχνητής νοημοσύνης (AI).

Thales σύστημα τεχνητής νοημοσύνης

Αυτού του είδους επιθέσεις στοχεύουν στην απόκτηση πρόσβασης σε ευαίσθητες πληροφορίες μέσω φυσικών στοιχείων του συστήματος. Οι χάκερ μπορούν να εκμεταλλευτούν τη θερμότητα, την κατανάλωση ενέργειας και την ηλεκτρομαγνητική ακτινοβολία που παράγεται από το σύστημα για να αποκτήσουν πληροφορίες, θέτοντας σε κίνδυνο την εμπιστευτικότητα των δεδομένων και του ενσωματωμένου λογισμικού της τεχνητής νοημοσύνης. Η παρουσίαση αυτή επιδιώκει να ευαισθητοποιήσει την επιστημονική κοινότητα για τον κίνδυνο αυτό και να ενθαρρύνει τη λήψη μέτρων για την προστασία των συστημάτων AI.

Η επίθεση που συνέβη κατά τη διάρκεια του συνεδρίου AISec πραγματοποιήθηκε σε δύο στάδια:

1. Επίθεση μέσω παρατήρησης, στην οποία αναλύθηκε η φυσική συμπεριφορά του συστήματος κατά τη λειτουργία για να αποκαλυφθούν οι μυστικές παράμετροι που χρησιμοποιούνται από το στοχευμένο AI για την ταξινόμηση εικόνων.

Διαβάστε επίσης: Τεχνητή νοημοσύνη (AI ): Εξαιρετικά αποτελεσματική στην ανάλυση malware

2. Ενεργή επίθεση, κατά την οποία αξιοποιήθηκαν οι παράμετροι που επηρεάζουν τις αποφάσεις της τεχνητής νοημοσύνης στόχου, προκειμένου να εξαπατηθεί το μοντέλο, δημιουργώντας αντίθετα παραδείγματα.

Αυτή η επίθεση χρησιμοποίησε σενάρια που εκμεταλλεύονται μυστικές παραμέτρους που αποκαλύφθηκαν στο πρώτο βήμα, με σκοπό να δημιουργήσουν μια εικόνα που θα ταξινομηθεί εσφαλμένα από την τεχνητή νοημοσύνη.

Physical Hacking

Επιπλέον, ένας χάκερ με φυσική πρόσβαση στο σύστημα-στόχο μπορεί να επιτύχει τον ίδιο στόχο με τη φυσική επέμβασή του κατά τη διάρκεια της λειτουργίας της τεχνητής νοημοσύνης. Ο τύπος αυτής της επίθεσης, γνωστός ως “εισαγωγή σφαλμάτων”, πρέπει επίσης να λαμβάνεται υπόψη από τους σχεδιαστές ενσωματωμένων συστημάτων προκειμένου να δημιουργηθεί μια αξιόπιστη τεχνητή νοημοσύνη.

spot_img

Εγγραφή στο Newsletter

* indicates required

FOLLOW US

LIVE NEWS