Τα αντιπαραθετικά μοτίβα που δημιουργούνται με τεχνητή νοημοσύνη μπορούν να μπερδέψουν κάμερες επιτήρησης και συστήματα αναγνώρισης, χωρίς να σταματούν την καταγραφή του βίντεο. Η εξέλιξη ανοίγει μια νέα συζήτηση για την ιδιωτικότητα, αλλά και για τα όρια της αυτοματοποιημένης ασφάλειας.
Ο ερευνητής κυβερνοασφάλειας Bill Swearingen υποστηρίζει ότι χρειάστηκε περίπου ένας χρόνος και 31 εκατομμύρια δοκιμές για να εκπαιδεύσει ένα σύστημα που παράγει σχέδια ικανά να δυσκολεύουν την αναγνώριση ανθρώπων και οχημάτων. Η παρουσίαση έγινε στο συνέδριο Def Con, στο Λας Βέγκας.
Πώς λειτουργούν τα αντιπαραθετικά μοτίβα
Το έργο, που ονομάζεται noRecognition, δεν κάνει μια κάμερα να «τυφλώνεται» ούτε εμποδίζει την αποθήκευση εικόνας. Τα αντιπαραθετικά μοτίβα αλλάζουν τον τρόπο με τον οποίο ο αλγόριθμος ερμηνεύει το αντικείμενο, ώστε να μην ενεργοποιεί την αναγνώριση προσώπου, οχήματος ή πινακίδας.
Η προσέγγιση βασίζεται σε μοντέλο ενισχυτικής μάθησης. Το σύστημα δοκιμάζει ένα σχέδιο απέναντι σε αλγόριθμους ανίχνευσης, καταγράφει αν εντοπίστηκε και στη συνέχεια τροποποιεί το αποτέλεσμα. Η διαδικασία επαναλαμβάνεται μέχρι να προκύψουν σχέδια που αποτυγχάνουν να δώσουν αξιόπιστη ανίχνευση.
Σύμφωνα με την παρουσίαση, ο ερευνητής δοκίμασε το μοντέλο απέναντι σε 11 ανοιχτού κώδικα αλγόριθμους, μεταξύ άλλων λογισμικό που συνδέεται με κάμερες της Flock, τις κάμερες σώματος της Axon και συστήματα της Clearview AI. Οι ισχυρισμοί αφορούν δοκιμές του δημιουργού και δεν αποτελούν ανεξάρτητη πιστοποίηση όλων των συστημάτων.
Δείτε επίσης: Το ρομπότ DroneDog αναλαμβάνει την ασφάλεια εργοταξίων
Η δοκιμή σε πραγματικό περιβάλλον
Η πρώτη δημόσια επίδειξη έγινε με ένα Toyota Yaris του 2009, πάνω στο οποίο τοποθετήθηκε ένα από τα σχέδια. Στόχος ήταν μια κάμερα της Flock να μην αναγνωρίσει το όχημα. Ο Swearingen δήλωσε ότι το αποτέλεσμα ήταν επιτυχές, αν και οι τροχοί αποδείχθηκαν δυσκολότεροι στην αντιμετώπιση.
Η λεπτομέρεια αυτή έχει σημασία: τα αντιπαραθετικά μοτίβα δεν προσφέρουν αόρατο «μανδύα» και δεν ακυρώνουν κάθε μορφή παρακολούθησης. Επηρεάζουν συγκεκριμένα μοντέλα ανίχνευσης, σε συγκεκριμένες συνθήκες φωτισμού, απόστασης και γωνίας. Ένας άνθρωπος μπορεί να δει το αντικείμενο, ενώ μια διαφορετική κάμερα μπορεί να το αναγνωρίσει κανονικά.
Ο δημιουργός κρατά τα πιο αποτελεσματικά σχέδια εκτός διαδικτύου, ώστε οι κατασκευαστές καμερών να μην προσαρμόσουν τα μοντέλα τους. Στο noRecognition περιγράφει την ιδέα ως τρόπο «εξαίρεσης» από την αυτόματη παρακολούθηση, ενώ εξετάζει και τη διάθεση ρούχων ή καλυμμάτων με τέτοια σχέδια.
Δείτε επίσης: Κάμερες παρακολούθησης έγιναν στόχος επιχείρησης
Ιδιωτικότητα, ασφάλεια και τα όρια της τεχνολογίας
Η ιδέα συνδέεται με ένα ευρύτερο πρόβλημα: οι κάμερες δεν καταγράφουν μόνο, αλλά ταξινομούν ανθρώπους, οχήματα και συμπεριφορές. Όταν η διαδικασία γίνεται αυτόματα, ένα λάθος αποτέλεσμα μπορεί να οδηγήσει σε λανθασμένο συναγερμό, αποκλεισμό ή στοχοποίηση. Τα αντιπαραθετικά μοτίβα δείχνουν ότι η αυτοματοποίηση δεν είναι αλάνθαστη.
Παράλληλα, η ίδια τεχνική μπορεί να χρησιμοποιηθεί και από επιτιθέμενους για να δυσκολέψει την αναγνώριση ύποπτων οχημάτων ή προσώπων. Για αυτό η δημοσίευση τέτοιων αποτελεσμάτων χρειάζεται ισορροπία: αρκετή τεχνική διαφάνεια για να βελτιωθούν οι άμυνες, αλλά όχι οδηγίες που θα επέτρεπαν άμεση αναπαραγωγή των σχεδίων.
Η έρευνα του Swearingen υπογραμμίζει ότι τα συστήματα οπτικής ανάλυσης πρέπει να αξιολογούνται με ελεγχόμενες δοκιμές, διαφορετικούς φωτισμούς και γωνίες λήψης, καθώς και με ανθρώπινη εποπτεία. Οι οργανισμοί που χρησιμοποιούν κάμερες οφείλουν επίσης να εξηγούν ποια δεδομένα συλλέγουν, για πόσο τα διατηρούν και πώς διορθώνουν ένα λανθασμένο αποτέλεσμα.
Όπως αναφέρει το TechCrunch, το noRecognition βρίσκεται ακόμη σε πρώιμο στάδιο και συνεχίζει να παράγει νέες παραλλαγές. Το γεγονός ότι ένα μοτίβο ξεπερνά μια δοκιμή δεν σημαίνει ότι θα λειτουργήσει σε κάθε κάμερα ή ότι προσφέρει πλήρη προστασία της ιδιωτικότητας.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Δείτε επίσης: Η Ring επεκτείνει το Search Party με τεχνητή νοημοσύνη
Η τεχνική ομάδα του SecNews θεωρεί ότι το πιο χρήσιμο συμπέρασμα δεν είναι η υπόσχεση «αορατότητας», αλλά η ανάγκη για αυστηρότερους ελέγχους. Όσο τα συστήματα επιτήρησης αποκτούν περισσότερες δυνατότητες, τόσο πρέπει να δοκιμάζονται απέναντι σε απρόβλεπτες εισόδους, πριν χρησιμοποιηθούν για αποφάσεις που επηρεάζουν ανθρώπους.
