Ένας έγχρωμος άνδρας υπέβαλε αγωγή εναντίον της αστυνομίας, για την τεχνολογία αναγνώρισης προσώπου, που τον οδήγησε στη φυλακή αδίκως. Με αυτόν τον τρόπο “ενώνει τη φωνή του” με αυτή άλλων Αφροαμερικανών που έχουν πέσει, επίσης, θύματα της φυλετικής προκατάληψης της τεχνολογίας.
Η φυλετική προκατάληψη της τεχνολογίας αναγνώρισης προσώπου κατά του μη λευκού δέρματος οδήγησε τον Nijeer Parks στη φυλακή για 10 ημέρες, το 2019, αφού αναγνωρίστηκε αδίκως ως ύποπτος κλοπής.
Ο Parks αναφέρει στην αγωγή του ότι δεν είχε καμία σημασία το γεγονός ότι δεν είχε πάει ποτέ στην τοποθεσία του εγκλήματος, ένα ξενοδοχείο Hampton Inn στο Woodbridge, στο New Jersey. Η τεχνολογία τον αναγνώρισε σαν ύποπτο και, καθώς φαίνεται, αυτό ήταν αρκετό για την αστυνομία. Εκδόθηκε ένταλμα, και ο Parks προσπαθούσε να εξηγήσει ότι είχαν πιάσει λάθος άντρα.
“Δεν είχα ιδέα για το τι συνέβαινε“, είπε ο Parks στο NJ Advance Media. “Δεν είχα πάει ποτέ στο Woodbridge, ούτε καν ήξερα ακριβώς πού βρισκόταν“.
Αλλά σύμφωνα με τον Parks, αυτό δεν το άκουσε κανείς. Μόλις έφτασε στο αστυνομικό τμήμα, του πέρασαν χειροπέδες και τον οδήγησαν στη φυλακή για δέκα ημέρες. Αργότερα, οι κατηγορίες εναντίον του απορρίφθηκαν και οι εισαγγελείς παραδέχτηκαν ότι τα μόνα αποδεικτικά στοιχεία εναντίον του Parks ήταν από την τεχνολογία αναγνώρισης προσώπου Clearview AI.
“Είχα ένα υπόβαθρο, αλλά ήμουν σπίτι από το 2016 και δεν είχα κανένα πρόβλημα“, είπε ο Parks. “Το όλο πράγμα με τρόμαξε πολύ. Προσπαθώ να κάνω το σωστό στη ζωή μου“.
Τώρα ο Parks υποβάλλει αγωγή εναντίον του αστυνομικού τμήματος επειδή τον συνέλαβε βασιζόμενο απλά σε μια ελαττωματική τεχνολογία αναγνώρισης προσώπου. Το ανησυχητικό είναι ότι δεν είναι ο μόνος στον οποίο έχει συμβεί κάτι τέτοιο.
Ο Robert Julian-Borchak Williams συνελήφθη επίσης νωρίτερα φέτος, στο Detroit, για κλοπή ρολογιών το 2018, αφού επίσης αναγνωρίστηκε εσφαλμένα από την τεχνολογία αναγνώρισης προσώπου. Αυτή τη φορά, ήταν το λογισμικό αναγνώρισης DataWorks Plus που χρησιμοποιούσε η αστυνομία του Michigan.
Σύμφωνα με το Business Insider, ο Williams συνελήφθη μπροστά στη σύζυγό του και τα παιδιά του και έμεινε για μια νύχτα στο Κέντρο Κράτησης του Detroit, ενώ μετά οδηγήθηκε σε μια αίθουσα ανακρίσεων, όπου του παρουσιάστηκε το βίντεο της κλοπής. Τότε ήταν που κατάλαβαν και οι αστυνομικοί ότι είχαν κάνει λάθος και ότι επρόκειτο για κάποιον άλλο άντρα.
Φυλετική προκατάληψη στα λογισμικά αναγνώρισης προσώπου
Σύμφωνα με μια έρευνα του Harvard, περίπου οι μισοί Αμερικανοί ενήλικες, χωρίς τη γνώση ή τη συγκατάθεσή τους, περιλαμβάνονται στη βάση δεδομένων αναγνώρισης προσώπου της αστυνομίας. Αυτό είναι ένα σημαντικό ζήτημα απορρήτου για όλους τους Αμερικανούς.
Ωστόσο, οι Αφροαμερικανοί είναι σε ακόμα πιο δύσκολη θέση, καθώς είναι πιο πιθανό να αδικηθούν από την ίδια την τεχνολογία. Σύμφωνα με τον Alex Najibi του Harvard, τα συνολικά ποσοστά ακρίβειας για την τεχνολογία αναγνώρισης προσώπου κυμαίνονται περίπου στο 90%, αλλά τα ποσοστά λάθους ποικίλλουν σε διαφορετικά δημογραφικά στοιχεία. Η “μικρότερη ακρίβεια βρέθηκε με συνέπεια σε γυναίκες, έγχρωμους ανθρώπους και άτομα 18-30 ετών“, έγραψε.
Η ιδέα ότι το λογισμικό αναγνώρισης προσώπου είναι ρατσιστικό συζητιέται έντονα τα τελευταία χρόνια. Και άλλες έρευνες έχουν καταλήξει στο συμπέρασμα ότι η τεχνολογία αναγνώρισης προσώπου είναι λιγότερο ακριβής για τους έγχρωμους Αμερικανούς και κυρίως τις γυναίκες.
Κατάργηση της εσφαλμένης τεχνολογίας
Τον περασμένο Νοέμβριο, το αστυνομικό τμήμα του Λος Άντζελες απαγόρευσε την πλατφόρμα αναγνώρισης προσώπου Clearview AI, μετά από πιέσεις από την Αμερικανική Ένωση Πολιτικών Ελευθεριών (ACLU).
“Το Clearview AI καταγράφει πληροφορίες, χωρίς να το γνωρίζουμε, και χρησιμοποιεί τα πάντα, από περιστασιακές selfies έως φωτογραφίες από πάρτι γενεθλίων, αποφοιτήσεις, γάμους και πολλά άλλα“, έγραψε ο δικηγόρος της ACLU, Nathan Freed Wessler.
“Χωρίς γνώση του κοινού, αυτή η εταιρεία έχει προσφέρει αυτή τη μαζική βάση δεδομένων σε ιδιωτικές εταιρείες, στην αστυνομία, σε ομοσπονδιακές υπηρεσίες, επιτρέποντάς τους να παρακολουθούν κρυφά και να στοχεύουν όποιον θέλουν χρησιμοποιώντας τεχνολογία αναγνώρισης προσώπου“.
Επιπλέον, τους τελευταίους μήνες τεχνολογικοί γίγαντες όπως η Microsoft, η Amazon και η IBM έχουν δεσμευτεί να σταματήσουν την πώληση αναγνώρισης προσώπου σε αστυνομικές υπηρεσίες, για να προστατεύσουν την ιδιωτική ζωή των χρηστών.
Ο Διευθύνων Σύμβουλος της Clearview, Hon Ton-That, υπερασπίστηκε το προϊόν της εταιρείας του, τονίζοντας ότι χρησιμοποιείται από υπηρεσίες επιβολής του νόμου για την εξακρίβωση εγκλημάτων και την προστασία των ανθρώπων.
Πηγή: Threatpost