Ένα σύστημα που βασίζεται σε αλγόριθμο για τον εντοπισμό πιθανών περιπτώσεων απάτης κοινωνικής ασφάλισης, το οποίο χρησιμοποιείται από την κυβέρνηση της Ολλανδίας, έχει μπει στο στόχαστρο ενός Ολλανδικού δικαστηρίου.
Σύμφωνα με τη DutchNews, το Επαρχιακό Δικαστήριο της Χάγης, έκρινε ότι το εν λόγω σύστημα έρχεται σε σύγκρουση με τους κανόνες προστασίας των ανθρωπίνων δικαιωμάτων και της ιδιωτικής ζωής της ΕΕ.
Το λεγόμενο Dubbed System Risk Indication (SyRI), ένα αυτόματο εργαλείο μηχανικής εκμάθησης, χρησιμοποιήθηκε από τις τοπικές αρχές για να παρακολουθεί άτομα για τα οποία υπήρχαν υπόνοιες ότι μπορεί να εκτελούσαν απάτες κοινωνικής ασφάλισης.
Το SyRI δημιουργεί «προφίλ κινδύνου» για άτομα τα οποία έχουν διαπράξει κάποια απάτη κοινωνικής ασφάλισης στο παρελθόν και στη συνέχεια σαρώνει για «παρόμοια» προφίλ πολιτών, δημιουργώντας έτσι μία λίστα με όλα τα πιθανά προφίλ ατόμων που θα μπορούσαν ενδεχομένως να εμπλακούν σε μία παρόμοια απάτη.
Η συλλογή στοιχείων “είχε αποκλειστικά ως στόχο γειτονιές με κατοίκους χαμηλού εισοδήματος και μειονοτήτων”, σύμφωνα με τον εκπρόσωπο των Ηνωμένων Εθνών για τα ανθρώπινα δικαιώματα, Philip Alston. Στην ουσία το εργαλείο στοχοποιούσε άτομα από οικονομικά ασθενέστερες γειτονιές, χωρίς να έχει κανένα άλλο ενοχοποιητικό στοιχείο στην κατοχή του.
Πολλοί ήταν εκείνοι που κατέθεσαν αγωγή για πρακτικές διάκρισης, οι οποίες έγιναν δεκτές από το δικαστήριο, ενώ εκφράστηκαν ανησυχίες και για την ασφάλεια της ιδιωτικότητας και την έλλειψη διαφάνειας.
Το ολλανδικό κράτος μπορεί να ασκήσει έφεση κατά της απόφασης.
Το Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων θεωρεί την απόφαση νίκη και δήλωσε ότι η εντολή “έχει θέσει ένα σημαντικό προηγούμενο για την προστασία των δικαιωμάτων των οικονομικά ασθενέστερων στην εποχή της αυτοματοποίησης”.
“Οι κυβερνήσεις που βασίζονται σε αναλύσεις δεδομένων για να αστυνομεύσουν την πρόσβαση στην κοινωνική ασφάλιση – όπως αυτές στις ΗΠΑ, το Ηνωμένο Βασίλειο και την Αυστραλία – θα πρέπει να λάβουν υπόψη την προειδοποίηση του δικαστηρίου σχετικά με τους κινδύνους για τα ανθρώπινα δικαιώματα που εμπλέκονται στη μεταχείριση των δικαιούχων κοινωνικής ασφάλισης ως διαρκείς υπόπτους” πρόσθεσε η ομάδα πολιτικών δικαιωμάτων.
