Το ICO λέει ότι οι διακρίσεις λόγω AI μπορεί να οδηγήσουν σε απόρριψη αιτήσεων εργασίας ή σε παράνομη άρνηση τραπεζικών δανείων ή παροχών.
Η υπηρεσία επιτήρησης δεδομένων του Ηνωμένου Βασιλείου πρόκειται να διερευνήσει εάν τα συστήματα τεχνητής νοημοσύνης δείχνουν φυλετική προκατάληψη όταν ασχολούνται με αιτήσεις εργασίας.
Το Γραφείο του Επιτρόπου Πληροφοριών (ICO) ανέφερε ότι οι διακρίσεις λόγω AI θα μπορούσαν να έχουν «βλαβερές συνέπειες για τις ζωές των ανθρώπων» και να οδηγήσουν σε απόρριψη κάποιου για δουλειά ή παράνομη άρνηση τραπεζικού δανείου ή παροχής πρόνοιας.
Θα διερευνήσει τους αλγορίθμους που εξετάζουν τις αιτήσεις εργασίας, εν μέσω ανησυχιών ότι επηρεάζουν τις ευκαιρίες απασχόλησης για άτομα από εθνικές μειονότητες.
«Θα διερευνήσουμε τις ανησυχίες σχετικά με τη χρήση αλγορίθμων για την εξέταση των αιτήσεων πρόσληψης, που θα μπορούσαν να επηρεάσουν αρνητικά τις ευκαιρίες απασχόλησης όσων προέρχονται από διαφορετικά υπόβαθρα», ανέφερε το ICO.
Η έρευνα ανακοινώνεται ως μέρος ενός τριετούς σχεδίου για το ICO υπό τον νέο επίτροπο πληροφοριών του Ηνωμένου Βασιλείου, John Edwards, ο οποίος εντάχθηκε στο ICO τον Ιανουάριο μετά τη διαχείριση του ομολόγου του στη Νέα Ζηλανδία.
Δείτε επίσης: DeepMind της Google: Είμαστε κοντά στην επίτευξη τεχνητής νοημοσύνης «ανθρώπινου επιπέδου»
Σε μια ομιλία του την Πέμπτη, ο Edwards αναμένεται να πει ότι το ICO θα «εξετάσει το αντίκτυπο που θα μπορούσε να έχει η χρήση AI σε ομάδες ανθρώπων που δεν συμμετέχουν στις δοκιμές για αυτό το λογισμικό, όπως νευροαποκλίνοντες ανθρώπους ή άτομα από εθνικές μειονότητες».
Ο διευθύνων Σύμβουλος του ZipRecruiter, ενός ιστότοπου για θέσεις εργασίας, είπε στο Guardian φέτος ότι τουλάχιστον τα τρία τέταρτα όλων των βιογραφικών που υποβάλλονται για θέσεις εργασίας στις ΗΠΑ διαβάζονται από αλγόριθμους. Μια έρευνα πρόσληψης στελεχών που διεξήχθη από την εταιρεία ερευνών και συμβούλων Gartner, πέρυσι διαπίστωσε ότι σχεδόν όλοι ανέφεραν ότι χρησιμοποιούν AI για την διαδικασία πρόσληψης – για παράδειγμα, κοσκίνισμα των αιτήσεων προτού τις δει κάποιος.
Σύμφωνα με τον Γενικό Κανονισμό για την Προστασία Δεδομένων του Ηνωμένου Βασιλείου, ο οποίος επιβάλλεται από το ICO, τα άτομα έχουν δικαίωμα να μη γίνονται διακρίσεις κατά την επεξεργασία των δεδομένων τους. Το ICO έχει προειδοποιήσει στο παρελθόν ότι τα συστήματα που βασίζονται στην τεχνητή νοημοσύνη θα μπορούσαν να παράγουν αποτελέσματα που θέτουν σε μειονεκτική θέση ορισμένες ομάδες, εάν δεν εκπροσωπούνται με ακρίβεια ή δίκαια στο σύνολο δεδομένων στο οποίο εκπαιδεύεται και δοκιμάζεται ο αλγόριθμος. Ο νόμος για την ισότητα του Ηνωμένου Βασιλείου του 2010 προσφέρει επίσης στα άτομα προστασία από διακρίσεις, είτε προκαλούνται από άνθρωπο είτε από αυτοματοποιημένο σύστημα λήψης αποφάσεων.
Ο Δρ David Leslie, διευθυντής ηθικής και υπεύθυνης έρευνας καινοτομίας στο Ινστιτούτο Alan Turing, δήλωσε: «Η χρήση μοντέλων AI που βασίζονται σε δεδομένα στις διαδικασίες πρόσληψης εγείρει μια σειρά από ηθικά ζητήματα, τα οποία απαιτούν προνοητική σκέψη και επιμελή αξιολόγηση και από την πλευρά και των σχεδιαστών και των προμηθευτών συστημάτων».
«Βασικά, τα μοντέλα πρόβλεψης που θα μπορούσαν να χρησιμοποιηθούν για το φιλτράρισμα των αιτήσεων εργασίας μέσω τεχνικών εποπτευόμενης μηχανικής μάθησης διατρέχουν τον κίνδυνο να αναπαράγουν ή ακόμα και να αυξάνουν πρότυπα διάκρισης και δομικές ανισότητες που θα μπορούσαν να ενσωματωθούν στα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευσή τους».
Σε άλλο σημείο του τριετούς του σχεδίου, ο εποπτικός φορέας του Ηνωμένου Βασιλείου θα εξετάσει εάν θα δοθεί προτεραιότητα στο δημόσιο συμφέρον κατά την εξέταση παραπόνων σχετικά με αιτήματα για την ελευθερία της πληροφόρησης. Το ICO είπε ότι αλλαγές στη διαδικασία παραπόνων για το σύστημα FoI – το οποίο παρέχει στα μέλη του κοινού το νόμιμο δικαίωμα να ζητούν επίσημες πληροφορίες από δημόσιους φορείς – είναι απαραίτητες λόγω των αυξανόμενων παραπόνων και την έλλειψη πόρων για την αντιμετώπισή τους.
Δείτε επίσης: Στη μάχη μεταξύ AI και Metaverse, οι CEOs επιλέγουν AI
Ο Edwards είπε ότι το τρέχον σύστημα για την αντιμετώπιση καταγγελιών FoI –για λόγους που περιλαμβάνουν καθυστερημένες απαντήσεις ή ελλιπείς αποκαλύψεις πληροφοριών– δεν λειτουργεί και ότι θα διαβουλευθεί για ένα νέο καθεστώς. Ο αριθμός των καταγγελιών έφτασε τις 6.361 το έτος έως τις 30 Απριλίου 2022, που ήταν ελαφρά μικρότερος σε σχέση με το προηγούμενο έτος, αλλά μπορεί να συγκριθεί με το 5.433 το 2016/17.
«Θέλω να διερευνήσω εάν θα πρέπει να είμαστε σε θέση να αναδείξουμε κάποιες υποθέσεις ή να αποσύρουμε κάποιες και να πούμε: αυτές πρέπει να λυθούν γρήγορα, γιατί είναι προς το δημόσιο συμφέρον», είπε ο Edwards.
Ο Edwards είπε ότι ο οργανισμός αναμένει να αποφύγει τις κατηγορίες για μεροληψία προς αυτά που έδινε προτεραιότητα δημοσιεύοντας μια λίστα κριτηρίων για την εξέταση των καταγγελιών.
Ο Edwards είπε ότι το ICO θα εξετάσει το ενδεχόμενο να δώσει προτεραιότητα στις υποβολές καταγγελιών από δημοσιογράφους και βουλευτές, αν και θα χρησιμοποιούσε επίσης ένα σύστημα «τυφλών αιτήσεων» όπου η ταυτότητα του ατόμου ή του οργανισμού που έκανε την υποβολή θα ήταν κρυμμένη. Οι πληροφορίες που κατέχουν οι δημόσιες αρχές της Σκωτίας καλύπτονται από τον Επίτροπο της χώρας και τον Νόμο για την Ελευθερία της Πληροφορίας.
«Πρέπει να κάνουμε διάκριση μεταξύ του ποιος υποβάλλει το αίτημα… και να πούμε ότι ένας δημοσιογράφος ενεργεί για λογαριασμό του ευρύτερου κοινού για να φωτίσει ένα συγκεκριμένο θέμα. Επομένως, το αίτημα παίρνει επιπλέον πόντους. Ένα μέλος του κοινοβουλίου, για παράδειγμα, έχει έναν πολύ ιδιαίτερο ρόλο στο να υποχρεώνει την εκτελεστική και τη δημόσια αρχή να λογοδοτήσουν, οπότε ίσως να υπάρχει περίπτωση να προστεθεί επιπλέον βάρος σε αυτά τα αιτήματα».
Πηγή: theguardian.com
