Μία έρευνα έχει ξεκινήσει από τις χρηματοοικονομικές αρχές της Αμερικής, σχετικά με αναφορές που έγιναν ότι η πιστωτική κάρτα της Apple δίνει διαφορετικά πιστωτικά όρια στους άνδρες και διαφορετικά στις γυναίκες.
Πιο συγκεκριμένα πιστεύεται ότι οι αλγόριθμοι που θέτουν αυτά τα όρια, ίσως έχουν κατασκευαστεί για να είναι πιο προκατειλημμένοι απέναντι στις γυναίκες. Οι αρμόδιες αρχές έχουν έρθει σε επαφή με την Goldman Sachs, η οποία διαχειρίζεται την κάρτα Apple.
Οποιαδήποτε διάκριση, εκ προθέσεως ή όχι, “παραβιάζει τη νομοθεσία της Νέας Υόρκης”, ανέφερε το DFS (Department of Financial Services).
Όπως ανέφερε το πρακτορείο ειδήσεων Bloomberg, ο τεχνολόγος David Heinemeier Hansson διαμαρτυρήθηκε ότι η κάρτα Apple του, του έδινε 20 φορές παραπάνω από το πιστωτικό όριο που έδινε στη σύζυγό του, παρόλο που εκείνη είχε καλύτερο πιστωτικό αποτέλεσμα.
Αργότερα, ο κ. Wozniak, συνιδρυτής της Apple, δήλωσε ότι το ίδιο συνέβη και με την σύζυγό του, παρά το γεγονός ότι δεν διέθεταν ξεχωριστούς τραπεζικούς λογαριασμούς ή ξεχωριστά περιουσιακά στοιχεία.
“Νομική παραβίαση”
Ωστόσο φαίνεται ότι δεν πρόκειται για την μοναδική περίπτωση διακρίσεων στον κόσμο της τεχνολογίας. Σύμφωνα με τον κ. Hansson, δημιουργό του εργαλείου προγραμματισμού Ruby on Rails και οι αλγόριθμοι μπορούν να κάνουν διακρίσεις.
Ο αμερικανικός όμιλος υγείας, UnitedHealth Group, διερευνάται επίσης, καθώς υπάρχουν ισχυρισμοί ότι ένας αλγόριθμος ευνοούσε τους λευκούς ασθενείς έναντι των μαύρων.
Ο κ. Hansson χαρακτήρισε την πιστωτική κάρτα της Apple ως ένα σεξιστικό πρόγραμμα, σε ένα tweet του και δήλωσε ότι μόλις έθεσε το ζήτημα, το πιστωτικό όριο της συζύγου του αυξήθηκε.
Το DFS δήλωσε ότι «θα διενεργήσει έρευνα για να διαπιστώσει εάν παραβιάστηκε ο νόμος της Νέας Υόρκης και να εξασφαλίσει ότι όλοι οι καταναλωτές τυγχάνουν ίσης μεταχείρισης ανεξάρτητα από το φύλο».
“Οποιοσδήποτε αλγόριθμος που σκόπιμα ή όχι οδηγεί σε διακριτική μεταχείριση γυναικών ή οποιασδήποτε άλλης προστατευμένης τάξης, παραβιάζει τη νομοθεσία της Νέας Υόρκης”.
Το Σάββατο, η επενδυτική τράπεζα δήλωσε στο Bloomberg: “Οι πιστωτικές μας αποφάσεις βασίζονται στην φερεγγυότητα του πελάτη και όχι σε παράγοντες όπως το φύλο, η φυλή, η ηλικία, ο σεξουαλικός προσανατολισμός ή οποιαδήποτε άλλη απαγορευμένη από το νόμο διάκριση”.
Κανείς δεν είναι ακόμα σίγουρος σχετικά με το τι πραγματικά συμβαίνει. Ωστόσο υπάρχει η υποψία, ότι μια ακούσια προκατάληψη έχει εισέλθει στο σύστημα.
Αυτό θα μπορούσε να οφείλεται στο γεγονός ότι όταν αναπτύχθηκαν οι αλγόριθμοι, εκπαιδεύτηκαν σε ένα σύνολο δεδομένων στο οποίο οι γυναίκες πράγματι έθεταν μεγαλύτερο οικονομικό ρίσκο από τους άνδρες. Αυτό θα μπορούσε να αναγκάσει το λογισμικό να προσφέρει χαμηλότερα πιστωτικά όρια για τις γυναίκες εν γένει, ακόμα κι αν η υπόθεση στην οποία βασίζεται δεν ισχύει για τον πληθυσμό γενικότερα.
Εναλλακτικά, το πρόβλημα μπορεί να βρίσκεται στα δεδομένα που παρέχονται τώρα στους αλγόριθμους. Για παράδειγμα, στα έγγαμα ζευγάρια, οι άνδρες ενδέχεται να είναι πιο πιθανό να πάρουν μεγάλα δάνεια χρησιμοποιώντας αποκλειστικά το όνομά τους, παρά να το έχουν κάνει από κοινού με τις συζύγους τους και τα δεδομένα ενδέχεται να μην έχουν προσαρμοστεί για να λάβουν αυτό υπόψη.
