Εξετάζεται ο αλγόριθμος και τα προϊόντα του Facebook και της υπηρεσίας φωτογραφιών του, Instagram, για πιθανές φυλετικές διακρίσεις και την αντιμετώπισή τους.
Σύμφωνα με ανακοίνωση της πλατφόρμας κοινωνικής δικτύωσης, η εφαρμογή αποφάσισε να γίνει πιο ενεργή, εξετάζοντας τις προκλήσεις που αντιμετωπίζουν οι μειονότητες και στις δύο πλατφόρμες του Facebook, αλλά και πιθανές φυλετικές διακρίσεις που μπορεί να υπάρχουν στους αλγορίθμους των εφαρμογών και τα προϊόντα τους.
Αυτή η κίνηση έρχεται σε μια περίοδο που το μέσο κοινωνικής δικτύωσης δέχεται περισσότερη πίεση για την καταπολέμηση του περιεχομένου μίσους στην ιστοσελίδα του, μετά την δολοφονία του George Floyd από την αστυνομία, ενός έγχρωμου 46χρονου από τη Μινεάπολη.
Ομάδες πολιτικών δικαιωμάτων έχουν επικρίνει την εταιρεία ότι δεν έκανε αρκετά για να αντιμετωπίσει τη ρητορική μίσους, ωθώντας τους μεγάλους διαφημιστές να σταματήσουν να προωθούν τις διαφημίσεις τους στο Facebook αυτό το μήνα, ως μέρος της εκστρατείας.
Οι έγχρωμοι χρήστες και άλλες μειονότητες έχουν επίσης διαμαρτυρηθεί ότι οι δημοσιεύσεις τους σχετικά με τον ρατσισμό επισημαίνονται κατά λάθος από την εταιρεία για έκφραση μίσους. Ο Mark Luckie, πρώην Διευθυντής του μέσου κοινωνικής δικτύωσης, που είναι έγχρωμος, το κατηγόρησε ότι «απογοήτευσε» τους έγχρωμους χρήστες του. Τόνισε μάλιστα, ότι υπάρχει η θεωρία πως το περιεχόμενο αυτών των μειονοτήτων καταργείται περισσότερο από ότι άλλων ομάδων.
«Το κίνημα της φυλετικής δικαιοσύνης είναι μια προτωβουλία πραγματικής σημασίας για την εταιρεία μας. Οποιαδήποτε μεροληψία στα συστήματα και τις πολιτικές μας έρχεται σε αντίθεση με τον σκοπό της πλατφόρμας, που είναι να εκφράζονται όλοι,» δήλωσε ο Vishal Shah, Αντιπρόεδρος του Instagram.
Το Instagram δημιουργεί μια νέα ομάδα που επικεντρώνεται στη «διασφάλιση δικαιοσύνης και έντιμης ανάπτυξης προϊόντων». Η ομάδα ονομάζεται Equity και θα συνεργάζεται με την ομάδα AI του Facebook. Oι υπάλληλοι του Instagram θα υποστηρίζουν επίσης δυνατότητες που προωθούν την ισότητα, όπως εργαλεία που βοηθούν διάφορες επιχειρήσεις.
Το Facebook δημιουργεί την ομάδα προϊόντων Inclusivity και πρόσφατα ξεκίνησε ένα συμβούλιο που θα βοηθήσει στην ενσωμάτωση των απόψεων των έγχρωμων χρηστών και άλλων μειονοτήτων καθώς αναπτύσσει νέα προϊόντα.
Η Wall Street Journal, η οποία ανέφερε τη δημιουργία των νέων ομάδων, δήλωσε ότι η μελέτη της φυλετικής διάκρισης ήταν ένα «αμφιλεγόμενο» ζήτημα στο Facebook και το Instagram στο παρελθόν. Μια εσωτερική έρευνα αποκάλυψε ότι οι χρήστες των οποίων η δραστηριότητα έδειχνε ότι ήταν έγχρωμοι είχαν 50% περισσότερες πιθανότητες από άλλους χρήστες να απενεργοποιηθούν οι λογαριασμοί τους. Το Instagram αντιμετώπισε το ζήτημα, αλλά απαγόρευσε περαιτέρω έρευνα για το θέμα.
Το Facebook εξέφρασε τις ανησυχίες του για την αξιοπιστία των παραμέτρων που χρησιμοποιήθηκαν για τον προσδιορισμό της φυλής ενός χρήστη. Στο πλαίσιο της έρευνας, οι εργαζόμενοι εξέτασαν τον «πολυπολιτισμικό συσχετισμό» των χρηστών, οι οποίοι στο παρελθόν έχουν προτείνει στους διαφημιζόμενους, χρήστες που πιθανώς ενδιαφέρονται για διαφημίσεις, με βάση Ισπανικές και Ασιατικές κοινότητες Αμερικάνων και Αφροαμερικάνων.
Το μέσο κοινωνικής δικτύωσης έχει εκχωρήσει στους χρήστες έναν «πολυπολιτισμικό συσχετισμό» με βάση τη δραστηριότητά τους στην πλατφόρμα.
Το 2017, η εταιρεία απενεργοποίησε τη δυνατότητα των διαφημιζόμενων να στοχεύουν χρήστες με «πολυπολιτισμικό συσχετισμό» λόγω ανησυχιών ότι οι διαφημιζόμενοι θα μπορούσαν να χρησιμοποιήσουν το εργαλείο για να αποκλείσουν άτομα συγκεκριμένων φυλών.
Το Facebook είπε ότι το έργο του για την έρευνα και την αντιμετώπιση πιθανών φυλετικών διακρίσεων βρίσκεται ακόμη σε αρχικά στάδια, αλλά σχεδιάζει να μοιραστεί περισσότερες πληροφορίες τους επόμενους μήνες.
