Η Google συνεργάζεται με έναν καθηγητή του Harvard για να προωθήσει μια νέα κλίμακα για τη μέτρηση των αποχρώσεων του δέρματος – Monk Skin Tone Scale – με την ελπίδα να διορθώσει προβλήματα μεροληψίας και διαφορετικότητας στα προϊόντα της εταιρείας.
Δείτε επίσης: 5 πράγματα που δεν ήξερες ότι μπορεί να κάνει η Google
Η Google συνεργάζεται με τον Ellis Monk, επίκουρο καθηγητή κοινωνιολογίας στο Χάρβαρντ και δημιουργό του Monk Skin Tone Scale, ή MST. Το MST έχει σχεδιαστεί για να αντικαθιστά τις ξεπερασμένες κλίμακες τόνου δέρματος που στρέφονται προς το ανοιχτότερο δέρμα. Όταν αυτές οι παλαιότερες κλίμακες χρησιμοποιούνται από εταιρείες τεχνολογίας για να κατηγοριοποιήσουν το χρώμα του δέρματος, μπορεί να οδηγήσει σε προϊόντα που έχουν χειρότερη απόδοση για άτομα με πιο σκούρο χρώμα, λέει ο Monk.
Υπάρχουν πολλά παραδείγματα προϊόντων τεχνολογίας, ιδιαίτερα εκείνων που χρησιμοποιούν τεχνητή νοημοσύνη, που έχουν χειρότερη απόδοση με πιο σκούρες αποχρώσεις δέρματος. Αυτές περιλαμβάνουν εφαρμογές που έχουν σχεδιαστεί για την ανίχνευση του καρκίνου του δέρματος, λογισμικό αναγνώρισης προσώπου, ακόμη και συστήματα μηχανικής όρασης που χρησιμοποιούνται από αυτοοδηγούμενα αυτοκίνητα.
Αν και υπάρχουν πολλοί τρόποι με τους οποίους αυτό το είδος προκατάληψης προγραμματίζεται σε αυτά τα συστήματα, ένας κοινός παράγοντας είναι η χρήση ξεπερασμένων κλιμάκων για τον τόνο του δέρματος κατά τη συλλογή των training data. Η πιο δημοφιλής κλίμακα τόνου δέρματος είναι η κλίμακα Fitzpatrick, η οποία χρησιμοποιείται ευρέως τόσο στον ακαδημαϊκό χώρο όσο και στην τεχνητή νοημοσύνη. Σχεδιάστηκε αρχικά στη δεκαετία του ’70 για να ταξινομήσει πώς τα άτομα με πιο χλωμό δέρμα καίγονται ή μαυρίζουν στον ήλιο και μόλις αργότερα επεκτάθηκε για να συμπεριλάβει το πιο σκούρο δέρμα.
Δείτε επίσης: Πώς να συντάξετε ένα Gmail draft email στα Google Docs
Αυτό οδήγησε σε ορισμένες επικρίσεις ότι η κλίμακα Fitzpatrick αποτυγχάνει να συλλάβει μια πλήρη γκάμα αποχρώσεων δέρματος και μπορεί να σημαίνει ότι όταν το λογισμικό μηχανικής όρασης εκπαιδεύεται σε δεδομένα Fitzpatrick, είναι προκατειλημμένο προς πιο ανοιχτόχρωμους τύπους δέρματος.
Η κλίμακα Fitzpatrick αποτελείται από έξι κατηγορίες, αλλά η κλίμακα MST την επεκτείνει σε 10 διαφορετικούς τόνους δέρματος. Ο Monk λέει ότι αυτός ο αριθμός επιλέχθηκε με βάση τη δική του έρευνα για να εξισορροπήσει την ποικιλομορφία και την ευκολία χρήσης. Ορισμένες κλίμακες τόνου δέρματος προσφέρουν περισσότερες από εκατό διαφορετικές κατηγορίες, λέει, αλλά η υπερβολική επιλογή μπορεί να οδηγήσει σε ασυνεπή αποτελέσματα.
Η δημιουργία μιας νέας κλίμακας τόνου δέρματος είναι μόνο ένα πρώτο βήμα, ωστόσο, και η πραγματική πρόκληση είναι η ενσωμάτωση αυτής της εργασίας σε εφαρμογές του πραγματικού κόσμου. Προκειμένου να προωθήσει την κλίμακα MST (Monk Skin Tone Scale), η Google δημιούργησε έναν νέο ιστότοπο, τον skintone.google, αφιερωμένο στην επεξήγηση της έρευνας και των βέλτιστων πρακτικών για τη χρήση του στην τεχνητή νοημοσύνη. Η εταιρεία λέει ότι εργάζεται για να εφαρμόσει την κλίμακα MST σε ορισμένα δικά της προϊόντα. Αυτά περιλαμβάνουν τα φίλτρα φωτογραφιών “Real Tone”, τα οποία έχουν σχεδιαστεί για να λειτουργούν καλύτερα με πιο σκούρες αποχρώσεις δέρματος, και τα αποτελέσματα αναζήτησης εικόνων.
Η Google λέει ότι εισάγει μια νέα δυνατότητα στην αναζήτηση εικόνων που θα επιτρέπει στους χρήστες να βελτιώνουν τις αναζητήσεις με βάση τους τόνους δέρματος που ταξινομούνται από την κλίμακα MST. Έτσι, για παράδειγμα, εάν αναζητήσετε “μακιγιάζ ματιών” ή “νυφικό μακιγιάζ”, μπορείτε στη συνέχεια να φιλτράρετε τα αποτελέσματα με βάση τον τόνο του δέρματος σας. Στο μέλλον, η εταιρεία σχεδιάζει να χρησιμοποιήσει την κλίμακα MST για να ελέγξει την ποικιλομορφία των αποτελεσμάτων της.
Η εταιρεία αναφέρει: “Καθημερινά, εκατομμύρια άνθρωποι αναζητούν τον Ιστό προσδοκώντας να βρουν εικόνες που αντικατοπτρίζουν τις συγκεκριμένες ανάγκες τους. Αυτός είναι ο λόγος για τον οποίο εισάγουμε επίσης νέες λειτουργίες χρησιμοποιώντας την κλίμακα MST για να διευκολύνουμε τους ανθρώπους σε όλα τα σημεία της γης να βρίσκουν πιο σχετικά και χρήσιμα αποτελέσματα.”
Δείτε επίσης: Η Google διόρθωσε ένα περίεργο σφάλμα που κράσαρε το app Docs
Η επικεφαλής προϊόντος της Google για την υπεύθυνη τεχνητή νοημοσύνη, Tulsee Doshi, είπε στο The Verge ότι αυτές οι ενημερώσεις βρίσκονταν σε «πολύ πρώιμο» στάδιο ανάπτυξης και δεν είχαν ακόμη κυκλοφορήσει στις υπηρεσίες της εταιρείας.
Η εισαγωγή μιας νέας και πιο περιεκτικής κλίμακας για τη μέτρηση των αποχρώσεων του δέρματος είναι ένα βήμα προς τα εμπρός, αλλά εξακολουθούν να υπάρχουν πολύ πιο επικίνδυνα ζητήματα που αφορούν την τεχνητή νοημοσύνη και την προκατάληψη.
Πηγή πληροφοριών: theverge.com
