Οι δοκιμές μεροληψίας AI αποκαλύπτουν μια κρίσιμη πτυχή του χρώματος του δέρματος, ισχυρίζεται η έρευνα της Sony
Ενώ η βιομηχανία τεχνητής νοημοσύνης έχει επικεντρωθεί στο να κάνει τους αλγόριθμούς της λιγότερο προκατειλημμένους με βάση τη φωτεινότητα ή το σκοτάδι των αποχρώσεων του δέρματος των ανθρώπων, νέα έρευνα από τη Sony ζητά να ληφθούν υπόψη και οι κόκκινες και κίτρινες αποχρώσεις του δέρματος. Σε ένα
έγγραφο που δημοσιεύτηκε τον περασμένο μήνα
οι συγγραφείς William Thong και Alice Xiang από τη Sony AI, καθώς και ο Przemyslaw Joniak από το Πανεπιστήμιο του Τόκιο, πρότειναν μια πιο «πολυδιάστατη» μέτρηση του χρώματος του δέρματος με την ελπίδα ότι μπορεί να οδηγήσει σε πιο διαφορετικά και αντιπροσωπευτικά συστήματα AI.
Οι ερευνητές εφιστούν την προσοχή στις προκαταλήψεις στο χρώμα του δέρματος στα συστήματα τεχνητής νοημοσύνης εδώ και χρόνια, συμπεριλαμβανομένης μιας σημαντικής μελέτης του 2018 από τους Joy Buolamwini και Timnit Gebru που διαπίστωσε ότι η
τεχνητή νοημοσύνη
ήταν πιο επιρρεπής σε ανακρίβειες όταν χρησιμοποιείται σε
γυναίκες
με πιο σκουρόχρωμο δέρμα. Σε απάντηση, οι εταιρείες έχουν εντείνει τις προσπάθειές τους για να δοκιμάσουν πόσο ακριβή λειτουργούν τα συστήματά τους με μια ποικιλία αποχρώσεων δέρματος.
Το
πρόβλημα
, σύμφωνα με την έρευνα της Sony, είναι ότι και οι δύο ζυγαριές εστιάζονται κυρίως στον ανοιχτόχρωμο ή σκοτεινό τόνο του δέρματος. «Εάν τα προϊόντα αξιολογούνται με αυτόν τον πολύ μονοδιάστατο τρόπο, υπάρχουν πολλές προκαταλήψεις που θα παραμείνουν απαρατήρητες και απεριόριστες», η Alice Xiang, η παγκόσμια επικεφαλής του τμήματος AI Ethics της Sony.
λέει
Ενσύρματο
. «Ελπίζουμε ότι η δουλειά που κάνουμε εδώ μπορεί να βοηθήσει στην αντικατάσταση ορισμένων από τις υπάρχουσες κλίμακες τόνου δέρματος που πραγματικά εστιάζουν στο φως έναντι του σκούρου». Σε ένα
ανάρτηση
οι ερευνητές της Sony σημειώνουν συγκεκριμένα ότι οι τρέχουσες κλίμακες δεν λαμβάνουν υπόψη τις προκαταλήψεις εναντίον “Ανατολικοασιατών, Νοτιοασιατών, Ισπανόφωνων, ατόμων της Μέσης Ανατολής και άλλων που μπορεί να μην ταιριάζουν απόλυτα στο φάσμα από το φως στο σκοτάδι”.
Ως παράδειγμα του αντίκτυπου που μπορεί να έχει αυτή η μέτρηση, η έρευνα της Sony διαπίστωσε ότι τα κοινά σύνολα δεδομένων εικόνων υπεραντιπροσωπεύουν άτομα με δέρμα πιο ανοιχτόχρωμο και πιο κόκκινο και υποεκπροσωπούν πιο σκούρο, πιο κίτρινο δέρμα. Αυτό μπορεί να κάνει τα συστήματα AI λιγότερο ακριβή. Η Sony ανακάλυψε ότι το image-cropper του Twitter και δύο άλλοι αλγόριθμοι δημιουργίας εικόνας ευνοούσαν το πιο κόκκινο δέρμα,
Ενσύρματο
σημειώνει, ενώ άλλα συστήματα τεχνητής νοημοσύνης θα ταξινομούσαν λανθασμένα άτομα με πιο κόκκινη απόχρωση δέρματος ως “
πιο χαμογελαστός
.»
Η προτεινόμενη λύση της Sony είναι να υιοθετήσει μια αυτοματοποιημένη προσέγγιση που βασίζεται στην προϋπάρχουσα
Πρότυπο χρώματος CIELAB
το οποίο θα απέφευγε επίσης τη χειροκίνητη προσέγγιση κατηγοριοποίησης που χρησιμοποιείται με την κλίμακα
Monk
.
Αν και η προσέγγιση της Sony είναι πιο πολύπλευρη, μέρος του ζητήματος της κλίμακας τόνου δέρματος Monk — η οποία πήρε το όνομά της από τη δημιουργό Ellis Monk — είναι η απλότητά της. Το σύστημα περιορίζεται σκόπιμα σε 10 τόνους δέρματος για να προσφέρει ποικιλομορφία χωρίς να διακινδυνεύει τις ασυνέπειες που σχετίζονται με την ύπαρξη περισσότερων κατηγοριών. «Συνήθως, αν ξεπερνάτε τους 10 ή 12 βαθμούς σε αυτούς τους τύπους ζυγαριών [and] Ζητήστε από το ίδιο άτομο να διαλέγει επανειλημμένα τους ίδιους τόνους, όσο περισσότερο αυξάνετε αυτή την κλίμακα, τόσο λιγότεροι μπορούν να το κάνουν αυτό», είπε ο Monk σε συνέντευξή του πέρυσι. “Γνωστικά μιλώντας, γίνεται πολύ δύσκολο να διαφοροποιηθεί με ακρίβεια και αξιοπιστία.”
Ο Monk αντέκρουσε επίσης την ιδέα ότι η ζυγαριά του δεν λαμβάνει υπ’ όψιν τους υποτόνους και τις αποχρώσεις “Η έρευνα ήταν αφιερωμένη στο να αποφασίσουμε ποιους υποτόνους θα δώσουν προτεραιότητα κατά μήκος της κλίμακας και σε ποια σημεία”, λέει.
Ενσύρματο
.
Παρ ‘όλα αυτά,
Ενσύρματο
αναφέρει ότι μερικοί σημαντικοί παίκτες τεχνητής νοημοσύνης καλωσόρισαν την έρευνα της Sony, με την
Google
και την Amazon να σημειώνουν ότι εξετάζουν το έγγραφο.