Μείωση των προκαταλήψεων στην τεχνητή νοημοσύνη: Η δράση του μη κερδοσκοπικού οργανισμού του Mutale Nkonde

Για να δώσει στις

γυναίκες

ακαδημαϊκές και σε άλλους που άξιζε —και καθυστερήσει— χρόνο στο προσκήνιο, το TechCrunch ξεκινά μια σειρά συνεντεύξεων που επικεντρώνονται σε αξιόλογες γυναίκες που έχουν συνεισφέρει στην επανάσταση της τεχνητής νοημοσύνης. Θα δημοσιεύσουμε πολλά κομμάτια καθ’ όλη τη διάρκεια του έτους καθώς η άνθηση της τεχνητής νοημοσύνης συνεχίζεται, επισημαίνοντας τη βασική δουλειά που συχνά δεν αναγνωρίζεται. Διαβάστε περισσότερα προφίλ εδώ.

Mutale Nkonde

είναι ο ιδρυτικός Διευθύνων Σύμβουλος της μη κερδοσκοπικής AI for the People (AFP), η οποία επιδιώκει να αυξήσει τον αριθμό των μαύρων φωνών στην τεχνολογία. Πριν από αυτό, βοήθησε να εισαχθούν στη Βουλή των Αντιπροσώπων των Η.Π.Α. οι Αλγοριθμικές Πράξεις Αλγοριθμικών και Βαθιών Ψεύτικων Αλγορίθμων, εκτός από τον Νόμο για τα Βιομετρικά Εμπόδια στη Στέγαση. Αυτή τη στιγμή είναι Visiting Policy Fellow στο Oxford Internet Institute.

Εν συντομία, πώς ξεκινήσατε με την τεχνητή νοημοσύνη; Τι σας τράβηξε στο χώρο;

Άρχισα να είμαι περίεργος για το πώς λειτουργούσαν τα μέσα κοινωνικής δικτύωσης αφού ένας φίλος μου δημοσίευσε ότι το Google Pictures, ο πρόδρομος του Google Image, χαρακτήρισε δύο μαύρους ως γορίλες το 2015. Ασχολήθηκα με πολλούς κύκλους «Μαύρους στην τεχνολογία» και ήμασταν εξοργισμένοι, αλλά δεν άρχισα να καταλαβαίνω ότι αυτό ήταν λόγω αλγοριθμικής προκατάληψης μέχρι τη δημοσίευση του “

Weapons

of Math Destruction” το 2016. Αυτό με ενέπνευσε να αρχίσω να υποβάλλω αίτηση για υποτροφίες όπου θα μπορούσα να το μελετήσω περαιτέρω και τελείωσε με τον ρόλο μου ως τηλεφώνησε ένας συν-συγγραφέας μιας αναφοράς

Προώθηση του φυλετικού γραμματισμού στην τεχνολογία,

που δημοσιεύτηκε το 2019. Αυτό έγινε αντιληπτό από τους ανθρώπους στο Ίδρυμα McArthur και ξεκίνησε το τρέχον σκέλος της καριέρας μου.

Με τράβηξαν ερωτήσεις σχετικά με τον ρατσισμό και την τεχνολογία, επειδή έμοιαζαν ανεπαρκώς μελετημένες και αντιφατικές. Μου αρέσει να κάνω πράγματα που δεν κάνουν οι άλλοι, επομένως η εκμάθηση περισσότερων και η διάδοση αυτών των πληροφοριών στη Silicon Valley φαινόταν πολύ διασκεδαστική. Από το Advancing Racial Literacy in Tech, έχω ξεκινήσει μια μη κερδοσκοπική εταιρεία που ονομάζεται

AI για τους ανθρώπους

που εστιάζει στην υποστήριξη πολιτικών και πρακτικών για τη μείωση της έκφρασης αλγοριθμικής μεροληψίας.

Για ποια δουλειά είστε περισσότερο περήφανοι (στον τομέα της τεχνητής νοημοσύνης);

Είμαι πραγματικά περήφανος που είμαι ο κορυφαίος υποστηρικτής του νόμου περί αλγοριθμικής λογοδοσίας, ο οποίος εισήχθη για πρώτη φορά στη Βουλή των Αντιπροσώπων το 2019. Καθιέρωσε την τεχνητή νοημοσύνη για το λαό ως βασικό ηγέτη σκέψης σχετικά με τον τρόπο ανάπτυξης πρωτοκόλλων που θα καθοδηγούν το σχεδιασμό, την ανάπτυξη και

διακυβέρνηση

συστημάτων τεχνητής νοημοσύνης που συμμορφώνονται με τους τοπικούς νόμους περί μη διακρίσεων. Αυτό μας οδήγησε στο να συμπεριληφθούμε στα κανάλια Schumer AI Insights ως μέρος μιας συμβουλευτικής ομάδας για διάφορες ομοσπονδιακές υπηρεσίες και σε ορισμένες συναρπαστικές επερχόμενες εργασίες στο Hill.

Πώς αντιμετωπίζετε τις προκλήσεις της ανδροκρατούμενης βιομηχανίας τεχνολογίας και, κατ’ επέκταση, της ανδροκρατούμενης βιομηχανίας τεχνητής νοημοσύνης;

Στην πραγματικότητα είχα περισσότερα προβλήματα με τους ακαδημαϊκούς θυρωρούς. Οι περισσότεροι από τους άνδρες με τους οποίους συνεργάζομαι σε εταιρείες τεχνολογίας έχουν επιφορτιστεί με την ανάπτυξη συστημάτων για χρήση σε μαύρους και άλλους μη λευκούς πληθυσμούς, και έτσι ήταν πολύ εύκολο να συνεργαστείς μαζί τους. Κυρίως επειδή ενεργώ ως εξωτερικός εμπειρογνώμονας που μπορεί είτε να επικυρώσει είτε να αμφισβητήσει τις υπάρχουσες πρακτικές.

Τι συμβουλή θα δίνατε στις γυναίκες που θέλουν να εισέλθουν στον τομέα της τεχνητής νοημοσύνης;

Βρείτε μια θέση και μετά γίνετε ένας από τους καλύτερους ανθρώπους στον κόσμο σε αυτήν. Είχα δύο πράγματα που με βοήθησαν να χτίσω αξιοπιστία. Το πρώτο ήταν ότι υποστήριζα πολιτικές για τη μείωση της αλγοριθμικής μεροληψίας, ενώ οι άνθρωποι στον ακαδημαϊκό χώρο άρχισαν να συζητούν το θέμα. Αυτό μου έδωσε ένα πλεονέκτημα πρώτης κίνησης στον «χώρο λύσεων» και έκανε την AI for the People μια αρχή στο Hill πέντε χρόνια πριν από την εκτελεστική εντολή. Το δεύτερο πράγμα που θα έλεγα είναι να εξετάσετε τις ελλείψεις σας και να τις αντιμετωπίσετε. Η τεχνητή νοημοσύνη για τους ανθρώπους είναι τεσσάρων ετών και έχω αποκτήσει τα ακαδημαϊκά διαπιστευτήρια που χρειάζομαι για να διασφαλίσω ότι δεν θα απομακρυνθώ από τους χώρους ηγετών σκέψης. Ανυπομονώ να αποφοιτήσω με μεταπτυχιακό από την Κολούμπια τον Μάιο και ελπίζω να συνεχίσω την έρευνα σε αυτόν τον τομέα.

Ποια είναι μερικά από τα πιο πιεστικά ζητήματα που αντιμετωπίζει η τεχνητή νοημοσύνη καθώς εξελίσσεται;

Σκέφτομαι έντονα τις στρατηγικές που μπορούν να ακολουθηθούν για τη συμμετοχή περισσότερων Μαύρων και έγχρωμων ανθρώπων στην κατασκευή, τη δοκιμή και τον σχολιασμό θεμελιωδών μοντέλων. Αυτό οφείλεται στο γεγονός ότι οι τεχνολογίες είναι τόσο καλές όσο τα δεδομένα εκπαίδευσής τους, οπότε πώς δημιουργούμε περιεκτικά σύνολα δεδομένων τη στιγμή που η DEI δέχεται επίθεση, τα Black venture funds μηνύονται για στόχευση μαύρων και γυναικών ιδρυτών και οι μαύροι ακαδημαϊκοί δέχονται δημόσια επίθεση , ποιος θα κάνει αυτή τη δουλειά στον κλάδο;

Ποια είναι ορισμένα ζητήματα που πρέπει να γνωρίζουν οι χρήστες τεχνητής νοημοσύνης;

Νομίζω ότι θα έπρεπε να σκεφτόμαστε την ανάπτυξη της τεχνητής νοημοσύνης ως γεωπολιτικό ζήτημα και πώς οι Ηνωμένες Πολιτείες θα μπορούσαν να γίνουν ηγέτης στην πραγματικά επεκτάσιμη τεχνητή νοημοσύνη δημιουργώντας προϊόντα που έχουν υψηλά ποσοστά αποτελεσματικότητας σε άτομα σε κάθε δημογραφική ομάδα. Αυτό οφείλεται στο γεγονός ότι η Κίνα είναι ο μόνος άλλος

μεγάλο

ς παραγωγός τεχνητής νοημοσύνης, αλλά παράγει προϊόντα σε έναν σε μεγάλο βαθμό ομοιογενή πληθυσμό και παρόλο που έχουν μεγάλο αποτύπωμα στην Αφρική. Ο αμερικανικός τεχνολογικός τομέας μπορεί να κυριαρχήσει σε αυτήν την αγορά εάν γίνουν επιθετικές επενδύσεις για την ανάπτυξη τεχνολογιών κατά της προκατάληψης.

Ποιος είναι ο καλύτερος τρόπος για να δημιουργήσετε υπεύθυνα AI;

Πρέπει να υπάρξει μια πολυδιάστατη προσέγγιση, αλλά ένα πράγμα που πρέπει να λάβετε υπόψη θα ήταν η επιδίωξη ερευνητικών ερωτημάτων που επικεντρώνονται σε άτομα που ζουν στο περιθώριο του περιθωρίου. Ο ευκολότερος τρόπος για να το κάνετε αυτό είναι κρατώντας σημειώσεις για τις πολιτιστικές

τάσεις

και στη συνέχεια εξετάζοντας πώς αυτό επηρεάζει την τεχνολογική ανάπτυξη. Για παράδειγμα, θέτοντας ερωτήσεις όπως πώς σχεδιάζουμε κλιμακούμενες βιομετρικές τεχνολογίες σε μια κοινωνία όπου περισσότεροι άνθρωποι αναγνωρίζουν ως τρανς ή μη δυαδικούς;

Πώς μπορούν οι επενδυτές να πιέσουν καλύτερα για υπεύθυνη τεχνητή νοημοσύνη;

Οι επενδυτές θα πρέπει να εξετάσουν τις δημογραφικές τάσεις και μετά να αναρωτηθούν θα μπορέσουν αυτές οι εταιρείες να πουλήσουν σε έναν πληθυσμό που γίνεται όλο και πιο μαύρος και καφέ λόγω της πτώσης των ποσοστών γεννήσεων στους ευρωπαϊκούς πληθυσμούς σε ολόκληρο τον κόσμο; Αυτό θα πρέπει να τους ωθήσει να κάνουν ερωτήσεις σχετικά με την αλγοριθμική μεροληψία κατά τη διαδικασία δέουσας επιμέλειας, καθώς αυτό θα γίνεται όλο και περισσότερο πρόβλημα για τους καταναλωτές.

Υπάρχει τόση πολλή δουλειά που πρέπει να γίνει για την ανανέωση των δεξιοτήτων του εργατικού δυναμικού μας για μια περίοδο που τα συστήματα τεχνητής νοημοσύνης κάνουν εργασίες εξοικονόμησης εργασίας χαμηλού κόστους. Πώς μπορούμε να διασφαλίσουμε ότι τα άτομα που ζουν στο περιθώριο της κοινωνίας μας περιλαμβάνονται σε αυτά τα προγράμματα; Τι πληροφορίες μπορούν να μας δώσουν σχετικά με το πώς λειτουργούν τα συστήματα τεχνητής νοημοσύνης και πώς δεν λειτουργούν από αυτά και πώς μπορούμε να χρησιμοποιήσουμε αυτές τις πληροφορίες για να βεβαιωθούμε ότι η τεχνητή νοημοσύνη είναι πραγματικά για τους ανθρώπους;