Ο νόμος κατά της μεροληψίας της Νέας Υόρκης για τους αλγόριθμους προσλήψεων τίθεται σε ισχύ

Μετά από μήνες καθυστερήσεων, η πόλη της Νέας Υόρκης άρχισε σήμερα να επιβάλλει έναν νόμο που απαιτεί από τους εργοδότες να χρησιμοποιούν αλγόριθμους για να προσλαμβάνουν, να προσλαμβάνουν ή να προωθούν υπαλλήλους να υποβάλλουν αυτούς τους αλγόριθμους για ανεξάρτητο έλεγχο — και να δημοσιοποιούν τα αποτελέσματα. Η πρώτη του είδους της στη χώρα, η νομοθεσία — Τοπικός Νόμος 144 της πόλης της Νέας Υόρκης — επιβάλλει επίσης στις εταιρείες που χρησιμοποιούν αυτούς τους τύπους αλγορίθμων να αποκαλύπτουν τους υπαλλήλους ή τους υποψήφιους για εργασία.

Τουλάχιστον, οι αναφορές που πρέπει να δημοσιοποιήσουν οι εταιρείες πρέπει να αναφέρουν τους αλγόριθμους που χρησιμοποιούν καθώς και μια «μέση βαθμολογία» που πιθανόν να λάβουν υποψήφιοι διαφορετικών φυλών, εθνοτήτων και φύλων από τους εν λόγω αλγόριθμους — με τη μορφή βαθμολογίας , ταξινόμηση ή σύσταση. Πρέπει επίσης να απαριθμεί τους «δείκτες αντίκτυπου» των αλγορίθμων, τους οποίους ο νόμος ορίζει ως τη μέση βαθμολογία που δίνεται από τον αλγόριθμο όλων των ατόμων σε μια συγκεκριμένη κατηγορία (π.χ. μαύροι άνδρες υποψήφιοι) διαιρεμένη με τη μέση βαθμολογία των ατόμων στην κατηγορία με την υψηλότερη βαθμολογία .

Οι εταιρείες που θα διαπιστωθεί ότι δεν συμμορφώνονται θα αντιμετωπίσουν κυρώσεις ύψους 375 $ για μια πρώτη παράβαση, 1.350 $ για μια δεύτερη παράβαση και 1.500 $ για μια τρίτη και τυχόν μεταγενέστερες παραβάσεις. Κάθε μέρα που μια εταιρεία χρησιμοποιεί έναν αλγόριθμο που δεν συμμορφώνεται με τη νομοθεσία, θα αποτελεί ξεχωριστή παραβίαση — όπως και η αποτυχία παροχής επαρκούς αποκάλυψης.

Είναι σημαντικό ότι το πεδίο εφαρμογής του Τοπικού Νόμου 144, ο οποίος εγκρίθηκε από το Δημοτικό Συμβούλιο και θα εφαρμοστεί από το Τμήμα Προστασίας Καταναλωτών και Εργαζομένων της Νέας Υόρκης, εκτείνεται πέρα ​​από τους εργαζόμενους που εδρεύουν στη Νέα Υόρκη. Εφόσον ένα άτομο εργάζεται ή υποβάλλει αίτηση για δουλειά στην πόλη, είναι επιλέξιμο για προστασία βάσει του νέου νόμου.

Πολλοί το βλέπουν ως εκπρόθεσμο. Ο Khyati Sundaram, Διευθύνων Σύμβουλος της Applied, ενός προμηθευτή τεχνολογίας προσλήψεων, επεσήμανε ότι η τεχνητή νοημοσύνη προσλήψεων ειδικότερα έχει τη δυνατότητα να ενισχύσει τις υπάρχουσες προκαταλήψεις — επιδεινώνοντας τόσο την απασχόληση όσο και τις διαφορές αμοιβών στη διαδικασία.

«Οι εργοδότες θα πρέπει να αποφεύγουν τη χρήση τεχνητής νοημοσύνης για ανεξάρτητη βαθμολογία ή κατάταξη υποψηφίων», είπε ο Sundaram στο TechCrunch μέσω email. «Δεν βρισκόμαστε ακόμη σε ένα μέρος όπου οι αλγόριθμοι μπορούν ή πρέπει να εμπιστευτούμε για να λάβουν αυτές τις αποφάσεις μόνοι τους χωρίς να αντικατοπτρίζονται και να διαιωνίζονται προκαταλήψεις που υπάρχουν ήδη στον κόσμο της εργασίας».

Δεν χρειάζεται να ψάξουμε πολύ για αποδείξεις μεροληψίας που διεισδύουν στους αλγόριθμους προσλήψεων. Η

Amazon

διέλυσε μια μηχανή στρατολόγησης το 2018 αφού διαπιστώθηκε ότι

διακρίνει τις γυναίκες υποψήφιες

. Και ένα

2019

ακαδημαϊκή μελέτη έδειξε μεροληψία κατά των Μαύρων με τη δυνατότητα τεχνητής νοημοσύνης στη στρατολόγηση.

Αλλού, έχουν βρεθεί αλγόριθμοι που αποδίδουν στους υποψηφίους για εργασία διαφορετικές βαθμολογίες με βάση κριτήρια όπως αν φορούν γυαλιά ή μαντίλα. να τιμωρήσει τους υποψηφίους επειδή έχουν ένα όνομα που ακούγεται μαύρο, αναφέρουν ένα κολέγιο γυναικών ή υποβάλλουν το βιογραφικό τους χρησιμοποιώντας ορισμένους τύπους αρχείων. και μειονεκτούν άτομα που έχουν σωματική αναπηρία που περιορίζει την ικανότητά τους να αλληλεπιδρούν με ένα πληκτρολόγιο.

Οι προκαταλήψεις μπορεί να είναι βαθιές. Τον Οκτώβριο του 2022

μελέτη

από το Πανεπιστήμιο του Κέιμπριτζ υπονοεί ότι οι εταιρείες τεχνητής νοημοσύνης που ισχυρίζονται ότι προσφέρουν αντικειμενικές, αξιοκρατικές αξιολογήσεις είναι ψευδείς, υποστηρίζοντας ότι τα μέτρα κατά της προκατάληψης για την αφαίρεση του φύλου και της φυλής είναι αναποτελεσματικά επειδή ο ιδανικός εργαζόμενος επηρεάζεται ιστορικά από το φύλο και τη φυλή τους.

Αλλά οι κίνδυνοι δεν επιβραδύνουν την υιοθέτηση. Σχεδόν ένας στους τέσσερις οργανισμούς αξιοποιεί ήδη την τεχνητή νοημοσύνη για να υποστηρίξει τις διαδικασίες πρόσληψης, σύμφωνα με τον α

Φεβρουάριος


Έρευνα 2022

από την Εταιρεία Διαχείρισης Ανθρώπινου Δυναμικού. Το ποσοστό είναι ακόμη υψηλότερο – 42% – μεταξύ των εργοδοτών με 5.000 ή περισσότερους εργαζόμενους.

Ποιες ακριβώς μορφές αλγορίθμων χρησιμοποιούν οι εργοδότες; Διαφέρει. Μερικοί από τους πιο συνηθισμένους είναι οι αναλυτές κειμένου που ταξινομούν βιογραφικά και συνοδευτικές επιστολές με βάση λέξεις-κλειδιά. Υπάρχουν όμως και

chatbots

που πραγματοποιούν διαδικτυακές συνεντεύξεις για να ελέγξουν τους υποψηφίους με συγκεκριμένα χαρακτηριστικά και λογισμικό συνεντεύξεων σχεδιασμένο να προβλέπει τις δεξιότητες επίλυσης προβλημάτων, τις ικανότητες και την «πολιτισμική προσαρμογή» ενός υποψηφίου από τα μοτίβα ομιλίας και τις εκφράσεις του προσώπου τους.

Το εύρος των αλγορίθμων προσλήψεων και προσλήψεων είναι τόσο μεγάλο, στην πραγματικότητα, που ορισμένοι οργανισμοί δεν πιστεύουν ότι ο Τοπικός Νόμος 144 προχωρά αρκετά.

Το NYCLU, το παράρτημα της Νέας Υόρκης της Αμερικανικής Ένωσης Πολιτικών Ελευθεριών, ισχυρίζεται ότι ο νόμος υπολείπεται «πολύ μακριά» από την παροχή προστασίας για υποψηφίους και εργαζόμενους. Ο Daniel Schwarz, ανώτερος στρατηγός προστασίας προσωπικών δεδομένων και τεχνολογίας στο NYCLU, σημειώνει σε μια πολιτική

σημείωμα

ότι ο Τοπικός Νόμος 144 θα μπορούσε, όπως έχει γραφτεί, να θεωρηθεί ότι καλύπτει μόνο ένα υποσύνολο αλγορίθμων προσλήψεων — για παράδειγμα εξαιρώντας τα εργαλεία που μεταγράφουν κείμενο από συνεντεύξεις βίντεο και ήχου. (Δεδομένου ότι τα εργαλεία αναγνώρισης ομιλίας έχουν μια γνωστή προκατάληψη

πρόβλημα

αυτό είναι προφανώς προβληματικό.)

«Οι… προτεινόμενοι κανόνες [must be strengthened to] εξασφαλίζουν ευρεία κάλυψη [hiring algorithms]επεκτείνετε τις απαιτήσεις ελέγχου μεροληψίας και παρέχετε διαφάνεια και ουσιαστική ειδοποίηση στα επηρεαζόμενα άτομα, προκειμένου να διασφαλιστεί αυτό [algorithms] μην λειτουργείτε για να παρακάμψετε ψηφιακά τους νόμους της Νέας Υόρκης κατά των διακρίσεων», έγραψε ο Schwarz. «Οι υποψήφιοι και οι εργαζόμενοι δεν θα πρέπει να ανησυχούν για τον έλεγχο από έναν αλγόριθμο που εισάγει διακρίσεις».

Παράλληλα με αυτό, ο κλάδος ξεκινάει προκαταρκτικές προσπάθειες αυτορρύθμισης.

σημαντικός

ΔΗΜΟΣΙΟΓΡΑΦΙΚΗ ΚΑΛΥΨΗ.

Όπως ήταν αναμενόμενο, ο Sundaram είναι υπέρ αυτής της προσέγγισης.

«Αντί να ελπίζουν οι ρυθμιστικές αρχές να προλάβουν και να περιορίσουν τις χειρότερες υπερβολές προσλήψεων τεχνητής νοημοσύνης, εναπόκειται στους εργοδότες να είναι προσεκτικοί και να είναι προσεκτικοί όταν χρησιμοποιούν τεχνητή νοημοσύνη στις διαδικασίες προσλήψεων», είπε. «Η τεχνητή νοημοσύνη εξελίσσεται πιο γρήγορα από ό,τι μπορούν να ψηφιστούν νόμοι για τη ρύθμιση της χρήσης της. Οι νόμοι που τελικά εγκρίνονται – συμπεριλαμβανομένης της Νέας Υόρκης – είναι πιθανό να είναι εξαιρετικά περίπλοκοι για αυτόν τον λόγο. Αυτό θα αφήσει τις εταιρείες σε κίνδυνο παρερμηνείας ή παράβλεψης διαφόρων νομικών περιπλοκών και, με τη σειρά της, οι περιθωριοποιημένοι υποψήφιοι θα συνεχίσουν να παραβλέπονται για ρόλους».

Φυσικά, πολλοί θα υποστήριζαν ότι το να αναπτύξουν οι εταιρείες ένα σύστημα πιστοποίησης για τα προϊόντα τεχνητής νοημοσύνης που χρησιμοποιούν ή αναπτύσσουν είναι προβληματικό.

Αν και ατελής σε ορισμένους τομείς, σύμφωνα με τους επικριτές, ο Τοπικός Νόμος 144

κάνει

απαιτούν τη διενέργεια ελέγχων από ανεξάρτητες οντότητες που δεν έχουν εμπλακεί στη χρήση, ανάπτυξη ή διανομή του αλγορίθμου που δοκιμάζουν και που δεν έχουν σχέση με την εταιρεία που υποβάλλει τον αλγόριθμο για δοκιμή.

Θα επηρεάσει τελικά την αλλαγή ο Τοπικός Νόμος 144; Είναι πολύ νωρίς για να πούμε. Αλλά σίγουρα, η επιτυχία – ή η αποτυχία – της εφαρμογής του θα επηρεάσει τους νόμους που θα έρθουν αλλού. Όπως σημειώνεται σε πρόσφατο άρθρο για

Nerdwallet

, Ουάσιγκτον, DC, εξετάζει έναν κανόνα που θα καθιστά τους εργοδότες υπεύθυνους για την αποτροπή μεροληψίας σε αυτοματοποιημένους αλγόριθμους λήψης αποφάσεων. Δύο νομοσχέδια στην Καλιφόρνια που στοχεύουν στη ρύθμιση της τεχνητής νοημοσύνης στις προσλήψεις εισήχθησαν τα τελευταία χρόνια. Και στα τέλη Δεκεμβρίου, εισήχθη ένα νομοσχέδιο στο Νιου Τζέρσεϊ που θα ρυθμίζει τη χρήση της τεχνητής νοημοσύνης στις αποφάσεις πρόσληψης για την ελαχιστοποίηση των διακρίσεων.