Οι εταιρείες που εδρεύουν στη Νέα Υόρκη θα χρειαστεί να ελέγξουν τα εργαλεία πρόσληψης AI για προκατάληψη
Την Τετάρτη,
Η Νέα Υόρκη επέβαλε νέο νόμο
ρυθμίζοντας
εταιρείες που
χρήση
τεχνητή νοημοσύνη
για την εξέταση υποψηφίων για ανοικτές θέσεις. Ο νόμος για τα αυτοματοποιημένα εργαλεία απόφασης για την απασχόληση (AEDT) της πόλης απαιτεί από τις εταιρείες να αποδείξουν ότι το εργαλείο τεχνητής νοημοσύνης τους δεν είναι
φυλετική και έμφυλη προκατάληψη
προτού μπορέσει να χρησιμοποιηθεί.
Ο νόμος AEDT, γνωστός και ως τοπικός νόμος 144, εισήχθη το 2021 και τέθηκε σε ισχύ αυτή την εβδομάδα
, καθιστώντας τη Νέα Υόρκη την πρώτη που ανοίγει το δρόμο για εταιρικούς κανονισμούς τεχνητής νοημοσύνης με άλλους που αναμένεται να ακολουθήσουν το παράδειγμά τους. Τα εργαλεία είναι αλγόριθμοι που χρησιμοποιούν την τεχνητή νοημοσύνη για τη λήψη αποφάσεων σχετικά με το ποιον θα προσλάβουν ή/και θα προωθήσουν, αν και η φιλτραρισμένη επιλογή φέρεται να περνά σε έναν άνθρωπο για τελική εξέταση.
Οι εταιρείες θα πρέπει να υποβάλλουν ετησίως έναν «έλεγχο μεροληψίας» και εάν δεν συμμορφωθούν, οι παραβάτες για πρώτη φορά θα υπόκεινται σε πρόστιμο 500 $ και οι επαναλαμβανόμενες παραβιάσεις μπορεί να επιφέρουν πρόστιμα έως και 1.500 $. Εάν μια εταιρεία δεν συμμορφωθεί με τον έλεγχο μεροληψίας, θα αντιμετωπίσει πρόστιμο, ανά εργαλείο τεχνητής νοημοσύνης, έως και 1.500 $ κάθε μέρα, σύμφωνα με
Διευθυντής AI
.
Ο έλεγχος μεροληψίας θα υπολογίσει το ποσοστό επιλογής και την αναλογία επιπτώσεων για κάθε κατηγορία ατόμων που προσλήφθηκαν, συμπεριλαμβανομένων των κατηγοριών ανδρών έναντι γυναικών, φυλής/εθνικότητας και διατομεακών κατηγοριών που συνδυάζουν το φύλο, την εθνικότητα και τη φυλή, σύμφωνα με
νόμος
.
Αν και χρησιμοποιώντας
Εργαλεία AI
μπορεί να μειώσει σημαντικά τους εργοδότες που διασχίζουν εκατοντάδες βιογραφικά, ο κίνδυνος είναι ότι
το εργαλείο θα μπορούσε να αντικατοπτρίζει ανθρώπινα στερεότυπα και να κάνει διακρίσεις σε βάρος ορισμένων υποψηφίων
.
«Αυτός είναι ο κίνδυνος σε όλο αυτό, που μένει ανεξέλεγκτο, οι άνθρωποι μερικές φορές δεν μπορούν καν να εξηγήσουν ποια σημεία δεδομένων συλλέγει ο αλγόριθμος. Αυτό ήταν σε μεγάλο βαθμό πίσω από αυτή τη νομοθεσία», είπε ο John Hausknecht, καθηγητής ανθρώπινου δυναμικού στη Σχολή Βιομηχανικών και Εργασιακών Σχέσεων του Πανεπιστημίου Cornell.
CBS News
. «Λέει να το παρακολουθήσουμε, να συλλέξουμε δεδομένα, να το αναλύσουμε και να το αναφέρουμε, έτσι με την πάροδο του χρόνου, μπορούμε να κάνουμε αλλαγές στους κανονισμούς».
Σύμφωνα με την AEDT, εάν ισχύει, μια εταιρεία πρέπει να παράσχει εναλλακτικές οδηγίες σε έναν αιτούντα για να «ζητήσει μια εναλλακτική διαδικασία επιλογής ή μια λογική προσαρμογή βάσει άλλων νόμων», αν και οι εργοδότες δεν υποχρεούνται να προσφέρουν μια εναλλακτική διαδικασία επιλογής.
«Μιλάμε μόνο για εκείνα τα εργαλεία που αντικαθιστούν τους ανθρώπους που λαμβάνουν αποφάσεις», δήλωσε στο CBS ο Camacho Moran, δικηγόρος απασχόλησης στο Farrell Fritz. «Αν έχετε ένα εργαλείο τεχνητής νοημοσύνης που διατρέχει 1.000 εφαρμογές και λέει, «αυτοί είναι οι 20 κορυφαίοι υποψήφιοι», αυτό είναι ξεκάθαρα ένα εργαλείο που εμπίπτει στον ορισμό του AEDT».
Ο νόμος μπορεί να εξαπλωθεί και σε άλλες πόλεις, καθώς η έλξη για εξ αποστάσεως προσλήψεις γίνεται όλο και πιο δημοφιλής για τις εταιρείες, τόσο στη Νέα Υόρκη όσο και αλλού. Αλλά ο νόμος εξακολουθεί να είναι περιορισμένος, είπε η Τζούλια Στογιάνοβιτς, καθηγήτρια πληροφορικής στο Πανεπιστήμιο της Νέας Υόρκης και ιδρυτικό μέλος της Task Force Automatic Decisions Systems της πόλης.
NBC News
. Είπε στο πρακτορείο ότι η AEDT εξακολουθεί να μην καλύπτει ορισμένες σημαντικές κατηγορίες αιτούντων, συμπεριλαμβανομένων εκείνων που βασίζονται σε διακρίσεις λόγω ηλικίας ή αναπηρίας.
«Πρώτα απ’ όλα, χαίρομαι πολύ που ο νόμος ισχύει για τα βιβλία, που υπάρχουν κανόνες τώρα και θα αρχίσουμε να τους επιβάλλουμε», είπε ο Στογιάνοβιτς στο πρακτορείο. «Αλλά υπάρχουν και πολλά κενά. Έτσι, για παράδειγμα, ο έλεγχος μεροληψίας είναι πολύ περιορισμένος ως προς τις κατηγορίες. Δεν εξετάζουμε τις διακρίσεις λόγω ηλικίας, για παράδειγμα, που στην πρόσληψη είναι τεράστια υπόθεση, ούτε τις αναπηρίες».
Δεν είναι ακόμη σαφές πώς θα εφαρμοστεί ο νόμος AEDT, αλλά ένας εκπρόσωπος του Τμήματος Προστασίας Καταναλωτών και Εργαζομένων της Νέας Υόρκης είπε ότι η υπηρεσία θα «συλλέξει και θα διερευνήσει καταγγελίες» εναντίον εταιρειών.
