Ο κανόνας της Νέας Υόρκης απαιτεί ελέγχους της τεχνολογίας πρόσληψης τεχνητής νοημοσύνης

Την Τετάρτη, η πόλη της Νέας Υόρκης έκανε ένα μικρό βήμα στη ρύθμιση των επιπτώσεων των τεχνολογιών τεχνητής νοημοσύνης στις διαδικασίες πρόσληψης για θέσεις εργασίας που εδρεύουν στην πόλη. Αναφέρονται ως αυτοματοποιημένα εργαλεία απόφασης για την απασχόληση (AEDT), τέτοιες τεχνολογίες συνήθως χρησιμοποιούν τεχνητή νοημοσύνη ή αλγόριθμους για την ανάθεση αυτοματοποιημένων ταξινομήσεων ή βαθμολογιών σε υποψηφίους για θέσεις εργασίας ή προαγωγές. Το αυτοματοποιημένο εργαλείο απόφασης για την απασχόληση της πόλης

νόμος

, γνωστός και ως Τοπικός Νόμος 144, απαιτεί πλέον ότι κάθε εργοδότης που χρησιμοποιεί τέτοιες τεχνολογίες πρέπει να έχει τα εργαλεία ελεγμένα για σκόπιμη ή τυχαία μεροληψία από τρίτο μέρος. Ο νόμος είναι επί του παρόντος σε ισχύ και θα εφαρμοστεί από τις 5 Ιουλίου 2023, μετά την οποία οι μη συμμορφούμενες επιχειρήσεις ενδέχεται να αντιμετωπίσουν πρόστιμα που ξεκινούν από $500 και

έως 1.500 $ ανά ημέρα ανά εργαλείο

μεταχειρισμένος.

[Related: A simple guide to the expansive world of

artificial intelligence

.]

Αυτή είναι η πρώτη σημαντική νομοθεσία στον τομέα των πρακτικών προσλήψεων και της τεχνητής νοημοσύνης.

Σύμφωνα με τη Zippia

το 65 τοις εκατό των υπαλλήλων προσλήψεων χρησιμοποιούν τεχνητή νοημοσύνη στο

διαδικασία πρόσληψης σε κάποια μορφή

—όπως η ταξινόμηση χιλιάδων αιτήσεων για μια θέση εργασίας για συγκεκριμένες παραμέτρους προσόντων, η σάρωση μέσων κοινωνικής δικτύωσης ή ακόμη και η ανάλυση των εκφράσεων του προσώπου ή της γλώσσας του σώματος των υποψηφίων κατά τη διάρκεια μιας συνέντευξης βίντεο.

Οι AEDTs συχνά προωθούνται ως τρόπος διαχείρισης της διαδικασίας πρόσληψης για θέσεις εργασίας με μεγάλο όγκο αιτούντων. «Στην εποχή του Διαδικτύου, είναι πολύ πιο εύκολο να κάνεις αίτηση για δουλειά. Και υπάρχουν εργαλεία για τους υποψηφίους για τον εξορθολογισμό αυτής της διαδικασίας. Όπως “δώστε μας το βιογραφικό σας και θα κάνουμε αίτηση για 400 θέσεις εργασίας”, είπε η Cathy O’Neil, διευθύνουσα σύμβουλος της εταιρείας συμβούλων Orcaa.

NBC News

. «Δέχονται πάρα πολλές αιτήσεις. Πρέπει να αφαιρέσουν τη λίστα με κάποιο τρόπο, οπότε αυτοί οι αλγόριθμοι το κάνουν για αυτούς».

Ωστόσο, η τεχνητή νοημοσύνη απέχει πολύ από το να είναι αμερόληπτος κριτής των πιθανών υποψηφίων – τα σύνολα δεδομένων AI και η τεχνολογία μπορούν συχνά να διαιωνίσουν ανθρώπινες προκαταλήψεις όπως π.

ρατσισμός

σεξισμός και

ηλικίας

.

Οι επικριτές υποστηρίζουν ότι ο νόμος δεν είναι αρκετός. Συγκεκριμένα, ένα προσόν που δικαιολογεί έναν έλεγχο απαιτεί η AI «να βοηθά ουσιαστικά ή να αντικαθιστά τη λήψη αποφάσεων κατά διακριτική ευχέρεια». Η Alexandra Givens, πρόεδρος του Κέντρου για τη Δημοκρατία και την Τεχνολογία, ανησυχεί ότι αυτό μπορεί να ερμηνευθεί ότι, σε αυτές τις περιπτώσεις, η τεχνητή νοημοσύνη είναι «ο μοναδικός ή πρωταρχικός παράγοντας σε μια απόφαση πρόσληψης ή χρησιμοποιείται για να παρακάμψει έναν άνθρωπο», σε αντίθεση με ένα μέρος του τη διαδικασία, είπε στον


Νιου Γιορκ Ταιμς


τον Μάιο.

«Η μεγαλύτερη ανησυχία μου είναι ότι αυτό γίνεται το πρότυπο σε εθνικό επίπεδο όταν θα έπρεπε να ζητάμε πολύ περισσότερα από τους υπεύθυνους χάραξης πολιτικής μας», πρόσθεσε. Επί του παρόντος, παρόμοιοι νόμοι βρίσκονται υπό εξέταση

Νιου Τζέρσεϊ, Μέριλαντ, Ιλινόις και Καλιφόρνια

.

Ο απαιτούμενος έλεγχος δεν εξετάζει επίσης τις διακρίσεις λόγω ηλικίας ή αναπηρίας, επισήμανε στο NBC η Τζούλια Στογιάνοβιτς, καθηγήτρια πληροφορικής στο Πανεπιστήμιο της Νέας Υόρκης και ιδρυτικό μέλος της Task Force Automatic Decisions Systems της πόλης.

[Related on PopSci+: 4

privacy

concerns in the age of AI.]

Η μεροληψία στην πρόσληψη, είτε μέσω ανθρώπου είτε μέσω τεχνητής νοημοσύνης, υπήρξε α

καταφανής

ζήτημα για δεκαετίες—ένα τόσο συχνά

αντιμετωπίζει αμελητέες βελτιώσεις με τα χρόνια

. Το αν αυτός ο νόμος θα κάνει τη διαφορά ή όχι, δεν έχει ακόμη φανεί.

«Δεν τρέφω καμία ελπίδα για αυτό [the law] θα μας δώσει οποιαδήποτε πληροφορία», είπε ο Ben Winters του Electronic Privacy Information Center


Χαλαζίας


“ή πραγματικά να επιτρέψετε στους ανθρώπους να αυξήσουν τη δικαιοσύνη γύρω από την εμπειρία τους με τις προσλήψεις.”