Τα προγράμματα αναγνώρισης προσώπου έχουν μακρά, ανησυχητική ιστορία
παράγοντας ψεύτικες αντιστοιχίες
ιδιαίτερα για
μη λευκούς πληθυσμούς
. Μια πρόσφατη τέτοια υπόθεση αφορά μια γυναίκα που ήταν οκτώ μηνών έγκυος τη στιγμή της σύλληψής της. Σύμφωνα με
Οι Νιου Γιορκ Ταιμς
Αξιωματικοί της αστυνομίας του Ντιτρόιτ σύμφωνα με πληροφορίες συνέλαβαν και κράτησαν την Porcha Woodruff για περισσότερες από 11 ώρες λόγω ληστείας και ληστείας αυτοκινήτου που δεν διέπραξε.
Το εν λόγω περιστατικό συνέβη στις 16 Φεβρουαρίου και οι δικηγόροι του Woodruff
κατέθεσε μήνυση κατά της πόλης
του Ντιτρόιτ στις 3 Αυγούστου. Παρά το γεγονός ότι η Woodruff ήταν εμφανώς έγκυος και υποστήριξε ότι δεν μπορούσε να έχει διαπράξει σωματικά τα εν λόγω εγκλήματα, έξι αστυνομικοί ενεπλάκησαν στο χειροπέδες της Woodruff μπροστά σε γείτονες και σε δύο από τα παιδιά της, στη συνέχεια τη συνέλαβαν ενώ άρπαξαν και το iPhone της στο πλαίσιο έρευνας αποδεικτικών στοιχείων. Η γυναίκα στα πλάνα της ληστείας που τραβήχτηκε στις 29 Ιανουαρίου δεν ήταν εμφανώς έγκυος.
[Related: Meta attempts a new, more ‘inclusive’ AI training dataset.]
Η Woodruff αφέθηκε ελεύθερη με προσωπική εγγύηση 100.000 δολαρίων αργότερα το ίδιο βράδυ και οι κατηγορίες της απορρίφθηκαν από δικαστή λιγότερο από ένα μήνα αργότερα λόγω «ανεπαρκών αποδεικτικών στοιχείων», σύμφωνα με τη μήνυση.
Οι επιπτώσεις της εξάρτησης της αστυνομίας στο πολύ κακόφημο λογισμικό αναγνώρισης προσώπου επεκτάθηκαν πολύ πέρα από εκείνο το βράδυ. Σύμφωνα με πληροφορίες, ο Woodruff υπέστη συσπάσεις και σπασμούς στην πλάτη και χρειάστηκε να λάβει ενδοφλέβια υγρά σε τοπικό νοσοκομείο λόγω αφυδάτωσης αφού τελικά έφυγε από τον περίβολο.
«Είναι βαθύτατα ανησυχητικό το γεγονός ότι το αστυνομικό τμήμα του Ντιτρόιτ γνωρίζει τις καταστροφικές συνέπειες της χρήσης ελαττωματικής τεχνολογίας αναγνώρισης προσώπου ως βάση για τη σύλληψη κάποιου και συνεχίζει να βασίζεται σε αυτήν ούτως ή άλλως», δήλωσε ο Phil Mayor, ανώτερος δικηγόρος του προσωπικού στο
ACLU του Μίσιγκαν
αναφέρεται σε ανακοίνωση.
Σύμφωνα με το ACLU, ο Woodruff είναι το έκτο γνωστό άτομο που ανέφερε ότι κατηγορήθηκε ψευδώς για έγκλημα από την αστυνομία λόγω ανακρίβειων στην αναγνώριση προσώπου – σε κάθε περίπτωση, το άδικα κατηγορούμενο άτομο ήταν ο Μαύρος. Η Woodruff είναι η πρώτη γυναίκα που κάνει μια τέτοια εμπειρία. Το κεφάλαιο του Δημάρχου της ACLU είναι
επίσης αντιπροσωπεύει
ένας άνδρας μήνυσε το αστυνομικό τμήμα του Ντιτρόιτ για ένα παρόμοιο περιστατικό από το 2020 που αφορούσε προκαταλήψεις για την αναγνώριση προσώπου. Σύμφωνα με πληροφορίες, αυτή είναι η τρίτη κατηγορία παράνομης σύλληψης που συνδέεται με το DPD εδώ και πολλά χρόνια.
[Related: Deepfake audio already fools people nearly 25 percent of the time.]
«Όπως δείχνει η τρομακτική εμπειρία της κας Woodruff, η χρήση αυτής της τεχνολογίας από το Υπουργείο πρέπει να σταματήσει», συνέχισε ο Mayor. «Επιπλέον, το DPD συνεχίζει να κρύβει τις καταχρήσεις αυτής της τεχνολογίας, αναγκάζοντας άτομα των οποίων τα δικαιώματα έχουν παραβιαστεί να αποκαλύπτουν τις παρανομίες του κατά περίπτωση».
Σε δήλωση
ο αρχηγός της αστυνομίας του DPD Τζέιμς Ε. Γουάιτ έγραψε ότι, «Λαμβάνουμε αυτό το θέμα πολύ σοβαρά, αλλά δεν μπορούμε να σχολιάσουμε περαιτέρω αυτή τη στιγμή λόγω της ανάγκης για πρόσθετη έρευνα».
Παρόμοια προκατειλημμένα αποτελέσματα σάρωσης προσώπου δεν περιορίζονται στις αρχές επιβολής του νόμου. Το 2021, οι εργαζόμενοι σε ένα τοπικό παγοδρόμιο στο Ντιτρόιτ χρησιμοποίησαν την τεχνολογία για να
λανθασμένη αναγνώριση ενός μαύρου έφηβου
όπως κάποιος που είχε προηγουμένως απαγορευτεί από το ίδρυμα. Κατά τα άλλα, οι υπάλληλοι της δημόσιας στέγασης είναι
χρησιμοποιώντας τεχνολογία αναγνώρισης προσώπου
να παρακολουθεί και να διώχνει τους κατοίκους με ελάχιστη έως καθόλου επίβλεψη.
