Η Rite Aid απαγόρευσε τη χρήση λογισμικού αναγνώρισης προσώπου μετά την ψευδή ταυτοποίηση κλέφτη καταστημάτων

Rite Aid

υπήρξε

απαγορευμένο

από τη χρήση λογισμικού αναγνώρισης προσώπου για πέντε χρόνια, αφού η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) διαπίστωσε ότι η «αλόγιστη χρήση συστημάτων παρακολούθησης προσώπου» από τον αμερικανικό κολοσσό φαρμακείων άφησε τους πελάτες να ταπεινωθούν και να θέσει σε κίνδυνο τις «ευαίσθητες πληροφορίες τους».

Η FTC

Σειρά

το οποίο υπόκειται σε έγκριση από το Πτωχευτικό Δικαστήριο των

ΗΠΑ

μετά την Rite Aid

κατατέθηκε για προστασία από την πτώχευση του Κεφαλαίου 11

τον Οκτώβριο, αναθέτει επίσης στη Rite Aid να διαγράψει τυχόν εικόνες που συνέλεξε στο πλαίσιο της κυκλοφορίας του συστήματος αναγνώρισης προσώπου, καθώς και τυχόν προϊόντα που δημιουργήθηκαν από αυτές τις εικόνες. Η εταιρεία πρέπει επίσης να εφαρμόσει ένα ισχυρό πρόγραμμα ασφάλειας δεδομένων για την προστασία τυχόν προσωπικών δεδομένων που συλλέγει.

Ένα Reuters

έκθεση από το 2020

περιέγραψε πώς η αλυσίδα φαρμακείων είχε εισαγάγει κρυφά συστήματα αναγνώρισης προσώπου σε περίπου 200 καταστήματα των ΗΠΑ σε μια περίοδο οκτώ ετών, αρχής γενομένης από το 2012, με «συνοικίες με χαμηλότερο εισόδημα, μη λευκές» να χρησιμεύουν ως τεχνολογική βάση δοκιμής.

Με την αύξηση του FTC

εστίαση στην κακή χρήση της βιομετρικής επιτήρησης

, η Rite Aid έπεσε σταθερά στο στόχαστρο της κυβερνητικής υπηρεσίας. Μεταξύ των ισχυρισμών της είναι ότι η Rite Aid — σε συνεργασία με δύο συμβαλλόμενες εταιρείες — δημιούργησε μια «βάση δεδομένων λίστας παρακολούθησης» που περιέχει εικόνες πελατών που η εταιρεία είπε ότι είχαν εμπλακεί σε εγκληματική δραστηριότητα σε ένα από τα καταστήματά της. Αυτές οι εικόνες, οι οποίες ήταν συχνά κακής ποιότητας, καταγράφηκαν από

CCTV

ή

κάμερες

κινητών τηλεφώνων εργαζομένων.

Όταν ένας πελάτης εισερχόταν σε ένα κατάστημα που υποτίθεται ότι ταίριαζε με μια υπάρχουσα εικόνα στη βάση δεδομένων του, οι υπάλληλοι λάμβαναν μια αυτόματη ειδοποίηση που τους καθοδηγούσε να αναλάβουν δράση — και τις περισσότερες φορές αυτή η οδηγία ήταν να «προσεγγίσει και να αναγνωρίσει», δηλαδή επαλήθευση της ταυτότητας του πελάτη και ζητώντας τους να φύγουν. Συχνά, αυτά τα «ταιριάσματα» ήταν ψευδώς θετικά που οδήγησαν τους υπαλλήλους να κατηγορούν λανθασμένα τους πελάτες για παράβαση, δημιουργώντας «ντροπή, παρενόχληση και άλλη βλάβη», σύμφωνα με την FTC.

«Οι

εργαζόμενοι

, ενεργώντας βάσει ψευδών θετικών ειδοποιήσεων, ακολουθούσαν τους καταναλωτές γύρω από τα καταστήματά της, τους έψαξαν, τους διέταξαν να φύγουν, κάλεσαν την αστυνομία να αντιμετωπίσει ή να απομακρύνει τους καταναλωτές και τους κατηγόρησαν δημόσια, μερικές φορές μπροστά σε φίλους ή συγγενείς, για κλοπές καταστημάτων ή άλλες αδικοπραγίες », αναφέρεται στην

καταγγελία

.

Επιπλέον, η FTC είπε ότι η Rite Aid απέτυχε να ενημερώσει τους πελάτες ότι χρησιμοποιούνταν τεχνολογία αναγνώρισης προσώπου, ενώ έδωσε επίσης οδηγίες στους υπαλλήλους να

δεν

αποκαλύψει αυτές τις πληροφορίες στους πελάτες.

Ξεκαθάρισμα λογαριασμών

Το λογισμικό αναγνώρισης προσώπου έχει αναδειχθεί ως μία από τις πιο αμφιλεγόμενες πτυχές της εποχής παρακολούθησης με τεχνητή νοημοσύνη. Τα τελευταία χρόνια έχουμε δει πόλεις να εκδίδουν εκτεταμένες απαγορεύσεις στην τεχνολογία, ενώ οι πολιτικοί αγωνίστηκαν για να ρυθμίσουν τον τρόπο με τον οποίο η αστυνομία τη χρησιμοποιεί. Και εταιρείες όπως η Clearview AI, εν τω μεταξύ, έχουν πληγεί με μηνύσεις και πρόστιμα σε όλο τον κόσμο για σημαντικές παραβιάσεις του απορρήτου των δεδομένων σχετικά με την τεχνολογία αναγνώρισης προσώπου.

Τα τελευταία ευρήματα της FTC σχετικά με το Rite Aid ρίχνουν επίσης φως στις εγγενείς προκαταλήψεις στα συστήματα AI. Για παράδειγμα, η FTC λέει ότι η Rite Aid απέτυχε να μειώσει τους κινδύνους για ορισμένους καταναλωτές λόγω της φυλής τους – η τεχνολογία της ήταν «πιο πιθανό να δημιουργήσει ψευδώς θετικά αποτελέσματα σε καταστήματα που βρίσκονται σε πολλές κοινότητες μαύρων και ασιατικών κοινοτήτων παρά σε κοινότητες πλουραλιστικών λευκών». σημείωση ευρημάτων.

Επιπλέον, η FTC είπε ότι η Rite Aid απέτυχε να δοκιμάσει ή να μετρήσει την ακρίβεια ή το σύστημα αναγνώρισης προσώπου πριν ή μετά την ανάπτυξη.

Σε ένα

δελτίο τύπου

η Rite Aid δήλωσε ότι «είναι στην ευχάριστη θέση να καταλήξει σε συμφωνία με την FTC», αλλά ότι διαφώνησε με την ουσία των ισχυρισμών.

«Οι ισχυρισμοί σχετίζονται με ένα πιλοτικό πρόγραμμα τεχνολογίας αναγνώρισης προσώπου που η Εταιρεία ανέπτυξε σε περιορισμένο αριθμό καταστημάτων», ανέφερε η Rite Aid στην ανακοίνωσή της. «Η Rite Aid σταμάτησε να χρησιμοποιεί την τεχνολογία σε αυτή τη μικρή ομάδα καταστημάτων πριν από περισσότερα από τρία χρόνια, πριν ξεκινήσει η έρευνα της FTC σχετικά με τη χρήση της τεχνολογίας από την Εταιρεία».