Η χρήση της τεχνητής νοημοσύνης από τα αστυνομικά τμήματα για την εξέταση μη ελεγχόμενων πλάνων από κάμερα σώματος

Αυτό το άρθρο παρουσιάστηκε αρχικά στο

ProPublica

. Το ProPublica είναι μια ερευνητική αίθουσα ειδήσεων που έχει βραβευτεί με Πούλιτζερ. Εγγραφείτε

Το ενημερωτικό δελτίο του Big Story

για να λαμβάνετε ιστορίες όπως αυτή στα εισερχόμενά σας

.

Την τελευταία δεκαετία, τα αστυνομικά τμήματα σε όλες τις ΗΠΑ έχουν ξοδέψει εκατομμύρια δολάρια για να εξοπλίσουν τους αστυνομικούς τους με κάμερες φορεμένες στο σώμα που καταγράφουν τι συμβαίνει καθώς προχωρούν στη δουλειά τους. Τα πάντα, από τις στάσεις κυκλοφορίας έως τους ελέγχους ευημερίας έως τις απαντήσεις σε ενεργούς σκοπευτές τεκμηριώνονται τώρα σε βίντεο.

Οι κάμερες παρουσιάστηκαν από τις εθνικές και τοπικές αρχές επιβολής του νόμου ως εργαλείο για την οικοδόμηση της δημόσιας εμπιστοσύνης μεταξύ της αστυνομίας και των κοινοτήτων τους στον απόηχο των αστυνομικών δολοφονιών πολιτών όπως ο Μάικλ Μπράουν, ένας 18χρονος μαύρος έφηβος που σκοτώθηκε στο Φέργκιουσον του Μιζούρι το 2014. Βίντεο έχει τη δυνατότητα όχι μόνο να φτάσει στην αλήθεια όταν κάποιος τραυματιστεί ή σκοτωθεί από την αστυνομία, αλλά και να επιτρέψει συστηματικές αναθεωρήσεις της συμπεριφοράς των αξιωματικών για την πρόληψη θανάτων, επισημαίνοντας ενοχλητικούς αξιωματικούς για επόπτες ή βοηθώντας στον εντοπισμό πραγματικών παραδειγμάτων αποτελεσματικών και καταστροφικών συμπεριφορών. χρήση για προπόνηση.

Αλλά

μια σειρά

του

Ιστορίες ProPublica

έχει δείξει ότι μια δεκαετία μετά, αυτές οι υποσχέσεις για διαφάνεια και λογοδοσία έχουν

δεν πραγματοποιήθηκε

.

Μία πρόκληση: Ο τεράστιος όγκος βίντεο που τραβήχτηκε χρησιμοποιώντας κάμερες που φοριούνται στο σώμα σημαίνει ότι λίγες εταιρείες έχουν τους πόρους για να το εξετάσουν πλήρως. Τα περισσότερα από αυτά που καταγράφονται απλώς αποθηκεύονται και δεν τα έχει δει κανείς ποτέ.

Η Axon, ο μεγαλύτερος πάροχος αστυνομικών καμερών και αποθήκευσης cloud της χώρας για το βίντεο που καταγράφουν, διαθέτει μια βάση δεδομένων με πλάνα που έχει αυξηθεί από περίπου 6 terabyte το 2016 σε περισσότερα από 100 petabyte σήμερα. Αυτό είναι αρκετό για να χωρέσει περισσότερα από 5.000 χρόνια βίντεο υψηλής ευκρίνειας ή 25 εκατομμύρια αντίτυπα της περσινής επιτυχημένης ταινίας «Barbie».

«Σε κάθε κοινότητα, το υλικό κάμερας που φοριέται από το σώμα είναι η μεγαλύτερη πηγή δεδομένων για τις αλληλεπιδράσεις αστυνομίας-κοινότητας. Σχεδόν τίποτα δεν γίνεται με αυτό», δήλωσε ο Jonathan Wender, ένας πρώην αστυνομικός που ηγείται της Polis Solutions, μιας από μια αυξανόμενη ομάδα εταιρειών και ερευνητών που προσφέρουν αναλυτικά εργαλεία με τεχνητή νοημοσύνη για να βοηθήσουν στην αντιμετώπιση αυτού του προβλήματος δεδομένων.

Το αστυνομικό τμήμα του Πάτερσον του Νιου Τζέρσεϊ έχει κάνει ένα τέτοιο αναλυτικό εργαλείο σημαντικό μέρος του

σχέδιο αναθεώρησης της ισχύος του

.

Τον Μάρτιο του 2023, ο γενικός εισαγγελέας της πολιτείας ανέλαβε το τμήμα αφού η αστυνομία πυροβόλησε και σκότωσε τον Najee Seabrooks, μια κοινοτική ακτιβίστρια που αντιμετώπιζε κρίση ψυχικής υγείας που είχε καλέσει το 911 για βοήθεια. Η δολοφονία πυροδότησε διαμαρτυρίες και

ζητά ομοσπονδιακή έρευνα

του τμήματος.

Ο γενικός εισαγγελέας διόρισε τον Isa Abbassi, πρώην επικεφαλής στρατηγικών πρωτοβουλιών του αστυνομικού τμήματος της Νέας Υόρκης, να αναπτύξει ένα σχέδιο για το πώς θα κερδίσει ξανά την εμπιστοσύνη του κοινού.

«Οι αλλαγές στο Paterson οδηγούνται μέσω της χρήσης της τεχνολογίας», είπε ο Abbassi σε ένα

συνέντευξη Τύπου

ανακοινώνοντας το μεταρρυθμιστικό του σχέδιο τον Σεπτέμβριο, «Ίσως μία από τις πιο συναρπαστικές ανακοινώσεις τεχνολογίας σήμερα είναι μια πραγματική αλλαγή του παιχνιδιού όσον αφορά την αστυνομική ευθύνη και τον επαγγελματισμό».

Το τμήμα, είπε ο Abassi, είχε συνάψει σύμβαση με την Truleo, μια εταιρεία λογισμικού με έδρα το Σικάγο που εξετάζει τον ήχο από βίντεο κάμερας σώματος για να εντοπίσει προβληματικούς αξιωματικούς και πρότυπα συμπεριφοράς.

Για περίπου 50.000 $ ετησίως, το λογισμικό του Truleo επιτρέπει στους επόπτες να επιλέγουν από ένα σύνολο συγκεκριμένων συμπεριφορών για να επισημάνουν, όπως όταν αστυνομικοί διακόπτουν τους πολίτες, χρησιμοποιούν βωμολοχίες, χρησιμοποιούν βία ή κάνουν σίγαση της κάμεράς τους. Οι σημαίες βασίζονται σε δεδομένα που έχει συλλέξει ο Truleo, βάσει των οποίων οι συμπεριφορές αξιωματικών οδηγούν σε βίαιη κλιμάκωση. Μεταξύ των συμπερασμάτων από την έρευνα του Truleo: Οι αξιωματικοί πρέπει να εξηγήσουν τι κάνουν.

«Υπάρχουν ορισμένοι αξιωματικοί που δεν παρουσιάζονται, διακόπτουν τους ανθρώπους και δεν δίνουν εξηγήσεις. Απλώς κάνουν πολλές εντολές, εντολές, εντολές, εντολές, εντολές», είπε ο Anthony Tassone, συνιδρυτής του Truleo. «Αυτός ο αξιωματικός κατευθύνεται σε λάθος δρόμο».

Για την αστυνομία του Paterson, η Truleo επιτρέπει στο τμήμα να «ελέγχει το 100% του φωτογραφικού υλικού που έχει φορεθεί από το σώμα για να εντοπίσει επικίνδυνες συμπεριφορές και να αυξήσει τον επαγγελματισμό», σύμφωνα με το στρατηγικό σχέδιο αναθεώρησης. Το λογισμικό, όπως ανέφερε το τμήμα στο σχέδιό του, θα ανιχνεύει γεγονότα όπως χρήσεις βίας, καταδιώξεις, ριψοκίνδυνα και περιστατικά μη συμμόρφωσης και θα επιτρέπει στους επόπτες να ελέγχουν τόσο για «επαγγελματική και αντιεπαγγελματική γλώσσα αξιωματικών».

Οι αστυνομικοί του Πάτερσον αρνήθηκαν να πάρουν συνέντευξη για αυτήν την ιστορία.

Περίπου 30 αστυνομικά τμήματα χρησιμοποιούν αυτήν τη στιγμή το Truleo, σύμφωνα με την εταιρεία. Τον Οκτώβριο, το NYPD

υπογεγραμμένος

σε ένα πιλοτικό πρόγραμμα για το Truleo για να επανεξετάσει τα εκατομμύρια ώρες βίντεο που παράγει ετησίως, σύμφωνα με την Tassone.

Εν μέσω α

κρίση στις προσλήψεις αστυνομικών

, ο Tassone είπε ότι ορισμένα τμήματα χρησιμοποιούν το Truleo επειδή πιστεύουν ότι μπορεί να βοηθήσει να διασφαλιστεί ότι οι νέοι αξιωματικοί πληρούν τα επαγγελματικά πρότυπα. Άλλοι, όπως το τμήμα στην Aurora του Κολοράντο, χρησιμοποιούν το λογισμικό για να ενισχύσουν την υπόθεσή τους για έξοδο από την εξωτερική εποπτεία. Τον Μάρτιο του 2023, δικηγόροι της πόλης

άσκησε επιτυχή πίεση στο Δημοτικό Συμβούλιο

να εγκρίνει μια σύμβαση με την Truleo, λέγοντας ότι θα βοηθούσε το αστυνομικό τμήμα να συμμορφωθεί πιο γρήγορα με α

διάταγμα συναίνεσης

Αυτό απαιτεί καλύτερη εκπαίδευση και στρατολόγηση και συλλογή δεδομένων για πράγματα όπως η χρήση βίας και οι φυλετικές ανισότητες στην αστυνόμευση.

Το Truleo είναι μόνο ένας από τον αυξανόμενο αριθμό παρόχων αυτών των αναλυτικών στοιχείων.

Τον Αύγουστο του 2023, το Αστυνομικό Τμήμα του Λος Άντζελες

είπε ότι θα συνεργαστεί

με

ομάδα ερευνητών

από το Πανεπιστήμιο της Νότιας Καλιφόρνια και πολλά άλλα πανεπιστήμια για να αναπτύξουν ένα νέο εργαλείο με τεχνητή νοημοσύνη για να εξετάσει πλάνα από περίπου 1.000 στάσεις κυκλοφορίας και να καθορίσει ποιες συμπεριφορές αξιωματικών εμποδίζουν την κλιμάκωση των αλληλεπιδράσεων. Το 2021, η Microsoft

απονεμήθηκε 250.000 $

σε μια ομάδα από το Πανεπιστήμιο του Πρίνστον και το Πανεπιστήμιο της Πενσυλβάνια για την ανάπτυξη λογισμικού που μπορεί να οργανώσει το βίντεο σε χρονοδιαγράμματα που επιτρέπουν ευκολότερο έλεγχο από τους επόπτες.

Η Polis Solutions με έδρα το Ντάλας έχει συνάψει σύμβαση με την αστυνομία στη γενέτειρά της, καθώς και με τμήματα στην Αγία Πετρούπολη, στη Φλόριντα, στο Kinston, στη Βόρεια Καρολίνα και στην Alliance, στη Νεμπράσκα, για να αναπτύξει το δικό της λογισμικό, που ονομάζεται TrustStat, για τον εντοπισμό βίντεο που πρέπει να ελέγξουν οι επόπτες. «Αυτό που λέμε είναι, κοιτάξτε, εδώ είναι μια αλληλεπίδραση που είναι στατιστικά σημαντική τόσο για θετικούς όσο και για αρνητικούς λόγους. Ένας άνθρωπος πρέπει να κοιτάξει», δήλωσε ο Wender, ιδρυτής της εταιρείας.

Το TrustStat προέκυψε από ένα έργο της Υπηρεσίας Προηγμένων Ερευνητικών Έργων της Άμυνας, του βραχίονα έρευνας και ανάπτυξης του Υπουργείου Άμυνας των ΗΠΑ, όπου ο Wender εργαζόταν στο παρελθόν. Ονομαζόταν το

Ενότητες Στρατηγικής Κοινωνικής Αλληλεπίδρασης

πρόγραμμα, με το παρατσούκλι “Good Stranger”, και προσπαθούσε να κατανοήσει πώς οι στρατιώτες σε δυνητικά εχθρικά περιβάλλοντα, ας πούμε μια πολυσύχναστη αγορά στη Βαγδάτη, μπορούσαν

να μην κλιμακωθούν οι αλληλεπιδράσεις με τους πολίτες

. Το πρόγραμμα έφερε εμπειρογνώμονες επιβολής του νόμου και συγκέντρωσε μια μεγάλη βάση δεδομένων βίντεο. Αφού τελείωσε, ο Wender ίδρυσε την Polis Solutions και χρησιμοποίησε τη βάση δεδομένων βίντεο «Good Stranger» για να εκπαιδεύσει το λογισμικό TrustStat. Το TrustStat είναι εξ ολοκλήρου αυτοματοποιημένο: Μεγάλα μοντέλα γλώσσας αναλύουν την ομιλία και οι αλγόριθμοι επεξεργασίας εικόνας προσδιορίζουν τις φυσικές κινήσεις και τις εκφράσεις του προσώπου που καταγράφονται σε βίντεο.

Στο Εργαστήριο Σύνθετων Κοινωνικών Αλληλεπιδράσεων του Πανεπιστημίου της Πολιτείας της Ουάσιγκτον, οι ερευνητές χρησιμοποιούν έναν συνδυασμό ανθρώπινων αναθεωρητών και τεχνητής νοημοσύνης για να αναλύσουν βίντεο. Το εργαστήριο ξεκίνησε τις εργασίες του πριν από επτά χρόνια, συνεργαζόμενος με το αστυνομικό τμήμα του Πούλμαν της Ουάσιγκτον. Όπως πολλά τμήματα, ο Pullman είχε υιοθετήσει κάμερες σώματος, αλλά δεν είχε το προσωπικό για να εξετάσει τι κατέγραψε το βίντεο και να εκπαιδεύσει τους αξιωματικούς ανάλογα.

Το εργαστήριο έχει μια ομάδα περίπου 50 κριτικών—που προέρχονται από φοιτητές του ίδιου του πανεπιστημίου—που παρακολουθούν βίντεο για να παρακολουθούν πράγματα όπως η φυλή αξιωματικών και πολιτών, την ώρα της ημέρας και αν οι αξιωματικοί έδωσαν εξηγήσεις για τις ενέργειές τους, όπως γιατί τράβηξε κάποιον από πάνω. Οι επιθεωρητές σημειώνουν πότε ένας αξιωματικός χρησιμοποιεί βία, εάν αξιωματικοί και πολίτες διακόπτουν ο ένας τον άλλον και εάν ένας αξιωματικός εξηγεί ότι η αλληλεπίδραση καταγράφεται. Σημειώνουν επίσης πόσο αναστατωμένοι είναι οι αξιωματικοί και οι πολίτες σε κάθε σημείο του βίντεο.

Στη συνέχεια, χρησιμοποιούνται αλγόριθμοι μηχανικής μάθησης για την αναζήτηση συσχετίσεων μεταξύ αυτών των χαρακτηριστικών και του αποτελέσματος κάθε αστυνομικής συνάντησης.

«Από αυτά τα δεδομένα με ετικέτα, μπορείτε να εφαρμόσετε τη μηχανική εκμάθηση, ώστε να μπορούμε να φτάσουμε σε προβλέψεις, ώστε να αρχίσουμε να απομονώνουμε και να καταλαβαίνουμε, καλά, όταν συμβαίνουν τέτοιου είδους συρροές γεγονότων, αυτό στην πραγματικότητα ελαχιστοποιεί την πιθανότητα αυτού του αποτελέσματος», δήλωσε ο David Makin, ο οποίος είναι επικεφαλής του εργαστηρίου και υπηρετεί επίσης στη Συμβουλευτική Επιτροπή της Αστυνομίας Pullman.

Ένα μάθημα έχει βγει: Οι αλληλεπιδράσεις που δεν καταλήγουν σε βία είναι πιο πιθανό να ξεκινούν με αξιωματικούς που εξηγούν τι συμβαίνει, δεν διακόπτουν τους πολίτες και καθιστούν σαφές ότι οι κάμερες κινούνται και το βίντεο είναι διαθέσιμο στο κοινό.

Το εργαστήριο, το οποίο δεν χρεώνει τους πελάτες, έχει εξετάσει περισσότερες από 30.000 ώρες πλάνα και συνεργάζεται με 10 υπηρεσίες επιβολής του νόμου, αν και ο Makin είπε ότι οι συμφωνίες εμπιστευτικότητας τον εμποδίζουν να τα ονομάσει όλα.

Πολλά από τα δεδομένα που συγκεντρώθηκαν από αυτές τις αναλύσεις και τα διδάγματα που αντλήθηκαν από αυτές παραμένουν εμπιστευτικά, με τα ευρήματα συχνά να συνδέονται σε συμφωνίες μη αποκάλυψης. Αυτό απηχεί το ίδιο πρόβλημα με το ίδιο το βίντεο κάμερας σώματος: τα αστυνομικά τμήματα εξακολουθούν να είναι αυτά που αποφασίζουν πώς να χρησιμοποιήσουν μια τεχνολογία που αρχικά προοριζόταν να καταστήσει τις δραστηριότητές τους πιο διαφανείς και να τις θεωρήσει υπεύθυνες για τις πράξεις τους.

Υπό την πίεση των αστυνομικών συνδικάτων και της διοίκησης του τμήματος, είπε ο Tassone, η συντριπτική πλειοψηφία των τμημάτων που χρησιμοποιούν το Truleo δεν είναι πρόθυμα να δημοσιοποιήσουν τι βρίσκει το λογισμικό. Ένα τμήμα που χρησιμοποιεί το λογισμικό – η Alameda, Καλιφόρνια – το επέτρεψε

κάποια ευρήματα θα δημοσιοποιηθούν

. Ταυτόχρονα, τουλάχιστον δύο τμήματα-

Σιάτλ και


Vallejo, Καλιφόρνια

— ακύρωσαν τα συμβόλαιά τους με το Truleo μετά από αντιδράσεις από αστυνομικά συνδικάτα.

Το Αστυνομικό Τμήμα του Πούλμαν

ανέφερε την ανάλυση του Πανεπιστημίου της Πολιτείας της Ουάσιγκτον

4.600 ωρών βίντεο για να ισχυριστεί ότι οι αξιωματικοί δεν χρησιμοποιούν βία πιο συχνά, ή σε υψηλότερα επίπεδα, όταν έχουν να κάνουν με έναν ύποπτο μειονότητας, αλλά δεν παρείχαν λεπτομέρειες για τη μελέτη.

Σε ορισμένα αστυνομικά τμήματα, συμπεριλαμβανομένου του Philadelphia, η πολιτική απαγορεύει ρητά την πειθαρχία των αξιωματικών βάσει επισκοπήσεων βίντεο. Αυτή η πολιτική προωθήθηκε από το αστυνομικό σωματείο της πόλης, σύμφωνα με τον Χανς Μένος, πρώην επικεφαλής της Συμβουλευτικής Επιτροπής Αστυνομίας, του πολιτικού εποπτικού οργάνου της Φιλαδέλφειας. Η Αστυνομική Συμβουλευτική Επιτροπή έχει

κάλεσε το τμήμα να άρει τον περιορισμό

.

«Παίρνουμε αυτές τις κάμερες επειδή ακούσαμε την έκκληση να έχουμε περισσότερη επίβλεψη», είπε ο Μένος σε μια συνέντευξη. “Ωστόσο, περιορίζουμε τον τρόπο με τον οποίο ένας επόπτης μπορεί να τα χρησιμοποιήσει, κάτι που είναι χειρότερο από το να μην απαιτείται καν να το χρησιμοποιήσει.”

Το αστυνομικό τμήμα της Φιλαδέλφειας και η αστυνομική ένωση δεν απάντησαν σε αιτήματα για σχολιασμό.

Ο Christopher J. Schneider, καθηγητής στο πανεπιστήμιο Brandon του Καναδά, που μελετά τον αντίκτυπο της αναδυόμενης τεχνολογίας στις κοινωνικές αντιλήψεις για την αστυνομία, είπε ότι η έλλειψη αποκάλυψης τον κάνει δύσπιστο ότι τα εργαλεία τεχνητής νοημοσύνης θα διορθώσουν τα προβλήματα στη σύγχρονη αστυνόμευση.

Ακόμα κι αν τα αστυνομικά τμήματα αγοράσουν το λογισμικό και βρουν προβληματικούς αξιωματικούς ή μοτίβα συμπεριφοράς, αυτά τα ευρήματα ενδέχεται να διατηρηθούν από το κοινό όπως και πολλές εσωτερικές έρευνες.

Επειδή είναι εμπιστευτικό», είπε, «το κοινό δεν πρόκειται να μάθει ποιοι αξιωματικοί είναι κακοί ή έχουν πειθαρχήσει ή δεν έχουν πειθαρχήσει».