Αυτοκίνητα χωρίς οδηγό χειρότερα βλέποντας παιδιά, μελαχρινούς ανθρώπους—Μελέτη
Τα συστήματα αυτοκινήτων χωρίς οδηγό έχουν πρόβλημα μεροληψίας, σύμφωνα με μια νέα μελέτη από το Kings College του Λονδίνου. ο
μελέτη
εξέτασε οκτώ συστήματα ανίχνευσης πεζών που λειτουργούν με τεχνητή νοημοσύνη και χρησιμοποιούνται για έρευνα για αυτόνομη
οδήγηση
. Οι ερευνητές έτρεξαν περισσότερες από 8.000 εικόνες μέσω του λογισμικού και διαπίστωσαν ότι τα συστήματα αυτοοδηγούμενων αυτοκινήτων ήταν σχεδόν 20% καλύτερα στον εντοπισμό ενηλίκων πεζών από
παιδιά
και περισσότερο από 7,5% καλύτερα στην ανίχνευση ανοιχτόχρωμων πεζών έναντι σκουρόχρωμων. Η τεχνητή νοημοσύνη ήταν ακόμη χειρότερη στο να εντοπίζει άτομα με σκουρόχρωμο δέρμα σε συνθήκες χαμηλού φωτισμού και χαμηλού φωτισμού, καθιστώντας την
τεχνολογία
ακόμα λιγότερο ασφαλή τη νύχτα.
Για τα παιδιά και τους έγχρωμους, η διέλευση του δρόμου θα μπορούσε να γίνει πιο επικίνδυνη στο εγγύς μέλλον.
«Δικαιοσύνη όσον αφορά την τεχνητή νοημοσύνη είναι όταν ένα σύστημα τεχνητής νοημοσύνης αντιμετωπίζει το ίδιο προνομιούχες και μη προνομιούχες ομάδες, κάτι που δεν συμβαίνει όταν πρόκειται για αυτόνομα οχήματα», δήλωσε ο Δρ Jie Zhang, ένας από τους συγγραφείς της μελέτης.
δελτίο τύπου
. «Οι κατασκευαστές αυτοκινήτων δεν δημοσιεύουν τις λεπτομέρειες του λογισμικού που χρησιμοποιούν για την ανίχνευση πεζών, αλλά καθώς συνήθως βασίζονται στα ίδια συστήματα ανοιχτού κώδικα που χρησιμοποιήσαμε στην έρευνά μας, μπορούμε να είμαστε σίγουροι ότι αντιμετωπίζουν τα ίδια προβλήματα της προκατάληψης.”
Η μελέτη δεν εξέτασε το ίδιο ακριβώς λογισμικό που χρησιμοποιούν οι εταιρείες αυτοκινήτων χωρίς οδηγό που έχουν ήδη τα προϊόντα τους στους δρόμους, αλλά αυξάνει τις ανησυχίες για την ασφάλεια καθώς τα αυτοκίνητα γίνονται πιο κοινά. Αυτό το μήνα, η κυβέρνηση της πολιτείας της Καλιφόρνια έδωσε
Δωρεάν εμβέλεια Waymo και Cruise για λειτουργία ταξί χωρίς οδηγό στο Σαν Φρανσίσκο
24 ώρες το 24ωρο. Ήδη, η τεχνολογία είναι
προκαλώντας ατυχήματα
και
πυροδοτώντας διαμαρτυρίες
στην πόλη.
Η
Gizmodo
προσέγγισε πολλές εταιρείες που είναι πιο γνωστές για τα αυτόνομα αυτοκίνητα.
Η Cruise και η Tesla δεν απάντησαν σε αιτήματα για σχολιασμό.
Ένας εκπρόσωπος της Waymo είπε ότι η μελέτη δεν αντιπροσωπεύει όλα
απο
εργαλεία που χρησιμοποιούνται στα αυτοκίνητα της εταιρείας. “
Στη Waymo, δεν χρησιμοποιούμε μόνο εικόνες κάμερας για να εντοπίσουμε τους πεζούς», είπε
Sandy Karp, εκπρόσωπος της Waymo. “ΕΓΩ
Αντίθετα, αξιοποιούμε την πλήρη σουίτα αισθητήρων μας – συμπεριλαμβανομένων των lidar και των ραντάρ μας, όχι μόνο των καμερών – για να μας βοηθήσουν να αντιληφθούμε ενεργά τις λεπτομέρειες στο περιβάλλον μας με τρόπο που θα ήταν δύσκολο να κάνουμε μόνο με τις κάμερες.
”
Σύμφωνα με τους ερευνητές, μια σημαντική πηγή των προβλημάτων της τεχνολογίας με τα παιδιά και τους μελαχρινούς ανθρώπους προέρχεται από μεροληψία στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση του AI, το οποίο περιλαμβάνει περισσότερους ενήλικες και ανοιχτόχρωμους ανθρώπους.
Η Karp είπε ότι η Waymo εκπαιδεύει την τεχνολογία αυτόνομης οδήγησης για να ταξινομεί ειδικά τους ανθρώπους και να ανταποκρίνεται στην ανθρώπινη συμπεριφορά, καθώς και λέξεις για να βεβαιωθεί ότι τα σύνολα δεδομένων της είναι αντιπροσωπευτικά.
Οι αλγόριθμοι αντικατοπτρίζουν τις προκαταλήψεις που υπάρχουν στα σύνολα δεδομένων και το μυαλό των ανθρώπων που τα δημιουργούν. Ένα κοινό παράδειγμα είναι
λογισμικό αναγνώρισης προσώπου
που αποδεικνύει με συνέπεια
λιγότερη ακρίβεια
με τα πρόσωπα των γυναικών, των μελαχρινών ανθρώπων και των Ασιατών, ιδιαίτερα. Αυτές οι ανησυχίες δεν έχουν σταματήσει την ενθουσιώδη αγκαλιά αυτού του είδους τεχνολογίας AI. Η αναγνώριση προσώπου είναι ήδη υπεύθυνη για την τοποθέτηση
αθώοι μαύροι στη φυλακή
.
Ενημέρωση, 24 Αυγούστου, 1:45 μ.μ.:
Αυτό το άρθρο έχει ενημερωθεί με σχόλια από την Waymo
.
