Η Amazon συμβιβάζεται με την FTC για 25 εκατομμύρια δολάρια μετά από «παραβίαση» αιτημάτων απορρήτου και διαγραφής παιδιών

Η Amazon θα

πληρώσει στην FTC πρόστιμο 25 εκατομμυρίων δολαρίων

καθώς και «να αναθεωρήσει τις πρακτικές διαγραφής του και να εφαρμόσει αυστηρές διασφαλίσεις απορρήτου» για να αποφύγει κατηγορίες για παραβίαση του Νόμου για την Προστασία του Απορρήτου των Παιδιών στο Διαδίκτυο για την ανάπτυξη της τεχνητής νοημοσύνης του.

Η φωνητική διεπαφή Alexa της Amazon χρησιμοποιείται σε σπίτια σε όλο τον κόσμο εδώ και χρόνια και οποιοσδήποτε γονέας την έχει γνωρίζει ότι τα παιδιά λατρεύουν να παίζουν μαζί της, να την κάνουν να λέει αστεία, ακόμη και να τη χρησιμοποιούν για τον προορισμό της, όποια κι αν είναι αυτή. Στην πραγματικότητα ήταν τόσο προφανώς χρήσιμο για τα παιδιά που δεν μπορούν να γράψουν ή έχουν αναπηρίες που η FTC χαλάρωσε τους κανόνες COPPA για να προσαρμόσει τη λογική χρήση: ορισμένη ανάλυση των δεδομένων των παιδιών για συγκεκριμένες υπηρεσίες, όπως η μεταγραφή, επιτρεπόταν εφόσον δεν διατηρούνται περισσότερο από όσο είναι εύλογα απαραίτητο.

Φαίνεται ότι η Amazon μπορεί να είχε μια μάλλον εκτεταμένη άποψη για το «εύλογα απαραίτητο» χρονοδιάγραμμα, διατηρώντας τα δεδομένα ομιλίας των παιδιών λίγο-πολύ για πάντα.

Όπως το θέτει η FTC:

Η Amazon διατήρησε τις ηχογραφήσεις των παιδιών επ’ αόριστον—εκτός εάν κάποιος γονέας ζητήσει να διαγραφούν αυτές οι πληροφορίες, σύμφωνα με την καταγγελία. Και ακόμη και όταν ένας γονέας προσπάθησε να διαγράψει αυτές τις πληροφορίες, είπε η FTC, η Amazon απέτυχε να διαγράψει μεταγραφές όσων είπαν τα παιδιά από όλες τις βάσεις δεδομένων της.

Τα δεδομένα γεωγραφικής θέσης επίσης δεν διαγράφηκαν, ένα πρόβλημα που η εταιρεία «απέτυχε επανειλημμένα να επιδιορθώσει».

Αυτό συμβαίνει εδώ και χρόνια – η FTC ισχυρίζεται ότι η Amazon το γνώριζε ήδη από το 2018, αλλά δεν ανέλαβε δράση μέχρι τον Σεπτέμβριο του επόμενου έτους, αφού η υπηρεσία τους έδωσε μια χρήσιμη ώθηση.

Αυτός ο χρόνος συνήθως δείχνει ότι μια εταιρεία θα συνέχιζε αυτή την πρακτική για πάντα. Και προφανώς, λόγω «ελαττωματικών επιδιορθώσεων και φιάσκο διαδικασιών», ορισμένες από αυτές τις πρακτικές συνεχίστηκαν μέχρι το 2022!

Μπορεί κάλλιστα να ρωτήσετε, ποιο είναι το νόημα να έχουμε ένα σωρό ηχογραφήσεις με παιδιά που μιλούν στην Alexa; Λοιπόν, αν σκοπεύετε να έχετε τη φωνητική σας διεπαφή να μιλάει πολύ στα παιδιά, σίγουρα βοηθάει να έχετε μια μυστική βάση δεδομένων αλληλεπιδράσεων ήχου στην οποία μπορείτε να εκπαιδεύσετε τα μοντέλα μηχανικής εκμάθησης. Και έτσι η FTC είπε ότι η Amazon δικαιολόγησε τη διατήρηση αυτών των δεδομένων.

Οι Επίτροποι της FTC Bedoya και Slaughter, καθώς και ο Πρόεδρος Khan, έγραψαν μια δήλωση που συνόδευε την πρόταση διευθέτησης και την καταγγελία για να τονίσουν ιδιαίτερα αυτό το ένα σημείο:

Η Επιτροπή ισχυρίζεται ότι η Amazon διατήρησε τα δεδομένα των παιδιών επ’ αόριστον για να βελτιώσει περαιτέρω τον αλγόριθμο αναγνώρισης φωνής. Η Amazon δεν είναι η μόνη που προφανώς επιδιώκει να συγκεντρώσει δεδομένα για να βελτιώσει τα μοντέλα μηχανικής εκμάθησης. αυτή τη στιγμή, με την εμφάνιση μεγάλων μοντέλων γλώσσας, η βιομηχανία της τεχνολογίας στο σύνολό της προσπαθεί να κάνει το ίδιο.

Ο σημερινός διακανονισμός στέλνει ένα μήνυμα σε όλες αυτές τις εταιρείες: Η μηχανική μάθηση δεν αποτελεί δικαιολογία για να παραβιάσεις το νόμο. Οι ισχυρισμοί από επιχειρήσεις ότι τα δεδομένα πρέπει να διατηρούνται επ’ αόριστον για τη βελτίωση των αλγορίθμων δεν παρακάμπτουν τις νομικές απαγορεύσεις για την επ’ αόριστον διατήρηση δεδομένων. Τα δεδομένα που χρησιμοποιείτε για τη βελτίωση των αλγορίθμων σας πρέπει να συλλέγονται και να διατηρούνται νόμιμα. Οι εταιρείες θα κάνουν καλά να δώσουν αυτό το μάθημα.

Και έτσι σήμερα έχουμε το πρόστιμο των 25 εκατομμυρίων δολαρίων, το οποίο είναι φυσικά λιγότερο από αμελητέο για το μέγεθος μιας εταιρείας Amazon. Είναι σαφές ότι συμμορφώνεται με τις άλλες διατάξεις της προτεινόμενης εντολής που πιθανότατα θα τους προκαλέσει πονοκέφαλο. Η FTC λέει ότι η παραγγελία θα:

• Απαγόρευση της Amazon από τη χρήση γεωγραφικού εντοπισμού, φωνητικών πληροφοριών και φωνητικών πληροφοριών για παιδιά που υπόκεινται σε αιτήματα διαγραφής των καταναλωτών για τη δημιουργία ή τη βελτίωση οποιουδήποτε προϊόντος δεδομένων.
• Να απαιτείται από την εταιρεία να διαγράψει ανενεργούς λογαριασμούς Alexa παιδιών.
• Να απαιτείται από την Amazon να ειδοποιεί τους χρήστες σχετικά με την ενέργεια της FTC-DOJ κατά της εταιρείας.
• Να απαιτείται από την Amazon να ειδοποιεί τους χρήστες για τις πρακτικές και τους ελέγχους διατήρησης και διαγραφής.
• Να απαγορεύσει στην Amazon να παραποιεί τις πολιτικές απορρήτου της σχετικά με τη γεωγραφική θέση, τη φωνή και τις φωνητικές πληροφορίες των παιδιών. και
• Εντολή για τη δημιουργία και εφαρμογή ενός προγράμματος απορρήτου που σχετίζεται με τη χρήση πληροφοριών γεωγραφικής θέσης από την εταιρεία.

Αυτός ο διακανονισμός και η ενέργεια είναι εντελώς ανεξάρτητη από την άλλη της FTC που ανακοινώθηκε σήμερα, με τη θυγατρική Ring της Amazon. Ωστόσο, υπάρχει ένα κοινό νήμα της «αποτυχίας εφαρμογής βασικών προστασιών απορρήτου και ασφάλειας».

Σε ανακοίνωσή της, η Amazon είπε ότι «Ενώ διαφωνούμε με τους ισχυρισμούς της FTC και αρνούμαστε την παραβίαση του νόμου, αυτή η διευθέτηση αφήνει το θέμα πίσω μας». Υπόσχονται επίσης να «αφαιρέσουν τα παιδικά προφίλ που είναι ανενεργά για περισσότερους από 18 μήνες», κάτι που φαίνεται απίστευτα μεγάλο για τη διατήρηση αυτών των δεδομένων. Παρακολούθησα ερωτήσεις σχετικά με αυτή τη διάρκεια και εάν τα δεδομένα θα χρησιμοποιηθούν για εκπαίδευση ML και θα ενημερώσω αν μάθω νέα.