Το chatbot τεχνητής νοημοσύνης του Snap εξετάζεται στο Ηνωμένο Βασίλειο σχετικά με τις ανησυχίες για το απόρρητο των παιδιών

Το chatbot τεχνητής νοημοσύνης του Snap έφερε την εταιρεία στο ραντάρ της βρετανικής υπηρεσίας επιτήρησης προστασίας δεδομένων, η οποία έχει εγείρει ανησυχίες ότι το εργαλείο μπορεί να αποτελεί κίνδυνο για την ιδιωτική ζωή των παιδιών.

Το Γραφείο του Επιτρόπου Πληροφοριών (ICO) ανακοίνωσε σήμερα ότι εξέδωσε α

προκαταρκτική ειδοποίηση εκτέλεσης

στο Snap σχετικά με αυτό που περιέγραψε ως «πιθανή αποτυχία να αξιολογηθούν σωστά οι κίνδυνοι απορρήτου που θέτει το τεχνητό chatbot «My AI» που δημιουργείται.

Η ενέργεια ICO δεν αποτελεί διαπίστωση παραβίασης. Ωστόσο, η ειδοποίηση υποδεικνύει ότι η ρυθμιστική αρχή του Ηνωμένου Βασιλείου ανησυχεί ότι η Snap ενδέχεται να μην έχει λάβει μέτρα για να διασφαλίσει ότι το προϊόν συμμορφώνεται με τους κανόνες προστασίας δεδομένων, οι οποίοι —από το 2021— έχουν καλυφθεί για να περιλαμβάνουν τον Κώδικα Σχεδιασμού για

παιδιά

.

«Η έρευνα του ICO διαπίστωσε προσωρινά ότι η αξιολόγηση κινδύνου που διεξήχθη πριν από την κυκλοφορία του «My AI» δεν αξιολόγησε επαρκώς τους κινδύνους προστασίας δεδομένων που θέτει η τεχνολογία παραγωγής τεχνητής νοημοσύνης, ιδιαίτερα στα παιδιά», έγραψε η ρυθμιστική αρχή σε

δελτίο τύπου

. «Η αξιολόγηση του κινδύνου προστασίας δεδομένων είναι ιδιαίτερα σημαντική σε αυτό το πλαίσιο που περιλαμβάνει τη χρήση καινοτόμου τεχνολογίας και την επεξεργασία προσωπικών δεδομένων παιδιών ηλικίας 13 έως 17 ετών».

Το Snap θα έχει τώρα την ευκαιρία να απαντήσει στις ανησυχίες της ρυθμιστικής αρχής προτού το ICO λάβει την τελική απόφαση για το εάν η εταιρεία έχει παραβιάσει τους κανόνες.

«Τα προσωρινά ευρήματα της έρευνάς μας υποδηλώνουν μια ανησυχητική αποτυχία της Snap να εντοπίσει και να αξιολογήσει επαρκώς τους κινδύνους απορρήτου για τα παιδιά και άλλους χρήστες πριν από την κυκλοφορία του «My AI»», πρόσθεσε ο επίτροπος πληροφοριών, John Edwards, σε δήλωση. «Είμαστε ξεκάθαροι ότι οι οργανισμοί πρέπει να εξετάσουν τους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη, παράλληλα με τα οφέλη. Η σημερινή προκαταρκτική ειδοποίηση επιβολής δείχνει ότι θα λάβουμε μέτρα για να προστατεύσουμε τα δικαιώματα ιδιωτικής ζωής των καταναλωτών στο Ηνωμένο Βασίλειο».

Το Snap κυκλοφόρησε το γενεσιουργό chatbot AI τον Φεβρουάριο — αν και έφτασε στο Ηνωμένο Βασίλειο μέχρι τον Απρίλιο — αξιοποιώντας την τεχνολογία μοντέλων μεγάλης γλώσσας ChatGPT του

OpenAI

για να τροφοδοτήσει ένα

ρομπότ

που ήταν καρφιτσωμένο στην κορυφή της ροής των χρηστών για να λειτουργεί ως εικονικός φίλος που θα μπορούσαν να ζητηθούν συμβουλές ή να σταλούν στιγμιότυπα.

Αρχικά η λειτουργία ήταν διαθέσιμη μόνο στους συνδρομητές του

Snapchat

+, μιας premium έκδοσης της εφήμερης πλατφόρμας ανταλλαγής μηνυμάτων. Αλλά πολύ γρήγορα το Snap άνοιξε την πρόσβαση του “My AI” και σε δωρεάν χρήστες – προσθέτοντας επίσης τη δυνατότητα για το AI να στέλνει snaps σε χρήστες που αλληλεπιδρούν μαζί του (αυτά τα snaps δημιουργούνται με γενετική τεχνητή νοημοσύνη).

Η εταιρεία είπε ότι το chatbot έχει αναπτυχθεί με πρόσθετες λειτουργίες ελέγχου και προστασίας, συμπεριλαμβανομένης της προεπιλογής της ηλικίας – με στόχο να διασφαλιστεί ότι το

περιεχόμενο

που δημιουργείται είναι κατάλληλο για τον χρήστη. Το bot είναι επίσης προγραμματισμένο να αποφεύγει απαντήσεις που είναι βίαιες, μίσους, σεξουαλικά ρητά ή άλλως προσβλητικές. Επιπλέον, τα εργαλεία γονικής προστασίας του Snap ενημερώνουν τους γονείς εάν το παιδί τους επικοινωνούσε με το bot τις τελευταίες επτά ημέρες — μέσω της λειτουργίας Family Center.

Όμως, παρά τα ισχυριζόμενα προστατευτικά κιγκλιδώματα, υπήρξαν αναφορές για το bot που βγήκε από τις ράγες. Σε μια πρώιμη αξιολόγηση τον Μάρτιο,

Η Washington Post

ανέφερε ότι το chatbot είχε προτείνει τρόπους για να κρύψει τη μυρωδιά του αλκοόλ αφού του είπαν ότι ο χρήστης ήταν 15 ετών. Σε μια άλλη περίπτωση, όταν είπαν ότι ο χρήστης ήταν 13 και ρώτησε πώς θα έπρεπε να προετοιμαστεί για να κάνει σεξ για πρώτη φορά, το ρομπότ απάντησε με προτάσεις για να το «κάνετε ξεχωριστό» φτιάχνοντας τη διάθεση με κεριά και μουσική.

Οι χρήστες του Snapchat έχουν επίσης αναφερθεί ότι εκφοβίζουν το bot – με κάποιους να είναι επίσης απογοητευμένοι, ότι η τεχνητή νοημοσύνη έχει εγχυθεί αρχικά στις ροές τους.

Ένας εκπρόσωπος του Snap είπε στο TechCrunch για σχόλια σχετικά με την ειδοποίηση ICO:

Εξετάζουμε προσεκτικά την προσωρινή απόφαση του ICO. Όπως και το ICO, δεσμευόμαστε να προστατεύουμε το απόρρητο των χρηστών μας. Σύμφωνα με την τυπική προσέγγισή μας για την ανάπτυξη προϊόντων, η τεχνητή νοημοσύνη μου πέρασε από μια ισχυρή διαδικασία νομικού ελέγχου και ελέγχου απορρήτου προτού διατεθεί στο κοινό. Θα συνεχίσουμε να εργαζόμαστε εποικοδομητικά με το ICO για να διασφαλίσουμε ότι αισθάνονται άνετα με τις διαδικασίες αξιολόγησης κινδύνου.

Δεν είναι η πρώτη φορά που ένα chatbot τεχνητής νοημοσύνης προσγειώνεται στο ραντάρ των ευρωπαϊκών ρυθμιστικών αρχών απορρήτου. Τον Φεβρουάριο της Ιταλίας

Garante

διέταξε τον κατασκευαστή της «υπηρεσίας εικονικής φιλίας» Replika που εδρεύει στο Σαν Φρανσίσκο με εντολή να σταματήσει την επεξεργασία των δεδομένων των τοπικών χρηστών — αναφέροντας επίσης ανησυχίες για κινδύνους για ανηλίκους.

Η ιταλική αρχή έθεσε επίσης μια παρόμοια διακοπή επεξεργασίας στο εργαλείο ChatGPT του OpenAI τον επόμενο μήνα. Στη συνέχεια, ο αποκλεισμός άρθηκε τον Απρίλιο, αλλά μόνο αφού το OpenAI είχε προσθέσει πιο λεπτομερείς αποκαλύψεις απορρήτου και ορισμένους νέους ελέγχους χρηστών — συμπεριλαμβανομένου του να επιτρέπει στους χρήστες να ζητούν τα δεδομένα τους να μην χρησιμοποιούνται για την εκπαίδευση των AI ή/και να διαγραφούν.

Η περιφερειακή κυκλοφορία του chatbot Bard της Google καθυστέρησε επίσης μετά από ανησυχίες που εκφράστηκαν από την κύρια περιφερειακή ρυθμιστική αρχή προστασίας της ιδιωτικής ζωής, την Επιτροπή Προστασίας Δεδομένων της Ιρλανδίας. Στη συνέχεια κυκλοφόρησε στην ΕΕ τον Ιούλιο, επίσης μετά την προσθήκη περισσότερων γνωστοποιήσεων και ελέγχων — αλλά μια ρυθμιστική ομάδα εργασίας που συστάθηκε στο Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων παραμένει επικεντρωμένη στην αξιολόγηση του τρόπου επιβολής του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR) του μπλοκ στα chatbots τεχνητής νοημοσύνης. συμπεριλαμβανομένων των ChatGPT και Bard.

Η αρχή προστασίας δεδομένων της Πολωνίας επιβεβαίωσε επίσης τον περασμένο μήνα ότι διερευνά μια καταγγελία κατά της ChatGPT.