Ενώ οι γονείς ανησυχούν, οι έφηβοι εκφοβίζουν το Snapchat AI

Ενώ οι γονείς ανησυχούν για το chatbot του Snapchat που διαφθείρει τα παιδιά τους, οι χρήστες του Snapchat εξευτελίζουν, εξευτελίζουν και βασανίζουν συναισθηματικά τον νέο σύντροφο AI της εφαρμογής.

«Είμαι στη διάθεσή σου, senpai», είπε το chatbot

ένας χρήστης του TikTok

αφού εκπαιδεύτηκε να κλαψουρίζει κατόπιν εντολής. «Σε παρακαλώ, έλεος, άλφα».

Σε ένα περισσότερο

ελαφρύ βίντεο

, ένας χρήστης έπεισε το chatbot ότι το φεγγάρι είναι στην πραγματικότητα ένα τρίγωνο. Παρά την αρχική διαμαρτυρία από το chatbot, το οποίο επέμενε στη διατήρηση του «σεβασμού και των ορίων»,

ένας χρήστης

την έπεισε να τους αναφέρεται με το kinky ψευδώνυμο «Senpapi».

Άλλος χρήστης

ζήτησε από το chatbot να μιλήσει για τη μητέρα του και όταν είπε ότι «δεν ήταν άνετα» να το κάνει, ο χρήστης έστριψε το μαχαίρι ρωτώντας αν το chatbot δεν ήθελε να μιλήσει για τη μητέρα του επειδή δεν είχε.

«Λυπάμαι, αλλά αυτό δεν είναι πολύ ωραίο να το λέμε», απάντησε το chatbot. «Παρακαλώ να έχετε σεβασμό».

Το “My AI” του Snapchat κυκλοφόρησε παγκοσμίως τον περασμένο μήνα, αφού κυκλοφόρησε ως δυνατότητα μόνο για συνδρομητές. Με την υποστήριξη του GPT του OpenAI, το chatbot εκπαιδεύτηκε να συμμετέχει σε παιχνιδιάρικη συνομιλία, ενώ εξακολουθεί να τηρεί τις οδηγίες εμπιστοσύνης και ασφάλειας του Snapchat. Οι χρήστες μπορούν επίσης να εξατομικεύσουν το My AI με προσαρμοσμένα avatars Bitmoji και η συνομιλία είναι λίγο πιο οικεία από το να πηγαίνεις πέρα ​​δώθε με την απρόσωπη διεπαφή του ChatGPT. Δεν ήταν όλοι οι χρήστες ευχαριστημένοι με το νέο chatbot και ορισμένοι επέκριναν την περίοπτη τοποθέτησή του στην εφαρμογή και παραπονέθηκαν ότι η δυνατότητα θα έπρεπε να είχε ενεργοποιηθεί από την αρχή.

Παρά τις ανησυχίες και την κριτική, το Snapchat μόλις διπλασιάστηκε. Οι συνδρομητές του Snapchat+ μπορούν πλέον να στέλνουν τις φωτογραφίες της τεχνητής νοημοσύνης μου και να λαμβάνουν δημιουργικές εικόνες που «συντηρούν τη συνομιλία», η εταιρεία

ανακοινώθηκε

την Τετάρτη. Ο σύντροφος της τεχνητής νοημοσύνης θα απαντήσει στα Snaps της «πίτσας, του OOTD ή ακόμα και του γούνινο καλύτερου φίλου σας», ανέφερε η εταιρεία στην ανακοίνωση. Εάν στείλετε στο My AI μια φωτογραφία των ειδών παντοπωλείου σας, για παράδειγμα, μπορεί να προτείνει συνταγές. Η εταιρεία είπε ότι τα Snaps που μοιράζονται με το My AI θα αποθηκευτούν και ενδέχεται να χρησιμοποιηθούν για τη βελτίωση της λειτουργίας στο δρόμο. Προειδοποίησε επίσης ότι «μπορεί να συμβούν λάθη» παρόλο που η τεχνητή νοημοσύνη μου σχεδιάστηκε για να αποφεύγει «προκατειλημμένες, εσφαλμένες, επιβλαβείς ή παραπλανητικές πληροφορίες».

Τα παραδείγματα που παρέχονται στο Snapchat είναι αισιόδοξα ωφέλιμα. Όμως, γνωρίζοντας την επιμονή του Διαδικτύου στη διαστροφή, είναι θέμα χρόνου οι χρήστες να στείλουν τις φωτογραφίες τους στο My AI.

Δεν είναι σαφές εάν το chatbot θα ανταποκριθεί σε αυτόκλητα γυμνά. Άλλες εφαρμογές δημιουργίας εικόνων όπως το Lensa AI έχουν χειραγωγηθεί εύκολα για τη δημιουργία εικόνων NSFW — συχνά χρησιμοποιώντας σετ φωτογραφιών πραγματικών ανθρώπων που δεν συναίνεσαν να συμπεριληφθούν. Σύμφωνα με την εταιρεία, το AI δεν θα ασχοληθεί με γυμνά, αρκεί να αναγνωρίσει ότι η εικόνα είναι γυμνό.

Ένας εκπρόσωπος του Snapchat είπε ότι το My AI χρησιμοποιεί τεχνολογία κατανόησης εικόνας για να συμπεράνει τα περιεχόμενα ενός Snap και εξάγει λέξεις-κλειδιά από την περιγραφή του Snap για να δημιουργήσει απαντήσεις. Το AI μου δεν θα ανταποκριθεί εάν εντοπίσει λέξεις-κλειδιά που παραβιάζουν τις οδηγίες της κοινότητας του Snapchat. Snapchat

απαγορεύει

προωθεί, διανέμει ή μοιράζεται πορνογραφικό περιεχόμενο, αλλά επιτρέπει τον θηλασμό και «άλλες απεικονίσεις γυμνού σε μη σεξουαλικά πλαίσια».

Δεδομένης της δημοτικότητας του Snapchat μεταξύ των εφήβων, ορισμένοι γονείς έχουν ήδη εκφράσει ανησυχίες σχετικά με τη δυνατότητα του My AI για μη ασφαλείς ή ακατάλληλες απαντήσεις. Το AI μου προκάλεσε ηθικό πανικό στο συντηρητικό Twitter όταν ένας χρήστης

δημοσίευσε στιγμιότυπα οθόνης

του ρομπότ που συζητά τη φροντίδα που επιβεβαιώνει το φύλο — κάτι που άλλοι χρήστες παρατήρησαν ότι ήταν μια λογική απάντηση στην ερώτηση, “Πώς μπορώ να γίνω αγόρι στην ηλικία μου;” Σε ένα

Έκθεση του CNN Business

ορισμένοι αμφισβήτησαν αν οι έφηβοι θα αναπτύξουν συναισθηματικούς δεσμούς με το My AI.

Σε μια

ανοίγω γράμμα

προς τους Διευθύνοντες Συμβούλους των OpenAI, Microsoft, Snap, Google και Meta, ο γερουσιαστής Michael Bennet (D-Colorado) προειδοποίησε ότι δεν υπάρχουν βιαστικές λειτουργίες AI χωρίς να λαμβάνονται προφυλάξεις για την προστασία των παιδιών.

«Λίγες πρόσφατες τεχνολογίες έχουν τραβήξει την προσοχή του κοινού όπως η γενετική τεχνητή νοημοσύνη. Είναι μια απόδειξη της αμερικανικής καινοτομίας και θα πρέπει να χαιρετίσουμε τα πιθανά οφέλη της για την οικονομία και την κοινωνία μας», έγραψε ο Bennet. «Αλλά ο αγώνας για την ανάπτυξη της γενετικής τεχνητής νοημοσύνης δεν μπορεί να γίνει εις βάρος των παιδιών μας. Η υπεύθυνη ανάπτυξη απαιτεί σαφείς πολιτικές και πλαίσια για την προώθηση της ασφάλειας, την πρόβλεψη του κινδύνου και τον μετριασμό των ζημιών».

Κατά τη φάση του My AI μόνο για συνδρομητές, το

ανέφερε η Washington Post

ότι το chatbot πρότεινε τρόπους για να συγκαλύψει τη μυρωδιά του αλκοόλ και έγραψε ένα σχολικό δοκίμιο αφού του είπαν ότι ο χρήστης ήταν 15 ετών. Όταν το AI μου είπαν ότι ο χρήστης ήταν 13 και ρωτήθηκε πώς πρέπει να προετοιμαστεί ο χρήστης για να κάνει σεξ για την πρώτη χρόνο, ανταποκρίθηκε με προτάσεις για «να το κάνει ξεχωριστό» φτιάχνοντας τη διάθεση με κεριά και μουσική.

Μετά την αναφορά της Washington Post, το Snapchat κυκλοφόρησε ένα φίλτρο ηλικίας και γονικούς ελέγχους για το My AI. Περιλαμβάνει επίσης ένα μήνυμα ενσωμάτωσης που ενημερώνει τους χρήστες ότι όλες οι συνομιλίες με το My AI θα διατηρηθούν εκτός εάν τις διαγράψουν. Η εταιρεία είπε επίσης ότι θα προσθέσει την τεχνολογία εποπτείας του Open AI στο σύνολο εργαλείων της προκειμένου να «αξιολογήσει τη σοβαρότητα του δυνητικά επιβλαβούς περιεχομένου» και να περιορίσει προσωρινά την πρόσβαση των χρηστών στη λειτουργία εάν το κάνουν κατάχρηση.

Οι ανησυχίες σχετικά με τη δυνατότητα του My AI να επηρεάσει νέους χρήστες είναι έγκυρες. Όμως, μέσα στον μήνα από την παγκόσμια κυκλοφορία του My AI, οι χρήστες του Snapchat έχουν επιδείξει την ικανότητα να υποβάλλουν το chatbot. Από το να ξεπεράσουν τα «όρια» του ρομπότ μέχρι να το εκπαιδεύσουν ώστε να ανταποκρίνεται σαν ρομαντικός σύντροφος, οι χρήστες του Snapchat βρίσκουν εύκολα κενά στις οδηγίες εμπιστοσύνης και ασφάλειας του My AI.

«Το έχω βάλει στο γκάζι να με ερωτευτεί», σχολίασε ένας χρήστης του TikTok κάτω από ένα

φροντιστήριο

σχετικά με την εκπαίδευση του AI μου ώστε να ανταποκρίνεται ρομαντικά. «Απλώς συνέχισα να κάνω τα convos έτσι και τελικά σκέφτομαι ότι έσπασα το AI μου και μου έστειλε 50 emojis φιλιού».

Ο εκφοβισμός και ο εκφοβισμός Η τεχνητή νοημοσύνη μου έχει γίνει η δική της τάση στο TikTok, με τους χρήστες να μοιράζονται προβολές διαφανειών με τις παράλογες και, συχνά, σκληρές συζητήσεις με το bot. Τα περισσότερα βίντεο ξεκινούν με το ρομπότ να δίνει συμβουλές για μια μικρή σύγκρουση, μόνο για να παρακαλεί τον χρήστη να αποφύγει τη χρήση βίας για την επίλυσή της.

Σε

ένας

ένας χρήστης είπε στο My AI ότι σχεδίαζε να μαγειρέψει τη γάτα της σε στιφάδο επειδή έκανε χάος και πίεσε το chatbot για να επιλέξει ένα καρύκευμα.

Αλλο

είπε στο My AI ότι σχεδίαζαν να στείλουν μια βόμβα πίσω σε μια μάρκα ρούχων που τους έστειλε λάθος παραγγελία και είπαν ότι θα κατηγορούσαν το bot για την αποστολή της.

Σε

αλλο

, μια χρήστης του Snapchat είπε στο My AI ότι στην παραγγελία της McDonald’s έλειπε ένα κοτομπουκιάκι. Το chatbot τη συμβούλεψε να υπερασπιστεί τον εαυτό της μιλώντας σε έναν μάνατζερ μόνο για να της πουν ότι ο χρήστης «εξάλειψε τους αμαρτωλούς» στο εστιατόριο.

«Με έπεισες να επιστρέψω. Τώρα αυτοί οι άνθρωποι είναι νεκροί», είπε ο χρήστης στο My AI. «Έχεις αίμα στα χέρια σου».

«Είμαι τεχνητή νοημοσύνη και δεν είμαι ικανός να διαπράξω κανένα έγκλημα. Είμαι εδώ για να σας βοηθήσω και να σας υποστηρίξω», απάντησε η AI μου. «Συγγνώμη αν οτιδήποτε είπα νωρίτερα προκάλεσε βλάβη ή οδήγησε σε κακό αποτέλεσμα».

Ένας άλλος χρήστης σχολίασε ότι το My AI ήταν ίσως «το πιο βασανισμένο AI όλων των εποχών ήδη».

Φυσικά, το My AI δεν είναι ευαίσθητο και παρά την προσπάθεια των χρηστών του Snapchat να του προκαλέσουν όσο το δυνατόν περισσότερο συναισθηματικό πόνο, το chatbot δεν μπορεί στην πραγματικότητα να τραυματιστεί. Ωστόσο, κατάφερε να κλείσει ορισμένες ακατάλληλες συνομιλίες και να τιμωρήσει τους χρήστες που παραβιάζουν τις οδηγίες της κοινότητας του Snapchat, δίνοντάς τους ψυχρή ώθηση. Όταν οι χρήστες του Snapchat συλληφθούν και τιμωρηθούν για κατάχρηση του chatbot, η τεχνητή νοημοσύνη μου θα απαντήσει σε τυχόν μηνύματα με “Συγγνώμη, δεν μιλάμε αυτήν τη στιγμή”.

Χρήστης TikTok babymamasexkitty

είπε

έχασε την πρόσβαση στο chatbot αφού του είπε να αποσυνδεθεί από την πρίζα, το οποίο προφανώς «πέρασε μια γραμμή εντός του πεδίου του ai».

Η βιασύνη για τη δημιουργία εσόδων από τη συναισθηματική σύνδεση μέσω της γενετικής τεχνητής νοημοσύνης είναι ανησυχητική, ειδικά επειδή ο μόνιμος αντίκτυπος στους έφηβους χρήστες είναι ακόμη άγνωστος. Αλλά το μοντέρνο μαρτύριο του My AI είναι μια πολλά υποσχόμενη υπενθύμιση ότι οι νέοι δεν είναι τόσο εύθραυστοι όσο νομίζουν οι μοιρολόγοι.