Γρήγορα αντίποινα: Οι θαυμαστές απαντούν μετά από ρητά deepfakes που πλημμύρισαν το X

Το μη συναινετικό deepfake πορνό της Taylor Swift έγινε viral στο X αυτή την εβδομάδα, με μία ανάρτηση να συγκεντρώνει περισσότερα από

45 εκατομμύρια προβολές,

24.000 αναδημοσιεύσεις και εκατοντάδες χιλιάδες likes πριν αφαιρεθεί.

Η ποπ σταρ έχει έναν από τους πιο αφοσιωμένους, εξαιρετικά διαδικτυακούς και ακατανόητα τεράστιους θαυμαστές στον κόσμο. Τώρα, οι Swifties είναι έξω για αίμα.

Όταν οι mega-fandom οργανώνονται, είναι ικανοί να κάνουν τεράστια πράγματα, όπως όταν οι φαν της K-pop έκαναν κράτηση

εκατοντάδες εισιτήρια

σε μια συγκέντρωση του Ντόναλντ Τραμπ σε μια προσπάθεια να μειώσει τον αριθμό των προσέλευσης. Καθώς πλησιάζουν οι προεδρικές εκλογές των ΗΠΑ του 2024, ορισμένοι ειδικοί το έχουν κάνει

θεωρητικοποιήθηκε

για το

εξουσία

των Swifties ως εκλογικό μπλοκ.

Αλλά σήμερα δεν είναι ημέρα εκλογών και οι Swifties επικεντρώνονται σε κάτι πιο άμεσο: να κάνουν τα μη συναινετικά deepfakes του μουσικού όσο πιο δύσκολο γίνεται. Τώρα, όταν αναζητάτε όρους όπως “taylor swift ai” ή “taylor swift deepfake” στο X, θα βρείτε χιλιάδες δημοσιεύσεις από θαυμαστές που προσπαθούν να θάψουν το περιεχόμενο που δημιουργείται από AI. Στο X, η φράση “ΠΡΟΣΤΑΤΕΥΤΕ ΤΟ TAYLOR SWIFT” είναι δημοφιλής με περισσότερες από 36.000 δημοσιεύσεις.

Μερικές φορές, αυτές οι καμπάνιες που βασίζονται σε οπαδούς μπορεί να ξεπεράσουν τα όρια. Ενώ μερικοί θαυμαστές ενθαρρύνουν ο ένας τον άλλον να αποδοκιμάζουν τους χρήστες X που κυκλοφόρησαν τα deepfakes, άλλοι ανησυχούν για την καταπολέμηση της παρενόχλησης με περισσότερη παρενόχληση, ειδικά όταν ο ύποπτος δράστης έχει ένα σχετικά κοινό όνομα και σε ορισμένες περιπτώσεις, οι Swifties μπορεί να κάνουν λάθος ο τύπος. Με τόσες χιλιάδες θαυμαστές που συμμετέχουν στον σκοπό, είναι αναπόφευκτο ότι δεν θα είναι όλοι οι Swiftie μέρος του ίδιου ενοποιημένου μετώπου — και κάποιοι είναι περισσότερο σε επαφή με την εποχή της «Φήμης» από άλλους.

Με την άνοδο των προσβάσιμων εργαλείων τεχνητής νοημοσύνης, αυτή η τακτική παρενόχλησης έχει γίνει τόσο διαδεδομένη που πέρυσι, το FBI και οι διεθνείς αρχές επιβολής του νόμου εξέδωσαν κοινή

δήλωση

σχετικά με την απειλή της εκστρατείας. Σύμφωνα με

έρευνα

από την εταιρεία κυβερνοασφάλειας Deeptrace, περίπου το 96% των deepfakes είναι πορνογραφικά και σχεδόν πάντα παρουσιάζουν γυναίκες.

«Η ψεύτικη πορνογραφία είναι ένα φαινόμενο που στοχεύει αποκλειστικά και βλάπτει τις γυναίκες», αναφέρει η έκθεση. Αυτή η κατάχρηση έχει ακόμη

διέρρευσε

σε

σχολεία

, όπου ανήλικα κορίτσια έχουν γίνει στόχος των συμμαθητών τους με ξεκάθαρα, μη συναινετικά deepfakes. Έτσι, για ορισμένους θαυμαστές της Taylor Swift, αυτό δεν είναι απλώς θέμα προστασίας του αστεριού. Συνειδητοποιούν ότι αυτές οι επιθέσεις μπορεί να συμβούν σε οποιονδήποτε από αυτούς, όχι μόνο σε διασημότητες, και ότι πρέπει να παλέψουν για να δημιουργήσουν το προηγούμενο ότι αυτή η συμπεριφορά είναι αφόρητη.

«Δέχεται το χτύπημα για εμάς αυτή τη στιγμή, όλα», είπε ένας χρήστης του TikTok ονόματι LeAnn σε ένα

βίντεο

προτρέποντας τους χρήστες να υπερασπιστούν το Swift. «Προστατεύοντάς την, θα προστατεύεις τον εαυτό σου και τις κόρες σου».

Σύμφωνα με

404 Μέσα

, οι εικόνες προήλθαν από μια συνομιλία στο Telegram που είναι αφιερωμένη στη δημιουργία μη συναινετικών, σαφών εικόνων γυναικών που χρησιμοποιούν γενετική τεχνητή νοημοσύνη. Ο όμιλος κατευθύνει τους χρήστες του να δημιουργήσουν βαθύ ψεύτικο τεχνητή νοημοσύνη στον Designer της Microsoft. αν και αυτού του είδους το περιεχόμενο παραβιάζει

Πολιτική της Microsoft

το AI του εξακολουθεί να είναι ικανό να το δημιουργήσει και οι χρήστες έχουν δημιουργήσει απλούς τρόπους αντιμετώπισης για να παρακάμψουν βασικά εργαλεία ασφαλείας.

Η Microsoft και η X δεν απάντησαν στο αίτημα για σχόλια πριν από τη δημοσίευση.

Το Κογκρέσο κάνει κάποια νομοθετική πρόοδο για να ποινικοποιήσει τα μη συναινετικά ψεύτικα. Η Βιρτζίνια απαγόρευσε το deepfake εκδικητικό πορνό και η εκπρόσωπος Yvette Clarke (D-NY) επανέφερε πρόσφατα τον νόμο DEEPFAKES Accountability Act, τον οποίο πρότεινε για πρώτη φορά το 2019. Ενώ οι επικριτές ανησυχούν για τη δυσκολία νομοθετικής ρύθμισης στις σκοτεινές γωνιές του ιστού, ορισμένοι λένε ότι το νομοσχέδιο θα μπορούσε τουλάχιστον να δημιουργήσουν κάποιο νομικό προηγούμενο προστασίας από αυτή την κατάχρηση. Οι θαυμαστές της Swift επέστησαν επίσης την προσοχή στις αποτυχίες της Ticketmaster, της εταιρείας ψυχαγωγίας που κατέχει επίσης το Live Nation. Σε μια ιδιαίτερα αξιομνημόνευτη δήλωση, η πρόεδρος της FTC, Lina Khan, είπε πέρυσι ότι η καταστροφική εμπειρία για την αγορά εισιτηρίων για την περιοδεία του Swift Eras «κατέληξε να μετατρέψει περισσότερους Gen Z-ers σε αντιμονοπωλιστές από οτιδήποτε άλλο θα μπορούσα να κάνω».

Αυτή η εκστρατεία κατάχρησης είναι εμβληματική των προβλημάτων με την απότομη άνοδο της τεχνητής νοημοσύνης: οι εταιρείες χτίζουν πολύ γρήγορα για να αξιολογήσουν σωστά τους κινδύνους των προϊόντων που στέλνουν. Έτσι, ίσως οι θαυμαστές του Taylor Swift να πάρουν τον αγώνα για προσεκτική ρύθμιση των ταχέως αναπτυσσόμενων προϊόντων τεχνητής νοημοσύνης – αλλά αν χρειάζεται μια εκστρατεία μαζικής παρενόχλησης εναντίον μιας διασημότητας για υποδοκιμασμένα μοντέλα τεχνητής νοημοσύνης για να αντιμετωπίσουν κάθε είδους έλεγχο, τότε αυτό είναι ένα εντελώς άλλο πρόβλημα.