Μη συναινε
τι
κές εικόνες και βίντεο που δημιουργήθηκαν από την τεχνητή νοημοσύνη δείχνουν ότι η τραγουδίστρια Taylor Swift εμπλέκεται σε σεξουαλικές πράξεις πλημμύρισαν το X, τον ιστότοπο που ήταν παλαιότερα γνωστός ως Twitter, την περασμένη εβδομάδα, με μια ανάρτηση φέρεται να προβλήθηκε 45 εκατομμύρια φορές πριν καταργηθεί. Ο κατακλυσμός της τεχνητής νοημοσύνης που δημιούργησε «deepfake» πορνό παρέμεινε για μέρες και επιβραδύνθηκε μόνο μετά το X
απαγορευμένα για λίγο αποτελέσματα αναζήτησης
για το όνομα του τραγουδιστή στην πλατφόρμα εξ ολοκλήρου. Τώρα, νομοθέτες, υποστηρικτές και θαυμαστές του Swift χρησιμοποιούν την αποτυχία εποπτείας περιεχομένου
τα καύσιμα απαιτούν νέους νόμους
που σαφώς ποινικοποιούν τη διάδοση των σεξουαλικής φύσης σεξουαλικής φύσης που δημιουργούνται από την τεχνητή νοημοσύνη στο διαδίκτυο.
Πώς διαδόθηκαν τα Deepfakes της Taylor Swift;
Πολλά από τα βαθιά ψεύτικα Swift που δημιουργήθηκαν από την τεχνητή νοημοσύνη
σύμφωνα με πληροφορίες
προέρχεται από το
διαβόητα μισογυνιστικός πίνακας μηνυμάτων 4chan
και μια χούφτα σχετικά σκοτεινά ιδιωτικά κανάλια Telegram. Την περασμένη εβδομάδα, μερικοί από αυτούς έκαναν το άλμα στο Χ όπου γρήγορα άρχισαν να εξαπλώνονται σαν φωτιά. Πολλοί λογαριασμοί πλημμύρισαν τον Χ με το deepfake υλικό, τόσο πολύ που
αναζητώντας τον όρο
Το
“Taylor Swift AI”, θα εξυπηρετούσε τις εικόνες και τα βίντεο. Σε ορισμένες περιοχές,
Το χείλος
σημειώσεις
, το ίδιο hashtag εμφανίστηκε ως δημοφιλές θέμα, το οποίο τελικά ενίσχυσε περαιτέρω τα deepfakes. Συγκεκριμένα, μία ανάρτηση φέρεται να έλαβε 45 εκατομμύρια προβολές και 24.000 αναδημοσιεύσεις προτού τελικά αφαιρεθεί. Χρειάστηκαν Χ 17 ώρες για να αφαιρεθεί η ανάρτηση παρά το γεγονός αυτό
παραβίαση των όρων παροχής υπηρεσιών της εταιρείας
.
Ο Χ δεν απάντησε αμέσως
PopSci
αίτημα του για σχολιασμό.
Η δημοσίευση εικόνων μη συναινετικού γυμνού (NCN) απαγορεύεται αυστηρά στο X και έχουμε πολιτική μηδενικής ανοχής για τέτοιο περιεχόμενο. Οι ομάδες μας καταργούν ενεργά όλες τις αναγνωρισμένες εικόνες και λαμβάνουν τις κατάλληλες ενέργειες κατά των λογαριασμών που είναι υπεύθυνοι για τη δημοσίευσή τους. Είμαστε από κοντά…
— Ασφάλεια (@Safety)
26 Ιανουαρίου 2024
Με τις νέες επαναλήψεις των deepfakes να πολλαπλασιάζονται, οι επόπτες X παρενέβησαν την Κυριακή και απέκλεισαν τα αποτελέσματα αναζήτησης για το “Taylor Swift” και το “Taylor Swift AI” στην πλατφόρμα. Χρήστες που έψαχναν για αρκετές ημέρες το όνομα του ποπ σταρ στην πλατφόρμα
σύμφωνα με πληροφορίες
είδα ένα μήνυμα σφάλματος που έγραφε “κάτι πήγε στραβά”. Η X αντιμετώπισε επίσημα το θέμα σε ένα tweet την περασμένη εβδομάδα, λέγοντας ότι παρακολουθεί ενεργά την κατάσταση και λαμβάνει «τα κατάλληλα μέτρα» κατά των λογαριασμών που διαδίδουν το υλικό.
Η λεγεώνα των θαυμαστών της Swift πήρε την κατάσταση στα χέρια της την περασμένη εβδομάδα δημοσιεύοντας μη σεξουαλικές εικόνες του ποπ σταρ με το hashtag #ProtectTaylorSwift σε μια προσπάθεια να πνίξουν τα deepfakes. Άλλοι συγκεντρώθηκαν για να αναφέρουν λογαριασμούς που ανέβασαν το πορνογραφικό υλικό. Η πλατφόρμα
άρει επισήμως τη διήμερη απαγόρευση
στο όνομα της Σουίφτ τη Δευτέρα.
“Η αναζήτηση ενεργοποιήθηκε ξανά και θα συνεχίσουμε να είμαστε σε επαγρύπνηση για οποιαδήποτε προσπάθεια διάδοσης αυτού του περιεχομένου και θα το αφαιρέσουμε εάν το βρούμε”, δήλωσε ο επικεφαλής του X Business, Joe Benarroch, σε δήλωση που εστάλη στο
Wall Street Journal.
Γιατί συνέβη αυτό;
Τα σεξουαλικά deepfakes της Swift και άλλων διασημοτήτων κάνουν την εμφάνισή τους σε άλλες πλατφόρμες, αλλά οι ειδικοί σε θέματα απορρήτου και πολιτικής είπαν
Η μοναδική προσέγγιση του X για την εποπτεία περιεχομένου μετά την απόκτησή του από τον δισεκατομμυριούχο Έλον Μασκ
ήταν τουλάχιστον εν μέρει υπαίτιοι για το μοναδικό virality της εκδήλωσης. Από τον Ιανουάριο, ο Χ είχε
Σύμφωνα με πληροφορίες, απέλυσε περίπου το 80% των μηχανικών που εργάζονταν σε ομάδες εμπιστοσύνης και ασφάλειας
από τότε που ο Μασκ ανέλαβε το τιμόνι.
Αυτή η εξάλειψη της κύριας γραμμής άμυνας της πλατφόρμας ενάντια στο περιεχόμενο παραβίασης καθιστά ακόμη πιο δύσκολη μια ήδη δύσκολη πρόκληση ελέγχου περιεχομένου, ειδικά σε στιγμές που οι χρήστες κατακλύζουν την πλατφόρμα με πιο δυνητικά παραβιαστικό περιεχόμενο. Άλλες μεγάλες τεχνολογικές πλατφόρμες που διαχειρίζονται οι Meta, Google και Amazon έχουν μειώσει παρομοίως τις δικές τους ομάδες εμπιστοσύνης και ασφάλειας τα τελευταία χρόνια, κάτι που κάποιοι φοβούνται
οδηγούν σε αύξηση της παραπληροφόρησης και των ψεύτικο πλαστών τους επόμενους μήνες
.
Οι υπάλληλοι της εμπιστοσύνης και της ασφάλειας εξακολουθούν να εξετάζουν και να αφαιρούν κάποιο περιεχόμενο που παραβιάζει το X, αλλά η εταιρεία το έχει κάνει ανοιχτά
βασιζόταν περισσότερο σε αυτοματοποιημένα εργαλεία εποπτείας
για να εντοπίσει αυτές τις αναρτήσεις από τότε που ανέλαβε ο Μασκ. Χ είναι
σύμφωνα με πληροφορίες
σχεδιάζει να προσλάβει 100 επιπλέον υπαλλήλους για να εργαστούν σε ένα νέο “
Κέντρο αριστείας εμπιστοσύνης και ασφάλειας
» στο Ώστιν του Τέξας αργότερα φέτος. Ακόμη και με αυτές τις πρόσθετες
προσλήψεις
, ο συνολικός αριθμός του προσωπικού εμπιστοσύνης και ασφάλειας θα εξακολουθεί να είναι ένα κλάσμα αυτού που ήταν πριν από τις απολύσεις.
Κλώνοι τεχνητής νοημοσύνης βαθιάς ψεύτικες διακεκριμένων
πολιτικών
και διασημοτήτων έχουν εντείνει τις ανησυχίες σχετικά με το πώς η τεχνολογία θα μπορούσε να χρησιμοποιηθεί για τη διάδοση παραπληροφόρησης ή την επιρροή των εκλογών, αλλά η μη συναινετική πορνογραφία παραμένει η κυρίαρχη περίπτωση χρήσης. Αυτές οι εικόνες και βίντεο δημιουργούνται συχνά χρησιμοποιώντας λιγότερο γνωστά εργαλεία τεχνητής νοημοσύνης ανοιχτού κώδικα, αφού δημοφιλή μοντέλα όπως το OpenAI
Το DALL-E απαγορεύει ρητά το σεξουαλικό περιεχόμενο
. Οι τεχνολογικές εξελίξεις στην τεχνητή νοημοσύνη και η ευρύτερη πρόσβαση στα εργαλεία, με τη σειρά τους, έχουν
συνέβαλαν σε αυξημένο αριθμό σεξουαλικών βαθιών
στο δίκτυο.
Ερευνητές το 2021
εκτιμάται
ότι κάπου μεταξύ 90 και 95% των deepfakes που ζουν στο Διαδίκτυο αφορούσαν μη συναινετικό σεξουαλικό πορνό, η συντριπτική πλειοψηφία των οποίων στόχευε γυναίκες. Αυτή η τάση δεν δείχνει σημάδια επιβράδυνσης. Ανεξάρτητος ερευνητής
μιλώντας με το Wired
Πρόσφατα εκτιμήθηκε ότι το 2023 ανέβηκε περισσότερα deepfake πορνό από όλα τα άλλα χρόνια μαζί. Το υλικό σεξουαλικής κακοποίησης παιδιών που παρήχθη με τεχνητή νοημοσύνη, μερικά από τα οποία δημιουργούνται χωρίς πραγματικές ανθρώπινες εικόνες, είναι επίσης
σύμφωνα με πληροφορίες σε άνοδο
.
Πώς οι ακόλουθοι της Swift θα μπορούσαν να επηρεάσουν την τεχνολογική νομοθεσία
Η τεκτονική πολιτιστική επιρροή του Swift και ιδιαίτερα η φωνητική βάση των θαυμαστών του συμβάλλουν στην αναζωογόνηση των πολυετών προσπαθειών για εισαγωγή και ψήφιση νομοθεσίας που στοχεύει ρητά τα μη συναινετικά deepfakes. Τις μέρες από τότε που άρχισε να διαδίδεται το deepfake υλικό, μεγάλες προσωπικότητες όπως
Ο Διευθύνων Σύμβουλος της Microsoft Satya Nadella
και ακόμα
Ο Λευκός Οίκος του προέδρου Τζο Μπάιντεν
έχουν σταθμίσει, καλώντας για δράση. Πολλά μέλη του Κογκρέσου, συμπεριλαμβανομένης της αντιπροσώπου των Δημοκρατικών της Νέας Υόρκης, Yvette Clarke και του Ρεπουμπλικανικού αντιπροσώπου του New Jersey, Tom Kean Jr.
κυκλοφόρησε δηλώσεις
προώθηση νομοθεσίας που θα επιχειρούσε να ποινικοποιήσει την κοινή χρήση μη συναινετικών ψεύτικο πορνό. Kean Jr. Ένα από αυτά τα νομοσχέδια, που ονομάζεται το
Πρόληψη Πρόληψης Deepfakes Intimate Images Act
θα μπορούσε να έρθει για ψηφοφορία φέτος.
Το Deepfake πορνό και οι νομοθετικές προσπάθειες για την καταπολέμησή του δεν είναι καινούργια, αλλά η ξαφνική συσχέτιση της Swift με το θέμα θα μπορούσε να χρησιμεύσει ως κοινωνικός επιταχυντής. Ο απόηχος αυτού του φαινομένου σημειώθηκε το
2022
όταν το Υπουργείο Δικαιοσύνης ανακοίνωσε ότι θα το κάνει
να ξεκινήσει αντιμονοπωλιακή έρευνα
στο Live Master αφού ο ιστότοπός του κατέρρευσε λόγω της ζήτησης εισιτηρίων προπώλησης για την περιοδεία της Swift «The Eras». Το περιστατικό πυροδότησε τα μακροχρόνια παράπονα ορισμένων οπαδών της μουσικής για το Live Nation και τις υποτιθέμενες μονοπωλιακές του πρακτικές, τόσο πολύ που στελέχη της εταιρείας αναγκάστηκαν να παρευρεθούν σε
Ακρόαση της Επιτροπής Δικαιοσύνης της Γερουσίας
τα ψήνουν στη σχάρα για τις επιχειρηματικές τους πρακτικές. Πολλοί νομοθέτες έκαναν δημόσιες δηλώσεις
υποστηρίζοντας τη «διάσπαση» του Live Nation-Ticketmaster
.
Το αν θα συμβεί ή όχι το ίδιο επίπεδο πολιτικής κινητοποίησης αυτή τη φορά με deepfakes, μένει να φανεί. Ωστόσο, η ώθηση του ενδιαφέροντος για τους νόμους που κυριαρχούν στις πιο σκοτεινές περιπτώσεις χρήσης της τεχνητής νοημοσύνης μετά την κατάρρευση του Swift deepfake δείχνει τη δύναμη να υπάρχουν πολιτιστικά συναφείς φυσιογνωμίες να επισυνάπτουν τα ονόματά τους σε κατά τα άλλα λιγότερο γνωστές επιδιώξεις πολιτικής. Αυτή η συνάφεια μπορεί να βοηθήσει στην εκκίνηση των λογαριασμών στην κορυφή της ημερήσιας διάταξης, όταν, διαφορετικά, θα προορίζονταν για την αφάνεια.
VIA:
popsci.com
