Αποτυχημένη Τεχνητή Νοημοσύνη στο Βίντεο της Megan Thee Stallion

Το πρόσφατο σκάνδαλο βίντεο Megan Thee Stallion AI, το οποίο άφησε τον ράπερ συναισθηματικά στενοχωρημένο κατά τη διάρκεια μιας συναυλίας, υπενθυμίζει ακόμη μια έντονη υπενθύμιση των κλιμακούμενων κινδύνων της τεχνολογίας

deepfake

. Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται με πρωτοφανή ρυθμό, το ίδιο ισχύει και για την πιθανότητα κακής χρήσης, με τα deepfakes να γίνονται όλο και πιο εξελιγμένα και δύσκολο να διακριθούν από το αυθεντικό περιεχόμενο.

Στην περίπτωση της Megan Thee Stallion, ένα βίντεο που δημιουργήθηκε από τεχνητή νοημοσύνη και παρουσίαζε την ομοιότητα της κυκλοφόρησε στο διαδίκτυο, προκαλώντας σημαντική αγωνία και προκαλώντας ένα κύμα διαδικτυακής παρενόχλησης.

Ο ράπερ αναφέρθηκε με γενναιότητα στο θέμα κατά τη διάρκεια της

Hot Girl Summer περιοδεία

ξεσπώντας σε κλάματα καθώς κατήγγειλε τους δράστες και την κακόβουλη πρόθεσή τους.

Το βίντεο Megan Thee Stallion AI είναι μόνο ένα από τα πολλά

Αυτό το περιστατικό απέχει πολύ από το να είναι μεμονωμένο. Πολλές διασημότητες έχουν πέσει θύματα της τεχνολογίας deepfake, με εικόνες και βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη να χρησιμοποιούνται συχνά για τη διάδοση παραπληροφόρησης, τη δυσφήμιση της φήμης ή ακόμη και την τροφοδότηση εκστρατειών παρενόχλησης. Ο Bobbi Althoff, για παράδειγμα, αντιμετώπισε μια παρόμοια δοκιμασία όταν εμφανίστηκε μια σαφής deepfake εικόνα στα μέσα κοινωνικής δικτύωσης, προκαλώντας γρήγορη δράση από την πλατφόρμα για την κατάργηση του περιεχομένου.

Το βίντεο της Megan Thee Stallion AI πήρε απάντηση από την επιτυχημένη ράπερ με τα παρακάτω λόγια στον λογαριασμό της στο

X

:

@theestallion

:

Είναι πραγματικά άρρωστο πώς θα με πληγώσεις όταν με βλέπεις να κερδίζω. Θα πάω πολύ μακριά, ψεύτικο σκατά. Απλά να ξέρεις ότι σήμερα ήταν η τελευταία σου μέρα που έπαιζες μαζί μου και το εννοώ.

— TINA SNOW (@theestallion)

8 Ιουνίου 2024

Στον απόηχο του σκανδάλου βίντεο Megan Thee Stallion AI, υπήρξαν εκκλήσεις για αυστηρότερα νομικά πλαίσια για την αντιμετώπιση της δημιουργίας και της διανομής deepfakes. Ορισμένοι ειδικοί υποστηρίζουν ότι η δημιουργία μη συναινετικών deepfakes είναι ποινικό αδίκημα, ενώ άλλοι προτείνουν την ανάπτυξη τεχνολογικών λύσεων για τον εντοπισμό και την επισήμανση τέτοιου περιεχομένου, όπως ακριβώς κάνει το

TikTok

.

Είναι παράνομα τα deepfakes;

Η νομιμότητα των deepfakes είναι ένα περίπλοκο και εξελισσόμενο ζήτημα που ποικίλλει ανάλογα με τη δικαιοδοσία και το πλαίσιο στο οποίο χρησιμοποιείται η τεχνολογία. Τα Deepfakes, τα οποία περιλαμβάνουν τη χρήση τεχνητής νοημοσύνης για τη δημιουργία ρεαλιστικών αλλά ψεύτικων εικόνων, βίντεο ή ηχογραφήσεων ανθρώπων, μπορούν να χρησιμοποιηθούν για ένα ευρύ φάσμα σκοπών, τόσο καλοήθεις όσο και κακόβουλους.

1. Κατανόηση των deepfakes

Τα Deepfakes χρησιμοποιούν προηγμένες τεχνικές AI, ιδιαίτερα τη βαθιά εκμάθηση, για να χειριστούν ή να δημιουργήσουν περιεχόμενο ήχου, εικόνας και βίντεο και έτσι δημιουργήθηκε το βίντεο Megan Thee Stallion AI. Ενώ η τεχνολογία μπορεί να χρησιμοποιηθεί για δημιουργικούς και εκπαιδευτικούς σκοπούς, έχει επίσης συσχετιστεί με πιο άθλιες δραστηριότητες, όπως η παραπληροφόρηση, η δυσφήμιση και η μη συναινετική πορνογραφία.

2. Γενικό νομικό πλαίσιο

Η νομιμότητα των deepfakes εξαρτάται σε μεγάλο βαθμό από το πώς και για ποιο σκοπό χρησιμοποιούνται. Υπάρχουν αρκετοί βασικοί τομείς όπου τα deepfakes διασταυρώνονται με το νόμο:

• 
  Δυσφήμηση και παραπληροφόρηση
  
  : Εάν ένα deepfake χρησιμοποιείται για τη δημιουργία περιεχομένου που βλάπτει τη φήμη ενός ατόμου παρουσιάζοντας ψευδείς πληροφορίες ως αληθείς, μπορεί να υπόκειται σε νόμους περί δυσφήμισης.
• 
  Παραβιάσεις απορρήτου
  
  : Η δημιουργία και η διανομή deepfake περιεχομένου χωρίς τη συγκατάθεση του υποκειμένου, ιδιαίτερα εάν περιλαμβάνει ευαίσθητες ή ιδιωτικές πληροφορίες, μπορεί να οδηγήσει σε παραβιάσεις του απορρήτου.
• 
  Μη συναινετική πορνογραφία
  
  : Τα Deepfakes έχουν χρησιμοποιηθεί διαβόητα για τη δημιουργία ρητού περιεχομένου χωρίς τη συγκατάθεση του εικονιζόμενου προσώπου. Αυτό είναι συχνά παράνομο και μπορεί να διωχθεί σύμφωνα με τους νόμους κατά της εκδικητικής πορνογραφίας και άλλων μορφών σεξουαλικής εκμετάλλευσης.

3. Νομοθεσία σε διάφορες δικαιοδοσίες

• 
  Ηνωμένες Πολιτείες
  
  : Ορισμένες πολιτείες έχουν θεσπίσει συγκεκριμένους νόμους για την αντιμετώπιση των deepfakes. Για παράδειγμα, η Καλιφόρνια και το Τέξας έχουν νόμους που καθιστούν παράνομη τη δημιουργία ή τη διανομή deepfake βίντεο που θα μπορούσαν να επηρεάσουν τις εκλογές ή τη δημιουργία μη συναινετικών πορνογραφικών ψεύτικα.
• 
  Ευρωπαϊκή Ένωση
  
  : Η ΕΕ έχει αυστηρούς νόμους περί απορρήτου βάσει του Γενικού Κανονισμού για την Προστασία Δεδομένων (GDPR), ο οποίος μπορεί να εφαρμοστεί σε deepfakes. Η μη εξουσιοδοτημένη χρήση του ομοιώματος κάποιου μπορεί να οδηγήσει σε σημαντικά
  
  πρόστιμα
  
  .
• 
  Κίνα
  
  : Το 2019, η Κίνα εισήγαγε κανονισμούς που απαιτούν την σαφή σήμανση του deepfake περιεχομένου ως τέτοιου, με στόχο τον περιορισμό της παραπληροφόρησης και την προστασία του κοινού.

4. Προκλήσεις στη ρύθμιση

Η ρύθμιση των deepfakes παρουσιάζει πολλές προκλήσεις:

• 
  Ανίχνευση
  
  : Ο εντοπισμός των deepfakes μπορεί να είναι τεχνικά δύσκολος και η παραμονή μπροστά σε όλο και πιο εξελιγμένες τεχνικές απαιτεί συνεχή καινοτομία.
• 
  Ελεύθερος λόγος
  
  : Οι νόμοι κατά των deepfakes πρέπει να εξισορροπούν την ανάγκη αποτροπής βλάβης με την προστασία της ελευθερίας του λόγου. Οι υπερβολικά ευρείς κανονισμοί θα μπορούσαν να καταπνίξουν τη νόμιμη έκφραση.
• 
  Δικαιοδοσία
  
  : Ο παγκόσμιος χαρακτήρας του Διαδικτύου σημαίνει ότι το deepfake περιεχόμενο που δημιουργείται σε μια χώρα μπορεί εύκολα να εξαπλωθεί σε μια άλλη, περιπλέκοντας την επιβολή των τοπικών νόμων.

5. Παραδείγματα νομικών υποθέσεων

Υπήρξαν αρκετές νομικές υποθέσεις υψηλού προφίλ που αφορούσαν deepfakes:

• 
  Πορνό εκδίκησης
  
  : Τα θύματα της μη συναινετικής βαθιάς ψεύτικης πορνογραφίας έχουν μηνύσει επιτυχώς δημιουργούς και διανομείς βάσει των υφιστάμενων νόμων για το πορνό εκδίκησης και την παρενόχληση και αυτό μπορεί να συμβαίνει ακριβώς με το βίντεο Megan Thee Stallion AI.
• 
  
  Πολιτική
  
  χειραγώγηση
  
  : Υπήρξαν περιπτώσεις όπου η τεχνολογία deepfake χρησιμοποιήθηκε για χειραγώγηση πολιτικών αποτελεσμάτων, οδηγώντας σε εκκλήσεις για αυστηρότερους κανονισμούς σε διάφορες χώρες.

Ένα θέμα που είναι απλά αδιαμφισβήτητο

Ανεξάρτητα από τη συγκεκριμένη προσέγγιση, είναι σαφές ότι πρέπει να ληφθούν μέτρα για τον μετριασμό των κινδύνων που συνδέονται με την τεχνολογία deepfake. Αυτό περιλαμβάνει την εκπαίδευση του κοινού σχετικά με τους κινδύνους των deepfakes, την ευαισθητοποίηση σχετικά με την πιθανότητα κακής χρήσης και την προώθηση υπεύθυνων πρακτικών ανάπτυξης τεχνητής νοημοσύνης.

Το βίντεο Megan Thee Stallion AI χρησιμεύει ως κλήση αφύπνισης για τη βιομηχανία της ψυχαγωγίας, τις πλατφόρμες μέσων κοινωνικής δικτύωσης και τους υπεύθυνους χάραξης πολιτικής. Η ώρα για δράση είναι τώρα, πριν η ζημιά που προκαλείται από τα deepfakes γίνει ανεπανόρθωτη. Δουλεύοντας μαζί για την αντιμετώπιση αυτού του ζητήματος, μπορούμε να διασφαλίσουμε ότι η τεχνολογία AI χρησιμοποιείται για καλό, παρά ως εργαλείο εκμετάλλευσης και βλάβης.

Πίστωση επιλεγμένης εικόνας

:

Megan Thee Stallion/Instagram