Κίνδυνος Deepfake διαφημίσεων: Η Jenna Ortega στο επίκεντρο της ανησυχίας των Meta
Η κρίση των deepfakes συνεχίζεται. Οι Meta πλατφόρμες, συμπεριλαμβανομένων των Instagram, Facebook και Messenger, φέρεται να φιλοξενούσαν διαφημίσεις που δημιουργήθηκαν από AI που απεικονίζουν
Τετάρτη
Η ηθοποιός Jenna Ortega ως ξεντυμένη.
Οπως και
ανέφερε το NBC News
, οι διαφημίσεις χρησιμοποιούσαν μια θολή φωτογραφία της Ortega που τραβήχτηκε όταν ήταν 16 ετών και καθοδήγησαν τους χρήστες πώς θα μπορούσαν να αλλάξουν το ντύσιμο της διασημότητας, συμπεριλαμβανομένης μιας επιλογής για την αφαίρεση όλων των ρούχων. Οι εικόνες φέρεται να χειραγωγήθηκαν από μια εφαρμογή που ονομάζεται Perky AI, η οποία αναφέρεται ως αναπτύχθηκε από την εταιρεία RichAds, η οποία περιγράφεται στο App Store της Apple ως μια πλατφόρμα που χρησιμοποιεί την τεχνητή νοημοσύνη για να “δημιουργήσει υπερρεαλιστικά ή φανταστικά πρόσωπα” με προτροπές. Αυτό περιλαμβάνει εικόνες “NSFW” (μη ασφαλείς για εργασία), οι οποίες είναι συνήθως ρητά σεξουαλικά.
ΔΕΙΤΕ ΕΠΙΣΗΣ:
Τι πρέπει να πουν οι γονείς στα παιδιά τους για τα ρητά deepfakes
Μετά την αναφορά του NBC, ο εκδότης λέει ότι η σελίδα της εφαρμογής Perky AI ανεστάλη από τη Meta, έχοντας ήδη προβάλει 260 μοναδικές διαφημίσεις στις πλατφόρμες της εταιρείας από τον Σεπτέμβριο – αυτές με την εικόνα του Ortega φέρεται να προβλήθηκαν όλο τον Φεβρουάριο. Από τις διαφημίσεις που προβλήθηκαν στις πλατφόρμες της Meta, το ειδησεογραφικό πρακτορείο αναφέρει ότι 30 είχαν ήδη ανασταλεί επειδή δεν πληρούσαν τα διαφημιστικά πρότυπα της εταιρείας, αλλά οι διαφημίσεις με τον Ortega δεν ήταν μεταξύ αυτών.
Σε μια δήλωση στο Mashable, ο εκπρόσωπος της Meta, Ράιαν Ντάνιελς, δήλωσε: “Η Meta απαγορεύει αυστηρά το γυμνό των παιδιών, το περιεχόμενο που σεξουαλοποιεί τα παιδιά και τις υπηρεσίες που προσφέρουν γυμνές εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη. Αν και αυτή η εφαρμογή παραμένει ευρέως διαθέσιμη σε διάφορα καταστήματα εφαρμογών, έχουμε αφαίρεσε αυτές τις διαφημίσεις και τους λογαριασμούς πίσω από αυτές.”
Το Perky AI φαίνεται επίσης να έχει αφαιρεθεί στο App Store και στο Google Play της Apple (το Mashable έχει επιλεγεί και δεν είναι διαθέσιμο σε κανένα από τα δύο). Η Apple είπε στο NBC ότι η εφαρμογή είχε καταργηθεί στις 16 Φεβρουαρίου, έχοντας ήδη αποτελέσει αντικείμενο έρευνας από την εταιρεία για παραβίαση των πολιτικών της σχετικά με “αφανώς σεξουαλικό ή πορνογραφικό υλικό”.
Το Mashable επικοινώνησε με την Apple και την Google για περαιτέρω σχόλια.
ΔΕΙΤΕ ΕΠΙΣΗΣ:
Τα Deepfakes της Taylor Swift έχουν γίνει viral. Πώς συνεχίζει να συμβαίνει αυτό;
Αυτό το περιστατικό είναι το πιο πρόσφατο σε μια σειρά από μη συναινετικά, σεξουαλικά ρητά deepfakes που κυκλοφορούν στο διαδίκτυο. Τους πρώτους δύο μήνες του 2024, φωτογραφίες διασημοτήτων όπως η Taylor Swift και
παρουσιαστής του podcast Bobbi Althoff
έχουν εξαπλωθεί σε μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης, συμπεριλαμβανομένου του X, παλαιότερα γνωστό ως Twitter. Τα Deepfakes έχουν διεισδύσει και στα σχολεία, με τα ψεύτικα γυμνά μαθητών να κάνουν πρόσφατα τον δρόμο τους
γυμνάσιο του Μπέβερλι Χιλς
και
ένα λύκειο στα προάστια του Σιάτλ
.
Το θέμα βρίσκεται σε κρίσιμο σημείο, με τους ειδικούς να προειδοποιούν ότι
νομική και κοινωνική αλλαγή
χρειάζεται επειγόντως. Η Subsum, μια πλατφόρμα επαλήθευσης ταυτότητας, βρήκε ότι η ανίχνευση του
Τα deepfakes αυξήθηκαν 10 φορές
μεταξύ 2022 και 2023. Πολλές πλατφόρμες μέσων κοινωνικής δικτύωσης αγωνίστηκαν να περιλάβουν αυτό το είδος περιεχομένου: μόνο τους τελευταίους μήνες,
Google
,
Χ
και
Μετα
έχουν κληθεί ότι επέτρεψαν σε deepfake υλικό να κυκλοφορεί στις πλατφόρμες τους.
Εάν οι χρήστες δουν μια διαφήμιση σε οποιαδήποτε πλατφόρμα που πιστεύουν ότι πρέπει να αναφερθεί, η εταιρεία καθοδηγεί οδηγίες σχετικά με το πώς να το κάνουν. Το Meta επιτρέπει στους χρήστες να αναφέρουν διαφημίσεις
Facebook
ή
Ίνσταγκραμ
ενώ η Apple διαθέτει
διάφορα νήματα κοινότητας
που βοηθούν τους χρήστες να αναφέρουν διαφημίσεις που είναι εντός εφαρμογής, για παράδειγμα. Η Google βοηθά επίσης τους χρήστες
αναφέρετε ακατάλληλες διαφημίσεις
μέσω μιας φόρμας.
Ωστόσο, ορισμένα από αυτά τα βήματα δεν είναι αρκετά για να σταματήσουν τον πολλαπλασιασμό του περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη. Η μεγάλη τεχνολογία πρέπει να αναλάβει σημαντική δράση για να αντιμετωπίσει αυτό που φαίνεται να εξελίσσεται σε επιδημία, που στοχεύει συνήθως κορίτσια, γυναίκες και περιθωριοποιημένα άτομα.
Εάν έχετε βιώσει σεξουαλική κακοποίηση, εάν κατοικείτε στις ΗΠΑ, καλέστε τη δωρεάν, εμπιστευτική γραμμή επικοινωνίας της Εθνικής Σεξουαλικής Επίθεσης στο 1-800-656-HOPE (4673) ή αποκτήστε πρόσβαση στη βοήθεια 24-7 μέσω Διαδικτύου επισκεπτόμενοι
online.rainn.org
. Εάν έχετε κοινοποιήσει προσωπικές εικόνες χωρίς τη συγκατάθεσή σας, καλέστε τη γραμμή επικοινωνίας της Cyber Civil Rights Initiative 24/7 στο 844-878-2274
δωρεάν, εμπιστευτική υποστήριξη. Ο ιστότοπος του CCRI περιλαμβάνει επίσης
χρήσιμες πληροφορίες
καθώς και μια λίστα με
διεθνείς πόρους
.
Εάν κατοικείτε στο Ηνωμένο Βασίλειο και έχετε βιώσει οικεία κακοποίηση εικόνας (γνωστός και ως πορνό εκδίκησης), μπορείτε να επικοινωνήσετε με το
Γραμμή βοήθειας για το πορνό εκδίκησης
στο 0345 6000 459.
Εάν έχετε υποστεί σεξουαλική βία και έχετε έδρα στο Ηνωμένο Βασίλειο, καλέστε τη γραμμή βοήθειας για την κρίση βιασμού
0808 802 9999.
var facebookPixelLoaded = false;
window.addEventListener(‘load’, function(){
document.addEventListener(‘scroll’, facebookPixelScript);
document.addEventListener(‘mousemove’, facebookPixelScript);
})
function facebookPixelScript() {
if (!facebookPixelLoaded) {
facebookPixelLoaded = true;
document.removeEventListener(‘scroll’, facebookPixelScript);
document.removeEventListener(‘mousemove’, facebookPixelScript);
!function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function(){n.callMethod?
n.callMethod.apply(n,arguments):n.queue.push(arguments)};if(!f._fbq)f._fbq=n;
n.push=n;n.loaded=!0;n.version=’2.0′;n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window,
document,’script’,’//connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘1453039084979896’);
fbq(‘track’, “PageView”);
}
}
VIA:
mashable.com
