Προσοχή στους κλώνους διασημοτήτων τεχνητής νοημοσύνης που διακινούν ψεύτικα «δωρεάν χρήματα» στο YouTube

Οι διαδικτυακοί απατεώνες χρησιμοποιούν τεχνολογία κλωνοποίησης φωνής AI για να φαίνεται σαν διασημότητες όπως ο Steve Harvey και η Taylor Swift να ενθαρρύνουν τους θαυμαστές να υποκύψουν σε απάτες που σχετίζονται με ιατρικά οφέλη στο YouTube.

404 Μέσα

αναφέρθηκε για πρώτη φορά για την τάση αυτή την εβδομάδα. Αυτά είναι μόνο μερικά από τα τελευταία παραδείγματα απατεώνων που εκμεταλλεύονται όλο και πιο προσιτά εργαλεία τεχνητής νοημοσύνης για στόχευση

συχνά οικονομικά φτωχές κοινότητες

και υποδύονται διάσημους ανθρώπους για γρήγορο οικονομικό όφελος.

404 Μέσα ήταν

με τον οποίο επικοινώνησε ένας tipster που έδειξε τη δημοσίευση σε περισσότερα από 1.600 βίντεο

στο YouTube, όπου οι φωνές των διασημοτήτων λειτουργούν σε βάθος, καθώς και μη διασημότητες για να προωθήσουν τις απάτες. Αυτά τα βίντεο, πολλά από τα οποία παραμένουν ενεργά τη στιγμή της σύνταξης, φέρεται να συγκέντρωσαν 195 εκατομμύρια προβολές. Τα βίντεο φαίνεται να παραβιάζουν αρκετές από τις πολιτικές του YouTube, ιδιαίτερα εκείνες που βρίσκονται γύρω

διαστρέβλωση

και

spam και παραπλανητικές πρακτικές

.

Το

YouTube δεν απάντησε αμέσως

PopSci’s

αίτημα για σχολιασμό.

Πώς λειτουργεί η απάτη;

Οι απατεώνες προσπαθούν να ξεγελάσουν τους θεατές χρησιμοποιώντας κομμένα κλιπ διασημοτήτων και με φωνές που δημιουργούνται με εργαλεία AI που μιμούνται τις φωνές των διασημοτήτων.

Στηβ Χάρβεϊ

,

Όπρα

,

Τέιλορ Σουίφτ

podcaster

Τζο Ρόγκαν

και κωμικός

Κέβιν Χαρτ

Όλοι έχουν deepfake εκδοχές της φωνής τους που φαίνεται να προωθούν την απάτη. Μερικά από τα βίντεο δεν χρησιμοποιούν καθόλου ψεύτικα διασημότητες, αλλά φαίνεται ότι χρησιμοποιούν ένα

επα

ναλαμβανόμενο καστ πραγματικών ανθρώπων που παρουσιάζουν διαφορετικές παραλλαγές μιας παρόμοιας ιστορίας. Τα βίντεο δημοσιεύονται συχνά από λογαριασμούς YouTube με παραπλανητικά ονόματα όπως “USReliefGuide”, “ReliefConnection” και “Health

Market

Navigators”.

«Σας λέω εδώ και μήνες να διεκδικήσετε αυτά τα 6.400 δολάρια», ένας ψεύτικος κλώνος

προσπαθώντας να μιμηθεί

Οικογενειακή κόντρα

λέει ο παρουσιαστής Steve Harvey

. «Οποιοσδήποτε μπορεί να το πάρει αυτό ακόμα κι αν δεν έχεις δουλειά!» Μόνο αυτό το βίντεο, το οποίο ήταν ακόμα στο YouTube τη στιγμή που γραφόταν το άρθρο, είχε συγκεντρώσει πάνω από 18 εκατομμύρια προβολές.

Αν και η ακριβής διατύπωση των απατών διαφέρει ανάλογα με το βίντεο, γενικά ακολουθούν ένα βασικό πρότυπο. Πρώτον, η ψεύτικη διασημότητα ή ηθοποιός απευθύνεται στο κοινό ειδοποιώντας το για μια επιταγή τόνωσης των εορτών 6.400 δολαρίων στο τέλος του έτους που παρέχεται από την κυβέρνηση των ΗΠΑ μέσω μιας «κάρτας δαπανών υγείας». Στη συνέχεια, η φωνή των διασημοτήτων λέει ότι ο καθένας μπορεί να υποβάλει αίτηση για το ερέθισμα, εφόσον δεν είναι ήδη εγγεγραμμένος στο Medicare ή στο Medicaid. Στη συνέχεια, συνήθως δίνεται η οδηγία στους θεατές να κάνουν κλικ σε έναν σύνδεσμο για να υποβάλουν αίτηση για τα προνόμια. Όπως πολλές αποτελεσματικές απάτες, το βίντεο εισάγει επίσης την αίσθηση του επείγοντος, προσπαθώντας να πείσει τους θεατές ότι η ψεύτικη συμφωνία δεν θα διαρκέσει πολύ.

Στην πραγματικότητα, τα θύματα που κάνουν κλικ σε αυτούς τους συνδέσμους συχνά ανακατευθύνονται σε διευθύνσεις URL με ονόματα όπως “secretsavingsusa.com” που δεν συνδέονται στην πραγματικότητα με την κυβέρνηση των ΗΠΑ. Δημοσιογράφοι στο PolitiFact

κάλεσε έναν αριθμό εγγραφής

καταχωρήθηκε σε έναν από αυτούς τους ιστότοπους και μίλησε με έναν «αγνώστου ταυτότητας πράκτορα» ο οποίος τους ζήτησε το εισόδημά τους, το φορολογικό καθεστώς και την ημερομηνία γέννησής τους· όλα τα ευαίσθητα

προσωπικά δεδομένα

που θα μπορούσαν ενδεχομένως να χρησιμοποιηθούν για τη συμμετοχή σε απάτη ταυτότητας. Σε ορισμένες περιπτώσεις, οι απατεώνες

σύμφωνα με πληροφορίες

ζητήστε και αριθμούς πιστωτικών καρτών. Η απάτη φαίνεται να χρησιμοποιεί σύγχυση

πραγματικές κρατικές πιστώσεις φόρου υγείας

ως γάντζος για να τυλίξουν τα θύματα.

Υπάρχουν πολλά κυβερνητικά προγράμματα και επιδοτήσεις για να βοηθήσουν τους ανθρώπους που έχουν ανάγκη, αλλά οι γενικοί ισχυρισμοί που προσφέρουν «δωρεάν χρήματα» από την κυβέρνηση των ΗΠΑ είναι

γενικά μια κόκκινη σημαία

. Η μείωση του κόστους που σχετίζεται με τη γενετική τεχνολογία AI που είναι ικανή να δημιουργήσει κάπως πειστικές μιμήσεις των φωνών των διασημοτήτων μπορεί να κάνει αυτές τις απάτες ακόμα πιο πειστικές. Η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) προειδοποίησε για αυτό το ενδεχόμενο σε α

ανάρτηση ιστολογίου πέρυσι

όπου ανέφερε εύκολα παραδείγματα απατεώνων που χρησιμοποιούν

deepfakes

και κλώνους φωνής για εκβιασμό και οικονομική απάτη, μεταξύ άλλων παράνομων δραστηριοτήτων. Μια πρόσφατη έρευνα που πραγματοποιήθηκε από

PLOS One

πέρυσι διαπιστώθηκε ότι ο deepfake ήχος μπορεί ήδη να ξεγελάσει τους ακροατές σχεδόν στο 25% των περιπτώσεων.

Η FTC αρνήθηκε να σχολιάσει αυτήν την πρόσφατη σειρά από βαθιά ψεύτικες απάτες διασημοτήτων.

Η προσιτή, εύχρηστη τεχνολογία AI έχει πυροδοτήσει την άνοδο της απάτης των διασημοτήτων

Αυτή δεν είναι η πρώτη περίπτωση βαθιάς ψεύτικης απάτης διασημοτήτων και σχεδόν σίγουρα δεν θα είναι η τελευταία. Ο θρύλος του Χόλιγουντ Τομ Χανκς

ζήτησε πρόσφατα συγγνώμη από τους θαυμαστές του στο Instagram

αφού ένας ψεύτικος κλώνος του εαυτού του εντοπίστηκε να προωθεί μια απάτη οδοντιατρικού σχεδίου. Λίγο αργότερα, είπε ο παρουσιαστής του CBS, Gayle King

οι απατεώνες χρησιμοποιούσαν παρόμοιες μεθόδους deepfake

για να φαίνεται ότι ενέκρινε ένα προϊόν απώλειας βάρους. Πιο πρόσφατα, απατεώνες

σύμφωνα με πληροφορίες

συνδύασε έναν κλώνο AI της φωνής της ποπ σταρ Taylor Swift μαζί με πραγματικές εικόνες της χρησιμοποιώντας μαγειρικά σκεύη Le Creuset για να προσπαθήσει να πείσει τους θεατές να εγγραφούν για ένα δώρο μαγειρικών σκευών. Οι θαυμαστές δεν έλαβαν ποτέ τις γυαλιστερές κατσαρόλες και τηγάνια.

Οι νομοθέτες προσπαθούν να συντάξουν νέους νόμους ή να αποσαφηνίσουν την υπάρχουσα νομοθεσία για να προσπαθήσουν να αντιμετωπίσουν τα αυξανόμενα ζητήματα. Αρκετά προτεινόμενα νομοσχέδια όπως το

Deepfakes Accountability Act

και το

No Fakes Act

θα έδινε στα άτομα περισσότερη δύναμη να ελέγχουν τις ψηφιακές αναπαραστάσεις για την ομοιότητα τους. Μόλις αυτή την εβδομάδα, μια δικομματική ομάδα πέντε βουλευτών της Βουλής παρουσίασε το

Κανένας νόμος για την απάτη AI

που επιχειρεί να χαράξει ένα ομοσπονδιακό πλαίσιο για την προστασία των δικαιωμάτων των ατόμων στην ψηφιακή τους ομοιότητα, με έμφαση στους καλλιτέχνες και τους ερμηνευτές. Ωστόσο, δεν είναι σαφές πόσο πιθανό είναι να περάσουν μέσα σε μια αναταραχή νέων,

επινόησε γρήγορα νομοθεσία για την τεχνητή νοημοσύνη που εισήλθε στο Κογκρέσο

.