Η Jennifer DeStefano εξιστορεί την απάτη Deepfake Kidnap στο Κογκρέσο

Η 20η Ιανουαρίου ξεκίνησε όπως τα πιο τυπικά απογεύματα της Παρασκευής για την Τζένιφερ Ντε Στέφανο, κάτοικος της Αριζόνα, Scottsdale. Η μητέρα δύο παιδιών μόλις είχε πάρει τη μικρότερη κόρη της από την πρακτική χορού όταν έλαβε κλήση από άγνωστο αριθμό. Σχεδόν άφησε τον αριθμό να πάει στον τηλεφωνητή, αλλά αποφάσισε να τον πάρει στο τελευταίο του κουδούνισμα. Ο DeStefano λέει ότι αυτό που συνέβη τις επόμενες στιγμές πιθανότατα θα την στοιχειώνει για το υπόλοιπο της ζωής της. Δεν το ήξερε ακόμα, αλλά ο κάτοικος της Αριζόνα έμελλε να γίνει βασικό πρόσωπο στην ταχέως αναδυόμενη τάση


Απάτες απαγωγής AI deepfake


.

Η DeStefano εξιστόρησε την εμπειρία της στις συγκλονιστικές λεπτομέρειες κατά τη διάρκεια μιας δικαστικής επιτροπής της Γερουσίας


ακρόαση


Τρίτη συζητώντας τις πραγματικές επιπτώσεις της γενετικής τεχνητής νοημοσύνης στα ανθρώπινα δικαιώματα. Θυμάται τη φωνή του κλάματος στην άλλη άκρη της κλήσης που ακουγόταν σχεδόν πανομοιότυπη με τη 15χρονη κόρη της Μπρι, η οποία έλειπε σε ένα ταξίδι σκι με τον πατέρα της.

«Μαμά, τα μπέρδεψα», είπε η φωνή ανάμεσα σε ένα κλάμα. «Μαμά, αυτοί οι κακοί άντρες με έχουν, βοήθησέ με, βοήθησέ με».

Η φωνή ενός άνδρα εμφανίστηκε ξαφνικά στην κλήση και ζήτησε λύτρα 1 εκατομμυρίου δολαρίων που παραδόθηκαν με το χέρι για την ασφαλή επιστροφή της Μπρι. Ο άνδρας απείλησε τον Ντε Στέφανο να μην καλέσει σε βοήθεια και είπε ότι θα ναρκωτικά την έφηβη κόρη της, «θα τα πάει μαζί της» και θα τη δολοφονούσε εάν καλούσε την επιβολή του νόμου. Η μικρότερη αδερφή της Μπρι τα άκουσε όλα αυτά από το μεγάφωνο. Τίποτα από αυτά, αποδεικνύεται ότι ήταν αλήθεια. Η φωνή του «Brie» ήταν στην πραγματικότητα ένα

Deepfake που δημιουργείται από AI

. Ο απαγωγέας ήταν ένας απατεώνας που ήθελε να βγάλει εύκολα χρήματα.

«Δεν θα μπορέσω ποτέ να τινάξω αυτή τη φωνή και τις απελπισμένες κραυγές για βοήθεια από το μυαλό μου», είπε ο Ντε Στέφανο, αντικρούοντας τα δάκρυα. «Είναι ο χειρότερος εφιάλτης κάθε γονιού να ακούει το παιδί του να παρακαλεί με φόβο και πόνο, γνωρίζοντας ότι υφίσταται κακό και είναι αβοήθητο».

Η ιστορία της μητέρας δείχνει τόσο ανησυχητικούς νέους τομείς κατάχρησης τεχνητής νοημοσύνης όσο και μια τεράστια έλλειψη νόμων που απαιτούνται για να λογοδοτήσουν οι κακοί ηθοποιοί. Όταν η DeStefano επικοινώνησε με την αστυνομία σχετικά με την απάτη, σοκαρίστηκε όταν έμαθε ότι οι αρχές επιβολής του νόμου γνώριζαν ήδη καλά το αναδυόμενο ζήτημα. Παρά το τραύμα και τη φρίκη που προκάλεσε η εμπειρία, η αστυνομία είπε ότι δεν ήταν τίποτα περισσότερο από μια «φάρσα» επειδή δεν είχε διαπραχθεί κανένα πραγματικό έγκλημα και δεν ανταλλάχθηκαν ποτέ χρήματα.

Η DeStefano, η οποία λέει ότι έμενε ξύπνια για νύχτες «παραλυμένη από φόβο» μετά το περιστατικό, γρήγορα ανακάλυψε ότι άλλοι στην κοινότητά της είχαν υποφέρει από παρόμοιους τύπους απάτες. Η μητέρα της, η DeStefano, κατέθεσε, είπε ότι έλαβε ένα τηλεφώνημα από τη φωνή του αδελφού της που έλεγε ότι ήταν σε ατύχημα και χρειαζόταν χρήματα για έναν λογαριασμό στο νοσοκομείο. Η DeStefano είπε στους νομοθέτες ότι ταξίδεψε στο DC αυτή την εβδομάδα, εν μέρει, επειδή φοβάται ότι η άνοδος απατών όπως αυτές απειλεί την ίδια την κοινή ιδέα ή την πραγματικότητα.

«Δεν μπορούμε πλέον να πιστεύουμε ότι το να βλέπουμε πιστεύεις ή «το άκουσα με τα αυτιά μου», είπε ο DeStefano. «Δεν υπάρχει όριο στο βάθος του κακού AI που μπορεί να ενεργοποιήσει».

Οι ειδικοί προειδοποιούν ότι η τεχνητή νοημοσύνη μπερδεύει τη συλλογική αλήθεια

Μια ομάδα ειδικών μαρτύρων που μίλησε ενώπιον της υποεπιτροπής για τα ανθρώπινα δικαιώματα και το δίκαιο της Επιτροπής Δικαιοσύνης συμμερίστηκε τις ανησυχίες του DeStefano και έδειξε στους νομοθέτες τομείς που πιστεύουν ότι θα ωφεληθούν από τη νέα νομοθεσία για την τεχνητή νοημοσύνη. Ο Aleksander Madry, διακεκριμένος καθηγητής επιστήμης υπολογιστών και διευθυντής του MIT Center for Deployable

Machine Learning

, δήλωσε ότι το πρόσφατο κύμα προόδου στην τεχνητή νοημοσύνη με επικεφαλής το

OpenAI

του OpenAI


ChatGPT


και

DALL-E

είναι «έτοιμοι να μεταμορφώσουν θεμελιωδώς τη συλλογική μας αίσθηση». Οι απατεώνες μπορούν τώρα να δημιουργήσουν περιεχόμενο που είναι ρεαλιστικό, πειστικό, εξατομικευμένο και μπορεί να αναπτυχθεί σε κλίμακα, ακόμη κι αν είναι εντελώς ψεύτικο. Αυτό δημιουργεί τεράστιους τομείς κατάχρησης για απάτες, είπε ο Madry, αλλά απειλεί επίσης τη γενική εμπιστοσύνη στην ίδια την κοινή πραγματικότητα.

Η διευθύνουσα σύμβουλος του Κέντρου για τη Δημοκρατία και την Τεχνολογία, Alexandra Reeve Givens, συμμερίστηκε αυτές τις ανησυχίες και είπε στους νομοθέτες τα deepfakes όπως αυτά που χρησιμοποιούνται εναντίον του DeStefano ήδη παρουσιάζουν σαφείς και παρόντες κινδύνους για τις επερχόμενες εκλογές στις ΗΠΑ. Οι χρήστες του

Twitter

βίωσαν μια σύντομη μικρογραφία αυτής της πιθανότητας νωρίτερα αυτόν τον μήνα, όταν μια εικόνα του α

υποτιθέμενη έκρηξη βόμβας έξω από το Πεντάγωνο

απέκτησε έλξη. Ο συγγραφέας και ο ανώτερος συνεργάτης του Ιδρύματος για την Αμερικανική Καινοτομία, Τζέφρι Κέιν, είπε τη δουλειά του


που καλύπτει τη χρήση προηγμένων συστημάτων τεχνητής νοημοσύνης από την Κίνα


για να παρακολουθήσει τη μουσουλμανική μειονότητα των Ουιγούρων πρόσφερε μια ματιά στους ολοκληρωτικούς κινδύνους που θέτουν αυτά τα συστήματα στο άκρο. Οι μάρτυρες συλλογικά συμφώνησαν ότι ο χρόνος χτυπούσε για να θεσπιστούν «ισχυρά πρότυπα ασφαλείας» για να αποτρέψουν τις ΗΠΑ από το να ακολουθήσουν παρόμοια πορεία.

«Είναι αυτό το νέο μας φυσιολογικό;» ρώτησε ο Ντε Στέφανο την επιτροπή.

Οι νομοθέτες μπορούν να ενισχύσουν τους υφιστάμενους νόμους και να δώσουν κίνητρα για τον εντοπισμό ψεύτικα

Μιλώντας κατά τη διάρκεια της ακρόασης, η γερουσιαστής του Tennessee Marsha Blackburn είπε ότι η ιστορία του DeStefano απέδειξε την ανάγκη να επεκταθούν οι υφιστάμενοι νόμοι που διέπουν την καταδίωξη και την παρενόχληση ώστε να εφαρμοστούν και στους διαδικτυακούς ψηφιακούς χώρους. Ο Reeve Givens συμβούλεψε με παρόμοιο τρόπο το Κογκρέσο να διερευνήσει τρόπους με τους οποίους μπορεί να ενισχύσει τους υφιστάμενους νόμους σε θέματα όπως οι διακρίσεις και η απάτη για να ληφθούν υπόψη οι αλγόριθμοι τεχνητής νοημοσύνης. Η Ομοσπονδιακή Επιτροπή Εμπορίου, η οποία ηγείται των μέτρων επιβολής της ασφάλειας των καταναλωτών κατά εταιρειών τεχνολογίας, δήλωσε πρόσφατα ότι εξετάζει επίσης


τρόποι να λογοδοτήσουν οι απατεώνες τεχνητής νοημοσύνης


χρησιμοποιώντας ήδη υπάρχοντες νόμους στο βιβλίο.

Εκτός από τις νομικές μεταρρυθμίσεις, οι Reeve Givens και Madry δήλωσαν ότι το Κογκρέσο θα μπορούσε και πρέπει να λάβει μέτρα για να δώσει κίνητρα στις ιδιωτικές εταιρείες να αναπτύξουν καλύτερες δυνατότητες ανίχνευσης deepfake. Ενώ δεν υπάρχει έλλειψη

εταιρείες που ήδη προσφέρουν υπηρεσίες που ισχυρίζονται ότι εντοπίζουν περιεχόμενο που δημιουργείται από AI

, ο Madry το περιέγραψε ως ένα παιχνίδι «γάτας με το ποντίκι» όπου οι επιθετικοί είναι πάντα λίγα βήματα μπροστά. Οι προγραμματιστές τεχνητής νοημοσύνης, είπε, θα μπορούσαν να διαδραματίσουν ρόλο στον μετριασμό του κινδύνου αναπτύσσοντας συστήματα υδατοσήμανσης για να αποκαλύπτουν κάθε φορά που παράγεται περιεχόμενο από τα μοντέλα τεχνητής νοημοσύνης. Οι υπηρεσίες επιβολής του νόμου, σημείωσε ο Reeve Givens, θα πρέπει να είναι καλά εξοπλισμένες με δυνατότητες ανίχνευσης AI, ώστε να έχουν τη δυνατότητα να ανταποκρίνονται σε περιπτώσεις όπως του DeStefano.

Ακόμη και αφού βίωσε «τρομοκρατικό και διαρκές τραύμα» στα χέρια των εργαλείων τεχνητής νοημοσύνης, ο DeStefanos εξέφρασε αισιοδοξία για τα πιθανά πλεονεκτήματα των καλοδιαχειριζόμενων μοντέλων τεχνητής νοημοσύνης.

«Αυτό που συνέβη σε εμένα και την κόρη μου ήταν η τραγική πλευρά της τεχνητής νοημοσύνης, αλλά υπάρχουν επίσης ελπιδοφόρες εξελίξεις στον τρόπο με τον οποίο η τεχνητή νοημοσύνη μπορεί επίσης να βελτιώσει τη ζωή», είπε ο DeStefano.