Ο πλαστός δημιουργός ρομποτικής κλήσης Μπάιντεν αποβλήθηκε από την εταιρεία φωνητικής τεχνητής νοημοσύνης ElevenLabs

Με τα κύρια εργαλεία τεχνητής νοημοσύνης να αυξάνονται στο κατώφλι των προεδρικών εκλογών των ΗΠΑ του 2024, η παραπληροφόρηση που δημιουργείται από την τεχνητή νοημοσύνη δεν είναι απλώς ένας φόβος – είναι ήδη πραγματικότητα. Στις 22 Ιανουαρίου, το Υπουργείο Δικαιοσύνης του Νιού Χάμσαϊρ δημοσίευσε μια δήλωση ότι οι άνθρωποι έλαβαν α

ηχογράφησε deepfake του Τζο Μπάιντεν

, λέγοντάς τους να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας. Το κάλεσμα ενθάρρυνε τους ψηφοφόρους να «σώσουν» την ψήφο τους, σημειώνοντας ψευδώς ότι «η ψήφος σας κάνει τη διαφορά τον Νοέμβριο, όχι αυτήν την Τρίτη».

Μέρες αργότερα, εκκίνηση AI

Η ElevenLabs ανέστειλε τον δημιουργό του πλαστού ήχου Μπάιντεν

ανέφερε το Bloomberg.

Eleven Labs

είναι μια γεννήτρια φωνής AI που εκτελείται από ένα μοντέλο που, σύμφωνα με τον ιστότοπό του, μπορεί να προσθέσει ανθρώπινη κλίση σε μια φωνή με βάση το περιβάλλον. Η γεννήτρια έχει

χιλιάδες προκατασκευασμένες φωνές AI

για να διαλέξετε ή μπορείτε να δημιουργήσετε ένα προσαρμοσμένο. Το Bloomberg ανέφερε ότι η εταιρεία ανίχνευσης φωνητικής απάτης Pindrop Security Inc. διαπίστωσε ότι η ρομποτική κλήση του AI Biden έγινε χρησιμοποιώντας το ElevenLabs.

«Είμαστε αφοσιωμένοι στην πρόληψη της κακής χρήσης εργαλείων τεχνητής νοημοσύνης ήχου και λαμβάνουμε εξαιρετικά σοβαρά κάθε περιστατικό κακής χρήσης», δήλωσε η ElevenLabs στο Bloomberg.

Ο ιστότοπος της ElevenLabs

δηλώνει ότι τα deepfakes των πολιτικών μπορούν να χρησιμοποιηθούν μόνο σε ορισμένες περιπτώσεις, όπως καρικατούρα, παρωδία ή σάτιρα. Μόλις η εταιρεία ενημερώθηκε για το deepfake του Μπάιντεν, ερεύνησε και ανέστειλε τον υπεύθυνο λογαριασμό, είπε μια πηγή στο Bloomberg.

Σε μια συνέντευξη στο The Hill, η καθηγήτρια πληροφορικής στο Πανεπιστήμιο Carnegie Mellon Kathleen Carley είπε το

Η ρομποτική κλήση του Μπάιντεν είναι «η κορυφή του παγόβουνου»

όσον αφορά τις προσπάθειες καταστολής των ψηφοφόρων. Η Carley πρόσθεσε ότι είναι ένας προάγγελος του τι θα μπορούσε να συμβεί.

Ο προγραμματιστής του ChatGPT OpenAI προσπαθεί ήδη να καταπνίξει την ίδια την παραπληροφόρηση, δημοσιεύοντας σχέδια για την προστασία της ακεραιότητας των εκλογών. Αμέσως μετά, η εταιρεία ανέστειλε έναν προγραμματιστή που έφτιαξε ένα bot για έναν μακροπρόθεσμο δημοκρατικό υποψήφιο.

Ως εκ τούτου, πρέπει να είμαστε σε επαγρύπνηση σε ό,τι βλέπουμε – και ακούμε – αυτή την προεκλογική περίοδο. Όπως προειδοποίησε η ρεπόρτερ της τεχνολογίας του Mashable, Cecily Mauran, «Η ιδέα ενός Διαδικτύου που κυριαρχείται από περιεχόμενο που δημιουργείται από AI συμβαίνει ήδη και δεν φαίνεται καλό».