Η ElevenLabs, μια startup τεχνητής νοημοσύνης
που
προσφέρει υπηρεσίες κλωνοποίησης φωνής με τα εργαλεία της, απαγόρευσε τον χρήστη που δημιούργησε ένα ακουστικό deepfake
του
Τζο Μπάιντεν που χρησιμοποιήθηκε σε μια προσπάθεια να διαταράξει τις εκλογές, σύμφωνα με
Bloomberg
. Ο ήχος που υποδύεται τον πρόεδρο χρησιμοποιήθηκε σε μια ρομποτική κλήση που δόθηκε σε ορισμένους ψηφο
φόρους
στο Νιου Χάμσαϊρ την περασμένη εβδομάδα, λέγοντάς τους να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας τους. Αρχικά δεν ήταν σαφές ποια τεχνολογία χρησιμοποιήθηκε για την αντιγραφή της φωνής του Μπάιντεν, αλλά α
ενδελεχής ανάλυση
από την εταιρεία ασφαλείας Pindrop έδειξε ότι οι δράστες χρησιμοποιούσαν τα εργαλεία της ElevanLabs.
Η εταιρεία ασφαλείας αφαίρεσε τον θόρυβο του περιβάλλοντος και καθάρισε τον ήχο της robocall προτού τον συγκρίνει με δείγματα από περισσότερες από 120 τεχνολογίες σύνθεσης φωνής που χρησιμοποιούνται για τη δημιουργία deepfakes. είπε ο Διευθύνων Σύμβουλος της Pindrop, Vijay Balasubramaniyan
Ενσύρματο
ότι «επέστρεψε πολύ βόρεια από το 99 τοις εκατό ότι ήταν η ElevenLabs».
Bloomberg
λέει ότι η εταιρεία ενημερώθηκε για τα ευρήματα του Pindrop και εξακολουθεί να ερευνά, αλλά έχει ήδη εντοπίσει και αναστείλει τον λογαριασμό που έκανε τον ψεύτικο ήχο. Η ElevenLabs είπε στον ειδησεογραφικό οργανισμό ότι δεν μπορεί να σχολιάσει το ίδιο το θέμα, αλλά ότι «είναι αφιερωμένο στην πρόληψη της κακής χρήσης εργαλείων τεχνητής νοημοσύνης ήχου και [that it takes] τυχόν περιστατικά κακής χρήσης εξαιρετικά σοβαρά».
Το ψεύτικο
ρομπότ
Μπάιντεν δείχνει πώς θα μπορούσαν να χρησιμοποιηθούν τεχνολογίες που μπορούν να μιμηθούν την ομοιότητα και τη φωνή κάποιου άλλου για να χειραγωγήσουν τις ψήφους αυτές τις επερχόμενες προεδρικές εκλογές στις ΗΠΑ. “Αυτή είναι ακριβώς η
κορυφή
του παγόβουνου για το τι θα μπορούσε να γίνει σε σχέση με την καταστολή των ψηφοφόρων ή τις επιθέσεις σε εκλογικούς εργαζομένους”, είπε η Kathleen Carley, καθηγήτρια στο Πανεπιστήμιο Carnegie Mellon.
Ο λόφος
. «Ήταν σχεδόν ένας προάγγελος του τι θα έπρεπε να περιμένουμε τους επόμενους μήνες».
Το Διαδίκτυο χρειάστηκε μόνο λίγες μέρες αφότου η ElevenLabs κυκλοφόρησε την έκδοση beta της πλατφόρμας της για να αρχίσει να τη χρησιμοποιεί για να δημιουργεί ηχητικά κλιπ που ακούγονται σαν διασημότητες να διαβάζουν ή να λένε κάτι αμφισβητήσιμο. Η startup επιτρέπει στους πελάτες να χρησιμοποιούν την τεχνολογία της για να κλωνοποιούν φωνές για «καλλιτεχνικό και πολιτικό λόγο που συμβάλλει στις δημόσιες συζητήσεις». Του
σελίδα ασφαλείας
προειδοποιεί τους χρήστες ότι “δεν μπορούν να κλωνοποιήσουν μια φωνή για καταχρηστικούς σκοπούς όπως απάτη, διακρίσεις, ρητορική μίσους ή για οποιαδήποτε μορφή διαδικτυακής κατάχρησης χωρίς να παραβιάζουν το νόμο”. Αλλά είναι σαφές ότι πρέπει να εφαρμόσει περισσότερες διασφαλίσεις για να αποτρέψει τους κακούς παράγοντες από το να χρησιμοποιήσουν τα εργαλεία της για να επηρεάσουν τους ψηφοφόρους και να χειραγωγήσουν τις εκλογές σε όλο τον κόσμο.
Αυτό το άρθρο περιέχει συνδέσμους συνεργατών. Εάν κάνετε κλικ σε έναν τέτοιο σύνδεσμο και κάνετε μια αγορά, ενδέχεται να κερδίσουμε μια προμήθεια.
VIA:
engadget.com
