Τα παιδιά τους πυροβολήθηκαν, έτσι χρησιμοποίησαν τεχνητή νοημοσύνη για να αναδημιουργήσουν τις φωνές τους και να καλέσουν τους νομοθέτες

Οι γονείς ενός εφήβου που σκοτώθηκε σε πυροβολισμούς σε σχολείο στο Πάρκλαντ της Φλόριντα το 2018 ξεκίνησαν ένα

νέο

τολμηρό έργο που ονομάζεται The Shotline για να ασκήσουν πιέσεις για αυστηρότερους νόμους περί όπλων στη χώρα. Το Shotline χρησιμοποιεί AI για να αναδημιουργήσει τις φωνές των παιδιών που σκοτώθηκαν από ένοπλη βία και να στείλει ηχογραφήσεις μέσω αυτοματοποιημένων κλήσεων στους νομοθέτες,

Η Wall Street

Journal



έχουν αναφερθεί

.

Η εργασία

εκτοξεύτηκε

την Τετάρτη, έξι χρόνια αφότου ένας ένοπλος σκότωσε 17 ανθρώπους και τραυμάτισε περισσότερους από δώδεκα σε γυμνάσιο στο Πάρκλαντ της Φλόριντα. Περιλαμβάνει τη φωνή έξι παιδιών, μερικά από τα δέκα ηλικίας, και νεαρών ενηλίκων, που έχασαν τη ζωή τους σε περιστατικά ένοπλης βίας στις ΗΠΑ. Μόλις πληκτρολογήσετε τον ταχυδρομικό σας κώδικα, το The Shotline βρίσκει τον τοπικό σας εκπρόσωπο και σας επιτρέπει να πραγματοποιήσετε μια αυτοματοποιημένη κλήση από έναν από τους έξι νεκρούς με τη δική του φωνή, ζητώντας ισχυρότερους νόμους για τον έλεγχο των όπλων. «Επέστρεψα σήμερα γιατί οι γονείς μου χρησιμοποίησαν τεχνητή νοημοσύνη για να ξαναδημιουργήσουν τη φωνή μου για να σε καλέσουν», λέει η φωνή του Χοακίν Όλιβερ, ενός από τους εφήβους που σκοτώθηκαν στον πυροβολισμό στο Πάρκλαντ, που δημιουργήθηκε από την τεχνητή νοημοσύνη. «Θα τηλεφωνήσουν και άλλα θύματα σαν εμένα». Κατά τη στιγμή της δημοσίευσης, περισσότερες από 8.000

κλήσεις

AI είχαν υποβληθεί στους νομοθέτες μέσω του ιστότοπου.

“Αυτό είναι ένα πρόβλημα των Ηνωμένων Πολιτειών και δεν μπορέσαμε να το διορθώσουμε”, είπε ο πατέρας του Oliver, Manuel, ο οποίος ξεκίνησε το έργο μαζί με τη σύζυγό του Patricia.

Εφημερίδα

. «Αν χρειάζεται να χρησιμοποιήσουμε ανατριχιαστικά πράγματα για να το διορθώσουμε, καλώς ήρθατε στο ανατριχιαστικό».

Για να αναδημιουργήσουν τις φωνές, οι Olivers χρησιμοποίησαν μια υπηρεσία

κλωνοποίηση

ς φωνής από την ElevenLabs, μια δύο ετών startup που συγκέντρωσε πρόσφατα 80 εκατομμύρια δολάρια σε έναν γύρο χρηματοδότησης με επικεφαλής τον Andreessen Horowitz. Χρησιμοποιώντας μόνο λίγα λεπτά φωνητικών δειγμάτων, το λογισμικό είναι σε θέση να αναδημιουργήσει φωνές σε περισσότερες από δύο δωδεκάδες γλώσσες. Οι Olivers φέρεται να χρησιμοποίησαν τις αναρτήσεις του γιου τους στα μέσα κοινωνικής δικτύωσης για δείγματα φωνής. Οι γονείς και οι νόμιμοι κηδεμόνες των θυμάτων ένοπλης βίας μπορούν να συμπληρώσουν μια φόρμα για να υποβάλουν τις φωνές τους στο The Shotline για να προστεθεί το αποθετήριο φωνών που δημιουργούνται από AI.

Το έργο εγείρει ηθικά ερωτήματα σχετικά με τη χρήση της τεχνητής νοημοσύνης για τη δημιουργία φωνών που ανήκουν σε νεκρούς ανθρώπους. Την περασμένη εβδομάδα, η Ομοσπονδιακή Επιτροπή Επικοινωνιών δήλωσε ότι οι ρομποτικές κλήσεις που πραγματοποιούνται χρησιμοποιώντας φωνές που δημιουργούνται από την τεχνητή νοημοσύνη ήταν παράνομες, μια απόφαση που ήρθε εβδομάδες αφότου οι ψηφοφόροι στο Νιου Χάμσαϊρ έλαβαν κλήσεις που υποδύονταν τον Πρόεδρο

Τζο Μπάιντεν

που τους έλεγαν να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας τους. Μια ανάλυση από την εταιρεία ασφαλείας που ονομάζεται Pindrop αποκάλυψε ότι το deepfake ήχου του Μπάιντεν δημιουργήθηκε χρησιμοποιώντας λογισμικό από την ElevenLabs.

Ο συνιδρυτής της εταιρείας Mati Staniszewski είπε στο

Εφημερίδα

ότι το ElevenLabs επιτρέπει στους ανθρώπους να αναδημιουργούν τις φωνές των νεκρών συγγενών, εάν έχουν τα δικαιώματα και τις άδειες. Ωστόσο, μέχρι στιγμής, δεν είναι σαφές εάν οι γονείς ανηλίκων είχαν τα δικαιώματα να μοιάζουν με τα παιδιά τους.