Μερικοί ψηφοφόροι στο Νιου Χάμσαϊρ έλαβαν μια κλήση από κάποιον που έμοιαζε πολύ με τον Πρόεδρο Τζο Μπάιντεν. Το κάλεσμα ενθάρρυνε εκείνους τους κατοίκους του Νιου Χάμσαϊρ να μείνουν σπίτι κατά τη διάρκεια των προκριματικών εκλογών την περασμένη εβδομάδα και να «φυλάξουν τις ψήφους σας» για τις γενικές
εκλογές
του Νοεμβρίου.
Φυσικά, αυτό δεν έχει νόημα. Οι ψηφοφόροι μπορούν να ψηφίσουν και στις δύο εκλογές. Γιατί να τους πει ο Μπάιντεν κάτι τέτοιο; Λοιπόν, αυτό γιατί δεν το έκανε. Αυτοί ήταν
Robocals που δημιουργούνται από AI φωνή
δημιουργήθηκε για να ακούγεται σαν τον Μπάιντεν. Μπορείτε να ακούσετε ένα
εδώ
παραχώρηση του
The Telegraph
:
Αυτό είναι μόνο ένα πραγματικό παράδειγμα του πώς η τεχνητή νοημοσύνη μπορεί ήδη να οπλιστεί από κακούς ηθοποιούς. Και είναι πιθανότατα ένας μεγάλος λόγος που η FCC θέλει τώρα να λάβει μέτρα κατά των κλήσεων που δημιουργούνται από την τεχνητή νοημοσύνη.
Η πρόταση της FCC να απαγορεύσει τις ρομποκλήσεις με τεχνητή νοημοσύνη
Η πρόεδρος της FCC, Jessica Rosenworcel, δημοσίευσε μια δήλωση την Τετάρτη, ανακοινώνοντας μια πρόταση σύμφωνα με την οποία η FCC αναγνωρίζει τις κλήσεις που δημιουργούνται από την τεχνητή νοημοσύνη ως «τεχνητές» φωνές σύμφωνα με τον Νόμο για την Προστασία Καταναλωτών Τηλεφώνου (TCPA). Κάνοντας αυτό, η FCC θα καθιστούσε παράνομες τις ρομποκλήσεις που δημιουργούνται από AI.
ΔΕΙΤΕ ΕΠΙΣΗΣ:
Η FCC μόλις επέβαλε πρόστιμο 300 εκατομμυρίων δολαρίων σε μια εταιρεία ρομποτικής κλήσης, αφού μπλόκαρε δισεκατομμύρια κλήσεις απάτης
Το TCPA χρησιμοποιείται συχνά από την FCC για τον περιορισμό των ανεπιθύμητων κλήσεων που λαμβάνουν οι καταναλωτές από τηλεπωλητές. Βάσει αυτού του νόμου, απαγορεύεται η χρήση τεχνητών ή προηχογραφημένων φωνητικών μηνυμάτων καθώς και συστημάτων αυτόματης τηλεφωνικής κλήσης.
«Η κλωνοποίηση φωνής και οι εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη ήδη σπέρνουν σύγχυση εξαπατώντας τους καταναλωτές να πιστεύουν ότι οι
απάτες
και οι απάτες είναι νόμιμες», ανέφερε η Rosenworcel σε δήλωση. Η δήλωση συνεχίζει:
“Ανεξάρτητα από το ποια διασημότητα ή πολιτικό προτιμάτε ή ποια είναι η σχέση σας με τους συγγενείς σας όταν ζητούν
βοήθεια
, είναι πιθανό να γίνουμε όλοι στόχος αυτών των ψεύτικων κλήσεων. Γι’ αυτό η FCC λαμβάνει μέτρα για να αναγνωρίσει αυτήν την αναδυόμενη τεχνολογία ως παράνομο σύμφωνα με την ισχύουσα νομοθεσία, δίνοντας στους συνεργάτες μας στα γραφεία των Γενικών Εισαγγελιών σε όλη τη χώρα νέα εργαλεία που μπορούν να χρησιμοποιήσουν για να καταπολεμήσουν αυτές τις απάτες και να προστατεύσουν τους καταναλωτές».
Η χρονική στιγμή της δήλωσης του Rosenworcel φαίνεται να δείχνει ότι οι ρομαντικές κλήσεις του Μπάιντεν έχουν προκαλέσει ανησυχία σχετικά με το πώς αυτές οι φωνές που δημιουργούνται από την τεχνητή νοημοσύνη μπορούν να χρησιμοποιηθούν σε απάτες τηλεμάρκετινγκ καθώς και σε πιθανή εκλογική απάτη.
Μέχρι στιγμής, τα μόνα πραγματικά βήματα για την αποτροπή των χειρότερων σεναρίων που προκαλούνται από φωνές που δημιουργούνται από AI έχουν ληφθεί από τις ίδιες τις
εταιρείες
τεχνητής νοημοσύνης. Οπως και
Bloomberg
έχουν αναφερθεί
η εταιρεία τεχνητής νοημοσύνης ElevenLabs ανέστειλε τον χρήστη που δημιούργησε τις ρομποκλήσεις Μπάιντεν από την πλατφόρμα τους την περασμένη εβδομάδα.
«Είμαστε αφοσιωμένοι στην αποτροπή της κακής χρήσης εργαλείων τεχνητής νοημοσύνης
ήχου
και λαμβάνουμε εξαιρετικά σοβαρά κάθε περιστατικό κακής χρήσης», ανέφερε η ElevenLabs σε ανακοίνωσή της.
Ωστόσο, όπως είδαμε με τις πρόσφατες μη συναινετικές πορνογραφικές εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη
Τέιλορ Σουίφτ
υπάρχουν εκείνοι στον χώρο που μπορεί να μην αισθάνονται το ίδιο με το ElevenLabs όταν πρόκειται για τη χρήση προϊόντων τεχνητής νοημοσύνης.
VIA:
mashable.com
