Η Microsoft, το OpenAI, η Google και άλλοι συμφωνούν να καταπολεμήσουν τα deepfakes που σχετίζονται με τις εκλογές

Ένας συνασπισμός 20 εταιρειών τεχνολογίας

υπογεγραμμένος

μια συμφωνία την Παρασκευή για να βοηθήσει στην αποτροπή των πλαστών τεχνητής νοημοσύνης στις κρίσιμες εκλογές του 2024 που θα πραγματοποιηθούν σε περισσότερες από 40 χώρες. Οι OpenAI, Google, Meta, Amazon, Adobe και X είναι μεταξύ των επιχειρήσεων που εντάσσονται στο σύμφωνο για την πρόληψη και την καταπολέμηση του περιεχομένου που δημιουργείται από AI που θα μπορούσε να επηρεάσει τους ψηφοφόρους. Ωστόσο, η ασαφής γλώσσα της συμφωνίας και η έλλειψη δεσμευτικής επιβολής θέτει υπό αμφισβήτηση το κατά πόσον φτάνει αρκετά.

Ο κατάλογος των εταιρειών που υπογράφουν την «Τεχνική Συμφωνία για την Καταπολέμηση της Παραπλανητικής Χρήσης της Τεχνητής Νοημοσύνης στις Εκλογές του 2024» περιλαμβάνει αυτές που δημιουργούν και διανέμουν μοντέλα τεχνητής νοημοσύνης, καθώς και κοινωνικές πλατφόρμες όπου είναι πιο πιθανό να εμφανιστούν τα deepfakes. Οι υπογράφοντες είναι οι Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic και X (πρώην Twitter ).

Η ομάδα περιγράφει τη συμφωνία ως «ένα σύνολο δεσμεύσεων για την ανάπτυξη τεχνολογίας που καταπολεμά το επιβλαβές περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη που έχει σκοπό να εξαπατήσει τους ψηφοφόρους». Οι υπογράφοντες έχουν συμφωνήσει στις ακόλουθες οκτώ δεσμεύσεις:

• Ανάπτυξη και εφαρμογή τεχνολογίας για τον μετριασμό των κινδύνων που σχετίζονται με το παραπλανητικό εκλογικό περιεχόμενο AI, συμπεριλαμβανομένων εργαλείων ανοιχτού κώδικα όπου χρειάζεται

• Αξιολόγηση μοντέλων στο πεδίο εφαρμογής αυτής της συμφωνίας για την κατανόηση των κινδύνων που ενδέχεται να παρουσιάζουν σχετικά με το παραπλανητικό εκλογικό περιεχόμενο AI

• Επιδιώκουν να εντοπίσουν τη διανομή αυτού του περιεχομένου στις πλατφόρμες τους

• Επιδιώκουν την κατάλληλη αντιμετώπιση αυτού του περιεχομένου που εντοπίστηκε στις πλατφόρμες τους

• Ενίσχυση της διακλαδικής ανθεκτικότητας σε παραπλανητικό εκλογικό περιεχόμενο AI

• Παροχή διαφάνειας στο κοινό σχετικά με τον τρόπο με τον οποίο το αντιμετωπίζει η εταιρεία

• Συνεχίζοντας τη συνεργασία με ένα ευρύ φάσμα παγκόσμιων οργανώσεων της κοινωνίας των πολιτών, ακαδημαϊκούς

• Υποστήριξη προσπαθειών για την ενίσχυση της ευαισθητοποίησης του κοινού, της παιδείας στα μέσα επικοινωνίας και της ανθεκτικότητας όλης της κοινωνίας

Η συμφωνία θα ισχύει για ήχο, βίντεο και εικόνες που δημιουργούνται από AI. Απευθύνεται σε περιεχόμενο που «παραπλανάται ή αλλοιώνει την εμφάνιση, τη φωνή ή τις ενέργειες πολιτικών υποψηφίων, εκλογικών αξιωματούχων και άλλων βασικών ενδιαφερομένων σε δημοκρατικές εκλογές ή που παρέχει ψευδείς πληροφορίες στους ψηφοφόρους σχετικά με το πότε, πού και πώς μπορούν να ψηφίσουν. ”

Οι υπογράφοντες λένε ότι θα συνεργαστούν για να δημιουργήσουν και να μοιραστούν εργαλεία για τον εντοπισμό και την αντιμετώπιση της διαδικτυακής διανομής deepfakes. Επιπλέον, σχεδιάζουν να προωθήσουν εκπαιδευτικές εκστρατείες και να «παρέχουν διαφάνεια» στους χρήστες.

Η OpenAI, ένας από τους υπογράφοντες, δήλωσε ήδη τον περασμένο μήνα ότι σχεδιάζει να καταστείλει την παραπληροφόρηση που σχετίζεται με τις εκλογές παγκοσμίως. Οι εικόνες που δημιουργούνται με το εργαλείο DALL-E 3 της εταιρείας θα κωδικοποιούνται με έναν ταξινομητή που παρέχει ένα ψηφιακό υδατογράφημα για να αποσαφηνιστεί η προέλευσή τους ως εικόνες που δημιουργούνται από AI. Ο κατασκευαστής του ChatGPT είπε ότι θα συνεργαστεί επίσης με δημοσιογράφους, ερευνητές και πλατφόρμες για σχόλια σχετικά με τον ταξινομητή προέλευσης του. Σχεδιάζει επίσης να αποτρέψει τα chatbot από το να υποδύονται υποψηφίους.

«Δεσμευόμαστε να προστατεύσουμε την ακεραιότητα των εκλογών επιβάλλοντας πολιτικές που αποτρέπουν την κατάχρηση και βελτιώνοντας τη διαφάνεια σχετικά με το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη», έγραψε η Anna Makanju, Αντιπρόεδρος Παγκόσμιων Υποθέσεων στο OpenAI, στο κοινό δελτίο τύπου της ομάδας. «Ανυπομονούμε να συνεργαστούμε με εταίρους του κλάδου, ηγέτες της κοινωνίας των πολιτών και κυβερνήσεις σε όλο τον κόσμο για να βοηθήσουμε στη διαφύλαξη των εκλογών από την παραπλανητική χρήση τεχνητής νοημοσύνης».

Αξιοσημείωτα απούσα από τη λίστα είναι η

Midjourney

, η εταιρεία με μια γεννήτρια εικόνων AI (με το ίδιο όνομα) που παράγει επί του παρόντος μερικές από τις πιο πειστικές ψεύτικες φωτογραφίες. Ωστόσο, η εταιρεία δήλωσε νωρίτερα αυτό το μήνα ότι θα εξετάσει το ενδεχόμενο να απαγορεύσει εντελώς τις πολιτικές γενιές κατά τη διάρκεια της προεκλογικής περιόδου. Πέρυσι, το Midjourney χρησιμοποιήθηκε για τη δημιουργία μιας viral ψεύτικης εικόνας του Πάπα Βενέδικτου να περπατά απροσδόκητα στο δρόμο με ένα φουσκωτό λευκό σακάκι. Ένας από τους πιο κοντινούς ανταγωνιστές της Midjourney, η Stability AI (κατασκευαστές του Stable Diffusion ανοιχτού κώδικα), συμμετείχε. Το Engadget επικοινώνησε με το Midjourney για να σχολιάσει την απουσία του και θα ενημερώσουμε αυτό το άρθρο αν μάθουμε ξανά.

Μόνο η Apple απουσιάζει από το “Big Five” της Silicon Valley. Ωστόσο, αυτό μπορεί να εξηγηθεί από το γεγονός ότι ο κατασκευαστής iPhone δεν έχει κυκλοφορήσει ακόμη κανένα προϊόν παραγωγής τεχνητής νοημοσύνης, ούτε φιλοξενεί μια

πλατφόρμα

κοινωνικών μέσων όπου θα μπορούσαν να διανεμηθούν deepfakes. Ανεξάρτητα από αυτό, επικοινωνήσαμε με την Apple PR για διευκρίνιση, αλλά δεν είχαμε νέα κατά τη στιγμή της δημοσίευσης.

Αν και οι γενικές αρχές που συμφώνησαν οι 20 εταιρείες να ακούγονται ως μια πολλά υποσχόμενη αρχή, μένει να δούμε αν μια χαλαρή σειρά συμφωνιών χωρίς δεσμευτική επιβολή θα είναι αρκετή για να καταπολεμηθεί ένα εφιαλτικό σενάριο όπου οι κακοί παράγοντες του κόσμου χρησιμοποιούν

γενετική

τεχνητή νοημοσύνη για να επηρεάσουν την κοινή γνώμη και εκλέγει επιθετικά αντιδημοκρατικούς υποψηφίους — στις ΗΠΑ και αλλού.

«Η γλώσσα δεν είναι τόσο δυνατή όσο θα περίμενε κανείς», είπε η Rachel Orey, ανώτερη αναπληρώτρια διευθύντρια του Elections Project στο Bipartisan Policy Center,

είπε


Το Associated Press

την Παρασκευή. «Πιστεύω ότι θα πρέπει να δώσουμε τα εύσημα εκεί που οφείλονται και να αναγνωρίσουμε ότι οι εταιρείες έχουν κεκτημένο συμφέρον να μην χρησιμοποιηθούν τα εργαλεία τους για να υπονομεύσουν τις ελεύθερες και δίκαιες εκλογές. Τούτου λεχθέντος, είναι εθελοντικό και θα παρακολουθούμε αν θα το ακολουθήσουν».

Deepfakes που δημιουργούνται από AI έχουν ήδη χρησιμοποιηθεί στις προεδρικές εκλογές των ΗΠΑ. Ήδη από τον Απρίλιο του 2023, η Ρεπουμπλικανική Εθνική Επιτροπή (RNC) δημοσίευσε μια διαφήμιση χρησιμοποιώντας εικόνες του Προέδρου Τζο Μπάιντεν και της Αντιπροέδρου Καμάλα Χάρις που δημιουργήθηκαν από τεχνητή νοημοσύνη. Η καμπάνια για τον Ron DeSantis, ο οποίος έκτοτε αποχώρησε από τις προκριματικές εκλογές του GOP, ακολούθησε εικόνες του αντιπάλου και πιθανού υποψηφίου Donald Trump, που δημιουργήθηκαν από AI, τον Ιούνιο του 2023. Και οι δύο περιλάμβαναν δηλώσεις αποποίησης ευθύνης που ήταν εύκολο να χαθούν ότι οι εικόνες ήταν δημιουργημένες από AI.

Τον Ιανουάριο, ένα

deepfake

της φωνής του Προέδρου Μπάιντεν που δημιουργήθηκε από την τεχνητή νοημοσύνη χρησιμοποιήθηκε από δύο εταιρείες με έδρα το Τέξας για να καλέσουν τους ψηφοφόρους στο Νιου Χάμσαϊρ, προτρέποντάς τους να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας στις 23 Ιανουαρίου. έφτασε τους 25.000 ψηφοφόρους του NH, σύμφωνα με τον γενικό εισαγγελέα της πολιτείας. Το ElevenLabs είναι μεταξύ των υπογραφόντων του συμφώνου.

Η Ομοσπονδιακή Επιτροπή Επικοινωνίας (FCC) ενήργησε γρήγορα για να αποτρέψει περαιτέρω καταχρήσεις της τεχνολογίας κλωνοποίησης φωνής σε ψεύτικες κλήσεις εκστρατείας. Νωρίτερα αυτό το μήνα, ψήφισε ομόφωνα την απαγόρευση των ρομποκλήσεων που δημιουργούνται από AI. Το (φαινομενικά αιώνια αδιέξοδο) Κογκρέσο των ΗΠΑ δεν έχει περάσει καμία νομοθεσία για την τεχνητή νοημοσύνη. Τον Δεκέμβριο, η Ευρωπαϊκή Ένωση (ΕΕ) συμφώνησε σε ένα εκτεταμένο νομοσχέδιο για την ανάπτυξη της ασφάλειας AI Act που θα μπορούσε να επηρεάσει τις ρυθμιστικές προσπάθειες άλλων εθνών.

«Καθώς η κοινωνία ενστερνίζεται τα οφέλη της τεχνητής νοημοσύνης, έχουμε την ευθύνη να βοηθήσουμε να διασφαλίσουμε ότι αυτά τα εργαλεία δεν θα γίνουν όπλα στις εκλογές», έγραψε ο Αντιπρόεδρος της Microsoft και Πρόεδρος Μπραντ Σμιθ σε δελτίο τύπου. «Η τεχνητή νοημοσύνη δεν δημιούργησε εκλογική εξαπάτηση, αλλά πρέπει να διασφαλίσουμε ότι δεν βοηθά στην άνθηση της εξαπάτησης».