Η Google αναπτύσσει ειδικό σήμα για την αντιμετώπιση των deepfakes

Μέσα σε λίγα μόλις χρόνια, τα deepfakes διασημοτήτων και πολιτικών που δημιουργήθηκαν από την τεχνητή νοημοσύνη έχουν περάσει από τα όρια των ακαδημαϊκών περιοδικών σε μοντέρνες σελίδες σε μεγάλους ιστότοπους κοινωνικής δικτύωσης. Οι ειδικοί της παραπληροφόρησης προειδοποιούν αυτά τα εργαλεία, όταν

σε συνδυασμό με τεταμένες ομάδες μετριοπάθειας

στις πλατφόρμες μέσων κοινωνικής δικτύωσης, θα μπορούσε να προσθέσει ένα στρώμα χάους και σύγχυσης σε μια ήδη αμφιλεγόμενη εκλογική περίοδο του 2024.

Τώρα, η Google προστίθεται επίσημα σε έναν ταχέως αναπτυσσόμενο συνασπισμό εταιρειών τεχνολογίας και πολυμέσων που εργάζονται για την τυποποίηση ενός ψηφιακού σήματος που αποκαλύπτει εάν οι εικόνες δημιουργήθηκαν ή όχι χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης. Εάν διαδοθεί ευρέως, το «Content Credential» με επικεφαλής τον Συνασπισμό για την Προέλευση και την Αυθεντικότητα Περιεχομένου (C2PA) θα μπορούσε να βοηθήσει στην ενίσχυση της εμπιστοσύνης των καταναλωτών στην προέλευση των φωτογραφιών και των βίντεο εν μέσω της αύξησης των παραπλανητικών πολιτικών ψεμάτων που δημιουργούνται από την τεχνητή νοημοσύνη που διαδίδονται στο διαδίκτυο. Η Google θα ενταχθεί στο C2PA ως διοικητικό μέλος αυτόν τον μήνα, γεγονός που τους τοποθετεί στην ίδια εταιρεία με την Adobe, τη Microsoft, την Intel και το BBC.

Σε ένα email, ένας εκπρόσωπος της Google είπε

PopSci

ότι η εταιρεία διερευνά επί του παρόντος τρόπους να χρησιμοποιήσει το πρότυπο στη σουίτα προϊόντων της και θα έχει περισσότερα να μοιραστεί «τους επόμενους μήνες». Ο εκπρόσωπος λέει ότι η Google διερευνά ήδη την ενσωμάτωση των διαπιστευτηρίων περιεχομένου στο “

Σχετικά με αυτήν την εικόνα”


χαρακτηριστικό

στην αναζήτηση εικόνων Google. Η υποστήριξη της Google αυτών των διαπιστευτηρίων θα μπορούσε να αυξήσει τη δημοτικότητά τους, αλλά η συνολική χρήση τους εξακολουθεί να παραμένει εθελοντικά αντί για οποιαδήποτε δεσμευτική ομοσπονδιακή νομοθεσία για τα βαθιά ψεύτικα. Αυτή η έλλειψη συνέπειας δίνει στους δημιουργούς deepfake ένα πλεονέκτημα.

Τι είναι τα διαπιστευτήρια περιεχομένου;

Το (C2PA) είναι ένας παγκόσμιος οργανισμός προτύπων που δημιουργήθηκε το 2019 με κύριο στόχο τη δημιουργία τεχνικών προτύπων για την πιστοποίηση ποιος πού και πώς δημιουργήθηκε αρχικά ένα κομμάτι ψηφιακού περιεχομένου. Adobe, η οποία οδήγησε το

Content Authenticity Initiative (CAI)

και οι συνεργάτες της ανησυχούσαν ήδη για τους τρόπους με τους οποίους τα μέσα που δημιουργούσαν τεχνητή νοημοσύνη θα μπορούσαν να διαβρώσουν την εμπιστοσύνη του κοινού και να ενισχύσουν την παραπληροφόρηση στο διαδίκτυο χρόνια πριν αποκτήσουν δυναμική τα μαζικά δημοφιλή εργαλεία τεχνητής νοημοσύνης που παράγονται από καταναλωτές, όπως το DALL-E του OpenAI.

Η ανησυχία αυτή καταλυτική δημιουργία του

Διαπιστευτήρια περιεχομένου

, ένα μικρό σήμα, οι εταιρείες και οι δημιουργοί μπορούν να επιλέξουν να επισυνάψουν στα μεταδεδομένα μιας εικόνας που αποκαλύπτουν ποιος τη δημιούργησε και πότε δημιουργήθηκε η εικόνα. Αποκαλύπτει επίσης στους θεατές εάν το ψηφιακό περιεχόμενο δημιουργήθηκε ή όχι χρησιμοποιώντας ένα μοντέλο παραγωγής τεχνητής νοημοσύνης και ακόμη ονομάζει το συγκεκριμένο μοντέλο που χρησιμοποιήθηκε, καθώς και εάν επεξεργάστηκε ή όχι ψηφιακά αργότερα.

Οι υποστηρικτές του Content Credential υποστηρίζουν ότι το εργαλείο δημιουργεί μια εγγραφή «μεταδεδομένων με προστασία από παραβίαση» που ταξιδεύει με ψηφιακό περιεχόμενο και μπορεί να επαληθευτεί σε οποιοδήποτε σημείο του κύκλου ζωής του. Στην πράξη, οι περισσότεροι χρήστες θα δουν αυτό το «εικονίδιο διαφάνειας» να εμφανίζεται ως ένα μικρό σήμα με τα γράμματα «CR» να εμφανίζονται στη γωνία της εικόνας. Η Microsoft, η Intel, η ARM και το BBC είναι επίσης

όλα τα μέλη της διευθύνουσας επιτροπής του C2PA

.

«Με το ψηφιακό περιεχόμενο να γίνεται το de facto μέσο επικοινωνίας, σε συνδυασμό με την άνοδο των εργαλείων δημιουργίας και επεξεργασίας με δυνατότητα AI, το κοινό χρειάζεται επειγόντως διαφάνεια πίσω από το περιεχόμενο που συναντά στο σπίτι, στα σχολεία, στο χώρο εργασίας, όπου κι αν βρίσκεται». Ο Γενικός Σύμβουλος και Διευθύνων Σύμβουλος της Adobe Dana Rao είπε σε δήλωση που εστάλη στο

PopSci.

«Σε έναν κόσμο όπου όλο το ψηφιακό περιεχόμενο θα μπορούσε να είναι ψεύτικο, χρειαζόμαστε έναν τρόπο να αποδείξουμε τι είναι αλήθεια».

Οι χρήστες που συναντούν μια εικόνα καρφιτσωμένη με το Διαπιστευτήριο περιεχομένου μπορούν να κάνουν κλικ στο σήμα για να επιθεωρήσουν πότε δημιουργήθηκε και τυχόν αλλαγές που μπορεί να έχουν πραγματοποιηθεί από τότε. Στη συνέχεια, κάθε νέα επεξεργασία συνδέεται με το αρχικό μανιφέστο της φωτογραφίας ή του βίντεο που ταξιδεύει μαζί του στον ιστό.

Εάν ένας δημοσιογράφος περικόψει μια φωτογραφία που είχε προηγουμένως επεξεργασθεί χρησιμοποιώντας το

Photoshop

, για παράδειγμα, και οι δύο αυτές αλλαγές στις εικόνες θα σημειώνονταν στο τελικό μανιφέστο. Η CAI λέει ότι το εργαλείο δεν θα εμποδίσει κανέναν να τραβήξει ένα στιγμιότυπο οθόνης μιας εικόνας, ωστόσο, ότι το στιγμιότυπο οθόνης δεν θα περιλαμβάνει μεταδεδομένα CAI από το αρχικό αρχείο, θα μπορούσε να είναι μια υπόδειξη στους θεατές ότι δεν ήταν το αρχικό αρχείο. Το σύμβολο είναι ορατό στο εικόνας, αλλά περιλαμβάνεται επίσης στα μεταδεδομένα του, τα οποία, θεωρητικά, θα πρέπει να εμποδίζουν έναν δημιουργό προβλημάτων να χρησιμοποιήσει το Photoshop ή άλλο εργαλείο επεξεργασίας για να αφαιρέσει το σήμα.

Εάν μια εικόνα δεν έχει ορατό σήμα πάνω της, οι χρήστες μπορούν να την αντιγράψουν και να την ανεβάσουν σε αυτήν

Διαπιστευτήρια περιεχομένου Επαλήθευση συνδέσμου

να επιθεωρήσει τα διαπιστευτήριά του και να διαπιστώσει εάν έχει τροποποιηθεί με την πάροδο του χρόνου. Εάν το μέσο επεξεργασίας έγινε χωρίς τρόπο που δεν πληρούσε τις προδιαγραφές του C2PA κατά τη διάρκεια κάποιου τμήματος του κύκλου ζωής του, οι χρήστες θα δουν έναν δείκτη “που λείπει” ή “ημιτελής”. Η δυνατότητα Content Credential χρονολογείται από το 2021. Έκτοτε η Adobe το έχει καταφέρει

διαθέσιμο στους χρήστες του Photoshop

και δημιουργοί που παράγουν εικόνες χρησιμοποιώντας

Γεννήτρια εικόνας Firefly AI της Adobe

. Microsoft

σχεδιάζει να χρησιμοποιήσει το σήμα

με εικόνες που δημιουργούνται από τις γεννήτριες εικόνων

Bing

AI. Η Meta, η οποία κατέχει το Facebook και το

Instagram

,

ομοίως ανακοίνωσε ότι θα προσθέσει ένα νέο χαρακτηριστικό

να επιτρέπει στους χρήστες να αποκαλύπτουν πότε μοιράζονται βίντεο ή ήχο που δημιουργείται από AI στις πλατφόρμες του. Η Meta είπε ότι θα αρχίσει να εφαρμόζει αυτές τις ετικέτες «τους επόμενους μήνες».

Γιατί έχει σημασία η συμμετοχή της Google στο C2PA

Η συμμετοχή της Google στο C2PA είναι σημαντική, πρώτα και κύρια, λόγω του τεράστιου ψηφιακού αποτυπώματος του γίγαντα της αναζήτησης στο διαδίκτυο. Η εταιρεία ήδη διερευνά τρόπους χρήσης αυτών των σημάτων στο ευρύ φάσμα των διαδικτυακών προϊόντων και υπηρεσιών της, το οποίο περιλαμβάνει κυρίως το YouTube. Το C2PA πιστεύει ότι η συμμετοχή της Google θα μπορούσε να θέσει τα διαπιστευτήρια μπροστά σε περισσότερους βολβούς, κάτι που θα μπορούσε να οδηγήσει σε ευρύτερη ευαισθητοποίηση για το εργαλείο ως έναν ενεργό τρόπο επαλήθευσης ψηφιακού περιεχομένου, ειδικά καθώς τα πολιτικά deepfakes και τα χειραγωγημένα μέσα αποκτούν έλξη στο διαδίκτυο. Ο Rao περιέγραψε τη συνεργασία της Google ως “στιγμή αποκοπής” για την αύξηση της ευαισθητοποίησης στα Διαπιστευτήρια περιεχομένου.

“Η τεχνογνωσία της Google στον κλάδο, οι επενδύσεις σε βάθος στην έρευνα και η παγκόσμια απήχηση θα μας βοηθήσουν να ενισχύσουμε το πρότυπό μας για να αντιμετωπίσουμε τα πιο πιεστικά ζητήματα σχετικά με τη χρήση του περιεχομένου προέλευσης και να προσεγγίσουμε ακόμη περισσότερους καταναλωτές και δημιουργούς παντού”, δήλωσε ο Rao. “Με την υποστήριξη και την υιοθέτηση από εταιρείες όπως η Google, πιστεύουμε ότι τα Διαπιστευτήρια περιεχομένου μπορούν να γίνουν αυτό που χρειαζόμαστε: ένας απλός, εναρμονισμένος, καθολικός τρόπος κατανόησης του περιεχομένου.”

Η συνεργασία έρχεται τρεις μήνες μετά την Google

ανακοίνωσε ότι θα επισυνάψει ψηφιακό υδατογράφημα

με SynthID σε ήχο που δημιουργήθηκε χρησιμοποιώντας το μοντέλο DeepMind AI Lyrica. Σε αυτή την περίπτωση, η DeepMind λέει ότι το ηχητικό υδατογράφημα δεν πρέπει να ακούγεται στο ανθρώπινο αυτί και ομοίως δεν πρέπει να διαταράσσει την εμπειρία ακρόασης του χρήστη. Αντίθετα, θα πρέπει να χρησιμεύσει ως μια πιο διαφανής διασφάλιση για την προστασία των μιούζικαλ από αντίγραφα των ίδιων που δημιουργούνται με τεχνητή νοημοσύνη ή για να αποδειχθεί εάν ένα αμφισβητήσιμο κλιπ ήταν αυθεντικό ή αν δημιουργήθηκε τεχνητή νοημοσύνη.

Η σύγχυση που προκλήθηκε από το Deepfake θα μπορούσε να κάνει χειρότερες τις ήδη επίμαχες εκλογές του 2024

Οι εταιρείες τεχνολογίας και οι εταιρείες πολυμέσων σπεύδουν να καθιερώσουν αξιόπιστους τρόπους για να επαληθεύσουν την προέλευση των ψηφιακών μέσων στο Διαδίκτυο πριν από την παραπληροφόρηση

Οι ειδικοί προειδοποιούν ότι θα μπορούσε να είναι ένας εκλογικός κύκλος του 2024

. Σημαντικές πολιτικές προσωπικότητες, όπως ο Ρεπουμπλικανός υποψήφιος για την προεδρία Ντόναλντ Τραμπ και ο κυβερνήτης της Φλόριντα, Ρον ΝτεΣάντις, έχουν ήδη χρησιμοποιήσει και τα δύο εργαλεία παραγωγής τεχνητής νοημοσύνης για να επιτεθούν ο ένας στον άλλον. Πιο πρόσφατα στο Νιου Χάμσαϊρ, χρησιμοποιήθηκε τεχνολογία φωνητικής

κλωνοποίηση

ς AI για να φαίνεται ότι ο Πρόεδρος Τζο Μπάιντεν καλούσε τους κατοίκους και τους προέτρεπε να μην ψηφίσουν στις προκριματικές εκλογές του Ιανουαρίου. Έκτοτε το γραφείο του γενικού εισαγγελέα της πολιτείας

συνέδεσε ρομποτικές κλήσεις με δύο εταιρείες με έδρα το Τέξας

.

Αλλά οι απειλές εκτείνονται και πέρα ​​από τις εκλογές. Για χρόνια, οι ερευνητές έχουν προειδοποιήσει ότι η ανεξέλεγκτη εξάπλωση των ολοένα και πιο πειστικών εικόνων και βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη βαθιά ψεύτικα στο διαδίκτυο θα μπορούσε να οδηγήσει σε ένα φαινόμενο που ονομάζεται “

Μέρισμα ψεύτη

» όπου οι καταναλωτές αμφιβάλλουν αν κάτι που βλέπουν στο Διαδίκτυο όντως όπως φαίνεται. Οι δικηγόροι, οι πολιτικοί και οι αστυνομικοί έχουν

Οι νόμιμες εικόνες και βίντεο που έχουν ήδη υποβληθεί ψευδώς δημιουργήθηκαν με τεχνητή νοημοσύνη

να προσπαθήσει να κερδίσει μια υπόθεση ή να επισφραγίσει μια καταδίκη.

Περιεχόμενο Η βοήθεια διαπιστευτηρίων θα μπορούσε να βοηθήσει, αλλά δεν έχουν δόντια

Ακόμη και με την υποστήριξη της Google, τα διαπιστευτήρια περιεχομένου παραμένουν εντελώς εθελοντικά. Ούτε η Adobe ούτε κανένας ρυθμιστικός φορέας αναγκάζει τις εταιρείες τεχνολογίας ή τους χρήστες τους να προσθέτουν υπεύθυνα διαπιστευτήρια προέλευσης στο περιεχόμενό τους. Και ακόμα κι αν η Google και η Microsoft χρησιμοποιούν αυτούς τους δείκτες για να αποκαλύψουν περιεχόμενο που δημιουργήθηκε χρησιμοποιώντας τις δικές τους γεννήτριες τεχνητής νοημοσύνης, τίποτα δεν εμποδίζει προς το παρόν τους κακούς πολιτικούς παράγοντες να συνδυάσουν ένα deepfake χρησιμοποιώντας άλλα εργαλεία AI ανοιχτού κώδικα και στη συνέχεια να προσπαθήσουν να το διαδώσουν μέσω των social media.

Στις ΗΠΑ, η κυβέρνηση Μπάιντεν έχει

έδωσε εντολή στο Υπουργείο Εμπορίου

για τη δημιουργία νέων κατευθυντήριων γραμμών για την υδατοσήμανση τεχνητής νοημοσύνης και τα πρότυπα ασφαλείας που θα πρέπει να τηρούν οι εταιρείες τεχνολογίας που κατασκευάζουν παραγωγικά μοντέλα τεχνητής νοημοσύνης. Οι νομοθέτες στο Κογκρέσο έχουν

προτεινόμενη ομοσπονδιακή νομοθεσία

που απαιτεί από τις εταιρείες τεχνητής νοημοσύνης να περιλαμβάνουν αναγνωρίσιμα υδατογραφήματα σε όλο το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, αν και δεν είναι σαφές εάν αυτό θα λειτουργούσε πρακτικά ή όχι.

Οι εταιρείες τεχνολογίας εργάζονται γρήγορα για να θέσουν σε εφαρμογή διασφαλίσεις κατά του deepfake, αλλά με τις μεγάλες προεδρικές εκλογές λιγότερο από επτά μήνες μακριά, οι ειδικοί συμφωνούν ότι είναι πιθανό

σύγχυση ή παραπλανητικό υλικό AI πιθανότατα θα παίξει κάποιο ρόλο

.