Η DeepMind συνεργάζεται με το Google Cloud για να υδατογραφήσει εικόνες που δημιουργούνται από τεχνητή νοημοσύνη

Σε συνεργασία με το Google Cloud, το Google Deepmind, το τμήμα έρευνας AI της Google, είναι

εκτόξευση

ένα εργαλείο για τη υδατοσήμανση και τον εντοπισμό εικόνων που δημιουργούνται από AI. Αλλά μόνο εικόνες που δημιουργούνται από το μοντέλο δημιουργίας εικόνων της ίδιας της Google.

Το εργαλείο, που ονομάζεται SnythID και διατίθεται σε beta για επιλεγμένους χρήστες του Vertex AI, της πλατφόρμας της Google για τη δημιουργία εφαρμογών και μοντέλων τεχνητής νοημοσύνης, ενσωματώνει ένα ψηφιακό υδατογράφημα απευθείας στα εικονοστοιχεία μιας εικόνας — καθιστώντας το φαινομενικά ανεπαίσθητο στο ανθρώπινο μά

τι

αλλά ανιχνεύσιμο από έναν αλγόριθμο . Το SynthID υποστηρίζει μόνο το Imagen, το μοντέλο κειμένου σε εικόνα της Google, το οποίο είναι αποκλειστικά διαθέσιμο σε Vertex AI.

Google

προηγουμένως

είπε ότι θα ενσωματώσει μεταδεδομένα για να σηματοδοτήσει οπτικά μέσα που δημιουργούνται από μοντέλα τεχνητής νοημοσύνης. Το SynthID, προφανώς, πηγαίνει ένα βήμα πέρα ​​από αυτό.

«Ενώ η γενετική τεχνητή νοημοσύνη μπορεί να ξεκλειδώσει τεράστιες δημιουργικές δυνατότητες, παρουσιάζει επίσης νέους κινδύνους, όπως το να δίνει τη δυνατότητα στους δημιουργούς να διαδίδουν ψευδείς πληροφορίες — ηθελημένα ή ακούσια», γράφει η DeepMind σε μια ανάρτηση ιστολογίου. «Η δυνατότητα αναγνώρισης περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη είναι ζωτικής σημασίας για την ενδυνάμωση των ανθρώπων με γνώση του πότε αλληλεπιδρούν με τα δημιουργημένα μέσα και για την πρόληψη της διάδοσης παραπληροφόρησης».

Η DeepMind ισχυρίζεται ότι το SynthID, το οποίο ανέπτυξε και συνεργάστηκε με την Google

Research

, την ομάδα Έρευνας και Ανάπτυξης της Google, για να βελτιώσει, παραμένει σε ισχύ ακόμη και μετά από τροποποιήσεις όπως η προσθήκη φίλτρων, η αλλαγή των χρωμάτων και η υψηλή συμπίεση εικόνων. Το εργαλείο αξιοποιεί δύο μοντέλα τεχνητής νοημοσύνης, ένα για υδατοσήμανση και ένα για αναγνώριση, που εκπαιδεύτηκαν μαζί σε ένα «διαφορετικό» σύνολο εικόνων, λέει ο DeepMind.

Το SynthID δεν μπορεί να αναγνωρίσει υδατογραφημένες εικόνες με 100% σιγουριά. Αλλά το εργαλείο κάνει διάκριση μεταξύ περιπτώσεων όπου μια εικόνα

θα μπορούσε

περιέχει ένα υδατογράφημα έναντι μιας εικόνας

πολύ πιθανόν

να περιέχει ένα.

«Το SynthID δεν είναι αλάνθαστο έναντι των ακραίων χειρισμών εικόνας, αλλά παρέχει μια πολλά υποσχόμενη τεχνική προσέγγιση για την ενδυνάμωση των ανθρώπων και των οργανισμών να εργαστούν με περιεχόμενο που δημιουργείται από AI υπεύθυνα», γράφει ο DeepMind στην ανάρτηση ιστολογίου. “Αυτό το εργαλείο θα μπορούσε επίσης να εξελιχθεί παράλληλα με άλλα μοντέλα τεχνητής νοημοσύνης και τρόπους πέρα ​​από εικόνες όπως ήχος,

βίντεο

και κείμενο.”

Οι τεχνικές υδατογραφήματος για γενετική τέχνη δεν είναι καινούριες. Η γαλλική startup Imatag, που κυκλοφόρησε το 2020, προσφέρει ένα εργαλείο υδατογράφησης που ισχυρίζεται ότι δεν επηρεάζεται από την αλλαγή μεγέθους, την περικοπή, την επεξεργασία ή τη συμπίεση εικόνων, παρόμοιο με το SynthID. Μια άλλη εταιρεία, η Steg.AI, χρησιμοποιεί ένα μοντέλο τεχνητής νοημοσύνης για την εφαρμογή υδατογραφημάτων που επιβιώνουν της αλλαγής μεγέθους και άλλων επεξεργασιών.

Ωστόσο, η πίεση εντείνεται στις εταιρείες

τεχνολογία

ς για να παράσχουν έναν τρόπο να καταστήσουν σαφές ότι τα έργα δημιουργήθηκαν από την τεχνητή νοημοσύνη.

Πρόσφατα, η Διοίκηση Κυβερνοχώρου της Κίνας εξέδωσε κανονισμούς που απαιτούν οι παραγωγοί τεχνητής νοημοσύνης να επισημαίνουν το περιεχόμενο που δημιουργείται — συμπεριλαμβανομένων των δημιουργών κειμένου και εικόνων — χωρίς να επηρεάζεται η χρήση των χρηστών. Και στις πρόσφατες ακροάσεις της επιτροπής της Γερουσίας των ΗΠΑ, ο γερουσιαστής Kyrsten Sinema (I-AZ)

τόνισε

την ανάγκη για διαφάνεια στη γενετική τεχνητή νοημοσύνη, συμπεριλαμβανομένης της χρήσης υδατογραφημάτων.

Τον Μάιο, στο ετήσιο συνέδριο Build, η Microsoft δεσμεύτηκε να υδατογραφήσει εικόνες και βίντεο που δημιουργούνται από AI «χρησιμοποιώντας μεθόδους κρυπτογράφησης». Αλλού, η Shutterstock και η παραγωγική startup AI Midjourney υιοθέτησαν

Κατευθυντήριες γραμμές

για να ενσωματώσετε έναν δείκτη ότι το περιεχόμενο δημιουργήθηκε από ένα εργαλείο δημιουργίας τεχνητής νοημοσύνης. Και το DALL-E 2 του OpenAI, ένα εργαλείο κειμένου σε εικόνα, εισάγει ένα μικρό υδατογράφημα στην κάτω δεξιά πλευρά των εικόνων που δημιουργεί.

Αλλά μέχρι στιγμής, ένα κοινό πρότυπο υδατογραφήματος – τόσο για τη δημιουργία υδατογραφημάτων όσο και για την ανίχνευσή τους – έχει αποδειχθεί άπιαστο.

Το SynthID, όπως και οι άλλες τεχνολογίες που έχουν προταθεί, δεν θα είναι χρήσιμο για οποιαδήποτε συσκευή δημιουργίας εικόνας

δεν είναι

Imagen — τουλάχιστον όχι στη σημερινή του μορφή. Η DeepMind λέει ότι εξετάζει το ενδεχόμενο να διαθέσει το SynthID σε τρίτους στο εγγύς

μέλλον

. Αλλά εάν τρίτα μέρη – ειδικά τρίτα μέρη που αναπτύσσουν γεννήτριες εικόνων AI ανοιχτού κώδικα, που δεν διαθέτουν πολλά από τα προστατευτικά κιγκλιδώματα στις γεννήτριες που βρίσκονται πίσω από ένα API – θα υιοθετήσουν την τεχνολογία είναι ένα άλλο θέμα.