Το DeepMind έχει έναν τρόπο να αναγνωρίζει εικόνες τεχνητής νοημοσύνης…αλλά μόνο στο Google

Το DeepMind της Google λέει ότι έλυσε ένα πρόβλημα που έχει ενοχλήσει όσους προσπαθούν να επαληθεύσουν εάν οι εικόνες είναι πραγματικές ή δημιουργήθηκαν από AI. Ερευνητές

δήλωσαν ότι η νέα τους μορφή SynthID υδατογράφησης μπορεί να χρησιμοποιηθεί για τον εντοπισμό βαθιών ψεύτικα που δημιουργούνται από τεχνητή νοημοσύνη χωρίς παραμόρφωση της εικόνας

αρχική ποιότητα. Το πιάσιμο

είναι αυτό

το πρόγραμμα προς το παρόν λειτουργεί μόνο με τα εγγενή συστήματα δημιουργίας εικόνων της Google.

Σε ένα


ανάρτηση


η DeepMind είπε ότι το σύστημα beta SynthID ενσωματώνει ένα υδατογράφημα μέσα στα pixel των εικόνων που παράγονται από AI, πράγμα που σημαίνει ότι ενώ το ανθρώπινο μάτι δεν μπορεί να εντοπίσει τη διαφορά, ένα εργαλείο ανίχνευσης μπορεί να εντοπίσει αυτά τα ενδεικτικά αναγνωριστικά και να μπορεί να πει μια εικόνα δημιουργήθηκε

με AI. Το SynthID είναι διαθέσιμο για εταιρείες που χρησιμοποιούν την πλατφόρμα Vertex AI της Google, που σημαίνει ότι είναι διαθέσιμο μόνο για τους μεγάλους εταιρικούς συνεργάτες της Google που χρησιμοποιούν το μοντέλο Imagen της ίδιας της εταιρείας.

Το τμήμα DeepMind της Google — το οποίο

πρόσφατα σε συνδυασμό με την ομάδα

Brain

AI της Google

—δεν λέει ακριβώς πώς λειτουργεί αυτή η υδατογράφηση. Οι ερευνητές είπαν ότι το SynthID θα διατηρήσει το υδατογράφημα ακόμα και μετά την αλλαγή του μεγέθους, τη συμπίεση ή την τροποποίηση με φίλτρα χρώματος. Διαφορετικά, η μυστική σάλτσα κρατιέται μυστική, πιθανόν να αποτρέψει τους ξένους να βρουν έναν τρόπο να την αντιμετωπίσουν. είπε ο Διευθύνων Σύμβουλος της DeepMind Ντέμης Χασάμπης


Το χείλος


ότι τελικά η εταιρεία θα ήθελε να το μοιραστεί με «συνεργάτες» εάν το σύστημα αποδειχθεί αποτελεσματικό.

Ωστόσο, αυτό σημαίνει επίσης ότι τα υδατογραφήματα υπάρχουν σε κλειστό βρόχο μέσα στο οικοσύστημα της Google. Το σύστημα μπορεί επίσης να σαρώσει εικόνες για να αξιολογήσει την πιθανότητα να δημιουργήθηκε από την Imagen, αλλά γνωρίζοντας

πόσες γεννήτριες εικόνων AI υπάρχουν εκεί έξω

είναι δύσκολο να πει κανείς πόσο χρήσιμη μπορεί να είναι αυτή η δυνατότητα.

Τα υδατογραφήματα δεν μπορούν να σταματήσουν τη διάδοση της

παραπληροφόρηση

ς

Η κυβέρνηση Μπάιντεν έχει τονίσει την ανάγκη

εταιρείες να


καταλήξουμε σε ένα

μέσα για την αναγνώριση εικόνων AI

. Το πράγμα

Δηλαδή, τα υδατογραφήματα δεν θα μας σώσουν από τα ζητήματα των deepfakes και παραπληροφόρησης που δημιουργούνται από την τεχνητή νοημοσύνη.

Οι ερευνητές έχουν σημειώσει ότι τα περισσότερα λογισμικά ανίχνευσης τεχνητής νοημοσύνης απλά δεν κάνουν τη δουλειά που χρειάζεται, ειδικά όταν τόσες πολλές εταιρείες προσπαθούν να διαθέσουν στην αγορά τις δικές τους ιδιόκτητες πλατφόρμες τεχνητής νοημοσύνης. είπε ο καθηγητής πληροφορικής στο UC Berkley, Hany Farid


Scientific American


αυτόν τον μήνα ότι η υδατοσήμανση είναι απλώς μια «στρατηγική μετριασμού» ενάντια στις βλάβες των πλαστών τεχνητής νοημοσύνης.

Το Gizmodo έχει μιλήσει εκτενώς με άλλους μηχανικούς που προσπάθησαν να δημιουργήσουν μεθόδους για

ανοσοποίηση εικόνων έναντι χειραγώγησης AI

, αλλά οι επικριτές επεσήμαναν ότι δεν υπάρχει αλάνθαστη μέθοδος. Κάθε φορά που ένας δημιουργός βρίσκει ένα μέσο για την προστασία των εικόνων από παραμόρφωση ή για τη σήμανση εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη, κάποιος άλλος μπορεί να έρθει και να βρει έναν τρόπο να το αντιμετωπίσει.

Και η υδατογράφηση είναι ιδιαίτερα μια

θέμα. Ως ερευνητής AI

Η Claire Leibowicz εξέτασε σε μια πρόσφατη

κομμάτι

δημοσιεύτηκε από


MIT Technology Review


η υδατοσήμανση θα βοηθήσει μόνο τους ανθρώπους να απομυθοποιήσουν εικόνες που έχουν υποστεί χειραγώγηση, αλλά όχι πριν από τη δημιουργία του AI

περιεχόμενο όπως

ψεύτικες εικόνες από την έκρηξη του Πενταγώνου

κυκλοφορεί

Σε σύνδεση. Τα υδατογραφήματα μπορούν να αφαιρεθούν, μερικά πιο εύκολα από άλλα, αλλά τελικά,

οι λεγεώνες των τεχνικών δεδομένων του Διαδικτύου θα βρουν τρόπους να παρακάμψουν τα υδατογραφήματα.

Ακόμη και η DeepMind έσπευσε να επισημάνει ότι αυτή η μέθοδος «δεν είναι αλάνθαστη έναντι των ακραίων χειρισμών εικόνας», αλλά αντίθετα την αποκάλεσε έναν τρόπο για ορισμένους οργανισμούς να «εργάζονται με περιεχόμενο που δημιουργείται από AI υπεύθυνα».

Η Google ανακοίνωσε ακόμη περισσότερη τεχνητή νοημοσύνη για το χώρο εργασίας

Η Google ανακοίνωσε ένα πλήθος νέων χαρακτηριστικών τεχνητής νοημοσύνης κατά τη διάρκεια της διάσκεψης Cloud Next. Για ένα, η Google είναι


κολλώντας του


Duet AI στο Chat. Το ντουέτο μοιάζει με

Το Copilot της Microsoft χρησιμοποιείται στις δικές της 365 εφαρμογές

. Η εταιρεία είπε ότι αυτό το AI θα πρέπει να μπορεί να αρπάξει πληροφορίες από τους χρήστες

Λογαριασμοί Drive και Gmail, καθώς και άλλες εφαρμογές όπως Διαφάνειες και Υπολογιστικά φύλλα. Οι χρήστες μπορούν να έχουν το AI να συνοψίζει έγγραφα ή συνομιλίες σε μια κοινόχρηστη αίθουσα συσκέψεων. Είναι όλα παρόμοια χαρακτηριστικά με αυτά που σχεδιάζονται


Ανίπταμαι διαγωνίως


και

Χαλαρότητα

επισης.

Το Duet AI του Google Workspace είναι τώρα


γενικά διαθέσιμο


για όσες εταιρείες θέλουν να εγγραφούν στο α

δίκη. Πέρα από τις δικές της υπηρεσίες, η Google πρόκειται επίσης να αρχίσει να προσφέρει σε άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης την πλατφόρμα cloud της. του Meta

Μοντέλο γλώσσας Llama 2

και

Anthropic’s Claude 2 chatbot

πρόκειται να είναι διαθέσιμα μέσω του


Google Cloud

επιχειρηματικό λογισμικό. Το Llama 2 είναι ήδη διαθέσιμο στην πλατφόρμα cloud της

Microsoft Azure

, οπότε καθώς η Google κάνει ό,τι μπορεί για να συμβαδίζει με τις πιο πρόσφατες εμπορικές εφαρμογές για την τεχνητή νοημοσύνη, με πολλούς τρόπους εξακολουθεί να παίζει catch up.