Η Google λανσάρει το SynthID, ένα υδατογράφημα εικόνας AI που είναι αόρατο με γυμνό μάτι

Το πρόβλημα με τις εικόνες που δημιουργούνται με τεχνητή νοημοσύνη είναι ότι η τεχνητή νοημοσύνη δημιουργεί εικόνες. Αυτό σημαίνει ότι μια απλή προτροπή μπορεί να δημιουργήσει μια ρεαλιστική εικόνα της σχετικότητας

Οτιδήποτε

. Δεν είναι δύσκολο να φανταστεί κανείς τα ζητήματα που θα μπορούσαν να προκύψουν από αυτό το γεγονός.

Google

ανακοίνωσε την Τρίτη ένα χαρακτηριστικό που ονομάζεται SynthID

που στοχεύει στην καταπολέμηση των deepfakes και της κακής χρήσης εικόνων που δημιουργούνται από AI. Το

Google DeepMind

κυκλοφόρησε μια έκδοση beta του εργαλείου, η οποία, όπως είπε η εταιρεία, «ενσωματώνει ένα ψηφιακό υδατογράφημα απευθείας στα

pixel

μιας εικόνας, καθιστώντας το ανεπαίσθητο στο ανθρώπινο μάτι, αλλά ανιχνεύσιμο για αναγνώριση».

Με άλλα λόγια, στην επιφάνειά της, η εικόνα που δημιουργείται από AI θα φαίνεται κανονική στην επιφάνεια, αλλά θα έχει έναν εύκολα αναγνωρίσιμο δείκτη για να ενημερώνει τους ανθρώπους ότι δεν είναι αυθεντική εικόνα. Αυτήν τη στιγμή το SynthID έχει κυκλοφορήσει σε “περιορισμένο αριθμό” πελατών που χρησιμοποιούν

Imagen

το μοντέλο της Google

Deepmind

που χρησιμοποιεί μηνύματα κειμένου για τη δημιουργία φωτορεαλιστικών εικόνων.

Η Google είπε ότι το SynthID θα πρέπει να είναι πιο αποτελεσματικό από τα παραδοσιακά υδατογραφήματα, τα οποία αφαιρούνται πιο εύκολα, κόβονται ή προκαλούν πόνο στα

μάτια

σε μια εικόνα. Το υδατογράφημα SynthID θα πρέπει να παραμένει ορατό ακόμα και μετά την προσθήκη φίλτρων, την αλλαγή των χρωμάτων ή την αλλαγή μεγέθους μιας εικόνας. Το εργαλείο SynthID θα πρέπει να μπορεί να δίνει στους χρήστες μια ανάγνωση σχετικά με το εάν το Imagen χρησιμοποιήθηκε ή όχι για τη δημιουργία μιας εικόνας χρησιμοποιώντας ένα σύστημα τριών επιπέδων, επιπέδου εμπιστοσύνης — πιθανό, απίθανο και πιθανώς ανιχνευμένο.

Προχωρώντας προς τα εμπρός, η Google είπε ότι ενδέχεται να επεκτείνει το εργαλείο ώστε να μπορεί να αναγνωρίζει εικόνες από άλλα μοντέλα και ότι μπορεί να ενσωματώσει το εργαλείο SynthID σε άλλα προϊόντα που προσφέρει.