Οι εικόνες που δημιουργούνται από εργαλεία τεχνητής νοημοσύνης γίνονται όλο και πιο δύσκολο να διακριθούν από αυτές που δημιούργησαν οι άνθρωποι. Οι εικόνες που δημιουργούνται από την
τεχνητή νοημοσύνη
μπορούν να πολλαπλασιάσουν παραπληροφόρηση σε τεράστιες αναλογίες, οδηγώντας στην ανεύθυνη χρήση της τεχνητής νοημοσύνης.
Για το σκοπό αυτό, η
Google
αποκάλυψε ένα
νέο εργαλείο SynthID
που μπορεί να διαφοροποιήσει τις εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη από αυτές που δημιουργούνται από τον άνθρωπο.Το εργαλείο μπορεί να ανιχνεύσει εικόνες που δημιουργούνται από AI ακόμα και μετά από επεξεργασία, αλλαγή χρωμάτων ή προσθήκη φίλτρων.
Το εργαλείο, που δημιουργήθηκε από την ομάδα DeepMind, προσθέτει ένα ανεπαίσθητο ψηφιακό υδατογράφημα σε εικόνες που δημιουργούνται με τεχνητή νοημοσύνη, όπως μια υπογραφή. Το ίδιο εργαλείο μπορεί αργότερα να ανιχνεύσει αυτό το υδατογράφημα για να επισημάνει ποιες εικόνες δημιουργήθηκαν από την τεχνητή νοημοσύνη, ακόμη και μετά από τροποποιήσεις, όπως προσθήκη φίλτρων, συμπίεση, αλλαγή χρωμάτων και άλλα.
Το SynthID συνδυάζει δύο μοντέλα βαθιάς μάθησης σε ένα εργαλείο. Το ένα προσθέτει οπτικά το υδατογράφημα στο αρχικό περιεχόμενο με ανεπαίσθητο τρόπο με γυμνό μάτι και το άλλο αναγνωρίζει τις υδατογραφημένες εικόνες.
Επί του παρόντος, το SynthID δεν μπορεί να εντοπίσει όλες τις εικόνες που δημιουργούνται από AI, καθώς προς το παρόν περιορίζεται σε αυτές που δημιουργούνται με το εργαλείο κειμένου σε εικόνα της Google, Imagen. Αλλά αυτό είναι ένα σημάδι ενός πολλά υποσχόμενου
μέλλον
τος για την υπεύθυνη τεχνητή νοημοσύνη, ειδικά εάν άλλες εταιρείες υιοθετήσουν το SynthID στα εργαλεία παραγωγής τεχνητής νοημοσύνης τους.
Το εργαλείο θα κυκλοφορήσει σταδιακά σε πελάτες Vertex AI που χρησιμοποιούν Imagen και είναι διαθέσιμο μόνο σε αυτήν την πλατφόρμα. Ωστόσο, το
Google DeepMind
ελπίζει να το καταστήσει διαθέσιμο σε άλλα
προϊόντα
Google και σε τρίτους σύντομα.
