Η Amazon ανακοινώνει το Titan AI Image Generator

Πόσο δύσκολο είναι να ελέγξετε εάν μια εικόνα είναι τεχνητής νοημοσύνης deepfake ή όχι; Λοιπόν, η Amazon ισχυρίζεται ότι έχει κάποιου είδους απάντηση με το δικό της σύστημα υδατογράφησης για τον Titan, τη νέα γεννήτρια τέχνης AI που ανακοίνωσε σήμερα. Φυσικά, δεν είναι τόσο εύκολο. Κάθε επιχείρηση που κάνει χρήση του μοντέλου θα πρέπει να περιγράψει πώς οι χρήστες μπορούν να ελέγξουν αν αυτή η εικόνα που βρήκαν στο διαδίκτυο ήταν στην πραγματικότητα απλώς ένα ακόμη βαθύ ψεύτικο AI.

Η Amazon δεν πρόσφερε πολλά—ή πραγματικά κανένα—

Λεπτομέριες

σχετικά με

του Τιτάνα

δυνατότητες, πόσο μάλλον τα εκπαιδευτικά του δεδομένα. Ο αντιπρόεδρος της Amazon Web Services για μηχανική μάθηση, ο Swami Sivasubramanian είπε στους παρευρισκόμενους στο συνέδριο re:Invent της εταιρείας ότι μπορεί να δημιουργήσει μια «ρεαλιστική» εικόνα ενός ιγκουάνα, να αλλάξει το φόντο της εικόνας και να χρησιμοποιήσει ένα εργαλείο δημιουργίας τύπου γεμίσματος για να επεκτείνει τα όρια της εικόνας . Δεν είναι κάτι που δεν έχουμε ξαναδεί, αλλά το μοντέλο περιορίζεται στους πελάτες AWS μέσω του


Υπόβαθρο


πλατφόρμα. Είναι ένα θεμελιώδες μοντέλο για τις επιχειρήσεις να ενσωματωθούν στις δικές τους πλατφόρμες.

Ο γίγαντας παροχής υπηρεσιών cloud είναι όπως πολλές άλλες εταιρείες που αναθέτουν το βάρος σε μεμονωμένους χρήστες να καταλάβουν εάν μια εικόνα δημιουργήθηκε από AI ή όχι. Η εταιρεία είπε ότι αυτή η νέα γεννήτρια εικόνας AI θα βάζει ένα «αόρατο υδατογράφημα» σε κάθε εικόνα που δημιουργείται μέσω του μοντέλου. Αυτό είναι «σχεδιασμένο για να βοηθήσει στη μείωση της εξάπλωσης παραπληροφόρησης παρέχοντας έναν διακριτικό μηχανισμό για τον εντοπισμό εικόνων που δημιουργούνται από AI».

Το τι είδους υδατογράφημα είναι αυτό ή πώς οι εξωτερικοί χρήστες μπορούν να αναγνωρίσουν την εικόνα, δεν είναι αμέσως σαφές. Άλλες εταιρείες όπως η Google DeepMind έχουν ισχυριστεί ότι έχουν

βρήκε τρόπους να διαταράξει τα pixel μιας εικόνας που δημιουργήθηκε από AI

προκειμένου να δημιουργηθεί ένα αναλλοίωτο υδατογράφημα. Το Gizmodo επικοινώνησε με την Amazon για διευκρινίσεις, αλλά δεν ακούσαμε αμέσως απάντηση.

Είπε ο Αντιπρόεδρος της AWS της γενετικής AI Vasi Philomin


Το χείλος


ότι το υδατογράφημα δεν επηρεάζει την ποιότητα της εικόνας, αν και δεν μπορεί να “περικοπεί ή να συμπιεστεί”. Δεν είναι επίσης μια απλή ετικέτα μεταδεδομένων, προφανώς.

Η Adobe χρησιμοποιεί ετικέτες μεταδεδομένων

για να δηλώσει εάν μια εικόνα που δημιουργήθηκε με το μοντέλο Firefly είναι τεχνητής νοημοσύνης ή όχι. Απαιτεί από τους χρήστες να μεταβούν σε ξεχωριστό ιστότοπο για να βρουν εάν μια εικόνα περιέχει την ετικέτα μεταδεδομένων ή όχι.

Για να καταλάβουν εάν μια εικόνα είναι AI, οι χρήστες θα πρέπει να συνδεθούν σε ένα ξεχωριστό API. Θα εναπόκειται σε κάθε μεμονωμένη εταιρεία που θα κάνει χρήση του μοντέλου να πει στους χρήστες πώς να έχουν πρόσβαση σε αυτήν την τεχνολογία σάρωσης AI.

Με απλά λόγια, θα είναι απίστευτα ενοχλητικό να καταλάβουμε ποιες εικόνες είναι τεχνητής νοημοσύνης, ειδικά αν σκεφτεί κανείς ότι κάθε εταιρεία δημιουργεί ένα ξεχωριστό σύστημα υδατογράφησης για το AI της.

Τα μοντέλα AI της Amazon μπορεί να είναι τα πιο κλειστά από οποιαδήποτε μεγάλη εταιρεία που έχει κυκλοφορήσει μέχρι στιγμής. Την Τρίτη, η εταιρεία αποκάλυψε το “Q,”

ένα προσαρμόσιμο chatbot για επιχειρήσεις

, αν και δεν έχουμε ιδέα για τα υποκείμενα μοντέλα ή τα δεδομένα εκπαίδευσης. Σε ένα


ανάρτηση


ο κορυφαίος κατασκευαστής τσιπ τεχνητής νοημοσύνης Nvidia είπε ότι η Amazon το χρησιμοποίησε

NeMo πλαίσιο

για την εκπαίδευση του νέου μοντέλου. Το NeMo περιλαμβάνει προεκπαιδευμένα μοντέλα που προορίζονται να επιταχύνουν την ανάπτυξη νέας τεχνητής νοημοσύνης, αλλά αυτό δεν προσφέρει πολλές υποδείξεις σχετικά με το είδος περιεχομένου που εισήχθη στη νέα γεννήτρια τέχνης AI.

Υπάρχει λόγος για τον οποίο η εταιρεία δεν θα ήθελε να μιλήσει πολύ για το τι συνέβη σε αυτό το AI. Υπήρξαν πολλοί τύποι καλλιτεχνών που επέκριναν και μάλιστα μήνυσαν άλλες εταιρείες, υποστηρίζοντας ότι όσοι κατασκεύαζαν γεννήτριες τέχνης τεχνητής νοημοσύνης χρησιμοποίησαν τη δουλειά τους χωρίς άδεια για εκπαίδευση τεχνητής νοημοσύνης. Η Amazon έχει ήδη υποσχεθεί να θωρακίσει εταιρείες που χρησιμοποιούν το γλωσσικό μοντέλο του τεχνολογικού γίγαντα κωδικοποίησης AI

Code Whisperer

αν κάποιος προσπαθήσει να κάνει μήνυση. Την Τετάρτη, ο Sivasubramanian είπε στους παρευρισκόμενους ότι η πολιτική αποζημίωσης θα ισχύει και για το μοντέλο Titan.

Η AWS ισχυρίζεται ότι το μοντέλο Titan έχει «ενσωματωμένη υποστήριξη για την υπεύθυνη χρήση της τεχνητής νοημοσύνης ανιχνεύοντας και αφαιρώντας επιβλαβές περιεχόμενο από τα δεδομένα, απορρίπτοντας ακατάλληλες εισόδους χρηστών και φιλτράροντας τις εξόδους του μοντέλου». Απλώς αυτό που σημαίνει είναι στον αέρα χωρίς να έχετε την ευκαιρία να το δοκιμάσετε. Όπως με όλα τα AI που ανακοινώθηκαν στο συνέδριο re:Invent, το μοντέλο είναι κλειδωμένο σφιχτά εκτός από τους πελάτες που πληρώνουν εταιρικούς πελάτες.