Προβλήματα με τη γεννήτρια εικόνας Gemini AI της Google: Τι συνέβη;

Νωρίτερα αυτή την εβδομάδα, οι άνθρωποι άρχισαν να αναφέρουν ότι η λειτουργία δη

μι

ουργίας εικόνων στο

chatbot

Gemini (πρώην

Bard

) της Google δημιουργούσε ακατάλληλα έργα τέχνης. Πιο συγκεκριμένα, το σύστημα απεικόνιζε άτομα με σκούρα χρώματα δέρματος σε ιστορικούς ή φανταστικούς ρόλους

που

δεν ήταν κατάλληλοι για αυτούς τους χαρακτήρες.

Μετά την αναφορά της τέχνης, η Google ανακοίνωσε ότι θα κλείσει προσωρινά τη δυνατότητα του Gemini να δημιουργεί έργα τέχνης ανθρώπων με τη δημιουργία εικόνων. Αργά την Παρασκευή, η εταιρεία έδωσε μια εξήγηση για το τι συνέβη με τους Gemini μέσα

μια ανάρτηση ιστολογίου

.

Η ανάρτηση, που γράφτηκε από τον Ανώτερο Αντιπρόεδρο της Google,

Prabhakar Raghavan

, αποκάλυψε αρχικά ότι η εταιρεία δημιούργησε κανόνες για τις προτροπές δημιουργίας εικόνων Gemini που η Google πίστευε ότι θα τη βοηθούσαν να αποφύγει τη δημιουργία έργων τέχνης που θα απεικόνιζαν βίαιες ή σεξουαλικές πράξεις. Επίσης, δεν ήθελε το chatbot να κάνει εικόνες πραγματικών ανθρώπων.

Ταυτόχρονα, η Google ήθελε επίσης να επιτρέψει στους Διδύμους να απεικονίζουν μια σειρά από εθνότητες, εάν ένα άτομο ζητούσε από το chatbot πιο γενικές εικόνες, όπως να δείχνει άτομα σε μια ποδοσφαιρική ομάδα. Εάν ένα άτομο ήθελε να απεικονιστεί ένας συγκεκριμένος τύπος ατόμου, όπως ένας λευκός γιατρός ή ένας μαύρος δάσκαλος, ο Δίδυμος θα πρέπει επίσης να μπορεί να κάνει και αυτό το έργο τέχνης.

Στη συνέχεια ο Raghavan έγραψε ότι δύο συγκεκριμένα πράγματα στο κείμενο του Gemini προτρέπουν τα προστατευτικά κιγκλιδώματα να επιτρέπουν τη δημιουργία ακατάλληλων εικόνων αυτής της εβδομάδας:

Πρώτον, ο συντονισμός μας για να διασφαλίσουμε ότι ο Δίδυμος έδειξε μια σειρά ανθρώπων απέτυχε να υπολογίσει περιπτώσεις που σαφώς δεν θα έπρεπε να εμφανίζουν εύρος. Και δεύτερον, με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές – ερμηνεύοντας εσφαλμένα ορισμένες πολύ ανώδυνες προτροπές ως ευαίσθητες.

Αυτά τα δύο πράγματα οδήγησαν το μοντέλο να υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικό σε άλλες, οδηγώντας σε εικόνες που ήταν ενοχλητικές και λανθασμένες.

Δεν υπάρχει καμία πληροφορία για το πόσο χρόνο θα χρειαστεί η Google για να φτιάξει τα προστατευτικά της κιγκλιδώματα, έτσι ώστε να ενεργοποιηθεί ξανά η δημιουργία έργων τέχνης με άτομα στη δημιουργία εικόνων Gemini. Ο Raghavan δήλωσε ότι, ενώ δεν μπορεί να υποσχεθεί ότι ο Gemini δεν θα κάνει ποτέ προσβλητικό έργο τέχνης, η Google “θα συνεχίσει να αναλαμβάνει δράση όποτε εντοπίζουμε ένα πρόβλημα”.