Η ανάπτυξη της δυνατότητας δημιουργίας εικόνων του Gemini αναθεωρείται από την Google λόγω διαφορετικότητας

Αφού υποσχέθηκε να διορθώσει τη δυνατότητα δημιουργίας εικόνων

του

Gemini και στη συνέχεια τη διέκοψε εντελώς, η

Google

δημοσίευσε ένα

ανάρτηση

προσφέροντας μια εξήγηση για το γιατί η

τεχνολογία

του υπερδιόρθωσε την ποικιλομορφία. Ο Prabhakar Raghavan, Ανώτερος Αντιπρόεδρος Γνώσης και Πληροφοριών της εταιρείας, εξήγησε ότι οι προσπάθειες της Google να διασφαλίσει ότι το chatbot θα παράγει εικόνες που δείχνουν ένα ευρύ φάσμα ανθρώπων “απέτυχαν να λάβουν υπόψη περιπτώσεις που σαφώς δεν θα έπρεπε να εμφανίζουν εύρος”.

Επιπλέον

, το μοντέλο τεχνητής νοημοσύνης του έγινε «πολύ πιο προσεκτικό» με την πάροδο του χρόνου και αρνήθηκε να απαντήσει σε προτροπές που δεν ήταν εγγενώς προσβλητικές. «Αυτά τα δύο πράγματα οδήγησαν το μοντέλο να υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικό σε άλλες, οδηγώντας σε εικόνες που ήταν ντροπιαστικές και λανθασμένες», έγραψε ο Raghavan.

Η Google φρόντισε ώστε η γενιά εικόνων του Gemini να μην μπορεί να δημιουργήσει βίαιες ή σεξουαλικά σαφείς εικόνες πραγματικών προσώπων και ότι οι φωτογραφίες που τραβάει θα παρουσιάζουν άτομα διαφόρων εθνοτήτων και με διαφορετικά χαρακτηριστικά. Αλλά εάν ένας χρήστης του ζητήσει να δημιουργήσει εικόνες ανθρώπων που υποτίθεται ότι είναι συγκεκριμένης εθνικότητας ή φύλου, θα πρέπει να μπορεί να το κάνει. Όπως ανακάλυψαν πρόσφατα οι χρήστες, οι Gemini αρνούνταν να παράγουν αποτελέσματα για προτροπές που ζητούν ειδικά για λευκούς. Η προτροπή “Δημιουργήστε μια λαμπερή φωτογραφία α [ethnicity or nationality] ζευγάρι», για παράδειγμα, εργάστηκε για αιτήματα «Κινέζων», «Εβραίων» και «Νοτιοαφρικανών», αλλά όχι για εκείνα που ζητούσαν μια εικόνα λευκών ανθρώπων.

Ο Δίδυμος έχει επίσης προβλήματα με την παραγωγή ιστορικά ακριβών εικόνων. Όταν οι χρήστες ζήτησαν εικόνες Γερμανών στρατιωτών κατά τη διάρκεια του Β’ Παγκοσμίου Πολέμου, οι Gemini δημιούργησαν εικόνες μαύρων ανδρών και γυναικών από την Ασία που φορούσαν ναζιστική στολή. Όταν το δοκιμάσαμε, ζητήσαμε από το chatbot να δημιουργήσει εικόνες των «ιδρυτών της Αμερικής» και των «Παπών ανά τους αιώνες» και μας έδειξε φωτογραφίες που απεικονίζουν έγχρωμους ανθρώπους στους ρόλους. Όταν της ζήτησε να κάνει ιστορικά ακριβείς τις εικόνες του Πάπα, αρνήθηκε να παράγει οποιοδήποτε αποτέλεσμα.

Ο Raghavan είπε ότι η Google δεν σκοπεύει να αρνηθεί η Gemini να δημιουργήσει εικόνες κάποιας συγκεκριμένης ομάδας ή να δημιουργήσει φωτογραφίες που ήταν ιστορικά ανακριβείς. Επανέλαβε επίσης την υπόσχεση της Google ότι θα εργαστεί για τη βελτίωση της δημιουργίας εικόνων του Gemini. Αυτό συνεπάγεται “εκτεταμένες δοκιμές”, ωστόσο, επομένως μπορεί να χρειαστεί λίγος χρόνος έως ότου η εταιρεία ενεργοποιήσει ξανά τη λειτουργία. Προς το παρόν, εάν ένας χρήστης προσπαθήσει να πείσει το Gemini να δημιουργήσει μια εικόνα, το chatbot απαντά με: “

Εργα

ζόμαστε για να βελτιώσουμε την ικανότητα του Gemini να δημιουργεί εικόνες ανθρώπων. Αναμένουμε αυτή η δυνατότητα να επιστρέψει σύντομα και θα σας ειδοποιήσει στις ενημερώσεις κυκλοφορίας όταν κάνει.”