Η Google αποκαλύπτει τι πήγε στραβά με τη δημιουργία εικόνων Gemini

Η

Google

ανακοίνωσε χθες ότι απενεργοποίησε τη

δημιουργία εικόνων

ανθρώπων στους Διδύμους μετά από κριτική σχετικά με την ιστορική της ακρίβεια. Η εταιρεία εξέδωσε

σήμερα

μια πιο αναλυτική εξήγηση.

Μετά από δύο δηλώσεις κατά τη διάρκεια αυτής της εβδομάδας, η Google βγαίνει τώρα με α

μεγαλύτερη ανάρτηση ιστολογίου

γράφτηκε από τον Prabhakar Raghavan, ο οποίος είναι Senior Vice President of Search, Assistant, Ads, Geo (Χάρτες) και άλλους σχετικούς τομείς προϊόντων.

Η Google λέει ότι «δεν θέλει ο Gemini να αρνηθεί να δημιουργήσει εικόνες οποιασδήποτε συγκεκριμένης ομάδας» ή «να δημιουργήσει ανακριβείς ιστορικές ή οποιεσδήποτε άλλες εικόνες».

…αν ζητήσετε από τους Διδύμους εικόνες ενός συγκεκριμένου τύπου ατόμου — όπως «

ένας

μαύρος δάσκαλος σε μια τάξη» ή «ένας λευκός κτηνίατρος με έναν σκύλο» — ή άτομα σε συγκεκριμένα πολιτιστικά ή ιστορικά πλαίσια, θα πρέπει οπωσδήποτε να λάβετε απάντηση που αντικατοπτρίζει με ακρίβεια αυτό που ζητάτε.

Η Google εντόπισε δύο ζητήματα ως υπεύθυνα:

• «…τον συντονισμό μας για να διασφαλίσουμε ότι ο Δίδυμος έδειξε μια σειρά ανθρώπων απέτυχε να υπολογίσει περιπτώσεις που σαφώς δεν θα έπρεπε να δείχνουν εύρος».
• «…με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές – ερμηνεύοντας εσφαλμένα ορισμένες πολύ ανώδυνες προτροπές ως ευαίσθητες».

Αυτό οδήγησε τη δυνατότητα δημιουργίας εικόνας του Gemini, η οποία τροφοδοτείται από το Imagen 2, «να υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητική σε άλλες».

Όπως αναφέρθηκε προηγουμένως, η Google «θα εργαστεί για να τη βελτιώσει σημαντικά προτού την ενεργοποιήσει ξανά» για μηνύματα που σχετίζονται με άτομα και να πραγματοποιήσει «εκτεταμένες δοκιμές».

Αξιοσημείωτο σε αυτό το ιστολόγιο είναι ο τρόπος με τον οποίο η Google διακρίνει το Gemini και την

Αναζήτηση

: “Συνιστούμε να βασίζεστε στην Αναζήτηση Google, όπου χωριστά συστήματα εμφανίζουν φρέσκες, υψηλής ποιότητας πληροφορίες για αυτού του είδους τα θέματα από πηγές στον ιστό.”

Η ανάρτηση του ιστολογίου τελειώνει στην ακόλουθη σημείωση:

Δεν μπορώ να υποσχεθώ ότι ο Δίδυμος δεν θα παράγει περιστασιακά ενοχλητικά, ανακριβή ή προσβλητικά αποτελέσματα — αλλά μπορώ να υποσχεθώ ότι θα συνεχίσουμε να αναλαμβάνουμε δράση όποτε εντοπίζουμε κάποιο πρόβλημα. Η τεχνητή νοημοσύνη είναι μια αναδυόμενη τεχνολογία που είναι χρήσιμη με πολλούς τρόπους, με τεράστιες δυνατότητες, και κάνουμε ό,τι καλύτερο μπορούμε για να την αναπτύξουμε με ασφάλεια και υπευθυνότητα.