Google αποκαλύπτει τα αίτια των προβλημάτων

Η Google βρέθηκε σε ζεστό

νερό

αφού ο Gemini πιάστηκε να δημιουργεί εικόνες ανθρώπων που ήταν ανακριβείς και προσβλητικές. Η εταιρεία έκτοτε έχει απενεργοποιήσει τη δυνατότητα του LLM να παράγει εικόνες ανθρώπων.

Τώρα

η εταιρεία κυκλοφόρησε μια συγγνώμη, καθώς και μια εξήγηση για το τι συνέβη.

Σε ένα

ανάρτηση

, η εταιρεία που εδρεύει στο Mountain View ζήτησε συγγνώμη για το λάθος του Gemini, δηλώνοντας ότι ήταν «προφανές ότι αυτό το χαρακτηριστικό έχασε το σημάδι» και ότι «λυπούμαστε το χαρακτηριστικό δεν λειτούργησε καλά». Σύμφωνα με την Google, δύο ήταν τα πράγματα που οδήγησαν στη δημιουργία αυτών των εικόνων.

Όπως αναφέραμε νωρίτερα, πιστεύαμε ότι ήταν πιθανό ο Gemini να διόρθωνε υπερβολικά για κάτι που ήταν πρόβλημα με τις εικόνες που δημιουργούνται από την

τεχνητή νοημοσύνη

, οι οποίες αντικατοπτρίζουν τον φυλετικά ποικιλόμορφο κόσμο μας. Φαίνεται ότι αυτό ακριβώς συνέβη.

Η εταιρεία εξηγεί ότι το πρώτο πρόβλημα σχετίζεται με τον τρόπο με τον οποίο το Gemini είναι συντονισμένο για να διασφαλίσει ότι μια σειρά ανθρώπων απεικονίζεται στις εικόνες. Η Google παραδέχεται ότι απέτυχε «να υπολογίσει περιπτώσεις που σαφώς δεν πρέπει να εμφανίζουν εύρος».

Το δεύτερο ζήτημα πηγάζει από το πώς ο Δίδυμος επιλέγει ποιες προτροπές θεωρούνται ευαίσθητες. Η Google ισχυρίζεται ότι η τεχνητή νοημοσύνη έγινε πιο προσεκτική από ό,τι περίμενε και αρνήθηκε να απαντήσει σε ορισμένα μηνύματα.

Προς το παρόν, η Google σχεδιάζει να διατηρήσει τη δημιουργία εικόνων ανθρώπων στον πάγο μέχρι να γίνουν σημαντικές βελτιώσεις στο μοντέλο.