Η Google ζητά συγνώμη για την προσβολή των λευκών

Η Google ζήτησε συγγνώμη την

Παρασκευή

λέγοντας ό

τι

η ομάδα της «έκανε λάθος» με μια νέα δυνατότητα δημιουργίας εικόνων για αυτήν


chatbot


Gemini AI


μετά από διάφορες εικόνες που δημιούργησε χωρίς λευκούς ανθρώπους έγιναν viral. Ένα στέλεχος της εταιρείας αρνήθηκε κατηγορηματικά ότι ήθελε σκόπιμα η Gemini να αρνηθεί να δημιουργήσει εικόνες οποιασδήποτε συγκεκριμένης ομάδας ανθρώπων.

«Δεν ήταν αυτό που θέλαμε. Δεν θέλαμε οι Δίδυμοι να αρνηθούν να δημιουργήσουν εικόνες κάποιας συγκεκριμένης ομάδας. Και δεν θέλαμε να δημιουργήσει ανακριβείς ιστορικές ή οποιεσδήποτε άλλες εικόνες», δήλωσε ο ανώτερος αντιπρόεδρος της Google, Prabhakar Raghavan.

Σε ένα


ανάρτηση


Raghavan—ο οποίος επιβλέπει τους τομείς της εταιρείας που φέρνουν τα περισσότερα από τα χρήματά της, συμπεριλαμβανομένων


Η Αναζήτηση Google και η επιχείρηση διαφημίσεων της


— παραδέχτηκε ξεκάθαρα ότι η γεννήτρια εικόνας του Gemini «έκανε λάθος» και ότι η εταιρεία θα προσπαθούσε να τα πάει καλύτερα. Πολλοί άνθρωποι εξοργίστηκαν με τις ιστορικά ανακριβείς εικόνες του Gemini

Μαύροι Ναζί στρατιώτες και Μαύροι Βίκινγκς

καθώς και το φαινομενικό του

άρνηση δημιουργίας εικόνων λευκών ανθρώπων

που κάποιοι θεωρούσαν ρατσιστικό.

Σύμφωνα με τον Raghavan, όλα αυτά συνέβησαν επειδή η Google δεν ήθελε ο Gemini να κάνει τα ίδια λάθη που είχαν κάνει άλλοι παραγωγοί εικόνων στο παρελθόν, όπως η δημιουργία βίαιων εικόνων, σεξουαλικών εικόνων και απεικονίσεων πραγματικών ανθρώπων.

«Τι πήγε στραβά λοιπόν; Με λίγα λόγια, δύο πράγματα. Πρώτον, ο συντονισμός μας για να διασφαλίσουμε ότι ο Δίδυμος έδειξε μια σειρά ανθρώπων απέτυχε να υπολογίσει περιπτώσεις που θα έπρεπε ξεκάθαρα

δεν

δείξτε μια σειρά», έγραψε ο Raghavan, τονίζοντας τη δική του. «Και δεύτερον, με την πάροδο του χρόνου, το

μοντέλο

έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές – ερμηνεύοντας λανθασμένα ορισμένες πολύ ανώδυνες προτροπές ως ευαίσθητες».

Ο αντιπρόεδρος της Google συνέχισε λέγοντας ότι αυτοί οι δύο παράγοντες έκαναν τον Δίδυμο να υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικός σε άλλες. Συνολικά, οδήγησε στη δημιουργία εικόνων που ήταν «ντροπιαστικές και λανθασμένες».

Η Google απενεργοποίησε τη δυνατότητα του Gemini να δημιουργεί εικόνες ανθρώπων την Πέμπτη και είπε ότι θα κυκλοφορήσει σύντομα μια βελτιωμένη έκδοση. Ωστόσο, ο Raghavan φάνηκε να αμφισβητεί το “σύντομα” κομμάτι, λέγοντας ότι η εταιρεία θα εργαστεί για να βελτιώσει σημαντικά το χαρακτηριστικό μέσω εκτεταμένων δοκιμών πριν το ενεργοποιήσει ξανά.

Ο Raghavan δήλωσε ότι δεν μπορούσε να υποσχεθεί ότι ο Gemini δεν θα παράγει πιο ενοχλητικά, ανακριβή ή προσβλητικά αποτελέσματα στο μέλλον, αλλά πρόσθεσε ότι η Google θα συνεχίσει να παρεμβαίνει για να το διορθώσει.

«Ένα πράγμα που πρέπει να έχετε κατά νου: Το Gemini είναι χτισμένο ως εργαλείο δημιουργικότητας και παραγωγικότητας και μπορεί να μην είναι πάντα αξιόπιστο, ειδικά όταν πρόκειται για τη δημιουργία εικόνων ή κειμένου για τρέχοντα γεγονότα, εξελισσόμενες ειδήσεις ή θέματα με κουμπιά. Θα κάνει λάθη», είπε ο Raghavan.