Τι συμβαίνει με το Gemini AI; Η Google σταμάτησε τη δημιουργία εικόνων!

Όταν δοκιμάσαμε πρόσφατα τη δυνατότητα δη

μι

ουργίας εικόνας του Gemini, ξαφνικά βρεθήκαμε να αναρωτιόμαστε: Είναι το Gemini AI ξύπνιο; Όταν καταχωρίσαμε οποιοδήποτε μήνυμα που περιελάμβανε εθνικότητα, παρατηρήσαμε ότι ένας Γερμανός ήταν στην πραγματικότητα Ασιάτης και ακόμη και ο Αβραάμ Λίνκολν ήταν μαύρος στα μάτια της Google.

Τι συνέβη λοιπόν όταν η Google ρωτήθηκε ότι το Gemini AI ξύπνησε;

Καλά,

Το Gemini AI έχει διακόψει την ικανότητά του να δημιουργεί εικόνες

ανθρώπων λόγω λαθών στις απεικονίσεις ιστορικών προσώπων. Το μοντέλο AI επικρίθηκε για τη δημιουργία ανακριβών εικόνων ανθρώπων από διαφορετικές εθνότητες.

Για παράδειγμα, όταν του ζητήθηκε να απεικονίσει Βίκινγκς, παρήγαγε μόνο εικόνες μαύρων ανθρώπων που φορούσαν

ρούχα

Βίκινγκς. Επιπλέον, το μοντέλο δημιούργησε μια αμφιλεγόμενη εικόνα του George Washington ως μαύρου άνδρα.

Είναι το Gemini AI ξύπνιο;

Η απεικόνιση ιστορικών προσώπων από διαφορετικές εθνότητες στο μοντέλο AI πυροδότησε διαμάχη για το is Gemini AI. Ενώ η προσπάθεια της Google ερμηνεύτηκε ως προσπάθεια να καταρρεύσει στερεότυπες εθνοτικές και σεξιστικές προοπτικές στα μοντέλα τεχνητής νοημοσύνης, δημιούργησε νέα προβλήματα.

Η Google επιβεβαίωσε την κατάσταση σε μια δήλωση που δημοσιεύτηκε στα επίσημα κανάλια της:

«Εργαζόμαστε σε πρόσφατα ζητήματα με τη δυνατότητα δημιουργίας εικόνας του Gemini. Κατά τη διάρκεια αυτής της διαδικασίας, αναστέλλουμε τη δυνατότητα δημιουργίας ανθρώπινων εικόνων. Θα ανακοινώσουμε τη διαθεσιμότητα της βελτιωμένης έκδοσης το συντομότερο δυνατό»

Και


Google Communications

Δημοσιεύτηκε αυτό στο X για να διευκρινίσει ότι το Gemini AI ξύπνησε ερωτήσεις:

Γνωρίζουμε ότι το Gemini προσφέρει ανακρίβειες σε ορισμένες απεικονίσεις δημιουργίας ιστορικών εικόνων. Εδώ είναι η δήλωσή μας.

pic.twitter.com/RfYXSgRyfz

— Επικοινωνίες Google (@Google_Comms)

21 Φεβρουαρίου 2024

Σφάλμα AI σε ιστορικά στοιχεία

Το Google Gemini έχει επικριθεί για την απεικόνιση ιστορικών προσώπων και προσωπικοτήτων. Κατά συνέπεια, όταν ζητήθηκε από το AI να απεικονίσει Βίκινγκς, παρήγαγε μόνο εικόνες μαύρων ανθρώπων που φορούσαν ιστορικά ρούχα Βίκινγκ. Το ερώτημα «Founding Fathers of America» οδήγησε σε αμφιλεγόμενες εικόνες με αναπαραστάσεις «Native American».

Μάλιστα, η απεικόνιση του Τζορτζ Ουάσιγκτον ως μαύρου προκάλεσε την οργή ορισμένων ομάδων. Το αίτημα για οπτική απεικόνιση του Πάπα απέφερε επίσης αποτελέσματα μόνο από μη λευκές εθνότητες.

Σε ορισμένες περιπτώσεις, ο Δίδυμος δήλωσε ακόμη ότι δεν μπορούσε να δημιουργήσει εικόνες ιστορικών προσώπων όπως ο Αβραάμ Λίνκολν, ο Ιούλιος Καίσαρας και ο Γαλιλαίος.

Η απόφαση της Google ήρθε μόλις μια ημέρα αφότου η Gemini ζήτησε συγγνώμη για τα λάθη της στην απεικόνιση ιστορικών προσώπων. Ορισμένοι χρήστες είχαν αρχίσει να βλέπουν μη λευκές εικόνες που δημιουργήθηκαν από AI στα αποτελέσματα όταν έψαχναν για ιστορικά πρόσωπα. Αυτό οδήγησε στη διάδοση των θεωριών συνωμοσίας στο διαδίκτυο, ιδιαίτερα αυτό

Η Google απέφευγε σκόπιμα να δείχνει λευκούς

.

Τι σημαίνει ξύπνημα;

Τα τελευταία χρόνια, το «wake» εξαπλώθηκε πέρα ​​από τις κοινότητες των Μαύρων και έγινε δημοφιλές παγκοσμίως. Τώρα, το να είσαι «ξύπνιος» σημαίνει να έχεις ενεργή επίγνωση ενός ευρέος φάσματος κοινωνικών θεμάτων, όπως ο ρατσισμός, ο σεξισμός και άλλοι τρόποι με τους οποίους οι άνθρωποι μπορούν να τυγχάνουν άδικης μεταχείρισης. Συχνά συνδέεται με άτομα που έχουν προοδευτικές ή αριστερές πολιτικές απόψεις και με όσους αγωνίζονται για κοινωνική δικαιοσύνη.

Μερικές φορές, το “wake” χρησιμοποιείται αρνητικά. Οι άνθρωποι μπορούν να χρησιμοποιήσουν το

όρος για την κριτική των άλλων για υπερβολική εστίαση σε κοινωνικά προβλήματα

ή να είστε πολύ γρήγοροι για να επικαλέσετε τους άλλους για αναίσθητη συμπεριφορά. Μπορεί επίσης να χρησιμοποιηθεί για να υπονοήσει ότι ο ακτιβισμός κάποιου είναι ψεύτικος ή ότι ενδιαφέρεται μόνο για την κοινωνική δικαιοσύνη για να φαίνεται μοντέρνος.

Το λάθος των λευκών ανθρώπων με τεχνητή νοημοσύνη Διδύμων είναι ίσως μια αντίστροφη

προκατάληψη

Οι αγώνες της Google με τους Gemini αναδεικνύουν μια μοναδική πρόκληση στη σύγχρονη ανάπτυξη AI. Ενώ οι προθέσεις πίσω από τις πρωτοβουλίες ποικιλομορφίας και ένταξης είναι αξιέπαινες, η εκτέλεση φαίνεται να έχει υπεραντιστάθμιση. Το αποτέλεσμα είναι ένα μοντέλο που φαίνεται να επιβάλλει μη λευκές αναπαραστάσεις ακόμη και όταν αυτές οι απεικονίσεις είναι ιστορικά ανακριβείς.

Αυτή η ακούσια συνέπεια εγείρει ένα περίπλοκο ερώτημα: η συμπεριφορά του Διδύμου αντανακλά μια αντίστροφη προκατάληψη; Προσπαθώντας να καταπολεμήσει την ιστορική υποεκπροσώπηση των μειονοτήτων, η Google έχει δημιουργήσει έναν αλγόριθμο που τις ευνοεί δυσανάλογα, ακόμη και σε σημείο να παραμορφώνει γνωστά ιστορικά πρόσωπα

Συνηθισμένο πρόβλημα, ασυνήθιστη λύση

Η κατάσταση των Διδύμων υπογραμμίζει τη λεπτή ισορροπία που απαιτείται κατά την αντιμετώπιση των προκαταλήψεων στο AI. Τόσο η υποεκπροσώπηση όσο και η υπερεκπροσώπηση μπορεί να είναι επιβλαβείς. Ένα ιδανικό μοντέλο τεχνητής νοημοσύνης πρέπει να αντικατοπτρίζει την πραγματικότητα με ακρίβεια, ανεξάρτητα από τη φυλή, την εθνικότητα ή το

φύλο

. Ο εξαναγκασμός της διαφορετικότητας εκεί που δεν υπάρχει φυσικά δεν είναι λύση. του

απλώς μια διαφορετική μορφή προκατάληψης

.

Αυτή η μελέτη περίπτωσης θα πρέπει να προκαλέσει συζητήσεις σχετικά με το πώς οι δημιουργοί τεχνητής νοημοσύνης μπορούν να καταπολεμήσουν την προκατάληψη χωρίς να δημιουργούν νέες ανισορροπίες. Είναι σαφές ότι οι καλές προθέσεις δεν αρκούν. πρέπει να δοθεί έμφαση στην ιστορική ακρίβεια και στην αποφυγή καλοπροαίρετων αλλά εσφαλμένων υπερδιορθώσεων.

Τι ακολουθεί τώρα;

Λοιπόν, πώς μπορεί η Google να βελτιώσει το Gemini για να εμποδίσει τους χρήστες να κάνουν ερωτήσεις για το πώς το Gemini AI ξύπνησε; Καλά:

• 
  Μεγαλύτερα σύνολα δεδομένων εκπαίδευσης
  
  : Η αύξηση του μεγέθους και της ποικιλομορφίας των δεδομένων εκπαίδευσης του Gemini θα μπορούσε να οδηγήσει σε πιο ισορροπημένα, ιστορικά ακριβή αποτελέσματα, ευτυχώς η Google ανακοίνωσε πρόσφατα το Gemini 1.5 Pro
• 
  Έμφαση στο ιστορικό πλαίσιο
  
  : Η προσθήκη μεγαλύτερης έμφασης σε ιστορικές χρονικές περιόδους και περιβάλλοντα θα μπορούσε να βοηθήσει τους Διδύμους να μάθουν να δημιουργούν εικόνες που αντικατοπτρίζουν καλύτερα γνωστές φιγούρες

Το is Gemini AI προκάλεσε διαμάχη, ενώ μια οπισθοδρόμηση παρέχει πολύτιμες γνώσεις. Δείχνει ότι η αντιμετώπιση της μεροληψίας στην τεχνητή νοημοσύνη είναι μια συνεχής, περίπλοκη διαδικασία που απαιτεί προσεκτική εξέταση, ισορροπημένες λύσεις και

προθυμία να μάθουν από τα λάθη

.

Πίστωση επιλεγμένης εικόνας


:

Jr Korpa

/

Ξεβιδώστε

.