Η Google αποφασίζει να σταματήσει τα εργαλεία εικόνας Gemini εξαιτίας των ‘ανακρίβειών’ που προκαλεί η τεχνητή νοημοσύνη – Τι σημαίνει αυτό για εσάς;

Αντιμετωπίζοντας κατηγορίες για μεροληψία, η Google αναγκάστηκε αυτή την εβδομάδα να διακόψει το τμήμα δημιουργίας εικόνων του Gemini, του μοντέλου παραγωγής τεχνητής νοημοσύνης της. Η προσωρινή αναστολή ακολουθεί τις αντιδράσεις των χρηστών που την επέκριναν ότι φέρεται ότι έδωσε υπερβολική έμφαση στην εθνοτική ποικιλομορφία, μερικές φορές σε βάρος της ακρίβειας. Πριν από την παύση των υπηρεσιών της Google, το Gemini βρέθηκε να παράγει φυλετικά διαφορετικές απεικονίσεις

Ναζί της εποχής του Β’ Παγκοσμίου Πολέμου

,

Πολεμιστές Βίκινγκς

οι Ιδρυτές των ΗΠΑ και άλλες ιστορικά λευκές φιγούρες.

λατρεύουμε τη συνεχή δέσμευση της Google για τη διαφορετικότητα εδώ

pic.twitter.com/kexIJImB2D

— pagliacci ο μισητός 🌝 (@Slatzism)

21 Φεβρουαρίου 2024

Το

υ ζήτησα να δημιουργήσει εικόνες του Βασιλιά της Αγγλίας τις προάλλες 🤣

pic.twitter.com/NEOqDELwmz

— Alexander Leishman 🇺🇸 (@Leishman)

20 Φεβρουαρίου 2024

Σε μια δήλωση που κυκλοφόρησε την Τετάρτη, η Google είπε ότι οι δυνατότητες δημιουργίας εικόνας του Gemini ήταν «

χάνει το σημάδι

» και είπε ότι «εργαζόταν για να βελτιώσει αμέσως αυτού του είδους τις απεικονίσεις». Google τότε

ανεστάλη πρόσβαση

στα εργαλεία δημιουργίας εικόνας συνολικά το πρωί της Πέμπτης και είπε ότι θα κυκλοφορήσει σύντομα μια νέα έκδοση του μοντέλου. Ο Δίδυμος αρνήθηκε να δημιουργήσει εικόνες όταν

PopSci

δοκίμασε την υπηρεσία την Πέμπτη το πρωί, αντ’ αυτού δηλώνοντας: «

Εργα

ζόμαστε για να βελτιώσουμε την ικανότητα του Gemini να δημιουργεί εικόνες ανθρώπων. Αναμένουμε ότι αυτή η λειτουργία θα επιστρέψει σύντομα και θα σας ειδοποιήσει σε ενημερώσεις κυκλοφορίας όταν συμβεί.” Μέχρι τη στιγμή που γράφονται αυτές οι γραμμές, ο Δίδυμος είναι ακόμα κάτω. Κατεύθυνση της Google

PopSci

προς την

την τελευταία του δήλωση

όταν έφτασε για σχόλιο.

Οι γενιές εικόνας των Διδύμων προκαλούν παράπονα

Η Google ξεκίνησε επίσημα να κυκλοφορεί τα εργαλεία δημιουργίας εικόνων στο Gemini νωρίτερα αυτό το μήνα, αλλά η διαμάχη σχετικά με τις μη λευκές απεικονίσεις της εντάθηκε αυτή την εβδομάδα. Οι χρήστες στο X, πρώην Twitter, άρχισαν να μοιράζονται στιγμιότυπα οθόνης με παραδείγματα όπου το Gemini

φέρεται να δημιούργησε εικόνες μη λευκών ανθρώπων

όταν ζητήθηκε συγκεκριμένα να απεικονίσει ένα λευκό άτομο. Σε άλλες περιπτώσεις ο Δίδυμος

φέρεται να φαίνεται να υπερεκπροσωπεί τους μη λευκούς

όταν τους ζητήθηκε να δημιουργήσουν εικόνες ιστορικών ομάδων που ήταν κυρίως λευκές, ισχυρίζονται οι κριτικοί.

Οι αναρτήσεις τράβηξαν γρήγορα την προσοχή των δεξιών κύκλων των μέσων κοινωνικής δικτύωσης, οι οποίοι διαφώνησαν με αυτό που έκαναν

αντιλαμβάνονται ως βαριές πρωτοβουλίες ποικιλομορφίας και δικαιοσύνης

στην αμερικανική πολιτική και επιχειρηματική δραστηριότητα. Σε πιο ακραίους κύκλους, ορισμένοι λογαριασμοί χρησιμοποίησαν τις εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη για να υποκινήσουν μια αβάσιμη θεωρία συνωμοσίας που κατηγορούσε την Google ότι σκόπιμα προσπαθεί να εξαλείψει λευκούς από τα αποτελέσματα εικόνων Gemini.

Πώς απάντησε η Google στη διαμάχη για τους Διδύμους;

Αν και η διαμάχη γύρω από το Gemini φαίνεται να προέρχεται από τους επικριτές που υποστηρίζουν ότι η Google δεν έχει θέση

αρκετά

Έμφαση στα λευκά άτομα, οι ειδικοί που μελετούν την τεχνητή νοημοσύνη λένε εδώ και καιρό ότι τα μοντέλα τεχνητής νοημοσύνης κάνουν ακριβώς το αντίθετο και υποεκπροσωπούνται τακτικά μη λευκές ομάδες. Σε σχετικά σύντομο χρονικό διάστημα, συστήματα τεχνητής νοημοσύνης που έχουν εκπαι

δευτ

εί σε πολιτιστικά προκατειλημμένα σύνολα δεδομένων έχουν συγκεντρώσει μια

ιστορία

επανάληψης και ενίσχυσης στερεοτύπων για τις φυλετικές μειονότητες. Οι ερευνητές ασφάλειας λένε ότι αυτός είναι ο λόγος για τον οποίο οι εταιρείες τεχνολογίας που κατασκευάζουν μοντέλα τεχνητής νοημοσύνης πρέπει να φιλτράρουν και να συντονίζουν υπεύθυνα τα προϊόντα τους. Οι γεννήτριες εικόνων και τα μοντέλα τεχνητής νοημοσύνης γενικότερα, συχνά επαναλαμβάνουν ή ενισχύουν πολιτισμικά προκατειλημμένα δεδομένα που απορροφώνται από τα δεδομένα εκπαίδευσης σε ένα δυναμικό ερευνητή που μερικές φορές αναφέρεται ως “

σκουπίδια μέσα, σκουπίδια έξω.

”

Μια εκδοχή αυτού διαδραματίστηκε μετά την κυκλοφορία της γεννήτριας εικόνας DALL-E του OpenAI το 2022, όπου ερευνητές τεχνητής νοημοσύνης επέκριναν την εταιρεία για φερόμενους

ενισχύοντας τα παλαιά στερεότυπα φύλου και φυλής

. Εκείνη την εποχή, για παράδειγμα, οι χρήστες που ζητούσαν από το DALL-E να παράγει εικόνες ενός «οικοδόμου» ή ενός «αεροσυνοδού» θα παρήγαγαν αποτελέσματα που απεικονίζουν αποκλειστικά άνδρες και γυναίκες αντίστοιχα. Το OpenAI έκανε από τότε τροποποιήσεις στα μοντέλα του για να προσπαθήσει να αντιμετωπίσει αυτά τα ζητήματα.

[ Related: How this programmer and poet thinks we should tackle racially biased AI

]

Είναι πιθανό η Google να προσπαθούσε να εξισορροπήσει κάποιες προκαταλήψεις με τους Gemini, αλλά έκανε μια υπερβολική διόρθωση κατά τη διάρκεια αυτής της διαδικασίας. Σε ένα

δήλωση

που κυκλοφόρησε την Τετάρτη, η Google είπε ότι το Gemini δημιουργεί ένα ευρύ φάσμα ανθρώπων, κάτι που είπε ότι είναι «γενικά καλό, επειδή οι άνθρωποι σε όλο τον κόσμο το χρησιμοποιούν». Η Google δεν απάντησε

PopSci’s

αιτήματα για σχόλια ζητώντας πληροφορίες σχετικά με το γιατί ο Δίδυμος μπορεί να παρήγαγε τα επίμαχα αποτελέσματα εικόνας.

Δεν είναι αμέσως ξεκάθαρο τι έκανε τον Δίδυμο να παράγει τις εικόνες που έκανε, αλλά ορισμένοι σχολιαστές έχουν θεωρίες. Σε μια

συνέντευξη

με

Πλατφόρμας

Ο Κέισι Νιούτον την Πέμπτη, πρώην επικεφαλής εμπιστοσύνης και ασφάλειας του OpenAI, Ντέιβ Γουίλνερ, δήλωσε ότι η εξισορρόπηση του τρόπου με τον οποίο τα μοντέλα τεχνητής νοημοσύνης παράγουν υπεύθυνα περιεχόμενο είναι περίπλοκη και η προσέγγιση της Google «δεν ήταν ακριβώς κομψή». Ο Wilners υποψιάστηκε ότι αυτά τα λάθη θα μπορούσαν να αποδοθούν, τουλάχιστον εν μέρει, στην έλλειψη πόρων που παρασχέθηκαν στους μηχανικούς της Google για να προσεγγίσουν σωστά τη διαφοροποιημένη περιοχή.

[ Related:


OpenAI’s Sora pushes us one mammoth step closer towards the AI

abyss



]

Ο Ανώτερος Διευθυντής Προϊόντος του Gemini, Jack Krawczyk, το εξήγησε περαιτέρω σε μια ανάρτηση στο X, όπου είπε ότι οι μη λευκές απεικονίσεις ανθρώπων του μοντέλου αντικατοπτρίζουν την «παγκόσμια βάση χρηστών» της εταιρείας. Ο Krawczyk υπερασπίστηκε την προσέγγιση της Google ως προς την εκπροσώπηση και την προκατάληψη, η οποία, όπως είπε, ευθυγραμμίζεται με την προσέγγιση της εταιρείας

βασικές αρχές AI

αλλά είπε ότι ενδέχεται να εμφανίζονται ορισμένες «ανακρίβειες» όσον αφορά τις ιστορικές προτροπές.

«Γνωρίζουμε ότι το Gemini προσφέρει ανακρίβειες σε ορισμένες απεικονίσεις δημιουργίας ιστορικών εικόνων και εργαζόμαστε για να το διορθώσουμε αμέσως», Krawczyk

είπε σε έναν πλέον περιορισμένο λογαριασμό

. «Τα ιστορικά πλαίσια έχουν περισσότερες αποχρώσεις και θα συντονιστούμε περαιτέρω για να το δεχθούμε», πρόσθεσε.

Ούτε ο Krawczyk ούτε η Google απάντησαν αμέσως στις επικρίσεις χρηστών που είπαν ότι οι επιλογές φυλετικής εκπροσώπησης εκτείνονται πέρα ​​από αυστηρά ιστορικά στοιχεία. Αυτοί οι ισχυρισμοί, αξίζει να σημειωθεί, πρέπει να ληφθούν με έναν βαθμό σκεπτικισμού. Ορισμένοι χρήστες εξέφρασαν διαφορετικές εμπειρίες και

PopSci

δεν μπόρεσε να επαναλάβει τα ευρήματα. Σε ορισμένες περιπτώσεις, άλλοι δημοσιογράφοι ισχυρίστηκαν ότι ο Δίδυμος είχε

αρνήθηκε να δημιουργήσει εικόνες

για προτροπές που ζητούν από το AI να δημιουργήσει εικόνες είτε μαύρων είτε λευκών ανθρώπων. Με άλλα λόγια, οι εμπειρίες των χρηστών με τους Διδύμους τις τελευταίες ημέρες φαίνεται να διέφεραν πολύ.

Η Google δημοσίευσε μια ξεχωριστή δήλωση την Πέμπτη λέγοντας ότι σταματούσε τις δυνατότητες δημιουργίας εικόνων του Gemini, ενώ εργαζόταν για να αντιμετωπίσει «ανακρίβειες» και προφανώς δυσανάλογες αναπαραστάσεις. Η εταιρεία είπε ότι θα επανακυκλοφορήσει μια νέα έκδοση του μοντέλου «σύντομα», αλλά δεν έδωσε κάποια συγκεκριμένη ημερομηνία.

Εργαζόμαστε ήδη για να αντιμετωπίσουμε πρόσφατα προβλήματα με τη δυνατότητα δημιουργίας εικόνας του Gemini. Ενώ το κάνουμε αυτό, θα διακόψουμε τη δημιουργία εικόνων των ανθρώπων και θα επανακυκλοφορήσουμε σύντομα μια βελτιωμένη έκδοση.

https://t.co/SLxYPGoqOZ

— Επικοινωνίες Google (@Google_Comms)

22 Φεβρουαρίου 2024

Αν και δεν είναι ακόμα σαφές τι προκάλεσε το Gemini να δημιουργήσει το περιεχόμενο που οδήγησε στην προσωρινή παύση του, η γεύση της διαδικτυακής απάντησης που έλαβε η Google πιθανότατα δεν θα τελειώσει σύντομα για τους κατασκευαστές AI.