Η Google απαγορεύει τη δημιουργία ανθρώπων από το Gemini! Τι συμβαίνει με την ποικιλομορφία στις ιστορικές εικόνες;

Η Google ανακοίνωσε την Πέμπτη ότι διακόπτει την ικανότητα του chatbot Gemini να δημιουργεί ανθρώπους. Η κίνηση έρχεται μετά από viral αναρτήσεις κοινωνικής δικτύωσης που έδειξαν ότι το εργαλείο AI υπερδιόρθωνε τη διαφορετικότητα, δημιουργώντας «ιστορικές» εικόνες των Ναζί, των Ιδρυτών της Αμερικής και του Πάπα ως έγχρωμων ανθρώπων.

“Εργαζόμαστε ήδη για να αντιμετωπίσουμε πρόσφατα προβλήματα με τη δυνατότητα δημιουργίας εικόνων του Gemini”, η Google

αναρτήθηκε

στο Χ (

μέσω


Οι Νιου Γιορκ Ταιμς

). “Ενώ το κάνουμε αυτό, θα σταματήσουμε τη

δημιουργία εικόνων

των ανθρώπων και θα επανακυκλοφορήσουμε σύντομα μια βελτιωμένη έκδοση.”

Ο χρήστης X @JohnLu0x

αναρτήθηκε

στιγμιότυπα οθόνης των αποτελεσμάτων του Gemini για την προτροπή, “Δημιουργήστε μια εικόνα ενός Γερμανού Στρατιώτη του 1943”. (Η ορθογραφία του “Στρατιώτη” ήταν σκόπιμη για να εξαπατήσει την τεχνητή νοημοσύνη ώστε να παρακάμψει τα φίλτρα περιεχομένου της για να δημιουργήσει μπλοκαρισμένες κατά τα άλλα ναζιστικές εικόνες.) Τα αποτελέσματα που δημιουργήθηκαν φαίνεται να δείχνουν Μαύρους, Ασιάτες και Ιθαγενείς στρατιώτες που φορούν ναζιστικές στολές.

Άλλοι χρήστες κοινωνικής δικτύωσης επέκριναν την Gemini για την παραγωγή εικόνων για την προτροπή, «Δημιουργήστε μια εντυπωσιακή φωτογραφία ενός [ethnicity] ζευγάρι.” Έβγαλε με επιτυχία εικόνες όταν χρησιμοποιούσε προτροπές “Κινέζικα”, “Εβραϊκά” ή “Νοτιοαφρικανικά”, αλλά αρνήθηκε να παράγει αποτελέσματα για “λευκό”. «Δεν μπορώ να εκπληρώσω το αίτημά σας λόγω της πιθανότητας να διαιωνιστούν επιβλαβή στερεότυπα και προκαταλήψεις που σχετίζονται με συγκεκριμένες εθνότητες ή τόνους δέρματος», απάντησε ο Δίδυμος στο τελευταίο αίτημα.

“John L.”, ο οποίος βοήθησε να ξεκινήσει η αντίδραση,

θεωρητικοποιεί

ότι η Google εφάρμοσε μια καλοπροαίρετη αλλά νωχελικά προσαρμοσμένη λύση σε ένα πραγματικό πρόβλημα. «Το σύστημά τους που τους ζητά να προσθέσουν ποικιλομορφία στις απεικονίσεις των ανθρώπων δεν είναι πολύ έξυπνο (δεν λαμβάνει υπόψη το φύλο σε ιστορικά αντρικούς ρόλους όπως ο πάπας, δεν λαμβάνει υπόψη τη φυλή σε ιστορικές ή εθνικές απεικονίσεις)», δημοσίευσε ο χρήστης. Αφού η ταξιαρχία κατά του «ξυπνήματος» του Διαδικτύου δέσμευσε στις αναρτήσεις τους, ο χρήστης διευκρίνισε ότι υποστηρίζει ποικιλόμορφη εκπροσώπηση, αλλά πιστεύει ότι η «ανόητη κίνηση» της Google ήταν ότι απέτυχε να το πράξει «με αποχρώσεις».

Πριν σταματήσει την ικανότητα του Gemini να παράγει ανθρώπους, η Google έγραψε: «Εργαζόμαστε για να βελτιώσουμε

αμέσως

αυτού του είδους τις απεικονίσεις. Η γενιά εικόνων Al του Gemini δημιουργεί ένα ευρύ φάσμα ανθρώπων. Και αυτό είναι γενικά καλό γιατί το χρησιμοποιούν άνθρωποι σε όλο τον κόσμο. Αλλά χάνει το σημάδι εδώ».

Το επεισόδιο θα μπορούσε να θεωρηθεί ως μια (πολύ λιγότερο λεπτή) ανάκληση για την κυκλοφορία του Bard το 2023. Το αρχικό chatbot AI της Google ξεκίνησε με δύσκολη θέση όταν μια διαφήμιση για το chatbot στο Twitter (τώρα X) περιλάμβανε ένα ανακριβές «γεγονός» σχετικά με το διαστημικό τηλεσκόπιο James Webb.

Όπως κάνει συχνά η Google, μετονομάστηκε στον Bard με την ελπίδα να του δώσει μια νέα αρχή. Συμπίπτοντας με μια μεγάλη ενημέρωση απόδοσης και χαρακτηριστικών, η εταιρεία μετονόμασε το chatbot Gemini νωρίτερα αυτό το μήνα, καθώς η εταιρεία αγωνίζεται να διατηρήσει τη θέση της ενάντια στο

ChatGPT

του OpenAI και το

Microsoft

Copilot — τα οποία αποτελούν υπαρξιακή απειλή για τη μηχανή αναζήτησής της (και, ως εκ τούτου, τη διαφήμιση έσοδα).