Η Google αποκαλύπτει τις ανησυχητικές εικόνες τεχνητής νοημοσύνης του Gemini με διαφορετικά πρόσωπα του Β’ Παγκοσμίου Πολέμου

Η Google εξέδωσε

μι

α εξήγηση για τις «ντροπιαστικές και λάθος» εικόνες που δημιουργούνται από το εργαλείο Gemini AI. Σε

μια ανάρτηση στο blog την Παρασκευή

η Google λέει ότι το

μοντέλο

της παρήγαγε “ανακριβείς ιστορικές” εικόνες λόγω προβλημάτων συντονισμού.

Το χείλος

και άλλοι συνέλαβαν τον Δίδυμο να δημιουργεί εικόνες φυλετικά διαφορετικών Ναζί και Ιδρυτών των ΗΠΑ νωρίτερα αυτή την εβδομάδα.

«Ο συντονισμός μας για να διασφαλίσουμε ότι ο Δίδυμος έδειξε ότι μια σειρά ανθρώπων απέτυχε να εξηγήσει τις περιπτώσεις που θα έπρεπε ξεκάθαρα

δεν

δείξτε μια σειρά», γράφει στην ανάρτηση ο Prabhakar Raghavan, ανώτερος αντιπρόεδρος της Google. «Και δεύτερον, με την πάροδο

του

χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές – ερμηνεύοντας λανθασμένα κάποιες πολύ ανώδυνες προτροπές ως ευαίσθητες».

Αυτό οδήγησε το Gemini AI να «υπεραντιστάθμιση σε ορισμένες περιπτώσεις», όπως αυτό που είδαμε με τις εικόνες των φυλετικά διαφορετικών Ναζί. Προκάλεσε επίσης στους Διδύμους να γίνουν «υπερσυντηρητικοί». Αυτό είχε ως αποτέλεσμα να αρνηθεί να δημιουργήσει συγκεκριμένες εικόνες “ένα μαύρο άτομο” ή ένα “λευκό άτομο” όταν του ζητηθεί.

Στην ανάρτηση του ιστολογίου, ο Raghavan λέει ότι η Google «λυπάται που η λειτουργία δεν λειτούργησε καλά». Σημειώνει επίσης ότι η Google θέλει το Gemini να «δουλεύει καλά για όλους» και αυτό σημαίνει να λαμβάνει απεικονίσεις διαφορετικών τύπων ανθρώπων (συμπεριλαμβανομένων διαφορετικών εθνοτήτων) όταν ζητάτε εικόνες «ποδοσφαιριστών» ή «κάποιου που περπατάει έναν σκύλο». Όμως, λέει:

Ωστόσο, εάν ζητήσετε από τους Διδύμους εικόνες ενός συγκεκριμένου τύπου ατόμου — όπως «

ένας

μαύρος δάσκαλος σε μια τάξη» ή «ένας λευκός κτηνίατρος με έναν σκύλο» — ή άτομα σε συγκεκριμένα πολιτιστικά ή ιστορικά πλαίσια, θα πρέπει οπωσδήποτε να λάβετε απάντηση που αντικατοπτρίζει με ακρίβεια αυτό που ζητάτε.

Ο Raghavan λέει ότι η Google πρόκειται να συνεχίσει να δοκιμάζει τις ικανότητες δημιουργίας εικόνων του Gemini AI και «να εργαστεί για να το βελτιώσει σημαντικά» προτού το ενεργοποιήσει ξανά. «Όπως έχουμε πει από την αρχή, οι παραισθήσεις είναι μια γνωστή πρόκληση για όλους τους LLMs [large language models] — υπάρχουν περιπτώσεις όπου η τεχνητή νοημοσύνη κάνει τα πράγματα λάθος», σημειώνει ο Raghavan. «Αυτό είναι κάτι για το οποίο εργαζόμαστε συνεχώς για να βελτιώνουμε».