Κατακραυγή από τον CEO της Google για τις αποτυχίες των εικόνων Gemini

Ο Διευθύνων Σύμβουλος της Google, Sundar Pichai, αντιμετώπισε τα πρόσφατα ζητήματα της εταιρείας με το εργαλείο δημιουργίας εικόνων Gemini με τεχνητή νοημοσύνη μετά από αυτό σε ιστορικές εικόνες. Ο ίδιος χαρακτήρισε την εξέλιξη των γεγονότων «απαράδεκτη» και είπε ότι η εταιρεία «εργάζεται όλο το εικοσιτετράωρο» για μια επιδιόρθωση, σύμφωνα με

«Καμία τεχνητή νοημοσύνη δεν είναι τέλεια, ειδικά σε αυτό το αναδυόμενο στάδιο ανάπτυξης του κλάδου, αλλά γνωρίζουμε ότι ο πήχης είναι ψηλά για εμάς και θα το διατηρήσουμε για όσο καιρό χρειαστεί», έγραψε ο Pichai στους υπαλλήλους. «Και θα εξετάσουμε τι συνέβη και θα βεβαιωθούμε ότι θα το διορθώσουμε σε κλίμακα».

Ο Pichai παραμένει αισιόδοξος σχετικά με το μέλλον του chatbot Gemini, που παλαιότερα ονομαζόταν Bard, σημειώνοντας ότι η ομάδα έχει ήδη «δεί ουσιαστική βελτίωση σε ένα ευρύ φάσμα προτροπών». Η πτυχή δημιουργίας εικόνας του Gemini μέχρι να επιλυθεί πλήρως η επιδιόρθωση.

Αυτό ξεκίνησε όταν οι χρήστες του Gemini άρχισαν να παρατηρούν ότι η γεννήτρια άρχισε να βγάζει ιστορικά ανακριβείς εικόνες, όπως φωτογραφίες των Ναζί και των Ιδρυτών της Αμερικής ως έγχρωμων ανθρώπων. Αυτό έγινε γρήγορα μεγάλο πράγμα στα μέσα κοινωνικής δικτύωσης, με τη λέξη «ξύπνησε» να κυκλοφορεί πολύ.

Ο Prabhakar Raghavan, ανώτερος αντιπρόεδρος της Google για γνώσεις και πληροφορίες, δεν έρριψε την ευθύνη στην εγρήγορση,


Βασικά, το μοντέλο ήταν βελτιστοποιημένο για να επιτρέπει διαφορετικές ομάδες ανθρώπων στις φωτογραφίες, αλλά «απέτυχε να υπολογίσει περιπτώσεις που σαφώς δεν θα έπρεπε να δείχνουν εύρος». Αυτό οδήγησε σε αμφιλεγόμενες εικόνες όπως έγχρωμοι άνθρωποι που εμφανίζονται ως Βίκινγκς και ιθαγενείς Αμερικανοί Καθολικοί Πάπες.

Ο Raghavan είπε επίσης ότι το μοντέλο έγινε πιο προσεκτικό με την πάροδο του χρόνου, αρνούμενος κατά καιρούς να απαντήσει σε ορισμένες προτροπές αφού τις ερμήνευσε εσφαλμένα ως ευαίσθητες. Αυτό εξηγεί αναφορές ότι το μοντέλο αρνήθηκε να δημιουργήσει εικόνες λευκών ανθρώπων.

Φαίνεται ότι η εταιρεία προσπαθούσε τόσο να ευχαριστήσει ένα παγκόσμιο κοινό όσο και να διασφαλίσει ότι το μοντέλο δεν έπεφτε σε ορισμένες από τις παγίδες ανταγωνιστικών προϊόντων, όπως η δημιουργία σεξουαλικών εικόνων ή απεικονίσεων πραγματικών ανθρώπων. Η ρύθμιση αυτών των μοντέλων AI είναι εξαιρετικά λεπτή δουλειά και το λογισμικό μπορεί εύκολα να είναι αυτό που κάνουν. Σε κάθε περίπτωση, θα προτιμούσα έναν ιστορικά ανακριβή Καθολικό Πάπα οποιαδήποτε μέρα της εβδομάδας. Το αναφέρετε ως μια ακόμη υπενθύμιση ότι η τεχνητή νοημοσύνη έχει ακόμη πολύ δρόμο να διανύσει.

Όσον αφορά το Gemini, η εταιρεία υπόσχεται ότι η γεννήτρια εικόνας θα επιστρέψει στο εγγύς μέλλον, αλλά εξακολουθεί να απαιτεί μια σειρά από διορθώσεις και δοκιμές για να βεβαιωθεί ότι αυτό δεν θα συμβεί ποτέ ξανά, συμπεριλαμβανομένων «δομικών αλλαγών, ενημερωμένων κατευθυντήριων γραμμών προϊόντων, βελτιωμένων διαδικασιών εκκίνησης, ισχυρών αξιολογήσεων και κόκκινες και τεχνικές συστάσεις».