Ο Sundar Pichai αντιμετωπίζει τις ανεπιθύμητες αδυναμίες του Gemini

Ο Sundar

Pichai

την Τρίτη έστειλε ένα εσωτερικό σημείωμα στο οποίο επαναλάμβανε πώς η Google «έκανε λάθος» με τις απαντήσεις του Gemini και τη δημιουργία εικόνων. Ο

Διευθύνων Σύμβουλος

είπε στους υπαλλήλους ότι πρέπει «να επικεντρωθούν σε αυτό

που

έχει μεγαλύτερη σημασία: να δημιουργήσουν χρήσιμα προϊόντα που αξίζουν την εμπιστοσύνη των χρηστών μας».

Θέλω να αντιμετωπίσω τα πρόσφατα ζητήματα με προβληματικές απαντήσεις κειμένου και εικόνας στην εφαρμογή Gemini (πρώην Bard). Γνωρίζω ότι ορισμένες από τις απαντήσεις του έχουν προσβάλει τους χρήστες μας και έχουν δείξει μεροληψία — για να είμαι σαφής, αυτό είναι εντελώς απαράδεκτο και το καταλάβαμε λάθος.

Το email προς τους εργαζόμενους δημοσιεύτηκε από


Semafor


και


Το χείλος


σε πλήρη. Η δημόσια απάντηση της Google την

Παρασκευή

από τον SVP of Search ανέφερε ότι «δεν ήθελε η Gemini να αρνηθεί να δημιουργήσει εικόνες κάποιας συγκεκριμένης ομάδας», ούτε να «δημιουργήσει ανακριβείς ιστορικές — ή οποιεσδήποτε άλλες — εικόνες».

Ο Sundar Pichai επανέλαβε αυτό και επανέλαβε τη βασική αποστολή της Google:

Η αποστολή μας να οργανώνουμε τις πληροφορίες του κόσμου και να τις κάνουμε παγκοσμίως προσβάσιμες και χρήσιμες είναι ιερή. Πάντα προσπαθούσαμε να παρέχουμε στους χρήστες χρήσιμες, ακριβείς και αμερόληπτες πληροφορίες στα προϊόντα μας. Γι’ αυτό ο κόσμος τους εμπιστεύεται. Αυτή πρέπει να είναι η προσέγγισή μας για όλα τα προϊόντα μας, συμπεριλαμβανομένων των αναδυόμενων προϊόντων Al.

Θα κάνουμε ένα σαφές σύνολο ενεργειών, συμπεριλαμβανομένων των διαρθρωτικών αλλαγών, των ενημερωμένων κατευθυντήριων γραμμών προϊόντων, των βελτιωμένων διαδικασιών εκκίνησης, των ισχυρών αξιολογήσεων και της ομάδας red-teaming και τεχνικών προτάσεων. Εξετάζουμε όλα αυτά και θα κάνουμε τις απαραίτητες αλλαγές.

Την περασμένη εβδομάδα, η εταιρεία εντόπισε δύο προβλήματα με τη δημιουργία εικόνων Gemini:

1. «…τον συντονισμό μας για να διασφαλίσουμε ότι ο Δίδυμος έδειξε μια σειρά ανθρώπων απέτυχε να υπολογίσει περιπτώσεις που σαφώς δεν θα έπρεπε να δείχνουν εύρος».
2. «…με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές – ερμηνεύοντας εσφαλμένα ορισμένες πολύ ανώδυνες προτροπές ως ευαίσθητες».

Ο Pichai λέει ότι η εταιρεία «εργάζεται όλο το εικοσιτετράωρο για να αντιμετωπίσει αυτά τα ζητήματα». Η Google τράβηξε την ικανότητα του Gemini να δημιουργεί εικόνες ανθρώπων την περασμένη εβδομάδα μέχρι να μπορέσει να τη βελτιώσει «σημαντικά».

Βλέπουμε ήδη μια ουσιαστική βελτίωση σε ένα ευρύ φάσμα προτροπών. Κανένα Al δεν είναι τέλειο, ειδικά σε αυτό το αναδυόμενο στάδιο ανάπτυξης του κλάδου, αλλά γνωρίζουμε ότι ο πήχης είναι ψηλά για εμάς και θα τον διατηρήσουμε για όσο χρόνο χρειαστεί.

Και

θα εξετάσουμε τι συνέβη και θα φροντίσουμε να το διορθώσουμε σε κλίμακα.

Θα είναι ενδιαφέρον να δούμε τι συνεπάγεται αυτή η «σε κλίμακα» επιδιόρθωση, ειδικά στο τεχνικό μέτωπο, ενώ ένα άλλο πράγμα που πρέπει να προσέξουμε είναι εάν οι «δομικές αλλαγές» θα έχουν ως αποτέλεσμα η Google να επιβραδύνει τον ρυθμό των εκκινήσεων για να επιτρέψει περισσότερη QA. Ο τρόπος με τον οποίο η Google αναλύει και ποσοτικοποιεί τις βελτιώσεις θα είναι επίσης αξιοσημείωτος.