Η αντίδραση της Google στις καταγγελίες για διακρίσεις στη δημιουργία εικόνων του Gemini
Η Google έδωσε περισσότερες πληροφορίες για το τι την οδήγησε να διακόψει τη δημιουργία εικόνων με ανθρώπους στο Gemini και να διορθώσει ιστορικές ανακρίβειες.
O ανώτερος διευθυντής προϊόντων της Google,
Jack
Krawczyk, ο οποίος επιβλέπει την ανάπτυξη του μοντέλου AI, δημοσίευσε στο X ότι
η ομάδα του Gemini εργαζόταν για να προσαρμόσει το μοντέλο ώστε να παρέχει ιστορικά ακριβή
αποτελέσματα
.
Η ανάρτηση έγινε έπειτα από εκατοντάδες παράπονα χρηστών για το γεγονός ότι
το AI Chatbot της Google αρνούνταν να δημιουργήσει εικόνες λευκών ανθρώπων
και δημιουργούσε ιστορικές εικόνες που απεικόνιζαν ανθρώπους διαφορετικών φυλών σε
φωτογραφίες
όπου πιθανότατα δεν θα ήταν παρόντες.
We’re already working to address recent issues with Gemini’s image generation
feature
. While we do this, we’re going to pause the image generation of people and will re-release an improved version soon.
https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms)
February 22, 2024
Αυτή η διόρθωση αποδείχθηκε λίγο πιο περίπλοκη από ό,τι αρχικά πίστευε η ομάδα, με αποτέλεσμα η Google να απενεργοποιήσει τελείως την δυνατότητα δημιουργίας εικόνων ανθρώπων με το εργαλείο.
Σε μια
ανάρτηση στο blog της Google
, ο SVP της εταιρείας, Prabhakar Raghavan, αναφέρθηκε με περισσότερες λεπτομέρειες στο τι πήγε στραβά με το Gemini. Συγκεκριμένα, ο Raghavan δήλωσε ότι
«ο συντονισμός μας για να διασφαλίσουμε ότι το Gemini έδειχνε ένα
εύρος
ανθρώπων απέτυχε να λάβει υπόψη του περιπτώσεις που σαφώς δεν θα έπρεπε να δείχνουν ένα εύρος»
.
Ανέφερε επίσης ότι
«με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι θέλαμε, και αρνήθηκε να απαντήσει εντελώς σε ορισμένες προτροπές – ερμηνεύοντας λανθασμένα κάποιες πολύ ανώδυνες προτροπές ως ευαίσθητες»
.
Με πιο απλά λόγια, το Gemini είχε εκπαιδευτεί να δείχνει μια ποικιλία διαφορετικών φυλών – ωστόσο, δεν γνώριζε ότι υπήρχαν φορές που αυτό μπορεί να μην ήταν κατάλληλο. Είχε επίσης διαφορετική ερμηνεία του τι θα μπορούσε να είναι ακατάλληλο από ό,τι προβλεπόταν.
Τελικά, το μοντέλο οδηγήθηκε στο να
«υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικό σε άλλες, οδηγώντας σε εικόνες που ήταν ενοχλητικές και λανθασμένες»
δήλωσε ο Raghavan.
Ο Raghavan τόνισε ότι
η Google σχεδιάζει να κάνει σημαντικές αλλαγές πριν το ενεργοποιήσει ξανά
– μια διαδικασία βελτίωσης που θα “περιλαμβάνει εκτεταμένες δοκιμές”.
// Allow detecting when fb api is loaded.
function Deferred() {
var self = this;
this.promise = new Promise( function( resolve, reject ) {
self.reject = reject;
self.resolve = resolve;
});
}
window.fbLoaded = new Deferred();
window.fbAsyncInit = function() {
FB.init({
appId : ‘
‘,
autoLogAppEvents : true,
xfbml : true,
version : ‘v3.0′
});
window.fbLoaded.resolve();
};
(function(d, s, id){
var js, fjs = d.getElementsByTagName(s)[0];
if (d.getElementById(id)) {return;}
js = d.createElement(s); js.id = id;
js.src = “https://connect.facebook.net/en_US/sdk.js”;
fjs.parentNode.insertBefore(js, fjs);
}(document, ‘script’, ‘facebook-jssdk’));
VIA:
FoxReport.gr
