Η μείωση των δυνατοτήτων δημιουργίας εικόνας του Gemini με την εμφάνιση ενός νέου Nerf από την Google

Το

Gemini, το γενεσιουργό chatbot τεχνητής νοημοσύνης της Google, πέρασε πρόσφατα από

μι

α κατάρρευση όπου κατέληξε να δημιουργήσει ανακριβείς και προσβλητικές εικόνες και μετά από αυτό το παράδειγμα, η εταιρεία αποφάσισε να διαχωρίσει τις δυνατότητες δημιουργίας εικόνων μέχρι να βρεθεί μια επιδιόρθωση και να συνεχιστούν οι υπηρεσίες.

Ο Δίδυμος προσγειώνεται σε ζεστά νερά πάνω από κάποια προβληματική γενιά εικόνων ανθρώπων ορισμένων εθνοτήτων

Η Google μιλά για το πώς το Gemini είναι μια ξεχωριστή οντότητα προϊόντος, γεγονός που το καθιστά έτσι ώστε να μην συνδέεται άμεσα με την Αναζήτηση, τα μοντέλα τεχνητής νοημοσύνης της και άλλες υπηρεσίες που παρέχει. Μόλις η εφαρμογή ήταν έτοιμη, η Google συντόνισε χειροκίνητα το μοντέλο, ώστε η δημιουργία εικόνων να μπορεί να είναι διαφορετική αντί να δείχνει προκατάληψη προς ορισμένες

ομάδες

ανθρώπων ή εθνότητες και είναι λογικό ότι η Google το έκανε αυτό επειδή έγινε για να διασφαλίσει ότι οι χρήστες από διαφορετικές περιοχές ο κόσμος μπορεί να χρησιμοποιήσει την εφαρμογή χωρίς να αντιμετωπίσει σημαντικά προβλήματα.

Ωστόσο, κανένα από τα αντίμετρα δεν θα μπορούσε να αποτρέψει αυτό που συνέβη στη συνέχεια. Ο Δίδυμος δεν μπορούσε να εξηγήσει περιπτώσεις χρήσης όπου οι χρήστες αναζητούσαν στην πραγματικότητα μια συγκεκριμένη εθνότητα για να υπάρχει σε μια εικόνα. Αυτό οδήγησε σε μερικές πραγματικά περίεργες προτροπές, όπως

ένας

“Μαύρος δάσκαλος σε μια τάξη”, που έκανε το μοντέλο να δημιουργήσει λανθασμένες όσο και προσβλητικές εικόνες. Σε ορισμένες περιπτώσεις, αρνήθηκε ακόμη και να δημιουργήσει εικόνες από την αρχή. Ο λόγος είναι ότι το μοντέλο τους θεωρούσε ευαίσθητους παρόλο που δεν ήταν.

Λοιπόν, ποια είναι η στάση της Google σε όλη αυτή την κατάσταση; Λοιπόν, η εταιρεία προχώρησε και έκλεισε τη δυνατότητα δημιουργίας εικόνων ανθρώπων στους Διδύμους. Η εταιρεία έχει μιλήσει για το πώς θα το ενεργοποιήσει μόλις επιλυθεί το πρόβλημα αφού ολόκληρο το μοντέλο περάσει από εκτεταμένες δοκιμές. Η Google έχει επίσης μιλήσει για το πώς τα μοντέλα τεχνητής νοημοσύνης

δεν είναι

τέλεια και, παρά το γεγονός ότι είναι προηγμένα από τότε που παρουσιάστηκαν, εξακολουθούν να έχουν την τάση να έχουν παραισθήσεις, κάτι που μπορεί να προκαλέσει προβλήματα.

Όσον αφορά το χρονοδιάγραμμα, η Google πραγματικά δεν έχει κοινοποιήσει ένα, και θα πρέπει να περιμένουμε τη γενιά εικόνων Gemini να είναι έτοιμο και έτοιμο. Ελπίζουμε ότι όταν επιστρέψει, θα επανέλθει καλύτερα από πριν και πολύ καλύτερα στη δημιουργία εικόνων.

Πηγή ειδήσεων:

Ιστολόγιο Google