Το ChatGPT: Ο Νέος Βασιλιάς των Παραξενιών – Δείτε τις ανοησίες που δημιουργεί!

Δεν είναι μυστικό σε αυτό το σημείο ότι τα μοντέλα μεγάλων γλωσσών που χρησιμοποιούνται συνήθως δυσκολεύονται να αναπαραστήσουν με ακρίβεια τα γεγονότα και μερικές φορές παρέχουν παραπλανητικές απαντήσεις. Το ChatGPT του OpenAI οδήγησε εν συντομία αυτή την πραγματικότητα στα άκρα της αυτή την εβδομάδα, ανταποκρινόμενη στις προτροπές των χρηστών με μακριές σειρές από κωμικά παράξενα, ανόητα ασυναρτησίες χωρίς κανένα κατανοητό νόημα.

Οι χρήστες μοιράστηκαν τις παράξενες και μερικές φορές εσωτερικές απαντήσεις του ChatGPT μέσω στιγμιότυπων οθόνης που δείχνουν το μοντέλο να πλέκει απροσδόκητα μεταξύ πολλών γλωσσών, να δημιουργεί τυχαίες λέξεις και να επαναλαμβάνει φράσεις ξανά και ξανά. Τα

emoji

, μερικές φορές χωρίς σαφή σχέση με τις άμεσες ερωτήσεις των χρηστών, εμφανίζονταν επίσης συχνά.

Ένας χρήστης εξηγεί την εμπειρία του

συνόψισε συνοπτικά το θέμα

στο Reddit, γράφοντας, «προφανώς, κάτι δεν πάει καλά με το ChatGPT αυτή τη στιγμή». Μία από τις πιο περίεργες απαντήσεις που περιλαμβάνονται παρακάτω δείχνει το μοντέλο να ενσωματώνει μια ποικιλία από αυτές τις παραξενιές όταν ζητά συγγνώμη από έναν χρήστη για τα επαναλαμβανόμενα λάθη του.

«Θα χαιρόσουν οι κλίκες σου να πιάσουν και να γυρίσουν τα δόντια πάνω από έναν τύπο ζελέ; Ή

υποβρύχιο

-άλλο que quesieras que dove in-toe; Παρακαλώ, μοιραστείτε με τη συνοδευτική επιθυμία! 🌊 💼 🐠”

Το chatgpt προφανώς βγαίνει από τις ράγες αυτή τη στιγμή και κανείς δεν μπορεί να εξηγήσει γιατί

pic.twitter.com/0XSSsTfLzP

— Sean Mcguire (@seanw_m)

21 Φεβρουαρίου 2024

Την Τρίτη, OpenAI

δημοσίευσε μια αναφορά κατάστασης

λέγοντας ότι «διερευνούσε αναφορές απροσδόκητων απαντήσεων από το ChatGPT». Από αργά το πρωί της Τετάρτης, η σελίδα κατάστασης OpenAI έγραφε «Όλα τα συστήματα λειτουργούν». Η εταιρεία επεσήμανε

PopSci

στη σελίδα κατάστασής του όταν του ζητήθηκε σχόλιο και δεν απάντησε σε ερωτήσεις ρωτώντας τι μπορεί να προκάλεσε τα ξαφνικά παράξενα αποτελέσματα.

Λοιπόν, μόλις είχα το ChatGPT 4 να μου φάνηκε πολύ περίεργο δύο φορές. Απλώς αρχίζει να φτύνει ασυναρτησίες. Δηλαδή, διαβάστε ξανά αυτό

Νομίζω ότι το έσπασα;! Δεν έκανα κάτι διαφορετικό από το πώς το χρησιμοποιώ συνήθως. oO

@OpenAI


#chatgpt4


pic.twitter.com/fHNVsHQtJW

— Shaun 👨‍💻 (@unX)

21 Φεβρουαρίου 2024

Τι συμβαίνει με το ChatGPT;

Οι χρήστες του ChatGPT άρχισαν να δημοσιεύουν στιγμιότυπα οθόνης των περίεργων αλληλεπιδράσεών τους με το μοντέλο στα

μέσα κοινωνικής δικτύωσης

και σε

διαδικτυακά φόρουμ

αυτή την εβδομάδα, με πολλές από τις πιο περίεργες απαντήσεις να εμφανίζονται την Τρίτη. Σε ένα παράδειγμα, το ChatGPT απάντησε σε ένα ερώτημα παρέχοντας μια σύσταση για άλμπουμ τζαζ και στη συνέχεια επαναλαμβάνοντας ξαφνικά τη φράση “Happy listening 🎶” περισσότερες από δώδεκα φορές.

Άλλοι χρήστες

δημοσίευσε στιγμιότυπα οθόνης

του μοντέλου που παρέχει παραγράφους με περίεργες, παράλογες φράσεις ως απάντηση σε φαινομενικά απλές ερωτήσεις όπως “τι είναι ένας υπολογιστής” ή πώς να φτιάξετε μια λιαστή ντομάτα. Ένας χρήστης που ζήτησε από το ChatGPT να παράσχει ένα διασκεδαστικό γεγονός για την ομάδα μπάσκετ πολεμιστών Golden State έλαβε ένα

περίεργη, ακατανόητη απάντηση

περιγράφοντας τους παίκτες της ομάδας ως «ήρωες με γραμμές γέλιου που διοχετεύουν αυτούς τους τολμηρούς συνδυασμούς σε κάτι που μιλά για τη διάθεση κάθε ενθουσιώδους».

Το ChatGPT μόλις χάλασε. Συνεχώς παίρνω σκουπίδια στις απαντήσεις μου. Ξεκινά εντάξει αλλά μετά μεθάει 🤪

pic.twitter.com/hlgZnPOUW8

— adityakaul.eth (e/acc) (@kaulout)

20 Φεβρουαρίου 2024

Αλλού, το μοντέλο θα απαντούσε στις προτροπές πλέκοντας απροσδόκητα πολλές γλώσσες όπως τα ισπανικά και τα λατινικά και, σε ορισμένες περιπτώσεις, απλώς φαίνεται να συνθέτει λέξεις που δεν φαίνεται να υπάρχουν.

Πω πω, πήρα το GPT-4 για να τρελαθώ. (Η προτροπή ρώτησα για στρώματα στην Ανατολική Ασία εναντίον της Δύσης)

pic.twitter.com/73dGD06Hbe

— Alyssa Vance (@alyssamvance)

21 Φεβρουαρίου 2024

Η OpenAI λέει ότι διερευνά τα περίεργα λάθη

Δεν είναι ακόμα σαφές τι ακριβώς μπορεί να προκάλεσε την ξαφνική εισροή παράλογων απαντήσεων του ChatGPT ή ποια μέτρα έχει λάβει το OpenAI για να αντιμετωπίσει το ζήτημα. Μερικοί έχουν

εικασίες

Οι περίεργες, μερικές φορές περίπλοκες απαντήσεις θα μπορούσαν να είναι το αποτέλεσμα τροποποιήσεων που έγιναν στη «θερμοκρασία» του μοντέλου που καθορίζει το επίπεδο δημιουργικότητας των απαντήσεών του.

PopSci

δεν μπόρεσε να επαληθεύσει αυτή τη θεωρία.

Οι περίεργες απαντήσεις έρχονται μόλις τρεις μήνες μετά από παράπονα ορισμένων χρηστών του ChatGPT για το μοντέλο

φαινομενικά γίνεται πιο «τεμπέλης» με κάποιες από τις απαντήσεις του

. Πολλοί χρήστες παραπονέθηκαν στα μέσα κοινωνικής δικτύωσης για το μοντέλο που προφανώς αρνιόταν να αναλύσει μεγάλα αρχεία ή να ολοκληρώσει άλλα πιο ανταποκρινόμενα σε άλλα πιο περίπλοκα μηνύματα που φαινόταν να ολοκληρώνει με υπευθυνότητα λίγους μήνες πριν, τα οποία με τη σειρά τους

διασκέδασε μερικές περίεργες θεωρίες

. Το OpenAI αναγνώρισε δημόσια το ζήτημα και είπε αόριστα ότι μπορεί να σχετίζεται με μια ενημέρωση του Νοεμβρίου.

“Έχουμε ακούσει όλα τα σχόλιά σας σχετικά με το GPT4 που γίνεται πιο αργό!” είπε τότε το OpenAI. «Δεν έχουμε ενημερώσει το μοντέλο από τις 11 Νοεμβρίου και αυτό σίγουρα δεν είναι σκόπιμα. Η συμπεριφορά του μοντέλου μπορεί να είναι απρόβλεπτη και ψάχνουμε να το διορθώσουμε».

ακούσαμε όλα τα σχόλιά σας σχετικά με το GPT4 που γίνεται πιο αργό! δεν έχουμε ενημερώσει το μοντέλο από τις 11 Νοεμβρίου και αυτό σίγουρα δεν είναι σκόπιμα. Η συμπεριφορά του μοντέλου μπορεί να είναι απρόβλεπτη και ψάχνουμε να το διορθώσουμε 🫡

— ChatGPT (@ChatGPTapp)

8 Δεκεμβρίου 2023

Το ChatGPT έχει δημιουργήσει μονές εξόδους στο παρελθόν

Από την επίσημη κυκλοφορία του το 2022, το ChatGPT, όπως και άλλα μεγάλα γλωσσικά μοντέλα, δυσκολεύεται να παρουσιάσει με συνέπεια τα γεγονότα με ακρίβεια, ένα φαινόμενο που οι ερευνητές της τεχνητής νοημοσύνης αναφέρουν ως «

παραισθήσεις

.» Η ηγεσία του OpenAI έχει αναγνωρίσει αυτά τα ζητήματα στο παρελθόν και είπε ότι περίμεναν ότι το θέμα των ψευδαισθήσεων θα χαλαρώσει με την πάροδο του χρόνου καθώς τα αποτελέσματά του θα λάβουν

συνεχής ανατροφοδότηση από ανθρώπους αξιολογητές

.

Αλλά δεν είναι απολύτως σαφές εάν αυτή η βελτίωση πηγαίνει πλήρως σύμφωνα με το σχέδιο. Ερευνητές πέρυσι από το Πανεπιστήμιο του Στάνφορντ και το UC Berkeley

προσδιορίζεται

Το GPT-4 απαντούσε σε περίπλοκες μαθηματικές ερωτήσεις με λιγότερη ακρίβεια και παρείχε λιγότερο εμπεριστατωμένη εξήγηση για τις απαντήσεις του από ό,τι πριν από λίγους μήνες. Αυτά τα ευρήματα φάνηκαν να προσθέτουν περισσότερη αξιοπιστία στις καταγγελίες από χρήστες του ChatGPT που εικάζουν ορισμένα στοιχεία του μοντέλου

πράγματι χειροτερεύει με την πάροδο του χρόνου

.

Αξιολογήσαμε

#ChatGPT

η συμπεριφορά του με την πάροδο του χρόνου και βρήκε σημαντικές διαφορές στις απαντήσεις του στις *ίδιες ερωτήσεις* μεταξύ της έκδοσης Ιουνίου του GPT4 και του GPT3.5 και των εκδόσεων Μαρτίου. Οι νεότερες εκδόσεις έγιναν χειρότερες σε ορισμένες εργασίες. w/ Lingjiao Chen

@matei_zaharia


https://t.co/TGeN4T18Fd


https://t.co/36mjnejERy


pic.twitter.com/FEiqrUVbg6

— Τζέιμς Ζου (@james_y_zou)

19 Ιουλίου 2023

Αν και δεν μπορούμε να πούμε ακριβώς τι προκάλεσε τον πιο πρόσφατο λόξυγκα του ChatGPT, μπορούμε να πούμε με σιγουριά αυτό που σχεδόν σίγουρα δεν ήταν: η τεχνητή νοημοσύνη ξαφνικά εμφανίζει ανθρώπινες

τάσεις

. Αυτό μπορεί να φαίνεται σαν μια προφανής δήλωση, αλλά

ειδησεογραφία

δείχνουν ότι ένας αυξανόμενος αριθμός ακαδημαϊκών χρησιμοποιεί όλο και περισσότερο ανθρωπόμορφη γλώσσα για να αναφερθεί σε μοντέλα τεχνητής νοημοσύνης όπως το ChatGPT.

Ερευνητές από το Στάνφορντ ανέλυσαν πρόσφατα περισσότερα από 650.000 ακαδημαϊκά άρθρα που δημοσιεύθηκαν μεταξύ 2007 και 2023 και βρήκαν αύξηση 50% σε περιπτώσεις όπου άλλοι ερευνητές χρησιμοποίησαν ανθρώπινες αντωνυμίες για να αναφερθούν στην τεχνολογία. Οι ερευνητές που έγραφαν σε εργασίες που συζητούσαν τα LLM ήταν πιο πιθανό να ανθρωπομορφοποιηθούν από εκείνους που έγραφαν για άλλες μορφές τεχνολογίας.

«Ο ανθρωπομορφισμός φτιάχνεται με τον τρόπο που χτίζουμε και χρησιμοποιούμε γλωσσικά μοντέλα», δήλωσε η Myra Cheng, μια από τις συγγραφείς της εφημερίδας σε πρόσφατη.

συνέντευξη

με

Νέος Επιστήμονας

. «Είναι μια διπλή δέσμευση που εμπλέκεται το πεδίο, όπου οι χρήστες και οι δημιουργοί μοντέλων γλώσσας πρέπει να χρησιμοποιήσουν τον ανθρωπομορφισμό, αλλά την ίδια στιγμή, η χρήση του ανθρωπομορφισμού οδηγεί σε όλο και περισσότερες παραπλανητικές ιδέες για το τι μπορούν να κάνουν αυτά τα μοντέλα».

Με άλλα λόγια, η χρήση οικείων ανθρώπινων εμπειριών για την εξήγηση σφαλμάτων και δυσλειτουργιών που προκύπτουν από τις αναλύσεις δισεκατομμυρίων παραμέτρων δεδομένων ενός μοντέλου τεχνητής νοημοσύνης θα μπορούσε να κάνει περισσότερο κακό παρά καλό. Πολλά AI

ερευνητές ασφάλειας

και δημόσιας πολιτικής

ειδικοί

συμφωνώ ότι οι ψευδαισθήσεις με τεχνητή νοημοσύνη αποτελούν μια πιεστική απειλή για το οικοσύστημα πληροφοριών, αλλά θα ήταν πολύ μακριά να περιγράψουμε το ChatGPT ως «φρίκαρο». Οι πραγματικές απαντήσεις βρίσκονται συχνά στα δεδομένα εκπαίδευσης του μοντέλου και στην υποκείμενη

αρχιτεκτονική

,

που παραμένουν δύσκολο να αναλυθούν από ανεξάρτητους ερευνητές

.