Σφάλμα ή χαρακτηριστικό; Οι «ονειρομηχανές» της AI στην πραγματικότητα δεν έχουν πρόβλημα παραισθήσεων, λέει ο ειδικός

Μία από τις πιο επικρινόμενες συμπεριφορές των chatbot που λειτουργούν με τεχνητή νοημοσύνη είναι οι λεγόμενες παραισθήσεις, όταν η τεχνητή νοημοσύνη απαντά πειστικά σε μια ερώτηση ενώ σας παρέχει ανακριβείς πληροφορίες. Με απλά λόγια, η τεχνητή νοημοσύνη φτιάχνει πράγματα σε μια προσπάθεια να ικανοποιήσει τον χρήστη της.

Αν και αυτό που μπορεί να ακούγεται σαν ασήμαντο ζήτημα είναι —στην πραγματικότητα, ένα πολύ περίπλοκο πρόβλημα. Στην πραγματικότητα, μπορεί να μην είμαστε σε θέση να θεραπεύσουμε πλήρως αυτή την ασθένεια, μια ανησυχία που έθεσαν πολλοί ειδικοί τον περασμένο χρόνο.

Αλλά είναι όντως κατεστραμμένα τα μεγάλα γλωσσικά μοντέλα (LLM) – η βασική τεχνολογία πίσω από όλα εκείνα τα δημοφιλή chatbot τεχνητής νοημοσύνης, όπως το

Bing

, το Bard ή το

ChatGPT

; Ο Andrej Karpathy, ο συνιδρυτής του OpenAI και πρώην ανώτερος διευθυντής AI στην Tesla πιστεύει το ακριβώς αντίθετο. «Κατά μία έννοια, οι παραισθήσεις είναι το μόνο που κάνουν οι LLM. Είναι ονειρικές μηχανές», είπε

λέει

σε ανάρτηση στο Χ (Twitter).

Ο γεννημένος στη Σλοβακία ειδικός στα βαθιά νευρωνικά δίκτυα και την επεξεργασία φυσικής γλώσσας υπαινίσσεται ότι οι χρήστες είμαστε κάποιου είδους σκηνοθέτες. Χρησιμοποιούμε τις προτροπές μας για να ξεκινήσουμε και να κατευθύνουμε αυτήν την ονειρική διαδικασία σε ένα αισίως χρήσιμο αποτέλεσμα.

«Μόνο όταν τα όνειρα πάνε σε εσφαλμένο έδαφος, το χαρακτηρίζουμε ως «ψευδαίσθηση», συνεχίζει ο Karpathy, προσθέτοντας ότι μοιάζει μόνο με ζωύφιο: «Η ψευδαίσθηση δεν είναι σφάλμα, είναι το μεγαλύτερο

χαρακτηριστικό

του LLM».

Την ίδια στιγμή, η Karpathy δεν κρύβεται από το γεγονός ότι τα chatbot AI έχουν πράγματι προβλήματα. Ωστόσο, αυτό που είναι σημαντικό εδώ είναι να ορίσουμε σωστά το πρόβλημα:

«Συνειδητοποιώ ότι αυτό που εννοούν οι άνθρωποι «στην πραγματικότητα» είναι ότι δεν θέλουν ένας Βοηθός LLM (ένα προϊόν όπως το ChatGPT κ.λπ.) να έχει παραισθήσεις. Ένας Βοηθός LLM είναι πολύ πιο περίπλοκο σύστημα από το ίδιο το LLM, ακόμα κι αν κάποιος βρίσκεται στην

καρδιά

του.»

Ο πρώην επικεφαλής της ανάπτυξης Autopilot της Tesla παραδέχεται ότι οι «Βοηθοί LLM» έχουν ένα πρόβλημα που πρέπει να διορθώσουμε. Και υπάρχουν διάφοροι τρόποι για να το αντιμετωπίσετε, όλοι «ενεργοί και πολύ ενδιαφέροντες τομείς έρευνας» σύμφωνα με την Karpathy.

Για να λύσετε ένα πρόβλημα, πρέπει πρώτα να γνωρίζετε την ύπαρξή του. Και τώρα, λίγο περισσότερο από ένα χρόνο από τότε που ξεκίνησε η παραγωγική έκρηξη της τεχνητής νοημοσύνης το 2022, όλοι οι ερευνητές και οι προγραμματιστές γνωρίζουν πολύ καλά το ζήτημα. Στην πραγματικότητα, είναι η εμπορική επιτυχία των bot AI που οδηγεί την έρευνα και τη βελτίωση αυτών των εργαλείων, καθώς οι τεχνολογικοί γίγαντες ανταγωνίζονται στον αγώνα για το καλύτερο καταναλωτικό προϊόν.

Εικόνα:

Microsoft

Bing AI