Ξέρει ο Bard πόσες φορές εμφανίζεται το «e» στο «κέτσαπ»;

Ένα από τα πράγματα που απολαμβάνω περισσότερο σχετικά με τη μηχανική μάθηση είναι πώς δείχνει, αρκετά τακτοποιημένα, ότι οι μηχανικοί δεν ξέρουν πώς λειτουργούν οι άνθρωποι. Πάρτε για παράδειγμα τα μεγάλα γλωσσικά μοντέλα. Μου είπαν ότι θα μου πάρουν τη δουλειά, καθιστώντας με περιττό. ότι είναι έξυπνοι? ότι θα σχεδιάσουν το τέλειο δρομολόγιο για το ταξίδι μου στο Παρίσι, με highlights για μπαρ και εστιατόρια που

είναι σίγουρα ακριβείς και πλήρεις

.

Εμπνευσμένη από

ένα tweet για τη μαγιονέζα

έχω ξεκινήσει τώρα να κάνω ένα διασκεδαστικό πείραμα με τον Bard της Google.

Επιλέγω να το κάνω αυτό για δύο λόγους. Πρώτον, αυτό το είδος κουίζ είναι κάτι που κάνετε με τα μικρά παιδιά καθώς τα μαθαίνετε να διαβάζουν. Τους βάζετε να αναγνωρίσουν τα γράμματα και τους ήχους που κάνουν. Αλλά δεύτερον, υποψιάζομαι έντονα ότι αυτή η κοινή δραστηριότητα δεν αποτυπώνεται στα δεδομένα από τα οποία αντλεί ο Bard, επειδή δεν είναι το είδος των πραγμάτων που γράφεις.

Αυτό είναι προφανώς παράλογο, αλλά είναι παράλογο γιατί

μπορούμε να δούμε τη λέξη «κέτσαπ» και να δούμε ξεκάθαρα το «e».

Ο Μπαρντ δεν μπορεί να το κάνει αυτό. Ζει σε έναν εντελώς κλειστό κόσμο δεδομένων εκπαίδευσης.

Αυτό το είδος αντιμετωπίζει το πρόβλημα με τα LLM. Η γλώσσα είναι μια πολύ παλιά ανθρώπινη τεχνολογία, αλλά η νοημοσύνη μας προηγήθηκε. Όπως όλα τα κοινωνικά ζώα, πρέπει να παρακολουθούμε τις σχέσεις θέσης, γι’ αυτό και ο εγκέφαλός μας είναι τόσο μεγάλος και παράξενος. Η γλώσσα είναι ένα πολύ χρήσιμο εργαλείο — γεια σας, γράφω για τα προς το ζην! — αλλά δεν είναι το ίδιο με τη γνώση. Επιπλέει πάνω από ένα σωρό άλλα πράγματα που θεωρούμε δεδομένα.

Σκέφτομαι συχνά την εργασία του Rodney Brooks του 1987.

Νοημοσύνη χωρίς αντιπροσώπευση

», που είναι πιο επίκαιρο από ποτέ. Δεν πρόκειται να αρνηθώ ότι η χρήση της γλώσσας και η ευφυΐα συνδέονται — αλλά η ευφυΐα προηγείται της γλώσσας. Εάν εργάζεστε με τη γλώσσα απουσία ευφυΐας, όπως βλέπουμε με τα LLM, έχετε περίεργα αποτελέσματα. Ο Brooks συγκρίνει αυτό που συμβαίνει με τα LLM με μια ομάδα πρώιμων ερευνητών που προσπαθούν να κατασκευάσουν ένα αεροπλάνο εστιάζοντας στα καθίσματα και τα παράθυρα.

Είμαι σίγουρος ότι έχει δίκιο σε αυτό.

Καταλαβαίνω τον πειρασμό να προσπαθώ να κάνω μια περίπλοκη συζήτηση με έναν LLM. Πολλοί άνθρωποι θέλουν πολύ να καταφέρουμε να φτιάξουμε έναν έξυπνο υπολογιστή. Αυτές οι φαντασιώσεις εμφανίζονται συχνά στην επιστημονική φαντασία, ένα είδος που διαβάζεται ευρέως από σπασίκλες, και υποδηλώνουν τη λαχτάρα να μάθουμε ότι δεν είμαστε μόνοι στο σύμπαν. Είναι η ίδια παρόρμηση που οδηγεί τις προσπάθειές μας να έρθουμε σε επαφή με την εξωγήινη νοημοσύνη.

Αλλά η προσπάθεια να προσποιηθείς ότι οι LLM μπορούν να σκεφτούν είναι μια φαντασίωση. Μπορείς να ρωτήσεις για ένα υποσυνείδητο, αν θέλεις, αλλά θα πάθεις λαχτάρα. Δεν υπάρχει τίποτα εκεί. Εννοώ,

κοιτάξτε τις προσπάθειές του για την τέχνη ASCII

!

Όταν κάνετε κάτι τέτοιο – μια εργασία στην οποία ο μέσος πεντάχρονος σας διαπρέπει και στην οποία ένα εξελιγμένο LLM φεύγει – αρχίζετε να βλέπετε πόσο ευφυΐα

πράγματι

έργα. Σίγουρα, υπάρχουν άνθρωποι εκεί έξω που πιστεύουν ότι τα LLM έχουν συνείδηση, αλλά

Αυτοί οι άνθρωποι με θεωρούν τραγικά υποκοινωνικοποιημένοι

ανίκανος να κατανοήσει ή να εκτιμήσει με ακρίβεια πόσο λαμπροί είναι οι απλοί άνθρωποι.

Ναι, ο Bard μπορεί να παράγει κολλήματα. Στην πραγματικότητα, όπως τα περισσότερα chatbot, υπερέχει στο να κάνει αυτόματη συμπλήρωση για αντίγραφο μάρκετινγκ. Αυτό είναι πιθανώς μια αντανάκλαση του πόσο αντίγραφο διαφήμισης εμφανίζεται στα δεδομένα εκπαίδευσης. Ο Bard και οι μηχανικοί του πιθανότατα δεν το βλέπουν έτσι, αλλά τι καταστροφικό σχόλιο για την καθημερινή μας ζωή στο διαδίκτυο.

Η διαφήμιση είναι ένα πράγμα. Αλλά η δυνατότητα δημιουργίας αντιγράφων διαφήμισης δεν είναι σημάδι ευφυΐας. Υπάρχουν πολλά πράγματα που δεν κάνουμε τον κόπο να γράψουμε γιατί δεν χρειάζεται και άλλα πράγματα που ξέρουμε αλλά

κλίση

γράψτε — όπως πώς να κάνετε ποδήλατο. Χρησιμοποιούμε πολλές συντομεύσεις όταν μιλάμε μεταξύ μας, επειδή οι άνθρωποι εργάζονται σε μεγάλο βαθμό με την ίδια βασική γραμμή πληροφοριών για τον κόσμο. Υπάρχει ένας λόγος για αυτό: είμαστε όλοι

σε

ο κόσμος. Ένα chatbot δεν είναι.

Είμαι βέβαιος ότι κάποιος θα εμφανιστεί για να μου πει ότι τα chatbots θα βελτιωθούν και είμαι απλώς κακός. Πρώτα απ ‘όλα: είναι ατμοποιητικό μέχρι να αποσταλεί, μωρό μου. Αλλά δεύτερον, δεν ξέρουμε πραγματικά πόσο έξυπνοι είμαστε ή πώς σκεφτόμαστε. Αν υπάρχει μια πραγματική χρήση των chatbots, αυτή είναι να φωτίζει τα πράγματα σχετικά με τη δική μας νοημοσύνη που θεωρούμε δεδομένα. Ή, όπως το έθεσε κάποιος σοφότερος από μένα:

ο χάρτης δεν είναι η επικράτεια

. Η γλώσσα είναι ο χάρτης. η γνώση είναι η επικράτεια.

Υπάρχει ένα ευρύ φάσμα πραγμάτων που τα chatbot δεν γνωρίζουν και δεν μπορούν να γνωρίζουν. Η αλήθεια είναι ότι δεν χρειάζεται μεγάλη προσπάθεια για να κάνεις ένα LLM flunk τεστ Turing, αρκεί να κάνεις τις σωστές ερωτήσεις.