Θα καταστήσει τον προγραμματισμό απαρχαιωμένο το AI;

Αυτό το άρθρο παρουσιάστηκε αρχικά στο


Τύπος MIT

.

Το 2017, οι ερευνητές της Google παρουσίασαν ένα νέο πρόγραμμα μηχανικής

μάθηση

ς που ονομάζεται “

μετασχηματιστής

” για τη γλώσσα επεξεργασίας. Ενώ ενδιαφερόντουσαν κυρίως για τη βελτίωση της αυτόματης μετάφρασης — το όνομα προέρχεται από τον στόχο του

μεταμορφώνοντας

μια γλώσσα σε μια άλλη—δεν χρειάστηκε πολύς χρόνος για να συνειδητοποιήσει η κοινότητα AI ότι ο μετασχηματιστής είχε τεράστιες, εκτεταμένες δυνατότητες.

Εκπαιδευμένο σε τεράστιες συλλογές εγγράφων για να προβλέψει τι θα ακολουθήσει με βάση το προηγούμενο πλαίσιο, ανέπτυξε μια παράξενη ικανότητα στο ρυθμό του γραπτού λόγου. Θα μπορούσατε να ξεκινήσετε μια σκέψη και όπως ένας φίλος που σας γνωρίζει εξαιρετικά καλά, ο μετασχηματιστής θα μπορούσε να ολοκληρώσει τις προ

τάσεις

σας. Εάν η ακολουθία σας ξεκινούσε με μια ερώτηση, τότε ο μετασχηματιστής θα έβγαζε μια απάντηση. Ακόμη πιο εκπληκτικό, αν ξεκινούσατε να περιγράφετε ένα πρόγραμμα, θα συνεχιζόταν από εκεί που το σταματήσατε και θα έβγαζε αυτό το πρόγραμμα.

Είναι από καιρό αναγνωρισμένο ότι ο προγραμματισμός είναι δύσκολος, ωστόσο, με την απόκρυφη σημείωση και τη αμείλικτη στάση απέναντι στα λάθη. Είναι καλά τεκμηριωμένο ότι οι αρχάριοι προγραμματιστές μπορούν να δυσκολευτούν να καθορίσουν σωστά ακόμη και μια απλή εργασία όπως ο υπολογισμός ενός αριθμητικού μέσου όρου, αποτυγχάνοντας περισσότερες από τις μισές φορές. Ακόμη και επαγγελματίες προγραμματιστές έχουν γράψει buggy κώδικα που έχει ως αποτέλεσμα

συντριβή διαστημικού σκάφους

,

αυτοκίνητα

και ακόμα

το ίδιο το διαδίκτυο

.

Έτσι, όταν ανακαλύφθηκε ότι συστήματα που βασίζονται σε μετασχηματιστές όπως το ChatGPT μπορούσαν να μετατρέψουν περιστασιακές αναγνώσιμες από τον άνθρωπο περιγραφές σε κώδικα εργασίας, υπήρχε πολύς λόγος για ενθουσιασμό. Είναι συναρπαστικό να πιστεύει κανείς ότι, με τη βοήθεια της γενετικής τεχνητής νοημοσύνης, όποιος μπορεί να γράψει μπορεί επίσης να γράψει προγράμματα. Ο Andrej Karpathy, ένας από τους αρχιτέκτονες του τρέχοντος κύματος της AI,

δηλώθηκε

, “Η πιο καυτή νέα γλώσσα προγραμματισμού είναι τα αγγλικά.” Με εκπληκτικές προόδους που ανακοινώνονται φαινομενικά καθημερινά, θα σας συγχωρούσαν που πιστεύετε ότι η εποχή της εκμάθησης προγραμματισμού είναι πίσω μας. Όμως, ενώ οι πρόσφατες εξελίξεις έχουν αλλάξει θεμελιωδώς τον τρόπο με τον οποίο οι αρχάριοι και οι ειδικοί θα μπορούσαν να κωδικοποιήσουν, ο εκδημοκρατισμός του προγραμματισμού έχει κάνει την εκμάθηση κωδικοποίησης πιο σημαντική από ποτέ, επειδή έχει εξουσιοδοτήσει ένα πολύ ευρύτερο σύνολο ανθρώπων να αξιοποιήσει τα οφέλη του. Το Generative AI διευκολύνει τα πράγματα, αλλά δεν τα κάνει εύκολα.

Υπάρχουν τρεις κύριοι λόγοι για τους οποίους είμαι δύσπιστος ως προς την ιδέα ότι άτομα χωρίς εμπειρία κωδικοποίησης θα μπορούσαν να χρησιμοποιήσουν επιπόλαια έναν μετασχηματιστή για να κωδικοποιήσουν. Πρώτον είναι το

πρόβλημα

της ψευδαίσθησης. Οι μετασχηματιστές είναι

διαβόητος για το φτύσιμο της εύλογης ασυναρτησίας

, ειδικά όταν δεν είναι πραγματικά σίγουροι για το τι θα ακολουθήσει. Άλλωστε, είναι εκπαιδευμένοι να κάνουν μορφωμένες εικασίες, να μην παραδέχονται όταν κάνουν λάθος. Σκεφτείτε τι σημαίνει αυτό στο πλαίσιο του προγραμματισμού.

Ας υποθέσουμε ότι θέλετε να δημιουργήσετε ένα πρόγραμμα που υπολογίζει τους μέσους όρους. Εξηγείς με λόγια τι θέλεις και ένας μετασχηματιστής γράφει ένα πρόγραμμα. Εξαιρετική! Είναι όμως σωστό το πρόγραμμα; Ή μήπως ο μετασχηματιστής έχει παραισθήσεις σε ένα ζωύφιο; Ο μετασχηματιστής μπορεί να σας δείξει το πρόγραμμα, αλλά αν δεν ξέρετε ήδη πώς να προγραμματίσετε, αυτό μάλλον δεν θα σας βοηθήσει. Έχω εκτελέσει αυτό το πείραμα ο ίδιος και έχω δει το GPT (ο «γεννητικός προ-εκπαιδευμένος μετασχηματιστής του OpenAI», ένα παρακλάδι της ιδέας της ομάδας της Google) να παράγει μερικά εκπληκτικά λάθη, όπως η χρήση λάθος τύπου για τον μέσο όρο ή η στρογγυλοποίηση όλων των αριθμών σε ακέραιους αριθμούς πριν από τον μέσο όρο τους. Αυτά είναι μικρά σφάλματα και διορθώνονται εύκολα, αλλά απαιτούν από εσάς να μπορείτε να διαβάσετε το πρόγραμμα που παράγει ο μετασχηματιστής.

Ίσως είναι δυνατό να αντιμετωπιστεί αυτή η πρόκληση, εν μέρει κάνοντας τους μετασχηματιστές λιγότερο επιρρεπείς σε σφάλματα και εν μέρει παρέχοντας περισσότερες δοκιμές και ανατροφοδότηση, ώστε να είναι πιο σαφές τι κάνουν στην πραγματικότητα τα προγράμματα που εξάγουν. Αλλά υπάρχει ένα βαθύτερο και πιο δύσκολο δεύτερο πρόβλημα. Είναι πραγματικά πολύ δύσκολο να γράψεις προφορικές περιγραφές εργασιών, ακόμη και για να ακολουθήσουν οι άνθρωποι. Αυτή η ιδέα θα πρέπει να είναι προφανής σε όποιον έχει προσπαθήσει να ακολουθήσει τις οδηγίες για τη συναρμολόγηση ενός επίπλου. Ο κόσμος κοροϊδεύει τις οδηγίες της ΙΚΕΑ, αλλά μπορεί να μην θυμάται ποια ήταν η κατάσταση της τέχνης πριν εμφανιστεί η ΙΚΕΑ. Ήταν κακό. Αγόρασα πολλά κιτ μοντέλων δεινοσαύρων ως παιδί στη δεκαετία του ’70 και ήταν ένα νόμισμα για το αν θα κατάφερνα να συναρμολογήσω κάποιο συγκεκριμένο Diplodocus.

Κάποιοι συνεργάτες και εγώ εξετάζουμε αυτό το πρόβλημα. Σε μια πιλοτική μελέτη, στρατολογήσαμε ζευγάρια ατόμων εκτός Διαδικτύου και τα χωρίσαμε σε «αποστολείς» και «παραλήπτες». Εξηγήσαμε μια έκδοση του προβλήματος του μέσου όρου στους αποστολείς. Τους δοκιμάσαμε για να επιβεβαιώσουμε ότι κατάλαβαν την περιγραφή μας. Εκαναν. Στη συνέχεια τους ζητήσαμε να εξηγήσουν την εργασία στους δέκτες με δικά τους λόγια. Εκαναν. Στη συνέχεια δοκιμάσαμε τους δέκτες για να δούμε αν κατάλαβαν. Για άλλη μια φορά, το αν οι δέκτες μπορούσαν να κάνουν την εργασία ήταν περίπου ένα κέρμα. Τα αγγλικά μπορεί να είναι μια καυτή γλώσσα προγραμματισμού, αλλά είναι σχεδόν τόσο επιρρεπής σε σφάλματα όσο και οι κρύες!

Τέλος, η γενική προβολή του προγραμματισμού ως η πράξη του να κάνει έναν υπολογιστή να πραγματοποιήσει τις συμπεριφορές που θέλετε να πραγματοποιήσει υποδηλώνει ότι, στο τέλος της ημέρας, δεν μπορείτε να αντικαταστήσετε τα άτομα που αποφασίζουν ποιες πρέπει να είναι αυτές οι συμπεριφορές. Δηλαδή, η γενετική τεχνητή νοημοσύνη θα μπορούσε να σας βοηθήσει να εκφράσετε τις επιθυμητές συμπεριφορές σας πιο άμεσα με μια μορφή που μπορούν να πραγματοποιήσουν οι τυπικοί υπολογιστές. Αλλά δεν μπορεί να επιλέξει τον στόχο για εσάς.

Και

όσο ευρύτερο είναι το φάσμα των ανθρώπων που μπορούν να αποφασίσουν για τους στόχους, τόσο καλύτερος και πιο αντιπροσωπευτικός θα γίνει η πληροφορική.

Στην εποχή της γενετικής τεχνητής νοημοσύνης, όλοι έχουν τη δυνατότητα να συμμετέχουν σε δραστηριότητες που μοιάζουν με προγραμματισμό, λέγοντας στους υπολογιστές τι να κάνουν για λογαριασμό τους. Αλλά για να μεταφέρετε τις επιθυμίες σας με ακρίβεια—σε ανθρώπους, παραδοσιακές γλώσσες προγραμματισμού ή ακόμα και νέους μετασχηματιστές—απαιτεί εκπαίδευση, προσπάθεια και εξάσκηση. Το Generative AI βοηθά στη μερική γνωριμία με τους ανθρώπους, διευρύνοντας σημαντικά την ικανότητα των υπολογιστών να μας καταλαβαίνουν. Αλλά είναι ακόμα στο χέρι μας να μάθουμε πώς να μας καταλαβαίνουν.

Ο Michael L. Littman είναι Καθηγητής Επιστήμης Υπολογιστών Πανεπιστημίου στο Brown University και κατέχει βοηθητική θέση στο Georgia Institute of Technology College of Computing. Επιλέχθηκε από την American Association for the Advancement of Science ως Leadership Fellow for

Public

Engagement with Science in Artificial Intelligence. Είναι συγγραφέας του «

Κωδικός στο Joy

.»