Πώς λειτουργεί το ChatGPT; Τι είναι ένα «Μαύρο κουτί» AI;

Για μερικούς ανθρώπους, ο όρος «μαύρο κουτί» φέρνει στο μυαλό τις συσκευές καταγραφής σε αεροπλάνα που είναι πολύτιμες για μεταθανάτιες αναλύσεις, εάν συμβεί το αδιανόητο. Για άλλους θυμίζει μικρά θέατρα με μίνιμαλ εξοπλισμό. Αλλά το μαύρο κουτί είναι επίσης ένας σημαντικός όρος στον κόσμο της τεχνητής νοημοσύνης.

Όλα συμπεριλαμβάνονται


μαύρα κουτιά


Ανατρέξτε σε συστήματα τεχνητής νοημοσύνης με εσωτερικές λειτουργίες που είναι αόρατες στον χρήστη. Μπορείτε να τους τροφοδοτήσετε είσοδο και να λάβετε έξοδο, αλλά δεν μπορείτε να εξετάσετε τον κώδικα του συστήματος ή τη λογική που παρήγαγε την έξοδο.

Η μηχανική μάθηση είναι το κυρίαρχο υποσύνολο της τεχνητής νοημοσύνης. Βρίσκεται στη βάση των παραγωγικών συστημάτων AI όπως


ChatGPT


και


DALL-E 2


. Υπάρχουν τρία στοιχεία στη μηχανική μάθηση: ένας αλγόριθμος ή ένα σύνολο αλγορίθμων, δεδομένα εκπαίδευσης και ένα μοντέλο. Ένας αλγόριθμος είναι ένα σύνολο διαδικασιών. Στη μηχανική μάθηση, ένας αλγόριθμος μαθαίνει να αναγνωρίζει μοτίβα αφού εκπαιδευτεί σε ένα μεγάλο σύνολο παραδειγμάτων – τα δεδομένα εκπαίδευσης. Μόλις εκπαιδευτεί ένας αλγόριθμος μηχανικής μάθησης, το αποτέλεσμα είναι ένα μοντέλο μηχανικής μάθησης. Το μοντέλο είναι αυτό που χρησιμοποιούν οι άνθρωποι.

Για παράδειγμα, ένας αλγόριθμος μηχανικής μάθησης θα μπορούσε να σχεδιαστεί για να αναγνωρίζει μοτίβα σε εικόνες και τα δεδομένα εκπαίδευσης θα μπορούσαν να είναι εικόνες σκύλων. Το προκύπτον μοντέλο μηχανικής μάθησης θα ήταν ένας εντοπιστής σκύλων. Θα του δίνατε μια εικόνα ως είσοδο και θα λαμβάνατε ως έξοδο εάν και πού στην εικόνα ένα σύνολο pixel αντιπροσωπεύει έναν σκύλο.

Οποιοδήποτε από τα τρία στοιχεία ενός συστήματος μηχανικής μάθησης μπορεί να είναι κρυφό ή σε μαύρο κουτί. Όπως συμβαίνει συχνά, ο αλγόριθμος είναι δημοσίως γνωστός, γεγονός που καθιστά την τοποθέτηση σε μαύρο κουτί λιγότερο αποτελεσματική. Έτσι, για να προστατεύσουν την πνευματική τους ιδιοκτησία, οι προγραμματιστές AI συχνά βάζουν το μοντέλο σε ένα μαύρο κουτί. Μια άλλη προσέγγιση που ακολουθούν οι προγραμματιστές λογισμικού είναι να συγκαλύπτουν τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση του μοντέλου – με άλλα λόγια, να τοποθετούν τα δεδομένα εκπαίδευσης σε ένα μαύρο κουτί.

Οι αλγόριθμοι μαύρου κουτιού καθιστούν πολύ δύσκολη την κατανόηση του τρόπου λειτουργίας των AI, αλλά η κατάσταση δεν είναι αρκετά ασπρόμαυρη.

Το αντίθετο ενός μαύρου κουτιού αναφέρεται μερικές φορές ως α


γυάλινο κουτί


. Ένα γυάλινο κουτί AI είναι ένα σύστημα του οποίου οι αλγόριθμοι, τα δεδομένα εκπαίδευσης και το μοντέλο είναι όλα διαθέσιμα για να τα δει ο καθένας. Αλλά οι ερευνητές μερικές φορές χαρακτηρίζουν πτυχές ακόμη και αυτών ως μαύρο κουτί.

Κι αυτό γιατί οι ερευνητές


δεν καταλαβαίνω πλήρως


πώς οι αλγόριθμοι μηχανικής μάθησης, ιδιαίτερα


βαθιά μάθηση


αλγόριθμοι, λειτουργούν. Το πεδίο του


εξηγήσιμη AI


εργάζεται για την ανάπτυξη αλγορίθμων που, αν και δεν είναι απαραίτητα γυάλινο κουτί, μπορούν να γίνουν καλύτερα κατανοητοί από τον άνθρωπο.

Γιατί τα μαύρα κουτιά της τεχνητής νοημοσύνης έχουν σημασία

Σε πολλές περιπτώσεις, υπάρχει καλός λόγος να είμαστε προσεκτικοί με τους αλγόριθμους και τα μοντέλα μηχανικής εκμάθησης μαύρου κουτιού. Ας υποθέσουμε ότι ένα μοντέλο μηχανικής μάθησης έχει κάνει μια διάγνωση σχετικά με την υγεία σας. Θα θέλατε το μοντέλο να είναι μαύρο κουτί ή γυάλινο κουτί; Τι γίνεται με τον γιατρό που συνταγογραφεί τη θεραπεία σας; Ίσως θα ήθελε να μάθει πώς το μοντέλο έφτασε στην απόφασή του.

Τι θα συμβεί αν ένα μοντέλο μηχανικής μάθησης που καθορίζει εάν πληροίτε τις προϋποθέσεις για επιχειρηματικό δάνειο από τράπεζα σας απορρίψει; Δεν θα θέλατε να μάθετε γιατί; Εάν το κάνατε, θα μπορούσατε πιο αποτελεσματικά να ασκήσετε ένσταση στην απόφαση ή να αλλάξετε την κατάστασή σας για να αυξήσετε τις πιθανότητές σας να πάρετε δάνειο την επόμενη φορά.

Τα μαύρα κουτιά έχουν επίσης σημαντικές επιπτώσεις στην ασφάλεια του συστήματος λογισμικού. Για χρόνια, πολλοί άνθρωποι στον τομέα των υπολογιστών πίστευαν ότι η διατήρηση του λογισμικού σε ένα μαύρο κουτί θα εμπόδιζε τους χάκερ να το εξετάσουν και επομένως θα ήταν ασφαλές. Αυτή η υπόθεση έχει αποδειχθεί σε μεγάλο βαθμό λανθασμένη επειδή οι χάκερ μπορούν


αντίστροφος μηχανικός


λογισμικό – δηλαδή, δημιουργήστε ένα φαξ παρατηρώντας προσεκτικά πώς λειτουργεί ένα κομμάτι λογισμικού – και ανακαλύψτε τρωτά σημεία προς εκμετάλλευση.

Εάν το λογισμικό βρίσκεται σε γυάλινο κουτί, τότε οι ελεγκτές λογισμικού και οι καλοπροαίρετοι χάκερ μπορούν να το εξετάσουν και να ενημερώσουν τους δημιουργούς για αδυναμίες, ελαχιστοποιώντας έτσι τις κυβερνοεπιθέσεις.

Θέλετε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, τα chatbots και το μέλλον της μηχανικής μάθησης; Δείτε την πλήρη κάλυψή μας για



τεχνητή νοημοσύνη



ή περιηγηθείτε στους οδηγούς μας



Οι καλύτερες δωρεάν γεννήτριες τέχνης AI



και



Όλα όσα γνωρίζουμε για το ChatGPT του OpenAI



.

Saurabh Bagchi




Καθηγητής Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών,




Πανεπιστήμιο Purdue

Αυτό το άρθρο αναδημοσιεύεται από




Η συζήτηση




με άδεια Creative Commons. Διαβάστε το




πρωτότυπο άρθρο




.