Γιατί ολόκληρος ο κόσμος της τεχνητής νοημοσύνης μιλούσε για το “Q” αυτή την εβδομάδα

Στον απόηχο του συγκλονιστικού OpenAI της περασμένης εβδομάδας

αγώνα εξουσίας

υπήρξε μια τελική αποκάλυψη που λειτούργησε ως ένα είδος επιλόγου στο τεράστιο χάος:


μια αναφορά


από το

Reuters

που αποκάλυψε μια υποτιθέμενη εκπληκτική ανακάλυψη στην εκκίνηση. Αυτή η ανακάλυψη φέρεται να συνέβη μέσω ενός ελάχιστα γνωστού προγράμματος που ονομάστηκε “Q-Star” ή “Q*”.

Σύμφωνα με την έκθεση, ένα από τα πράγματα που μπορεί να πυροδότησε την εσωτερική σύγκρουση στην εταιρεία με επιρροή AI ήταν αυτή η «ανακάλυψη» που σχετίζεται με το Q. Πριν από την ανατροπή του Άλτμαν, πολλά στελέχη του OpenAI φέρεται να έγραψαν στο διοικητικό συμβούλιο της εταιρείας για μια «ισχυρή ανακάλυψη τεχνητής νοημοσύνης που είπαν ότι θα μπορούσε να απειλήσει την ανθρωπότητα». Αυτή η επιστολή ήταν «ένας παράγοντας μεταξύ μιας μεγαλύτερης λίστας παραπόνων από το διοικητικό συμβούλιο που οδήγησε στην απόλυση του Άλτμαν», ισχυρίστηκε το Reuters, επικαλούμενο ανώνυμες πηγές.

Ειλικρινά, η ιστορία ακουγόταν αρκετά τρελή. Τι ήταν αυτό το παράξενο νέο πρόγραμμα και γιατί, υποτίθεται, προκάλεσε όλο το χάος στο OpenAI; Το Reuters ισχυρίστηκε ότι το πρόγραμμα Q* είχε καταφέρει να επιτρέψει σε έναν πράκτορα AI να κάνει «μαθηματικά σε επίπεδο σχολείου», μια εκπληκτική τεχνολογική ανακάλυψη, αν αληθεύει, που θα μπορούσε να επισπεύσει μεγαλύτερες επιτυχίες στη δημιουργία τεχνητής γενικής νοημοσύνης ή AGI, ανέφεραν πηγές. Αλλο


κανω ΑΝΑΦΟΡΑ


από το The Information επανέλαβε σε μεγάλο βαθμό πολλά από τα σημεία που αναφέρονται στο άρθρο του Reuters.

Ωστόσο, οι λεπτομέρειες σχετικά με αυτό το υποτιθέμενο πρόγραμμα Q δεν έχουν κοινοποιηθεί από την εταιρεία, αφήνοντας μόνο τις ανώνυμες αναφορές και τις αχαλίνωτες εικασίες στο διαδίκτυο σχετικά με το ποια θα μπορούσε να είναι η πραγματική φύση του προγράμματος.

Κάποιοι έχουν υποθέσει ότι το πρόγραμμα μπορεί (λόγω του ονόματός του) να έχει κάποια σχέση με το Q-learning, μια μορφή μηχανικής μάθησης. Λοιπόν, ναι, τι είναι το Q-learning και πώς μπορεί να εφαρμοστεί στο μυστικό πρόγραμμα του OpenAI;

Σε γενικές γραμμές, υπάρχουν δύο διαφορετικοί τρόποι για να διδάξετε ένα πρόγραμμα AI να κάνει κάτι. Ένα από αυτά είναι γνωστό ως


«Εποπτευόμενη μάθηση»


και λειτουργεί τροφοδοτώντας πράκτορες τεχνητής νοημοσύνης μεγάλες δόσεις από

«επισημασμένα» δεδομένα

, το οποίο στη συνέχεια χρησιμοποιείται για την εκπαίδευση του προγράμματος ώστε να εκτελεί μια λειτουργία από μόνο του (συνήθως αυτή η συνάρτηση είναι περισσότερο ταξινόμηση δεδομένων). Σε γενικές γραμμές, δημιουργήθηκαν προγράμματα όπως το ChatGPT, το bot που δημιουργεί περιεχόμενο του OpenAI


χρησιμοποιώντας κάποια μορφή εποπτευόμενης μάθησης


.

Η μη εποπτευόμενη μάθηση, εν τω μεταξύ, είναι μια μορφή ML όπου οι αλγόριθμοι τεχνητής νοημοσύνης επιτρέπεται να περάσουν από μεγάλες δόσεις δεδομένων χωρίς ετικέτα, σε μια προσπάθεια να βρουν μοτίβα για ταξινόμηση. Αυτό το είδος τεχνητής νοημοσύνης μπορεί να αναπτυχθεί για πολλούς διαφορετικούς σκοπούς, όπως η δημιουργία του είδους


συστήματα συστάσεων


που χρησιμοποιούν εταιρείες όπως το Netflix και το Spotify για να προτείνουν νέο περιεχόμενο στους χρήστες με βάση τις προηγούμενες επιλογές των καταναλωτών τους.

Τέλος, υπάρχει η ενισχυμένη μάθηση ή RL, η οποία είναι μια κατηγορία ML που δίνει κίνητρα σε ένα πρόγραμμα τεχνητής νοημοσύνης να επιτύχει έναν στόχο μέσα σε ένα συγκεκριμένο περιβάλλον. Το Q-learning είναι μια υποκατηγορία της ενισχυμένης μάθησης. Στο RL, οι ερευνητές αντιμετωπίζουν τους πράκτορες της τεχνητής νοημοσύνης σαν ένα σκυλί που προσπαθούν να εκπαιδεύσουν. Τα προγράμματα «ανταμείβονται» εάν προβαίνουν σε συγκεκριμένες ενέργειες για να επηρεάσουν ορισμένα αποτελέσματα και τιμωρούνται εάν κάνουν άλλες. Με αυτόν τον τρόπο, το πρόγραμμα «εκπαιδεύεται» αποτελεσματικά ώστε να αναζητά το πιο βελτιστοποιημένο αποτέλεσμα σε μια δεδομένη κατάσταση. Στο Q-learning, ο πράκτορας προφανώς εργάζεται μέσω δοκιμής και λάθους για να βρει τον καλύτερο τρόπο για να επιτύχει έναν στόχο που έχει προγραμματιστεί να επιδιώξει.

Τι σχέση έχουν όλα αυτά με την υποτιθέμενη «μαθηματική» ανακάλυψη του OpenAI; Θα μπορούσε κανείς να υποθέσει ότι το πρόγραμμα που κατάφερε (υποτίθεται) να κάνει απλές μαθηματικές πράξεις μπορεί να είχε αυτή την ικανότητα μέσω κάποιας μορφής RL που σχετίζεται με το Q. Είπαμε όλα αυτά, πολλοί ειδικοί είναι κάπως επιφυλακτικοί ως προς το εάν τα προγράμματα τεχνητής νοημοσύνης μπορούν πραγματικά να κάνουν ακόμα μαθηματικά προβλήματα. Άλλοι φαίνεται να πιστεύουν ότι, ακόμη κι αν μια τεχνητή νοημοσύνη μπορούσε να επιτύχει τέτοιους στόχους, αυτό


δεν θα μεταφραζόταν απαραίτητα σε ευρύτερες ανακαλύψεις AGI


. Η αναθεώρηση τεχνολογίας MIT, μιλώντας με τους:

Οι ερευνητές προσπαθούσαν για χρόνια να βάλουν μοντέλα τεχνητής νοημοσύνης για να λύσουν μαθηματικά προβλήματα. Τα μοντέλα γλώσσας όπως το ChatGPT και το GPT-4 μπορούν να κάνουν κάποια μαθηματικά, αλλά όχι πολύ καλά ή αξιόπιστα. Προς το παρόν δεν έχουμε τους αλγόριθμους ή ακόμη και τις κατάλληλες αρχιτεκτονικές για να μπορούμε να λύνουμε μαθηματικά προβλήματα αξιόπιστα χρησιμοποιώντας τεχνητή νοημοσύνη, λέει η Wenda Li, λέκτορας τεχνητής νοημοσύνης στο Πανεπιστήμιο του Εδιμβούργου. Η βαθιά μάθηση και οι μετασχηματιστές (ένα είδος νευρωνικού δικτύου), που είναι αυτό που χρησιμοποιούν τα γλωσσικά μοντέλα, είναι άριστα στην αναγνώριση προτύπων, αλλά αυτό από μόνο του πιθανότατα δεν είναι αρκετό, προσθέτει ο Li.

Εν ολίγοις: Πραγματικά δεν γνωρίζουμε πολλά για το Q, ωστόσο, αν είναι πιστευτοί οι ειδικοί, η διαφημιστική εκστρατεία γύρω από αυτό μπορεί να είναι ακριβώς αυτό – διαφημιστική εκστρατεία.

Ερώτηση της ημέρας: Σοβαρά, τι στο καλό συνέβη με τον Sam Altman;

Παρά το γεγονός ότι επέστρεψε στο OpenAI, πρέπει να ληφθεί υπόψη ότι ακόμα δεν ξέρουμε τι στο διάολο συνέβη με τον Sam Altman την περασμένη εβδομάδα. Σε


μια συνέντευξη


έκανε με το The Verge την Τετάρτη, ο Altman δεν έδωσε σχεδόν τίποτα για το τι προκάλεσε τη δραματική μάχη εξουσίας στην εταιρεία του την περασμένη εβδομάδα. Παρά τις συνεχείς προτροπές από τον δημοσιογράφο του ρεπορτάζ, ο Άλτμαν απλώς σήκωσε τα χέρια του και είπε ότι δεν θα μιλούσε για αυτό στο άμεσο μέλλον. «Καταλαβαίνω απόλυτα γιατί οι άνθρωποι θέλουν μια απάντηση αυτή τη στιγμή. Αλλά πιστεύω επίσης ότι είναι εντελώς παράλογο να το περιμένουμε», είπε ο CEO που είχε ανακάμψει. Αντίθετα, το περισσότερο που μπόρεσε να ξεφύγει από το στέλεχος του OpenAI είναι ότι η εταιρεία βρίσκεται στη μέση της διεξαγωγής μιας «ανεξάρτητης αναθεώρησης» για το τι συνέβη – μια διαδικασία που, όπως είπε, δεν θέλει να «παρέμβει». με. Μας

δική κάλυψη του shitshow της περασμένης εβδομάδας

το ερμήνευσε σύμφωνα με μια αφήγηση που περιελάμβανε μια σύγκρουση μεταξύ της ηθικής του διοικητικού συμβουλίου και της επίμονης ώθησης του Altman στην αυτοματοποιημένη τεχνολογία του εμπορικού OpenAI. Ωστόσο, αυτή η αφήγηση είναι ακριβώς αυτό: μια αφήγηση. Δεν γνωρίζουμε τις συγκεκριμένες λεπτομέρειες για το τι οδήγησε στην εκδίωξη του Σαμ, αν και σίγουρα θα θέλαμε.

Άλλοι τίτλοι αυτής της εβδομάδας

• 
  Το Ισραήλ χρησιμοποιεί τεχνητή νοημοσύνη για να εντοπίσει ύποπτους Παλαιστίνιους μαχητές
  
  . Αν ανησυχούσατε ότι οι κυβερνήσεις δεν θα χάσουν χρόνο για να οπλίσουν την τεχνητή νοημοσύνη για χρήση σε σύγχρονο πόλεμο, ακούστε αυτό. Μια ιστορία από τον Guardian δείχνει ότι το Ισραήλ βρίσκεται αυτή τη στιγμή
  
  
  χρησιμοποιώντας ένα πρόγραμμα τεχνητής νοημοσύνης που ονομάστηκε Habsora ή «Το Ευαγγέλιο» για τον εντοπισμό προφανών στόχων μαχητών εντός της Παλαιστίνης.
  
  
  Το πρόγραμμα χρησιμοποιείται για την «παραγωγή στόχων με γρήγορο ρυθμό» αναφέρει μια δήλωση που δημοσιεύτηκε στον ιστότοπο των Ισραηλινών Αμυντικών Δυνάμεων και πηγές είπαν στον Guardian ότι το πρόγραμμα βοήθησε τον IDF να δημιουργήσει μια βάση δεδομένων με περίπου 30.000 έως 40.000 ύποπτους μαχητές. Η εφημερίδα αναφέρει: «Συστήματα όπως το Ευαγγέλιο…[sources said] είχε διαδραματίσει κρίσιμο ρόλο στη δημιουργία λιστών με άτομα που έχουν εξουσιοδοτηθεί να δολοφονηθούν».
• 
  Ο Έλον Μασκ στάθηκε σε ζητήματα πνευματικών δικαιωμάτων AI αυτή την εβδομάδα και, ως συνήθως, φαινόταν χαζός
  
  .
  
  Πολλαπλές αγωγές
  
  έχουν υποστηρίξει ότι οι εταιρείες τεχνολογίας ουσιαστικά κλέβουν και επανασυσκευάζουν υλικό που προστατεύεται από πνευματικά δικαιώματα, επιτρέποντάς τους να αποκομίζουν χρήματα από έργα άλλων ανθρώπων (συνήθως συγγραφέων και εικαστικών) δωρεάν. Ο Έλον Μασκ μπήκε σε αυτήν την επίμαχη συνομιλία κατά τη διάρκεια του
  
  περίεργη συνέντευξη στο Dealbook
  
  αυτή την εβδομάδα. Όπως ήταν φυσικό, οι σκέψεις που μοιράστηκε ακούγονταν λιγότερο από κατανοητές.
  
  
  Είπε, και παραθέτω
  
  
  : «Δεν ξέρω, εκτός από το να πω ότι μέχρι να αποφασιστούν αυτές οι αγωγές θα έχουμε Digital God. Έτσι, μπορείτε να ρωτήσετε τον Digital God σε εκείνο το σημείο. Εμ. Αυτές οι αγωγές δεν θα κριθούν σε ένα χρονοδιάγραμμα που είναι σχετικό.» Πανέμορφο, Έλον. Απλώς κρατάτε τα μάτια σας μακριά για αυτήν την ψηφιακή θεότητα. Εν τω μεταξύ, στον πραγματικό κόσμο, νομικοί και ρυθμιστικοί εμπειρογνώμονες θα πρέπει να αντιμετωπίσουν τις διαταραχές που προκαλεί συνεχώς αυτή η τεχνολογία σε ανθρώπους πολύ λιγότερο τυχερούς από το
  
  Silicon Valley
  
  C-suite.
• 
  Η ρομποταξία
  
  κρουαζιέρα
  
  ς συνεχίζει να αγωνίζεται
  
  . Η Cruise, η εταιρεία robotaxi που ανήκει στη
  
  General
  
  Motors, είχε μια πραγματικά δύσκολη χρονιά. Ο διευθύνων σύμβουλός της παραιτήθηκε την περασμένη εβδομάδα, μετά από μια δίνη διαμάχης που αφορούσε τις διάφορες ατυχίες της εταιρείας στο Σαν Φρανσίσκο. Αυτή την εβδομάδα,
  
  
  αναφέρθηκε
  
  
  ότι η GM θα περιόριζε τις επενδύσεις της στην εταιρεία. «Αναμένουμε ότι ο ρυθμός της επέκτασης της Cruise θα είναι πιο σκόπιμος όταν ξαναρχίσουν οι εργασίες, με αποτέλεσμα σημαντικά χαμηλότερες δαπάνες το
  
  2024
  
  από ό,τι το 2023», φέρεται να είπε η διευθύνουσα σύμβουλος της GM, Mary Barra, σε συνέδριο επενδυτών την Τετάρτη.