Θραύση: Το OpenAI Q-Star φέρεται να οδήγησε στην απόλυση του Sam Altman

Το

OpenAI

Q-Star έγινε το επίκεντρο μιας πρωτοποριακής αποκάλυψης στον κλάδο της τεχνητής νοημοσύνης, σύμφωνα με πρόσφατη


Reuters


κανω ΑΝΑΦΟΡΑ. Σε μια τολμηρή κίνηση πριν από την προσωρινή αποχώρηση του CEO Sam Altman, μια ομάδα ερευνητών της εταιρείας έγραψε μια κρίσιμη επιστολή στο διοικητικό συμβούλιο. Αυτή η αλληλογραφία, που δεν είχε αποκαλυφθεί προηγουμένως, προκάλεσε συναγερμό σχετικά με μια ανάπτυξη τεχνητής νοημοσύνης αρκετά ισχυρή ώστε να θέσει σε κίνδυνο την ανθρωπότητα. Ο Άλτμαν, ηγετική φυσιογνωμία στον τομέα της γενετικής τεχνητής νοημοσύνης, αντιμετώπισε την απόφαση του διοικητικού συμβουλίου να τον απομακρύνει από τον ρόλο του, μια κίνηση που επηρεάστηκε από αυτή την επιστολή μεταξύ άλλων παραγόντων.

Στο πλαίσιο αυτών των δραματικών γεγονότων, περισσότεροι από 700 εργαζόμενοι βρίσκονταν στο χείλος της παραίτησης, εξετάζοντας τη μετάβαση στη Microsoft, βασικό υποστηρικτή, σε μια επίδειξη ενότητας με τον Άλτμαν. Η επιστολή ήταν ένας από τους πολλούς λόγους που συνέβαλαν στην απόφαση του διοικητικού συμβουλίου να απολύσει τον Altman, συμπεριλαμβανομένων των ανησυχιών για την πρόωρη εμπορευματοποίηση των εξελίξεων της τεχνητής νοημοσύνης χωρίς να κατανοήσει πλήρως τις επιπτώσεις τους. Οι προσπάθειες να ληφθεί η επιστολή για επανεξέταση απέτυχαν και οι συγγραφείς δεν απάντησαν σε ερωτήσεις για περισσότερες πληροφορίες.

JUST IN: Η απόλυση του Sam Altman οφείλεται στο μυστικό καινοτόμο AI του OpenAI που ονομάζεται Q* (πιθανώς Q-

learning

).

Επιπλέον, τεράστιες εξελίξεις στο AI σήμερα από το Inflection AI, το Google

Bard

, το Neuralink, το ElevenLabs, το screenshot-to-code και 9 νέα εργαλεία AI.

Εδώ είναι ΟΛΑ όσα πρέπει να γνωρίζετε:

— Rowan Cheung (@rowancheung)

23 Νοεμβρίου 2023

Τι γνωρίζουμε για το OpenAI Q-Star;

Μετά από ερωτήματα από


Reuters


, η OpenAI αναγνώρισε εσωτερικά την ύπαρξη ενός έργου με το όνομα «Q*» και την προαναφερθείσα επιστολή προς το διοικητικό συμβούλιο, αν και η εταιρεία απέφυγε να κάνει δημόσια σχόλια. Αυτή η εσωτερική αναγνώριση, που μεταφέρθηκε μέσω ενός μηνύματος από τη Mira Murati, έμπειρο στέλεχος στο OpenAI, σχεδιάστηκε για να προετοιμάσει το προσωπικό για πιθανή κάλυψη από τα μέσα ενημέρωσης, χωρίς να επαληθεύσει τις ιδιαιτερότητες των αναφορών.

Μέσα στους διαδρόμους του OpenAI, υπάρχει μια αυξανόμενη πεποίθηση ότι το Q* (προφέρεται Q-Star) αντιπροσωπεύει ένα σημαντικό άλμα στην προσπάθειά τους να επιτύχουν τεχνητή γενική νοημοσύνη (AGI). Το AGI, όπως ορίζεται από το OpenAI, αναφέρεται σε αυτόνομα συστήματα ικανά να ξεπερνούν τους ανθρώπους στις περισσότερες οικονομικά σημαντικές εργασίες. Μια πηγή, που προτιμά την ανωνυμία λόγω μη εξουσιοδοτημένης αποκάλυψης, αποκάλυψε ότι με σημαντική υπολογιστική ισχύ, αυτό το νέο μοντέλο έχει επιδείξει ανδρεία στην επίλυση συγκεκριμένων μαθηματικών προκλήσεων, αν και σε επίπεδο συγκρίσιμο με τους μαθητές του δημοτικού σχολείου. Η επιτυχία σε αυτές τις αρχικές μαθηματικές εργασίες έχει πυροδοτήσει σημαντική αισιοδοξία μεταξύ των ερευνητών σχετικά με τις πιθανές δυνατότητες του Q-Star.

Τα μαθηματικά βρίσκονται επί του παρόντος στην πρώτη γραμμή της γενετικής ανάπτυξης της τεχνητής νοημοσύνης. Ενώ η υπάρχουσα τεχνητή νοημοσύνη υπερέχει στις εργασίες που βασίζονται στη γλώσσα μέσω της πρόβλεψης της επόμενης λέξης, οι απαντήσεις της μπορεί να ποικίλλουν. Ωστόσο, η κατάκτηση μαθηματικών προβλημάτων, που έχουν οριστικές απαντήσεις, υποδηλώνει μια κίνηση προς την τεχνητή νοημοσύνη με συλλογιστικές δεξιότητες συγκρίσιμες με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να ωφελήσει σημαντικά τομείς όπως η νέα επιστημονική έρευνα.

Στην επιστολή τους, οι ερευνητές του OpenAI επεσήμαναν τόσο τις αξιοσημείωτες δυνατότητες της τεχνητής νοημοσύνης όσο και τους πιθανούς κινδύνους της. Οι ιδιαιτερότητες των ανησυχιών για την ασφάλεια δεν ήταν λεπτομερείς, αλλά το θέμα των εξαιρετικά ευφυών μηχανών που αποτελούν απειλή για την ανθρωπότητα ήταν μια μακροχρόνια συζήτηση στους κύκλους της επιστήμης των υπολογιστών.

Επιπλέον, η ομάδα “AI scientist” του OpenAI, μια συγχώνευση των ομάδων “Code Gen” και “Math Gen”, εργάζεται για τη βελτιστοποίηση μοντέλων τεχνητής νοημοσύνης για τη βελτίωση της συλλογιστικής και ενδεχομένως την ανάληψη επιστημονικής εργασίας, σηματοδοτώντας ένα σημαντικό βήμα στην ανάπτυξη της τεχνητής νοημοσύνης.

Ο Sam Altman έπαιξε καθοριστικό ρόλο στην επίτευξη πρωτοφανούς επιτυχίας στο ChatGPT, καθιστώντας το μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού που έγιναν ποτέ. Η ηγεσία του ήταν καθοριστική για την εξασφάλιση σημαντικών επενδύσεων και υπολογιστικών πόρων από τη Microsoft, κρίσιμα βήματα για την επίτευξη του AGI.

Πρόσφατα, ο Altman αποκάλυψε πολλά νέα εργαλεία σε μια επίδειξη και υπαινίχθηκε για επικείμενες ανακαλύψεις στο AGI σε μια σύνοδο κορυφής στο Σαν Φρανσίσκο. «Τέσσερις φορές στην ιστορία του OpenAI, με το πιο πρόσφατο παράδειγμα να σημειώθηκε μόλις πριν από εβδομάδες, έχω βιώσει τη συγκίνηση να σπρώξω πίσω το πέπλο της άγνοιας και να προωθήσω τα σύνορα της ανακάλυψης. Το να είσαι μέρος τέτοιων στιγμών είναι η επαγγελματική τιμή μιας ζωής», δήλωσε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.

Ωστόσο, σε μια εκπληκτική

εξέλιξη

των γεγονότων, ο Άλτμαν απολύθηκε από τη θέση του από το διοικητικό συμβούλιο την επόμενη μέρα.

Φόρουμ προγραμματιστών του OpenAI

συζητά ήδη φήμες για το Q-Star, αλλά δεν υπάρχει τίποτα οριστικό ακόμα.

Πίστωση επιλεγμένης εικόνας:

Andrew Neel/Unsplash