Η δουλειά μου εδώ έχει γίνει

Για 55 ώρες και 32 λεπτά, ο Emmett Shear καθοδήγησε την κορυφαία εταιρεία τεχνητής νοημοσύνης στον κόσμο, OpenAI, στη μεγαλύτερη κρίση της ποτέ. Αυτό το κεφάλαιο της ζωής του Shear και της ιστορίας του OpenAI έφτασε τώρα στο τέλος του. Φαίνεται ότι κανείς δεν άκουσε τις ανησυχίες του πρώην CEO του

Twitch

σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και

επιστρέφοντας CEO Sam Altman

είναι καλύτερα σε θέση να επικεντρωθεί στα κέρδη από ποτέ.

«Είμαι βαθιά ευχαριστημένος από αυτό το αποτέλεσμα, μετά από ~ 72 πολύ έντονες ώρες εργασίας», δήλωσε ο Shear σε μια


ανάρτηση στο Χ


, στρογγυλεύοντας ελαφρώς τη θητεία του. «Μπαίνοντας στο OpenAI, δεν ήμουν σίγουρος ποιος θα ήταν ο σωστός δρόμος. Αυτό ήταν το μονοπάτι που μεγιστοποιούσε την ασφάλεια παράλληλα με τη σωστή συμπεριφορά από όλους τους εμπλεκόμενους φορείς. Χαίρομαι που συμμετείχα στη λύση».

Είναι σαφές ότι ο Shear δεν ήξερε ποιος ήταν ο σωστός δρόμος για το OpenAI και επίσης φαίνεται ότι κανείς δεν τον ρώτησε. Σύμφωνα με πληροφορίες, πολλά στελέχη

τεχνολογία

ς


απορρίφθηκε


η δουλειά του «σφουγγάρι του πόνου» για το άγριο Σαββατοκύριακο του OpenAI, συμπεριλαμβανομένου του πρώην CEO του GitHub, Nat Friedman και του συνιδρυτή του ScaleAI Alex Wang. Αλλά ο Έμετ Σιρ ήταν στο ύψος του έργου — ή τουλάχιστον ανέλαβε τη δουλειά. Τι θα γινόταν λοιπόν αν το προσωπικό των 750 ατόμων

απείλησε να παραιτηθεί

την επόμενη μέρα που προσλήφθηκε; Και έχει πραγματικά σημασία που οι υπάλληλοι του OpenAI αντέδρασαν στην ανακοίνωση του Διευθύνοντος Συμβούλου του με μια συλλογική “


γάμα σε


”

emoji

στο Slack; Σημασία έχει ότι ήταν Διευθύνων Σύμβουλος, με ησυχία

προσωρινός

επισυνάπτεται.

Ο συνιδρυτής και πρώην Διευθύνων Σύμβουλος του Twitch επιλέχθηκε αναμφίβολα από το διοικητικό συμβούλιο του OpenAI λόγω της προοπτικής του για την καταστροφή της τεχνητής νοημοσύνης, πιστεύοντας ότι η τεχνητή νοημοσύνη είναι τόσο ισχυρή που η πρόοδος θα πρέπει να επιβραδυνθεί για να αποφευχθεί η ανθρώπινη εξαφάνιση ή ακόμα χειρότερα.

«Δεν είναι μόνο η εξαφάνιση σε ανθρώπινο επίπεδο, είναι η πιθανή καταστροφή κάθε αξίας στον κώνο φωτός», είπε ο Shear on


Το podcast Logan Bartlett


πριν από τέσσερις μήνες όταν συζητούσε σενάρια καταστροφής για την τεχνητή νοημοσύνη, κάτι που δίνει 5 έως 50% πιθανότητες να συμβεί. «Όχι μόνο για εμάς, για οποιοδήποτε είδος πιάστηκε στον απόηχο της έκρηξης. Είναι σαν μια βόμβα που καταστρέφει το

σύμπαν

».

Ο Σίρ είπε τα δικά του


πρώτη σειρά εργασιών


θα ήταν να ερευνήσει γιατί ο προκάτοχός του, Σαμ Άλτμαν, απολύθηκε. Απείλησε μάλιστα να παραιτηθεί αν το διοικητικό συμβούλιο δεν του έλεγε γιατί απολύθηκε ο Άλτμαν, σύμφωνα με


Bloomberg


αφήνοντας να εννοηθεί ότι δέχτηκε τη δουλειά αγνοώντας παντελώς το μεγαλύτερο

πρόβλημα

που αντιμετώπιζε η εταιρεία.

Μεγάλο μέρος του παρελθόντος του Shear βγήκε στην επιφάνεια την περασμένη εβδομάδα, συμπεριλαμβανομένου του καμέο του ως χαρακτήρα σε μια φαντασία θαυμαστών του Χάρι Πότερ σχετικά με την «ορθολογική σκέψη» που έγραψε ο ερευνητής AI Eliezer Yudkowsky. Το fanfiction είναι δημοφιλές στους αποτελεσματικούς αλτρουιστές της Silicon Valley, εκείνους που πιστεύουν ότι το AGI πρέπει να δημιουργηθεί για να μεγιστοποιήσει το ανθρώπινο καλό. Η ορθολογική σκέψη είναι σε μεγάλο βαθμό μια μεταφορά για την τεχνητή νοημοσύνη στο βιβλίο, και η αναφορά του Shear ήταν


δώρο γενεθλίων


σύμφωνα με


404 Μέσα


.

Η περίεργη ιστορία των tweet του Shear ήταν


παρασύρθηκε


Επίσης, συμπεριλαμβανομένων των απόψεών του ότι «προτιμά οι πραγματικοί ναζί να κατακτήσουν τον κόσμο για πάντα παρά να ρίξουν ένα νόμισμα στο τέλος κάθε αξίας», αναφερόμενος σε ένα σενάριο καταστροφής της τεχνητής νοημοσύνης. Το έγραψε επίσης στο Twitter


θέσεις CEO


μπορούν να αυτοματοποιηθούν και δεν είναι απαραίτητα για τις εταιρείες. Δεδομένης της απόδοσής του αυτό το Σαββατοκύριακο, μπορείτε να δείτε γιατί. Ένα άλλο tweet ανέφερε ότι η πρακτική άσκηση για τη Microsoft, τον τεράστιο συνεργάτη του OpenAI, ήταν σαν


πουλώντας την ψυχή του


. Τα tweets αντικατοπτρίζουν την έλλειψη δέουσας επιμέλειας του διοικητικού συμβουλίου του OpenAI στον έλεγχο ενός Διευθύνοντος Συμβούλου, μια βασική προσέγγιση “sweep-and-delete” στο χρονοδιάγραμμα ενός εισερχόμενου στελέχους είναι απαραίτητη.

Ο Emmett Shear δεν φαίνεται να χρειάζεται πλέον στο OpenAI, τώρα που ο Sam Altman είναι και πάλι υπεύθυνος. Οι ανησυχίες του σχετικά με τα σενάρια καταστροφής της τεχνητής νοημοσύνης δεν φαίνεται να είχαν κανένα αντίκτυπο στην κατεύθυνση της εταιρείας, ειδικά τώρα που οι μεγιστοποιητές των κερδών Larry Summers και Bret Taylor είναι στο ταμπλό. Ο Sam Altman μίλησε δημόσια στον προσωρινό διευθύνοντα σύμβουλο για πρώτη φορά στη θητεία του Shear την Τετάρτη,


απαντώντας


σε ένα από τα tweets του Shear, “lol love you Emmett”.

Λοιπόν, επωφελήθηκε ο Emmett Shear από αυτό; Δεν νομίζω. Μήπως η ανθρωπότητα; Δεν γνωρίζω. Τι ακριβώς έκανε αυτός ο τύπος για να αποκαλέσει τον εαυτό του μέρος της λύσης;