Ο Έλον Μασκ μοιράζεται μια μυστηριώδη επιστολή για τον Σαμ Άλτμαν

By

Marizas Dimitris

On

Νοέ 23, 2023

Ο Έλον Μασκ ανέβασε στο Twitter έναν σύνδεσμο προς μια περίεργη επιστολή την Τρίτη, που υποτίθεται ότι γράφτηκε από πρώην υπαλλήλους του OpenAI και περιγράφει λεπτομερώς «ένα ανησυχητικό μοτίβο εξαπάτησης και χειραγώγησης από τον Sam Altman και τον Greg Brockman». Ο Altman και ο Brockman, Διευθύνων Σύμβουλος και πρόεδρος του OpenAI, ήταν

απολύθηκε και μετά επαναπροσλήφθηκε

σε ένα δραματικό αποτυχημένο πραξικόπημα που έλαβε χώρα τις τελευταίες πέντε ημέρες. Η επιστολή (ανατυπώνεται παρακάτω) περιγράφει μυστική και καταχρηστική συμπεριφορά η οποία, από την πλευρά του Άλτμαν, φέρεται ότι «παρακινήθηκε από τη μνησικακία του εναντίον του Έλον μετά τη διαμάχη τους».

Μετάνιωσε ο Έλον Μασκ που αγόρασε το Twitter; | Συνέντευξη

Walter Isaacson

Από το βράδυ της Τρίτης, ο Άλτμαν ανέλαβε επίσημα τη θέση του ως Διευθύνων Σύμβουλος της OpenAI, αφού αναγκάστηκε να αποχωρήσει από το διοικητικό συμβούλιο της εταιρείας, το οποίο έχει πλέον αντικατασταθεί σε μεγάλο βαθμό. Τα πρώην μέλη του διοικητικού συμβουλίου δεν μοιράστηκαν σχεδόν τίποτα σχετικά με το σκεπτικό τους, εκτός από το ότι περιέγραψαν τον Άλτμαν ως «ασυνεπώς ειλικρινή». Σύμφωνα με πληροφορίες, ακόμη και ο Διευθύνων Σύμβουλος της Microsoft, Σάτια Ναντέλα – ο οποίος έχει ολοκληρώσει μια συμφωνία πολλών δισεκατομμυρίων δολαρίων με την εταιρεία – δεν μπορούσε να λάβει μια απάντηση σχετικά με το γιατί απολύθηκε ο Άλτμαν.

Δεν υπάρχουν στοιχεία που να προτείνουν

την επιστολή που κοινοποίησε ο Μασκ

είναι αληθινό. Ο δισεκατομμυριούχος έγραψε στο Twitter ότι η επιστολή εστάλη σε αυτόν και «Αυτές φαίνονται σαν ανησυχίες που αξίζει να διερευνηθούν». Μπορεί κάλλιστα να είναι φάρσα. Ωστόσο, περιλαμβάνει παραδόξως συγκεκριμένες λεπτομέρειες.

Η επιστολή απευθύνεται στο διοικητικό συμβούλιο του OpenAI. «Είμαστε πρώην υπάλληλοι του OpenAI που εγκατέλειψαν την εταιρεία κατά τη διάρκεια μιας περιόδου σημαντικής αναταραχής και αναταραχής», αναφέρει. «Καθώς έχετε δει τώρα τι συμβαίνει όταν τολμάτε να αντισταθείτε στον Σαμ Άλτμαν, ίσως καταλάβετε γιατί τόσοι πολλοί από εμάς έχουμε μείνει σιωπηλοί φοβούμενοι τις επιπτώσεις». Το OpenAI δεν απάντησε αμέσως σε αίτημα για σχολιασμό.

Ισχυρίζεται ένα μοτίβο κατάχρησης εκ μέρους των Άλτμαν και Μπρόκμαν «καθοδηγούμενο από την ακόρεστη επιδίωξή τους να επιτύχουν τεχνητή γενική νοημοσύνη (AGI).»

Για παράδειγμα, η επιστολή αναφέρει ότι ο Άλτμαν έδωσε εντολή στους υπαλλήλους να κρύψουν την πρόοδο σε «μυστικές» ερευνητικές πρωτοβουλίες και απέλυσε υπαλλήλους που αμφισβήτησαν την πρακτική. Ισχυρίζεται ότι ο Διευθύνων Σύμβουλος διηύθυνε «έρευνες» σε υπαλλήλους χωρίς τη γνώση της διοίκησης, συμπεριλαμβανομένου του επικεφαλής επιστήμονα Ilya Sutskever, ο οποίος φέρεται ότι έπαιξε καθοριστικό ρόλο στην απόλυση του Altman.

Η επιστολή ισχυρίζεται ότι ο Brockman, πρόεδρος του OpenAI, χρησιμοποίησε «μεροληπτική γλώσσα εναντίον ενός μέλους της ομάδας που μεταβαλλόταν ως προς το

φύλο

», το οποίο «τελικά απολύθηκε για υποτιθέμενη χαμηλή απόδοση». Υποδηλώνει ότι η εταιρεία αγνόησε τα παράπονα σχετικά με το ζήτημα για να προστατεύσει τον Brockman.

Τόσο ο Άλτμαν όσο και τα πρώην μέλη του διοικητικού συμβουλίου συμφώνησαν σε μια «έρευνα» για την κατάσταση που οδήγησε στην απόλυσή του, σύμφωνα με

το χείλος

. Δεν είναι σαφές τι θα συνεπαγόταν αυτή η έρευνα όταν, πιθανώς, τα μέλη του διοικητικού συμβουλίου μπορούσαν απλώς να πουν στον κόσμο ποιο ήταν το πρόβλημα.

Η επιστολή κοινοποιήθηκε αρχικά σε έναν σύνδεσμο στο Hacker News, ο οποίος στη συνέχεια κατέρρευσε κάτω από το βάρος όλης της κίνησης. Στη συνέχεια αναδημοσιεύτηκε στο GitHub από ένα άτομο που είπε στο Gizmodo ότι το αντέγραψαν για αρχειακούς σκοπούς. Αφού ο Musk μοιράστηκε τον σύνδεσμο GitHub, ο στρατός των θαυμαστών του γέμισε τα σχόλια του χρήστη με κακοποίηση και παρενόχληση. Το άτομο είπε στο Gizmodo ότι αναγκάστηκαν να αποσύρουν τη θέση αφού η ομάδα εμπιστοσύνης και ασφάλειας του GitHub αρνήθηκε να βοηθήσει. Σύμφωνα με το πρόσωπο, οι συντάκτες της αρχικής επιστολής ήρθαν σε επαφή για να τους ευχαριστήσουν για την αναδημοσίευσή της. Το άτομο είπε στο Gizmodo ότι δεν έχει ιδέα αν είναι αυθεντικό. Μπορείτε να διαβάσετε ένα αντίγραφο της επιστολής στο τέλος αυτού του άρθρου.

Το γράμμα πρέπει να λειτούργησε ως παρηγοριά για τον Έλον Μασκ, ο οποίος έχει μια μακρά και προβληματική ιστορία με τον Άλτμαν. Ο Μασκ ήταν ένας από τους συνιδρυτές και τους μεγαλύτερους δωρητές της εταιρείας στα πρώτα χρόνια της λειτουργίας της, αλλά διέκοψε τους δεσμούς της με την εταιρεία ισχυριζόμενος ότι υπάρχει

σύγκρουση

συμφερόντων σχετικά με το πρόγραμμα αυτοοδηγούμενων αυτοκινήτων της Tesla με τεχνητή νοημοσύνη. Ο Άλτμαν ισχυρίστηκε ότι ο πραγματικός λόγος για την αποχώρηση του Μασκ ήταν μια αποτυχημένη προσπάθεια να πάρει τον έλεγχο της εταιρείας. Νωρίτερα αυτό το μήνα, το X κυκλοφόρησε το a

νέο AI που ονομάζεται Grok, ένα chatbot κατά της αφύπνισης

που έχει ρυθμιστεί για να ανταποκρίνεται με χυδαίο και μερικές φορές ακατάλληλο χιούμορ του μπαμπά. Ο Μασκ και ο Άλτμαν αντάλλαξαν κουβέντες για τα ανταγωνιστικά chatbot τους τις επόμενες εβδομάδες.

Το μεγαλύτερο μέρος της επιστολής επικεντρώνεται στις προσπάθειες του Altman να μετατρέψει το OpenAI σε μια επιχείρηση που παράγει κέρδη, ενώ απλώς προσποιείται ότι ενδιαφέρεται για τις πιθανές ανησυχίες σχετικά με την ασφάλεια από την προώθηση της τεχνολογίας. Μεταξύ των καταγγελιών, η επιστολή αναφέρει «τη διακριτική, αλλά ρουτίνα εκμετάλλευση του Σαμ των μη κερδοσκοπικών πόρων του OpenAI για την προώθηση των προσωπικών του στόχων, ιδιαίτερα υποκινούμενη από τη μνησικακία του εναντίον του Έλον μετά τη διαμάχη τους».

Το βράδυ της Τρίτης, ο Άλτμαν επιβεβαίωσε την επιστροφή του στην εταιρεία στο X, παλαιότερα γνωστό ως Twitter, γράφοντας ότι «ό,τι έχω κάνει τις τελευταίες ημέρες ήταν στην υπηρεσία της διατήρησης αυτής της ομάδας και της αποστολής της ενωμένης».

<br />

Χωρίς πληροφορίες από τα μέλη του διοικητικού συμβουλίου, είναι αδύνατο να πούμε ποια ήταν η σύγκρουση. Ωστόσο, πολλοί εικάζουν ότι τα προβλήματα προήλθαν από έναν αγώνα εξουσίας. Το OpenAI ιδρύθηκε για να δημιουργήσει τεχνητή νοημοσύνη με διαφανείς λειτουργίες που επικεντρώνονται στην προστασία της ανθρωπότητας από τις δυνητικά καταστροφικές δυνατότητες της τεχνολογίας. Αν και το OpenAI είναι μη κερδοσκοπικό, ο Altman οργάνωσε μια κερδοσκοπική πτέρυγα της εταιρείας που χτίστηκε γύρω από το ChatGPT, εξοργίζοντας πολλούς από τους ιδεαλιστές υπαλλήλους του οργανισμού.

Μερικοί από αυτούς τους υπαλλήλους εγκατέλειψαν το OpenAI για να δημιουργήσουν μια νέα εταιρεία τεχνητής νοημοσύνης με την ονομασία Anthropic το 2021, έναν άμεσο ανταγωνιστή που δίνει μεγαλύτερη έμφαση σε ζητήματα ασφάλειας τεχνητής νοημοσύνης. Σύμφωνα με

η πληροφορία

το διοικητικό συμβούλιο του OpenAI προσέγγισε την Anthropic σχετικά με μια συγχώνευση μετά την απόλυση του Altman.

Οι Νιου Γιορκ Ταιμς

αναφέρει ότι ο Άλτμαν προσπάθησε να αφαιρέσει την Έλεν Τόνερ από το διοικητικό συμβούλιο τις εβδομάδες πριν από την απόλυσή του, αφού δημοσίευσε ένα έγγραφο

ακαδημαϊκή εργασία

που επέκρινε το OpenAI ενώ επαινούσε το Anthropic.

21/11/

2023

Προς το Διοικητικό Συμβούλιο του OpenAI:

Σας γράφουμε σήμερα για να εκφράσουμε τη βαθιά μας ανησυχία για τα πρόσφατα γεγονότα στο OpenAI, ιδιαίτερα τους ισχυρισμούς για ανάρμοστη συμπεριφορά κατά του Sam Altman.

Είμαστε πρώην υπάλληλοι του OpenAI που εγκατέλειψαν την εταιρεία κατά τη διάρκεια μιας περιόδου σημαντικής αναταραχής και αναταραχής. Όπως έχετε δει τώρα τι συμβαίνει όταν τολμάτε να αντισταθείτε στον Sam Altman, ίσως μπορείτε να καταλάβετε γιατί τόσοι πολλοί από εμάς έχουμε μείνει σιωπηλοί φοβούμενοι τις επιπτώσεις. Δεν μπορούμε πλέον να σιωπούμε.

Πιστεύουμε ότι το Διοικητικό Συμβούλιο έχει καθήκον να διερευνήσει διεξοδικά αυτούς τους ισχυρισμούς και να λάβει τα κατάλληλα μέτρα. Σας προτρέπουμε να:

* Επεκτείνετε το εύρος της έρευνας του Emmett ώστε να συμπεριλάβει μια εξέταση των ενεργειών του Sam Altman από τον Αύγουστο του 2018, όταν το OpenAI άρχισε να μεταβαίνει από μη κερδοσκοπική οντότητα σε κερδοσκοπική οντότητα.

* Εκδώστε ανοιχτή πρόσκληση για ιδιωτικές δηλώσεις από πρώην υπαλλήλους του OpenAI που παραιτήθηκαν, τέθηκαν σε ιατρική άδεια ή απολύθηκαν κατά τη διάρκεια αυτής της περιόδου.

* Προστατέψτε την ταυτότητα όσων εμφανίζονται για να διασφαλίσετε ότι δεν θα υποστούν αντίποινα ή άλλες μορφές βλάβης.

Πιστεύουμε ότι ένας σημαντικός αριθμός εργαζομένων στο OpenAI απωθήθηκαν από την εταιρεία για να διευκολυνθεί η μετάβασή της σε ένα κερδοσκοπικό μοντέλο. Αυτό αποδεικνύεται από το γεγονός ότι το ποσοστό φθοράς εργαζομένων του OpenAI μεταξύ Ιανουαρίου 2018 και Ιουλίου 2020 ήταν της τάξης του 50%.

Καθ’ όλη τη διάρκεια της παραμονής μας στο OpenAI, γίναμε μάρτυρες ενός ανησυχητικού μοτίβου εξαπάτησης και χειραγώγησης από τον Sam Altman και τον Greg Brockman, οδηγούμενοι από τους

ακόρεστη επιδίωξη για την επίτευξη τεχνητής γενικής νοημοσύνης (AGI). Οι μέθοδοί τους, ωστόσο, έχουν εγείρει σοβαρές αμφιβολίες σχετικά με τις πραγματικές τους προθέσεις και τον βαθμό στον οποίο δίνουν πραγματικά προτεραιότητα στο όφελος όλης της ανθρωπότητας.

Πολλοί από εμάς, αρχικά αισιόδοξοι για την αποστολή του OpenAI, επιλέξαμε να δώσουμε στον Sam και στον Greg το πλεονέκτημα της αμφιβολίας. Ωστόσο, καθώς οι ενέργειές τους έγιναν όλο και πιο ανησυχητικές, όσοι τολμούσαν να εκφράσουν τις ανησυχίες τους φίμωσαν ή απωθήθηκαν. Αυτή η συστηματική φίμωση της διαφωνίας δημιούργησε ένα περιβάλλον φόβου και εκφοβισμού, καταπνίγοντας ουσιαστικά κάθε ουσιαστική συζήτηση σχετικά με τις ηθικές επιπτώσεις του έργου του OpenAI.

Παρέχουμε συγκεκριμένα παραδείγματα της ανεντιμότητας και της χειραγώγησης του Sam και του Greg, όπως:

* Η απαίτηση του Sam για τους ερευνητές να καθυστερήσουν την αναφορά προόδου σε συγκεκριμένες «μυστικές» ερευνητικές πρωτοβουλίες, οι οποίες αργότερα διαλύθηκαν επειδή δεν απέτυχαν να παραδώσουν επαρκή αποτελέσματα αρκετά γρήγορα. Όσοι αμφισβήτησαν αυτήν την πρακτική απορρίφθηκαν ως «κακή κουλτούρα» και μάλιστα τερματίστηκαν, ορισμένοι λίγο πριν την Ημέρα των Ευχαριστιών του 2019.

* Η χρήση της γλώσσας που εισάγει διακρίσεις από τον Greg εναντίον ενός μέλους της ομάδας που αλλάζει το φύλο. Παρά τις πολλές υπο

σχέσεις

για την αντιμετώπιση αυτού του ζητήματος, δεν λήφθηκε καμία ουσιαστική ενέργεια, εκτός από το ότι ο Γκρεγκ απλά απέφυγε κάθε επικοινωνία με το άτομο που επηρεάστηκε, δημιουργώντας ουσιαστικά ένα εχθρικό περιβάλλον εργασίας. Αυτό το μέλος της ομάδας τερματίστηκε τελικά για εικαζόμενη χαμηλή απόδοση.

* Ο Sam κατευθύνει το προσωπικό IT και Operations να διεξάγει έρευνες σε υπαλλήλους, συμπεριλαμβανομένου του Ilya, χωρίς τη γνώση ή τη συγκατάθεση της διοίκησης.

* Η διακριτική, αλλά ρουτίνα εκμετάλλευση του Σαμ του μη κερδοσκοπικού οργανισμού του OpenAI

πόρους για να προωθήσει τους προσωπικούς του στόχους, ιδιαίτερα υποκινούμενος από τη μνησικακία του εναντίον του Έλον μετά τη διαμάχη τους.

* Η σιωπηρή αποδοχή από την ομάδα Operations των ειδικών κανόνων που ίσχυαν για τον Greg, πλοήγηση σε περίπλοκες απαιτήσεις για να αποφευχθεί η εγγραφή στη μαύρη λίστα.

* Η ανεκπλήρωτη υπόσχεση του Brad Lightcap να δημοσιοποιήσει τα έγγραφα που περιγράφουν λεπτομερώς την ανώτατη δομή κερδών του OpenAI και το ανώτατο όριο κέρδους για κάθε επενδυτή.

* Οι ασυμβίβαστες υποσχέσεις του Sam για ερευνητικά έργα για τον υπολογισμό ποσοστώσεων, προκαλώντας εσωτερική δυσπιστία και εσωτερικές διαμάχες.

Παρά τα αυξανόμενα στοιχεία για τις παραβάσεις του Σαμ και του Γκρεγκ, όσοι παραμένουν στο OpenAI συνεχίζουν να ακολουθούν τυφλά την ηγεσία τους, ακόμη και με σημαντικό προσωπικό κόστος. Αυτή η ακλόνητη πίστη πηγάζει από α

συνδυασμός του φόβου για αντίποινα και της γοητείας των πιθανών οικονομικών κερδών μέσω των μονάδων συμμετοχής στα κέρδη του OpenAI.

Η δομή διακυβέρνησης του OpenAI, που σχεδιάστηκε ειδικά από τους Sam και Greg, απομονώνει σκόπιμα τους υπαλλήλους από την επίβλεψη των κερδοσκοπικών λειτουργιών, ακριβώς λόγω των εγγενών συγκρούσεων συμφερόντων τους. Αυτή η αδιαφανής δομή επιτρέπει στον Σαμ και στον Γκρεγκ να λειτουργούν ατιμώρητα, προστατευμένοι από την ευθύνη.

Προτρέπουμε το Διοικητικό Συμβούλιο του OpenAI να λάβει σταθερή θέση ενάντια σε αυτές τις ανήθικες πρακτικές και να ξεκινήσει μια ανεξάρτητη έρευνα για τη συμπεριφορά του Sam και του Greg. Πιστεύουμε ότι η αποστολή του OpenAI είναι πολύ σημαντική για να παραβιαστεί από τις προσωπικές ατζέντες λίγων ατόμων.

Σας παρακαλούμε, το Διοικητικό Συμβούλιο, να παραμείνετε σταθεροί στη δέσμευσή σας στην αρχική αποστολή του OpenAI και να μην υποκύψετε στις πιέσεις κερδοσκοπικών συμφερόντων. Το μέλλον της τεχνητής νοημοσύνης και η ευημερία της ανθρωπότητας εξαρτώνται από την αταλάντευτη δέσμευσή σας για ηθική ηγεσία και διαφάνεια.

Με εκτιμιση,

Ανησυχία για πρώην υπαλλήλους του OpenAI

### Επικοινωνία

Ενθαρρύνουμε τους πρώην υπαλλήλους του OpenAI να επικοινωνήσουν μαζί μας στη διεύθυνση
.

Εγγυόμαστε προσωπικά την ανωνυμία όλων σε οποιεσδήποτε εσωτερικές διαβουλεύσεις και δημόσιες επικοινωνίες.

### Περαιτέρω ενημερώσεις