Το OpenAI, που αναδύεται από τις στάχτες, έχει πολλά να αποδείξει ακόμη και με την επιστροφή του Sam Altman

Η δύναμη του OpenAI

Ο αγώνας που γοήτευσε τον κόσμο της τεχνολογίας μετά την απόλυση του συνιδρυτή Sam Altman έφτασε επιτέλους στο τέλος του — τουλάχιστον προς το παρόν. Αλλά τι να το κάνεις;

Αισθάνεται σχεδόν σαν να απαιτούνται κάποια

επα

ίνους – όπως πέθανε το OpenAI και μια νέα, αλλά όχι απαραίτητα βελτιωμένη, startup βρίσκεται στη μέση της. Ο πρώην πρόεδρος του Combinator Άλτμαν επιστρέφει στο τιμόνι, αλλά είναι δικαιολογημένη η επισ

τροφή

του; Το νέο διοικητικό συμβούλιο της OpenAI ξεκινά με λιγότερο ποικιλόμορφο ξεκίνημα (δηλαδή είναι εξ ολοκλήρου λευκό και αρσενικό) και οι ιδρυτικοί φιλανθρωπικοί στόχοι της εταιρείας κινδυνεύουν να συνεπιλεγούν από περισσότερα καπιταλιστικά συμφέροντα.

Αυτό δεν σημαίνει ότι το παλιό OpenAI ήταν τέλειο.

Από το πρωί της Παρασκευής, το OpenAI είχε ένα διοικητικό συμβούλιο έξι ατόμων – τον Altman, τον επικεφαλής επιστήμονα του OpenAI

Ilya Sutskever

, τον Πρόεδρο του OpenAI

Greg Brockman

, την επιχειρηματία τεχνολογίας Tasha McCauley, τον διευθύνοντα σύμβουλο της Quora Adam D’Angelo και την Helen Toner, διευθύντρια στο Κέντρο

Ασφάλεια

ς και Αναδυόμενων Τεχνολογιών του Georgetown . Το διοικητικό συμβούλιο ήταν τεχνικά συνδεδεμένο με έναν μη κερδοσκοπικό οργανισμό που είχε πλειοψηφικό μερίδιο στην κερδοσκοπική πλευρά του OpenAI, με απόλυτη εξουσία λήψης αποφάσεων για τις δραστηριότητες, τις επενδύσεις και τη συνολική κατεύθυνση του κερδοσκοπικού OpenAI.

Η ασυνήθιστη δομή του OpenAI δημιουργήθηκε από τους συνιδρυτές της εταιρείας, συμπεριλαμβανομένου του Altman, με τις καλύτερες προθέσεις. Το εξαιρετικά σύντομο καταστατικό (500 λέξεων) του μη κερδοσκοπικού οργανισμού περιγράφει ότι το διοικητικό συμβούλιο λαμβάνει αποφάσεις διασφαλίζοντας «ότι η τεχνητή γενική νοημοσύνη ωφελεί όλη την ανθρωπότητα», αφήνοντας στα μέλη του διοικητικού συμβουλίου να αποφασίσουν πώς θα το ερμηνεύσουν καλύτερα. Ούτε τα «κέρδη» ούτε τα «έσοδα» αναφέρονται σε αυτό το έγγραφο του North Star. Τονίζων

σύμφωνα με πληροφορίες

είπε κάποτε στην εκτελεστική ομάδα του Altman ότι η πυροδότηση της κατάρρευσης του OpenAI «θα ήταν στην πραγματικότητα συνεπής με [nonprofit’s] αποστολή.”

Ίσως η ρύθμιση να είχε λειτουργήσει σε κάποιο παράλληλο σύμπαν. για χρόνια, φαινόταν να λειτουργεί αρκετά καλά στο OpenAI. Αλλά μόλις εμπλακούν επενδυτές και ισχυροί εταίροι, τα πράγματα έγιναν… πιο δύσκολα.

Η απόλυση του Άλτμαν ενώνει τη Microsoft, τους υπαλλήλους του OpenAI

Αφού το διοικητικό συμβούλιο κονσέρβασε απότομα τον Altman την Παρασκευή χωρίς να ειδοποιήσει σχεδόν κανέναν, συμπεριλαμβανομένου του μεγαλύτερου μέρους του εργατικού δυναμικού του OpenAI 770 ατόμων, οι υποστηρικτές της startup άρχισαν να εκφράζουν τη δυσαρέσκειά τους τόσο ιδιωτικά όσο και δημόσια.

Ο Satya Nadella, ο Διευθύνων Σύμβουλος της Microsoft, σημαντικός συνεργάτης του OpenAI, ήταν

φέρεται ότι

«Έξαλλος» μαθαίνοντας για την αποχώρηση του Άλτμαν. Ο Vinod Khosla, ο ιδρυτής της Khosla Ventures, άλλος υποστηρικτής του OpenAI, είπε στο X (πρώην Twitter) ότι το ταμείο

καταζητούμενος

Ο Άλτμαν πίσω. Εν τω μεταξύ, η Thrive Capital, η προαναφερθείσα Khosla Ventures, η Tiger Global Management και η Sequoia Capital λέγεται ότι εξετάζουν νομικές ενέργειες κατά του διοικητικού συμβουλίου, εάν οι διαπραγματεύσεις το Σαββατοκύριακο για την επαναφορά του Altman δεν πήγαιναν καλά.

Τώρα, οι υπάλληλοι του OpenAI δεν ήταν

μη ευθυγραμμισμένος

με αυτούς τους επενδυτές από εξωτερικές εμφανίσεις. Αντίθετα, κοντά σε όλους – συμπεριλαμβανομένου του Sutskever, σε μια προφανή αλλαγή γνώμης – υπέγραψαν μια επιστολή απειλώντας το διοικητικό συμβούλιο με μαζική παραίτηση εάν επέλεγαν να μην αντιστρέψουν την πορεία τους. Αλλά πρέπει να σκεφτεί κανείς ότι αυτοί οι υπάλληλοι του OpenAI είχαν πολλά να χάσουν εάν το OpenAI καταρρεύσει — προσφορές εργασίας από τη Microsoft και

Salesforce

κατά μέρος.

Η OpenAI είχε συζητήσει, με επικεφαλής την Thrive, για πιθανή πώληση μετοχών εργαζομένων σε μια κίνηση που θα είχε αυξήσει την αποτίμηση της εταιρείας από 29 δισεκατομμύρια δολάρια σε κάπου μεταξύ 80 δισεκατομμυρίων και 90 δισεκατομμυρίων δολαρίων. Η ξαφνική αποχώρηση του Altman – και το εκ περιτροπής καστ του OpenAI αμφισβητήσιμων μεταβατικών CEOs – έδωσαν ψυχραιμία στο Thrive, θέτοντας την πώληση σε κίνδυνο.

Ο Άλτμαν κέρδισε την πενθήμερη μάχη, αλλά με ποιο κόστος;

Αλλά τώρα, μετά από αρκετές ημέρες που κόβουν την ανάσα, που κόβουν τα μαλλιά, έχει επιτευχθεί κάποια μορφή λύσης. Ο Άλτμαν – μαζί με τον Μπρόκμαν, ο οποίος παραιτήθηκε την Παρασκευή σε ένδειξη διαμαρτυρίας για την απόφαση του διοικητικού συμβουλίου – επιστρέφει, αν και υπόκειται σε έρευνα ιστορικού για τις ανησυχίες που οδήγησαν στην απομάκρυνσή του. Το OpenAI έχει ένα νέο μεταβατικό συμβούλιο, ικανοποιώντας μία από τις απαιτήσεις του Altman. Και το OpenAI φέρεται να διατηρήσει τη δομή του, με περιορισμένα τα κέρδη των επενδυτών και το διοικητικό συμβούλιο ελεύθερο να λαμβάνει αποφάσεις που δεν βασίζονται στα έσοδα.

Ο Salesforce Marc Benioff δημοσίευσε στο X ότι «οι καλοί» κέρδισαν. Αλλά αυτό μπορεί να είναι πρόωρο να το πούμε.

Σίγουρα, ο Άλτμαν «κέρδισε», κερδίζοντας ένα διοικητικό συμβούλιο που τον κατηγόρησε ότι «όχι [being] σταθερά ειλικρινής» με τα μέλη του διοικητικού συμβουλίου και, σύμφωνα με ορισμένες αναφορές, βάζοντας την ανάπτυξη πάνω από την αποστολή. Σε ένα παράδειγμα αυτής της υποτιθέμενης αγένειας, ήταν ο Άλτμαν

λέγεται ότι ήταν

επικριτικός για την Toner για μια εργασία που συνέγραψε από κοινού, η οποία έριξε την προσέγγιση του OpenAI για την ασφάλεια υπό κριτικό πνεύμα – σε σημείο που προσπάθησε να την απωθήσει από το ταμπλό. Σε ένα άλλο, ο Altman “

εξαγριωμένος

Ο Sutskever επισπεύδει την κυκλοφορία λειτουργιών που υποστηρίζονται από AI στο πρώτο συνέδριο προγραμματιστών του OpenAI.

Το συμβούλιο δεν εξήγησε τον εαυτό του ακόμη και μετά από επανειλημμένες ευκαιρίες, αναφέροντας πιθανές νομικές προκλήσεις. Και είναι ασφαλές να πούμε ότι απέλυσαν τον Άλτμαν με έναν άσκοπο ιστορικό τρόπο. Αλλά δεν μπορεί να αμφισβητηθεί ότι οι σκηνοθέτες μπορεί να είχαν βάσιμους λόγους για να αφήσουν τον Άλτμαν να φύγει, τουλάχιστον ανάλογα με το πώς ερμήνευσαν την ανθρωπιστική τους οδηγία.

Το νέο διοικητικό συμβούλιο φαίνεται πιθανό να ερμηνεύσει διαφορετικά αυτήν την οδηγία.

Επί του παρόντος, το διοικητικό συμβούλιο του OpenAI αποτελείται από τον πρώην συν-διευθύνοντα σύμβουλο της Salesforce, Bret Taylor, τον D’Angelo (το μόνο που κατέχει το αρχικό συμβούλιο) και τον Larry Summers, τον οικονομολόγο και πρώην πρόεδρο του Χάρβαρντ. Ο Taylor είναι επιχειρηματίας επιχειρηματίας, έχοντας συνιδρυθεί πολλές εταιρείες, όπως η FriendFeed (που εξαγοράστηκε από το Facebook) και η Quip (μέσω της εξαγοράς της οποίας ήρθε στο Salesforce). Εν τω μεταξύ, ο Σάμερς έχει βαθιές επιχειρηματικές και κυβερνητικές διασυνδέσεις – ένα πλεονέκτημα για το OpenAI, η σκέψη γύρω από την επιλογή του μάλλον πήγε, σε μια εποχή που ο ρυθμιστικός έλεγχος της τεχνητής νοημοσύνης εντείνεται.

Οι σκηνοθέτες δεν φαίνονται σαν μια απόλυτη «νίκη» για αυτόν τον ρεπόρτερ, ωστόσο – όχι αν η πρόθεση ήταν διαφορετικές απόψεις. Ενώ έξι έδρες δεν έχουν ακόμη καλυφθεί, οι πρώτες τέσσερις δίνουν έναν μάλλον ομοιογενή τόνο. ένα τέτοιο συμβούλιο θα ήταν στην πραγματικότητα παράνομο στην Ευρώπη, το οποίο

εντολές

Οι εταιρείες διατηρούν τουλάχιστον το 40% των θέσεων του διοικητικού συμβουλίου τους για γυναίκες υποψήφιες.

Γιατί ορισμένοι ειδικοί της τεχνητής νοημοσύνης ανησυχούν για το νέο διοικητικό συμβούλιο του OpenAI

Δεν είμαι ο μόνος που είμαι απογοητευμένος. Αρκετοί ακαδημαϊκοί της τεχνητής νοημοσύνης στράφηκαν στο X για να εκφράσουν τις απογοητεύσεις τους νωρίτερα σήμερα.

Ο Noah Giansiracusa, καθηγητής μαθηματικών στο Πανεπιστήμιο Bentley και συγγραφέας ενός βιβλίου σχετικά με τους αλγόριθμους συστάσεων των μέσων κοινωνικής δικτύωσης, διαφωνεί τόσο με το αντρικό μακιγιάζ του διοικητικού συμβουλίου όσο και με την υποψηφιότητα του Summers, ο οποίος σημειώνει ότι έχει μια ιστορία δημιουργίας.

μη κολακευτικές παρατηρήσεις

σχετικά με τις γυναίκες.

«Ό,τι κι αν κάνει κανείς για αυτά τα περιστατικά, τα οπτικά δεν είναι καλά, τουλάχιστον – ιδιαίτερα για μια εταιρεία που πρωτοστατεί στην ανάπτυξη της τεχνητής νοημοσύνης και στην αναμόρφωση του κόσμου στον οποίο ζούμε», είπε ο Giansiracusa μέσω κειμένου. «Αυτό που βρίσκω ιδιαίτερα ανησυχητικό είναι ότι ο κύριος στόχος του OpenAI είναι η ανάπτυξη τεχνητής γενικής νοημοσύνης που «ωφελεί όλη την ανθρωπότητα». Δεδομένου ότι η μισή ανθρωπότητα είναι γυναίκες, τα πρόσφατα γεγονότα δεν μου δίνουν πολλή σιγουριά για αυτό. Το Toner αντιπροσωπεύει άμεσα την πλευρά της ασφάλειας της τεχνητής νοημοσύνης και αυτή ήταν τόσο συχνά η θέση στην οποία έχουν τοποθετηθεί οι γυναίκες, σε όλη την ιστορία, αλλά κυρίως στην τεχνολογία: προστατεύοντας την κοινωνία από μεγάλες βλάβες, ενώ οι άνδρες παίρνουν τα εύσημα για την καινοτομία και τη διοίκηση του κόσμου».

Ο Κρίστοφερ Μάνινγκ, διευθυντής του εργαστηρίου AI του Σάνφορντ, είναι ελαφρώς πιο φιλανθρωπικός από — αλλά σε συμφωνία με — τον Τζιανσιρακούσα στην αξιολόγησή του:

«Το νεοσυσταθέν διοικητικό συμβούλιο του OpenAI είναι πιθανώς ακόμη ατελές», είπε στο TechCrunch. «Παρόλα αυτά, η τρέχουσα ιδιότητα μέλους του διοικητικού συμβουλίου, που δεν έχει κανέναν με βαθιά γνώση σχετικά με την υπεύθυνη χρήση της τεχνητής νοημοσύνης στην ανθρώπινη κοινωνία και περιλαμβάνει μόνο λευκούς άνδρες, δεν είναι μια πολλά υποσχόμενη αρχή για μια τόσο σημαντική και σημαντική εταιρεία τεχνητής νοημοσύνης».

Η ανισότητα μαστίζει τη βιομηχανία AI, από το

σχολιαστές

οι οποίοι επισημαίνουν τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των παραγωγικών μοντέλων τεχνητής νοημοσύνης στις επιβλαβείς προκαταλήψεις που εμφανίζονται συχνά σε αυτά τα εκπαιδευμένα μοντέλα,

συμπεριλαμβανομένων των μοντέλων του OpenAI

. Καλοκαίρια, για να είμαστε μακριά,

έχει

εξέφρασε ανησυχία για τις πιθανώς επιβλαβείς συνέπειες της τεχνητής νοημοσύνης — τουλάχιστον όσον αφορά τα μέσα διαβίωσης. Αλλά οι επικριτές με τους οποίους μίλησα δυσκολεύονται να πιστέψουν ότι ένα συμβούλιο όπως το σημερινό του OpenAI θα δίνει σταθερά προτεραιότητα σε αυτές τις προκλήσεις, τουλάχιστον όχι με τον τρόπο που θα έκανε ένα διοικητικό συμβούλιο με μεγαλύτερη ποικιλία.

Εγείρει το ερώτημα: Γιατί το OpenAI δεν προσπάθησε να στρατολογήσει έναν γνωστό τεχνικό της τεχνητής νοημοσύνης όπως ο Timnit Gebru ή η Margaret Mitchell για το αρχικό συμβούλιο; «Δεν ήταν διαθέσιμα»; Αρνήθηκαν; Ή το OpenAI δεν έκανε προσπάθεια εξαρχής; Ίσως δεν θα μάθουμε ποτέ.

Το OpenAI έχει την ευκαιρία να αποδειχθεί πιο σοφό και πιο κοσμικό στην επιλογή των πέντε εναπομεινάντων θέσεων στο διοικητικό συμβούλιο — ή τρεις, εάν ο Altman και ένα στέλεχος της Microsoft πάρουν από μία (όπως έχει φημολογηθεί). Αν δεν ακολουθήσουν πιο διαφοροποιημένο τρόπο, αυτό που λέει ο Daniel Colson, ο διευθυντής της δεξαμενής σκέψης του Ινστιτούτου Πολιτικής AI,

είπε

στο X μπορεί κάλλιστα να είναι αλήθεια: λίγα άτομα ή ένα μόνο εργαστήριο δεν μπορούν να εμπιστευτούν τη διασφάλιση της υπεύθυνης ανάπτυξης της τεχνητής νοημοσύνης.