Μετά το Blowup του OpenAI, φαίνεται αρκετά σαφές ότι η “AI Safety” δεν είναι πραγματικό πράγμα

Καλώς ήρθατε στο AI This Week, την εβδομαδιαία ενημέρωση του Gizmodo, όπου κάνουμε μια βαθιά κατάδυση σχετικά με το τι συμβαίνει στην τεχνητή νοημοσύνη.

Λοιπόν, άγια σκατά. Όσον αφορά τη βιομηχανία της

τεχνολογία

ς, είναι δύσκολο να πούμε αν υπήρξε ποτέ μια πιο συγκλονιστική σειρά γεγονότων από αυτά που έλαβαν χώρα τις τελευταίες μέρες. Η ίντριγκα του παλατιού και το δράμα της αίθουσας συνεδριάσεων του

Εκδίωξη του Σαμ Άλτμαν

από το διοικητικό συμβούλιο του OpenAI (και του

νικηφόρα επαναφορά

νωρίτερα

σήμερα

) αναμφίβολα θα μείνει στην

ιστορία

ως ένα από τα πιο εκρηκτικά επεισόδια που έχουν συμβεί ποτέ στη Silicon Valley. Τούτου λεχθέντος, το μακροπρόθεσμο αποτέλεσμα από αυτό το συναρπαστικό περιστατικό είναι αναπόφευκτο να είναι πολύ λιγότερο ευχάριστο από το αρχικό θέαμα του.

Το «πραξικόπημα», όπως πολλοί το έχουν αναφέρει, έχει αποδοθεί σε μεγάλο βαθμό σε μια ιδεολογική ρήξη μεταξύ του Sam και του διοικητικού συμβουλίου του OpenAI σχετικά με τον ρυθμό της τεχνολογικής ανάπτυξης στην εταιρεία. Έτσι, αυτή η αφήγηση λέει, το διοικητικό συμβούλιο, το οποίο υποτίθεται ότι έχει τον απόλυτο λόγο για τη διεύθυνση του οργανισμού, ήταν


ανησυχούσε για το ρυθμό με τον οποίο ο Altman πίεζε να εμπορευματοποιήσει την τεχνολογία


, και αποφάσισε να τον διώξει με εξαιρετική προκατάληψη. Altman, ο οποίος στη συνέχεια υποστηρίχθηκε από τον ισχυρό συνεργάτη και χρηματοδότη του OpenAI, τη Microsoft, καθώς και από έναν

πλειοψηφία του προσωπικού της startup

στη συνέχεια οδήγησε ένα αντιπραξικόπημα, απωθώντας τους προδότες και επανατοποθετώντας τον εαυτό του ως αρχηγό της εταιρείας.

Τόσο μεγάλο μέρος του δράματος του επεισοδίου φαίνεται να περιστρέφεται γύρω από αυτή τη διαμάχη μεταξύ του Altman και του συμβουλίου σχετικά με την “ασφάλεια AI”. Πράγματι, αυτό το γεμάτο κεφάλαιο στην ιστορία της εταιρείας μοιάζει με μια έξαρση των δύο αντίθετων προσωπικοτήτων του OpenAI—η μία βασίζεται στην έρευνα και την υπεύθυνη τεχνολογική ανάπτυξη και η άλλη βασίζεται στο να βγάζει πολλά χρήματα. Η μία πλευρά υπερίσχυσε αποφασιστικά την άλλη (υπαινιγμός: ήταν η πλευρά των χρημάτων).

Άλλοι συγγραφείς έχουν ήδη προσφέρει


χαλάει


για το πώς η μοναδική οργανωτική δομή του OpenAI φαίνεται να το έχει θέσει σε τροχιά σύγκρουσης με τον εαυτό του. Ίσως έχετε δει την εκκίνηση


οργανόγραμμα


επιπλέει στον Ιστό αλλά, σε περίπτωση που δεν το έχετε κάνει, ακολουθεί μια γρήγορη ανακεφαλαίωση: Σε αντίθεση με σχεδόν κάθε άλλη τεχνολογική επιχείρηση που υπάρχει, το OpenAI είναι


στην πραγματικότητα μια μη κερδοσκοπική


, που διέπεται εξ ολοκλήρου από το διοικητικό της συμβούλιο, που λειτουργεί και ελέγχει μια κερδοσκοπική εταιρεία. Αυτός ο σχεδιασμός υποτίθεται ότι δίνει προτεραιότητα στην αποστολή του οργανισμού να επιδιώκει το δημόσιο καλό έναντι των χρημάτων. OpenAI’s


τη δική του αυτοπεριγραφή


προωθεί αυτήν την ιδεαλιστική αντίληψη – ότι ο κύριος στόχος της είναι να κάνει τον κόσμο καλύτερο και όχι να βγάλει χρήματα:

Σχεδιάσαμε τη δομή του OpenAI —μια συνεργασία μεταξύ του αρχικού μας μη κερδοσκοπικού οργανισμού και ενός νέου σκέλους κερδοφορίας με ανώτατο όριο— ως πλαίσιο για την αποστολή του OpenAI: να δημιουργήσει τεχνητή γενική νοημοσύνη (AGI) που είναι ασφαλής και ωφελεί όλη την ανθρωπότητα.

Πράγματι, το καταστατικό του διοικητικού συμβουλίου οφείλει την πίστη του στην «ανθρωπότητα», όχι στους μετόχους του. Έτσι, παρά το γεγονός ότι

Η Microsoft έχει διοχετεύσει ένα μεγατόνο χρήμα και πόρους στο OpenAI

, το διοικητικό συμβούλιο της startup εξακολουθεί (υποθετικά) να έχει τον τελευταίο λόγο για το τι συμβαίνει με τα προϊόντα και την τεχνολογία της. Τούτου λεχθέντος, το εταιρικό μέρος του οργανισμού είναι


ανέφερε ότι αξίζει δεκάδες δισεκατομμύρια δολάρια


. Όπως πολλοί έχουν ήδη επισημάνει, η ηθική αποστολή του οργανισμού φαίνεται να έχει έρθει σε άμεση σύγκρουση με τα οικονομικά συμφέροντα εκείνων που είχαν επενδύσει στον οργανισμό. Ως συνήθως, τα χρήματα κέρδισαν.

Με όλα αυτά, θα μπορούσατε να υποστηρίξετε ότι δεν θα έπρεπε να εγκρίνουμε πλήρως αυτήν την ερμηνεία των γεγονότων του Σαββατοκύριακου, καθώς οι πραγματικοί λόγοι για την εκδίωξη του Άλτμαν δεν έχουν ακόμη δημοσιοποιηθεί. Ως επί το πλείστον, μέλη της εταιρείας είτε


δεν μιλούν


για τους λόγους για τους οποίους ο Σαμ απωθήθηκε ή έχει


αρνήθηκε κατηγορηματικά


ότι η εκδίωξή του είχε οποιαδήποτε σχέση με την ασφάλεια της τεχνητής νοημοσύνης. Εναλλακτικές θεωρίες έχουν στροβιλιστεί στο μεταξύ, με ορισμένες να υποδηλώνουν ότι οι πραγματικοί λόγοι για την επιθετική έξοδο του Άλτμαν ήταν αναμφισβήτητα πιο πολύχρωμοι – όπως οι κατηγορίες που


επιδίωξε πρόσθετη χρηματοδότηση


μέσω αυταρχικών καθεστώτων της Μέσης Ανατολής.

Αλλά το να βαλτώσουμε υπερβολικά στις εικασίες σχετικά με τους συγκεκριμένους καταλύτες για το δράμα του OpenAI σημαίνει ότι αγνοούμε αυτό που αποκάλυψε το όλο επεισόδιο: όσον αφορά τον πραγματικό κόσμο, η «ασφάλεια AI» στη Silicon Valley είναι σχεδόν άκυρη. Πράγματι, τώρα γνωρίζουμε ότι παρά την υποτιθέμενη αλεξίσφαιρη οργανωτική του δομή και τη δηλωμένη αποστολή του για υπεύθυνη ανάπτυξη τεχνητής νοημοσύνης, το OpenAI δεν θα επιτρεπόταν ποτέ να βάλει ουσιαστικά την ηθική πάνω από τα χρήματα.

Για να είμαστε ξεκάθαροι, η ασφάλεια της τεχνητής νοημοσύνης είναι ένας πραγματικά σημαντικός τομέας και, εάν εφαρμοστεί στην πραγματικότητα από την εταιρική Αμερική, αυτό θα ήταν ένα πράγμα.


Τούτου λεχθέντος, η έκδοση του που υπήρχε στο OpenAI – αναμφισβήτητα μια από τις εταιρείες που το έχει


έκανε τα περισσότερα


να ακολουθήσει ένα μοντέλο προσανατολισμένο στην «ασφάλεια» – δεν φαίνεται να ταιριάζει πολύ με τις μηχανορραφίες της realpolitik της βιομηχανίας τεχνολογίας. Με ακόμη πιο ειλικρινείς όρους, οι άνθρωποι που υποτίθεται ότι μας υπερασπίζονταν από την φυγή τεχνητής νοημοσύνης (δηλαδή, τα μέλη του διοικητικού συμβουλίου)—αυτοί που είχαν διοριστεί με υπεύθυνη διαχείριση αυτής της ισχυρής τεχνολογίας—δεν φαίνεται να ήξεραν τι έκαναν . Δεν φαίνεται να κατάλαβαν ότι ο Σαμ είχε όλες τις επαφές με τον κλάδο, τους φίλους σε υψηλά μέρη, ήταν αρεστός και ότι το να κινηθείς εναντίον του σε έναν κόσμο όπου αυτό το είδος κοινωνικού κεφαλαίου είναι τα πάντα ισοδυναμούσε με αυτοκτονία σταδιοδρομίας. Αν έρθετε στον βασιλιά, καλύτερα να μην χάσετε.

Εν ολίγοις: Εάν ο σκοπός της ασφάλειας της εταιρικής τεχνητής νοημοσύνης είναι να προστατεύσει την ανθρωπότητα από την φυγή τεχνητής νοημοσύνης, τότε, ως αποτελεσματική στρατηγική για να το πετύχει αυτό, στην πραγματικότητα μόλις έκανε το πρώτο της μεγάλο τεστ. Αυτό συμβαίνει επειδή είναι κάπως δύσκολο να πιστέψεις σε μια ομάδα ανθρώπων που δεν ήταν καν ικανοί να προβλέψουν το πολύ προβλέψιμο αποτέλεσμα που θα προέκυπτε όταν απέλυαν το αφεντικό τους. Πώς, ακριβώς, μπορεί να εμπιστευτεί μια τέτοια ομάδα την επίβλεψη μιας υποτιθέμενης «υπερ-έξυπνης» τεχνολογίας που συντρίβει τον κόσμο; Εάν δεν μπορείτε να ξεφύγετε από ένα σωρό αγανακτισμένων επενδυτών, τότε πιθανότατα δεν μπορείτε να ξεπεράσετε την οντότητα τύπου Skynet που ισχυρίζεστε ότι δημιουργείτε. Τούτου λεχθέντος, θα υποστήριζα ότι επίσης δεν μπορούμε να εμπιστευτούμε την πολυπόθητη, βασανισμένη στα χρήματα C-suite που έχει πλέον επιβεβαιώσει ξανά την κυριαρχία της. Imo, είναι

προφανώς

δεν πρόκειται να κάνει το σωστό. Έτσι, ουσιαστικά, η ανθρωπότητα έχει κολλήσει μεταξύ ενός βράχου και ενός σκληρού τόπου.

Καθώς η σύγκρουση από το OpenAI dustup διευθετείται, φαίνεται ότι η εταιρεία βρίσκεται σε καλή θέση για να επιστρέψει στις δραστηριότητές της ως συνήθως. Μετά


απόρριψη


οι μόνες δύο γυναίκες στο διοικητικό της συμβούλιο, πρόσθεσε η εταιρεία

δημοσιονομικός Λάρι Σάμερς

. Ο Άλτμαν επιστρέφει στην εταιρεία (όπως και ο πρώην πρόεδρος της εταιρείας Γκρεγκ Μπρόκμαν, ο οποίος παραιτήθηκε σε ένδειξη αλληλεγγύης με τον Άλτμαν), και το ανώτατο στέλεχος της Microsoft, Σάτια Ναντέλα,


το έχει πει αυτό


«ενθαρρυνθεί από τις αλλαγές στο διοικητικό συμβούλιο OpenAI» και είπε ότι είναι «ένα πρώτο ουσιαστικό βήμα σε μια πορεία προς πιο σταθερή, καλά ενημερωμένη και αποτελεσματική διακυβέρνηση».

Με την αποτυχία του διοικητικού συμβουλίου, φαίνεται ξεκάθαρο ότι οι θεατές του OpenAI μπορεί όχι μόνο να έχουν καθυστερήσει τη δική τους αποστολή «ασφάλειας», αλλά μπορεί επίσης να έχουν πυροδοτήσει μια αντίδραση ενάντια στο κίνημα ηθικής της τεχνητής νοημοσύνης. Παράδειγμα: Το δράμα αυτού του Σαββατοκύριακου φαίνεται να έχει ριζοσπαστικοποιήσει περαιτέρω μια ήδη αρκετά ριζοσπαστική ιδεολογία κατά της ασφάλειας που κυκλοφορούσε στην επιχείρηση. ο

«αποτελεσματικοί επιταχυντές»

(συντομογραφία «e/acc») πιστεύουν ότι πράγματα όπως πρόσθετοι κυβερνητικοί κανονισμοί, «τεχνολογική ηθική» και «ασφάλεια τεχνητής νοημοσύνης» είναι όλα δυσκίνητα εμπόδια στην πραγματική τεχνολογική ανάπτυξη και το εκθετικό κέρδος. Κατά τη διάρκεια του Σαββατοκύριακου, καθώς εμφανίστηκε η αφήγηση σχετικά με την «ασφάλεια της τεχνητής νοημοσύνης», ορισμένοι από τους πιο ένθερμους οπαδούς αυτού του συστήματος πεποιθήσεων πήγαν στο Χ για να


αποδοκιμάζουν αυτό που αντιλήφθηκαν ως επίθεση


για το αληθινό θύμα του επεισοδίου (


ο καπιταλισμός φυσικά


).

Σε κάποιο βαθμό, το όλο νόημα του εναγκαλισμού της «ηθικής» και της «ασφάλειας» από τη βιομηχανία της τεχνολογίας αφορά τη διαβεβαίωση. Οι εταιρείες συνειδητοποιούν ότι οι τεχνολογίες που πωλούν μπορεί να είναι ανησυχητικές και ενοχλητικές. θέλουν να καθησυχάσουν το κοινό ότι κάνουν ό,τι καλύτερο μπορούν για να προστατεύσουν τους καταναλωτές και την κοινωνία. Στο τέλος της ημέρας, όμως, τώρα γνωρίζουμε ότι δεν υπάρχει λόγος να πιστεύουμε ότι αυτές οι προσπάθειες θα κάνουν τη διαφορά εάν η «ηθική» της εταιρείας καταλήξει σε αντίθεση με τα χρήματά της. Και πότε αυτά τα δύο πράγματα δεν συγκρούονται ποτέ;

Ερώτηση της ημέρας: Ποιο ήταν το καλύτερο μιμίδιο που προέκυψε από το δράμα του OpenAI;

Αυτή την εβδομάδα

άνευ προηγουμένου αυθαιρεσία

ενέπνευσε τόσα πολλά μιμίδια και τσιμπήματα που η δυνατότητα επιλογής ενός αγαπημένου φαίνεται σχεδόν αδύνατη. Στην πραγματικότητα, το σκάνδαλο προκάλεσε πολλά διαφορετικά

είδη

των μιμιδίων συνολικά. Αμέσως μετά την ανατροπή του Άλτμαν υπήρχαν πολλά


Μιμίδια συνωμοσίας του Rust Cohl


κυκλοφορούσε, καθώς ο κόσμος της τεχνολογίας προσπαθούσε να καταλάβει τι ακριβώς έβλεπε. Υπήρχαν και αστεία για


ποιος πρέπει να αντικαταστήσει


Άλτμαν και


τι μπορεί να προκάλεσε


καταρχήν η πάλη για την εξουσία. Στη συνέχεια, καθώς έγινε σαφές ότι η Microsoft θα στεκόταν πίσω από τον εκδιωχθέντα CEO, η αφήγηση -και τα μιμίδια- άλλαξαν. ο


triumphant-Sam-returning-to-OpenAI-after-outting-the-board genre


έγινε δημοφιλής, όπως και οι τόνοι


Μιμίδια που σχετίζονται με τη Satya Nadelle


. Υπήρχαν, φυσικά,



Διαδοχή

μιμίδια


. Και, τέλος, προέκυψε ένα αναπόφευκτο είδος μιμιδίου στο οποίο οι X χρήστες ανοιχτά


χλεύασε τον πίνακα OpenAI


γιατί έριξε τόσο ολοκληρωτικά το πραξικόπημα κατά του Άλτμαν. Προσωπικά βρήκα αυτό


deepfake βίντεο


που αλλάζει το πρόσωπο του Άλτμαν με αυτό του Τζόρνταν Μπέλφορτ

Ο Λύκος της

Wall Street


να είσαι καλός. Τούτου λεχθέντος, ηχήστε στα σχόλια με το αγαπημένο σας.

Περισσότερα πρωτοσέλιδα από αυτήν την εβδομάδα

• 
  Η άλλη εταιρεία AI που είχε μια πολύ κακή εβδομάδα.
  
  Η OpenAI δεν είναι η μόνη εταιρεία τεχνολογίας που πέρασε από το στρίψιμο αυτή την εβδομάδα. Η Cruise, η εταιρεία ρομποταξί που ανήκει στη General Motors, αντιμετωπίζει επίσης μια αρκετά δύσκολη προσπάθεια. Ο ιδρυτής και διευθύνων σύμβουλος της εταιρείας, Kyle Vogt,
  
  καρτερικός
  
  τη Δευτέρα, αφού η πολιτεία της Καλιφόρνια κατηγόρησε την εταιρεία ότι δεν αποκάλυψε βασικές λεπτομέρειες σχετικά με ένα βίαιο περιστατικό με έναν πεζό. Ο Vogt ίδρυσε την εταιρεία το 2013 και την οδήγησε σε μια περίοπτη θέση στην αυτοματοποιημένη ταξιδιωτική βιομηχανία. Ωστόσο, η εταιρεία έχει μπερδευτεί
  
  διάθεση οχημάτων στο Σαν Φρανσίσκο
  
  τον Αύγουστο οδήγησε σε εκτεταμένη ανησυχία και σωρεία καταγγελιών από κατοίκους της πόλης και αξιωματούχους δημόσιας ασφάλειας. Τα σκάνδαλα της Cruise οδήγησαν την εταιρεία να αποσύρει όλα τα οχήματά της
  
  εκτός δρόμων στην Καλιφόρνια
  
  τον Οκτώβριο και, στη συνέχεια, τελικά, να σταματήσουν οι επιχειρήσεις σε όλη τη χώρα.
• 
  Ο MC Hammer είναι προφανώς ένας τεράστιος θαυμαστής του OpenAI
  
  . Για να προσθέσουμε το παράξενο αυτής της εβδομάδας, ανακαλύψαμε επίσης ότι ο ράπερ “U Can’t Touch This” MC Hammer είναι επιβεβαιωμένος stan OpenAI. Την Τετάρτη, καθώς το χάος της μάχης για την εξουσία αυτής της εβδομάδας έφτασε στο τέλος της, ο ράπερ
  
  
  ανέβασε στο Twitter
  
  
  : «Χαιρετισμός και συγχαρητήρια στο 710
  
  plus
  
  
  
  @OpenAI
  
  
  μέλη της ομάδας που έδωσαν μια απαράμιλλη επίδειξη πίστης, αγάπης και αφοσίωσης
  
  
  @sama
  
  
  και
  
  
  @gdb
  
  
  σε αυτούς τους επικίνδυνους καιρούς, ήταν κάτι όμορφο να το δεις».
• 
  Οι δημιουργικοί χάνουν τον πόλεμο πνευματικών δικαιωμάτων της τεχνητής νοημοσύνης
  
  . Η μήνυση της Sarah Silverman κατά του OpenAI και του Meta δεν πηγαίνει και τόσο καλά. Αυτή την εβδομάδα, αποκαλύφθηκε ότι η μήνυση της κωμικού εναντίον των τεχνολογικών κολοσσών (τους οποίους κατηγορείται για παραβιάσεις πνευματικών δικαιωμάτων) έχει καταρρεύσει. Ο Σίλβερμαν δεν είναι μόνος. Μια μήνυση που κατατέθηκε από αρκετούς εικαστικούς καλλιτέχνες κατά του Midjourney και του Stability AI ήταν
  
  
  όλα εκτός από πεταμένα έξω
  
  
  από δικαστή τον περασμένο μήνα. Τούτου λεχθέντος, αν και αυτές οι αγωγές φαίνεται να αποτυγχάνουν, θα μπορούσε απλώς να είναι θέμα εύρεσης του κατάλληλου νομικού επιχειρήματος για να πετύχουν. Αν και οι τρέχοντες ισχυρισμοί μπορεί να μην είναι αρκετά ισχυροί, οι περιπτώσεις
  
  
  θα μπορούσαν να αναθεωρηθούν και να αρχειοθετηθούν εκ νέου
  
  
  .