Η αναφερόμενη ανακάλυψη «υπερπληροφορίας» του OpenAI είναι τόσο μεγάλη που σχεδόν κατέστρεψε την εταιρεία και το ChatGPT

Φαίνεται πλέον απολύτως πιθανό ότι η μητρική εταιρεία ChatGPT OpenAI έχει λύσει το πρόβλημα της «υπερνοημοσύνης» και τώρα αντιμετωπίζει τις συνέπειες για την ανθρωπότητα.

Μετά την απόλυση του OpenAI και την επαναπρόσληψη του συνιδρυτή και διευθύνοντος συμβούλου του Sam Altman, οι αποκαλύψεις για το τι πυροδότησε την κίνηση συνεχίζονται. Μια νέα αναφορά στο The Information εντοπίζει τουλάχιστον την εσωτερική διαταραχή σε μια σημαντική ανακάλυψη Generative AI που θα μπορούσε να οδηγήσει στην ανάπτυξη κάτι που ονομάζεται «υπερπληροφορία» μέσα σε αυτήν τη δεκαετία ή νωρίτερα.

Η υπερευφυΐα είναι, όπως ίσως μαντέψατε, ευφυΐα που ξεπερνά την ανθρωπότητα και η ανάπτυξη τεχνητής νοημοσύνης που είναι ικανή για τέτοια νοημοσύνη χωρίς κατάλληλες διασφαλίσεις είναι, φυσικά, μια σημαντική κόκκινη σημαία.

Σύμφωνα με το The Information, η σημαντική ανακάλυψη έγινε από τον επικεφαλής επιστήμονα του OpenAI (και

γεμάτο τύψεις

μέλος του διοικητικού συμβουλίου) Ilya Sutskever.

Επιτρέπει στην τεχνητή νοημοσύνη να χρησιμοποιεί πιο καθαρά και δημιουργημένα από υπολογιστή δεδομένα για την επίλυση προβλημάτων που δεν έχει ξαναδεί η τεχνητή νοημοσύνη. Αυτό σημαίνει ότι η τεχνητή νοημοσύνη δεν εκπαιδεύεται σε πολλές διαφορετικές εκδόσεις του ίδιου προβλήματος, αλλά σε πληροφορίες που δεν σχετίζονται άμεσα με το πρόβλημα. Η επίλυση προβλημάτων με αυτόν τον τρόπο – συνήθως μαθηματικά ή φυσικά προβλήματα – απαιτεί συλλογισμό. Σωστά, κάτι που κάνουμε, όχι AI.

Το κύριο προϊόν του OpenAI που απευθύνεται σε καταναλωτές, το ChatGPT (τροφοδοτείται από το μοντέλο μεγάλης γλώσσας GPT [LLM]) μπορεί να φαίνεται τόσο έξυπνο που πρέπει να χρησιμοποιεί τη λογική για να δημιουργήσει τις απαντήσεις του. Αφιερώστε αρκετό χρόνο με το ChatGPT, ωστόσο, και σύντομα θα συνειδητοποιήσετε ότι απλώς ανακαλεί ό,τι έχει μάθει από τις τεράστιες ποσότητες δεδομένων που έχει τροφοδοτήσει και κάνει κυρίως ακριβείς εικασίες για το πώς να δημιουργήσετε προτάσεις που έχουν νόημα και που ισχύουν για το ερώτημά σας. Δεν υπάρχει λόγος εδώ.

Οι Πληροφορίες υποστηρίζουν, ωστόσο, ότι αυτή η σημαντική ανακάλυψη – η οποία

Ο Άλτμαν μπορεί να αναφέρθηκε

σε μια πρόσφατη εμφάνιση σε συνέδριο, λέγοντας, «σε προσωπική σημείωση, μόλις τις τελευταίες δύο εβδομάδες, έφτασα να βρίσκομαι στην αίθουσα, όταν σαν να σπρώχνουμε το πέπλο της άγνοιας προς τα πίσω και τα σύνορα της ανακάλυψης προς τα εμπρός», – προκάλεσε σοκ σε όλο το OpenAI.

Διαχείριση της απειλής

Αν και δεν υπάρχει κανένα σημάδι υπερευφυΐας στο ChatGPT αυτή τη στιγμή, το OpenAI σίγουρα εργάζεται για να ενσωματώσει μέρος αυτής της ισχύος σε, τουλάχιστον, ορισμένα από τα premium προϊόντα του, όπως το GPT-4 Turbo και αυτούς τους πράκτορες chatbot GPT (και μελλοντικούς «έξυπνους πράκτορες»). .

Η σύνδεση της υπερευφυΐας με τις πρόσφατες ενέργειες του διοικητικού συμβουλίου, τις οποίες υποστήριξε αρχικά ο Sutskever, μπορεί να είναι μια μεγάλη προσπάθεια. Η ανακάλυψη φέρεται να ήρθε πριν από μήνες και ώθησε τον Sutskever και έναν άλλο επιστήμονα του OpenAI, τον Jan Leike, να σχηματίσουν μια νέα ερευνητική ομάδα OpenAI που ονομάζεται

Υπερευθυγράμμιση

με στόχο την ανάπτυξη διασφαλίσεων υπερκατασκοπίας.

Ναι, καλά ακούσατε. Η εταιρεία που εργάζεται για την ανάπτυξη της υπερευφυΐας κατασκευάζει ταυτόχρονα εργαλεία για να μας προστατεύσει από την υπερευφυΐα. Φανταστείτε τον γιατρό Φρανκενστάιν να εξοπλίζει τους χωρικούς με φλογοβόλα και καταλαβαίνετε.

Αυτό που δεν είναι ξεκάθαρο από την έκθεση είναι πώς οι εσωτερικές ανησυχίες σχετικά με την ταχεία ανάπτυξη της υπερνοημοσύνης προκάλεσαν πιθανώς την πυροδότηση του Άλτμαν. Ίσως δεν έχει σημασία.

Σε αυτό το γράψιμο, ο Άλτμαν επιστρέφει στο OpenAI, το διοικητικό συμβούλιο έχει ανανεωθεί και το έργο για την οικοδόμηση υπερευφυΐας –και για την προστασία μας από αυτό– θα συνεχιστεί.

Αν όλα αυτά προκαλούν σύγχυση, προτείνω να ζητήσετε από το ChatGPT να σας το εξηγήσει.