Το OpenAI φέρεται να προειδοποίησε τη Microsoft για τις περίεργες απαντήσεις AI του Bing

Το

OpenAI

φέρεται να προειδοποίησε τη

Microsoft

να προχωρήσει αργά στην ενσωμάτωση του GPT-4 στη μηχανή αναζήτησης Bing για να αποφύγει τις ανακριβείς και απρόβλεπτες απαντήσεις με τις οποίες ξεκίνησε.


Η Wall Street Journal

Αναφορές

ότι η ομάδα του OpenAI προειδοποίησε για τους αρνητικούς κινδύνους της εξώθησης ενός chatbot που βασίζεται σε μια ακυκλοφόρητη έκδοση του GPT-4 πολύ νωρίς.

Η Microsoft προχώρησε, παρά τις προειδοποιήσεις ότι μπορεί να χρειαστεί χρόνος για να ελαχιστοποιηθούν οι ανακριβείς και περίεργες απαντήσεις. Λίγες μέρες μετά την κυκλοφορία του Bing Chat τον Φεβρουάριο, οι χρήστες ανακάλυψαν ότι το chatbot ήταν απρόβλεπτο και μπορούσε να προσβάλει τους χρήστες, να τους πει ψέματα, να βουρκώσει, να πειράξει τους ανθρώπους, ακόμη και να ισχυριστεί ότι αναγνωρίζει τους εχθρούς του.

Η Microsoft έσπευσε να περιορίσει τις απαντήσεις του Bing Chat για να σταματήσει η τεχνητή νοημοσύνη να γίνει πραγματικά περίεργη και χρειάστηκαν μήνες δουλειάς για να επιστρέψει το Bing chatbot σε ένα σημείο όπου μπορείτε να έχετε μια μακρά συνομιλία πέρα ​​δώθε χωρίς ένα απροσδόκητο ξέσπασμα. Συχνά, όμως, τα πράγματα γίνονται στραβά.

Η Wall Street Journal

Η αναφορά του περιγράφει επίσης τις εντάσεις μεταξύ των δύο εταιρειών καθώς συνεργάζονται και ανταγωνίζονται σε χαρακτηριστικά τεχνητής νοημοσύνης. Τα στελέχη της Microsoft φέρεται να ανησυχούσαν για την κυκλοφορία του

ChatGPT

πέρυσι. ο

WSJ

λέει η OpenAI ειδοποίησε τη Microsoft λίγες εβδομάδες πριν ότι θα αρχίσει να δοκιμάζει δημόσια το ChatGPT, ακριβώς τη στιγμή που ο γίγαντας λογισμικού άρχιζε να ενσωματώνει τα μοντέλα του OpenAI στο Bing.

Η Microsoft και η OpenAI έχουν μια μάλλον μοναδική συνεργασία που έχει οδηγήσει σε κάποια σύγκρουση στα παρασκήνια, καθώς οι δύο εταιρείες υποστηρίζουν και ανταγωνίζονται ταυτόχρονα η μία την άλλη.

Η Microsoft αδειοδοτεί μοντέλα και τεχνολογία OpenAI για χρήση σε Bing, Azure, Office,

Windows

και πολλά άλλα προϊόντα. Η Microsoft επέκτεινε αυτή τη στενή συνεργασία λιγότερο από ένα μήνα πριν λανσάρει το νέο της chatbot Bing σε μια «επένδυση πολλών δισεκατομμυρίων δολαρίων» που φημολογείται ότι αξίζει περίπου 10 δισεκατομμύρια δολάρια. Η Microsoft είναι ο αποκλειστικός συνεργάτης

cloud

για το OpenAI και οι υπηρεσίες cloud της Microsoft τροφοδοτούν όλους τους φόρτους εργασίας OpenAI σε προϊόντα, υπηρεσίες API και έρευνα. Ταυτόχρονα, το OpenAI έχει αναπτύξει τα δικά του προϊόντα και υπηρεσίες API που απευθύνονται στους ίδιους πελάτες που φλερτάρει η Microsoft. Το ChatGPT ανταγωνίζεται επίσης το Bing AI.


Η πληροφορία

έχουν αναφερθεί

σχετικά με ορισμένα από αυτά τα προβλήματα νωρίτερα φέτος.

Σε ένα


Ενσύρματο

συνέντευξη σήμερα

με τον Διευθύνοντα Σύμβουλο της Microsoft Satya Nadella, αυτή η πτυχή του ανταγωνισμού με το OpenAI αναφέρθηκε εν συντομία. «Ένιωθα ότι το OpenAI κυνηγούσε το ίδιο πράγμα με εμάς», λέει η Nadella. «Έτσι, αντί να προσπαθώ να εκπαιδεύσω πέντε διαφορετικά θεμελιώδη μοντέλα, ήθελα ένα foundation, καθιστώντας το βάση για ένα εφέ πλατφόρμας. Συνεργαστήκαμε λοιπόν. Πόνταραν σε εμάς, στοιχηματίζουμε σε αυτούς».

Ερωτηθείσα εάν η Microsoft προσπάθησε να αγοράσει το OpenAI, η Nadella απέφυγε την ερώτηση. Ρώτησα τον Bing εάν η Microsoft έχει προσπαθήσει να αποκτήσει το OpenAI και επίσης δεν ήθελε να συζητήσει το προφανές: «Δεν μπόρεσα να βρω καμία πληροφορία που να υποδηλώνει ότι η Microsoft έχει προσπαθήσει να αποκτήσει το OpenAI στο παρελθόν».