Το OpenAI εισάγει νέες δυνατότητες δημιουργίας κειμένου, ενώ μειώνει την τιμολόγηση

Καθώς ο ανταγωνισμός στον χώρο παραγωγής τεχνητής νοημοσύνης γίνεται σκληρότερος, το

OpenAI

αναβαθμίζει τα μοντέλα του που δημιουργούν κείμενο μειώνοντας ταυτόχρονα τις τιμές.

Σήμερα, OpenAI

ανακοινώθηκε

την κυκλοφορία των νέων εκδόσεων των GPT-3.5-turbo και

GPT-4

, με την τελευταία να είναι η πιο πρόσφατη τεχνητή νοημοσύνη που δημιουργεί κείμενο, με μια δυνατότητα που ονομάζεται λειτουργία κλήσης. Όπως εξηγεί το OpenAI στο α

ανάρτηση

η κλήση συνάρτησης επιτρέπει στους προγραμματιστές να περιγράψουν τις λειτουργίες προγραμματισμού στα GPT-3.5-turbo και GPT-4 και να ζητήσουν από τα μοντέλα να δημιουργήσουν κώδικα για να εκτελέσουν αυτές τις λειτουργίες.

Για παράδειγμα, η κλήση συναρτήσεων μπορεί να βοηθήσει στη δημιουργία

chatbots

που απαντούν σε ερωτήσεις καλώντας εξωτερικά εργαλεία, μετατρέπουν τη φυσική γλώσσα σε ερωτήματα βάσης δεδομένων και εξάγουν δομημένα δεδομένα από κείμενο. «Αυτά τα μοντέλα έχουν βελτιστοποιηθεί ώστε να εντοπίζουν πότε πρέπει να κληθεί μια συνάρτηση… και να ανταποκρίνονται

JSON

που τηρεί την υπογραφή της λειτουργίας», γράφει το OpenAI. “Η κλήση συνάρτησης επιτρέπει στους προγραμματιστές να λαμβάνουν πιο αξιόπιστα δομημένα δεδομένα από το μοντέλο.”

Πέρα από την κλήση λειτουργιών, το OpenAI εισάγει μια γεύση GPT-3.5-turbo με ένα πολύ εκτεταμένο παράθυρο περιβάλλοντος. Παράθυρο περιβάλλοντος, μετρημένο σε

μάρκες

ή ακατέργαστα κομμάτια κειμένου,

αναφέρεται στο κείμενο που εξετάζει το μοντέλο πριν δημιουργήσει οποιοδήποτε πρόσθετο κείμενο. Τα μοντέλα με μικρά παράθυρα περιβάλλοντος τείνουν να «ξεχνούν» το περιεχόμενο ακόμη και πολύ πρόσφατων συνομιλιών, οδηγώντας τα να ξεφεύγουν από το θέμα — συχνά με προβληματικούς τρόπους.

Το νέο GPT-3.5-turbo προσφέρει τέσσερις φορές το μήκος περιβάλλοντος (16.000 μάρκες) από το vanilla GPT-3.5-turbo σε διπλάσια τιμή — 0,003 $ ανά 1.000 μάρκες εισόδου (δηλαδή μάρκες που τροφοδοτούνται στο μοντέλο) και 0,004 $ ανά 1.000 μάρκες εξόδου ( μάρκες που δημιουργεί το μοντέλο). Το OpenAI λέει ότι μπορεί να απορροφήσει περίπου 20 σελίδες κειμένου με μία μόνο κίνηση — λιγότερο από τις εκατοντάδες σελίδες που μπορεί να επεξεργαστεί το κορυφαίο μοντέλο της εκκίνησης τεχνητής νοημοσύνης Anthropic, ιδίως. (Το OpenAI δοκιμάζει μια έκδοση του GPT-4 με παράθυρο περιβάλλοντος 32.000 διακριτικών, αλλά μόνο σε περιορισμένη έκδοση.)

Στα θετικά, το OpenAI λέει ότι μειώνει την τιμολόγηση για το GPT-3.5-turbo – την αρχική, όχι την έκδοση με το παράθυρο διευρυμένου περιβάλλοντος – κατά 25%. Οι προγραμματιστές μπορούν τώρα να χρησιμοποιήσουν το μοντέλο για 0,0015 $ ανά 1.000 διακριτικά εισόδου και 0,002 $ ανά 1.000 μάρκες εξόδου, που ισοδυναμεί με περίπου 700 σελίδες ανά δολάριο.

Η τιμολόγηση μειώνεται επίσης για το text-embedding-ada-002, ένα από τα πιο δημοφιλή μοντέλα ενσωμάτωσης κειμένου του OpenAI. Οι ενσωματώσεις κειμένου μετρούν τη συνάφεια των συμβολοσειρών κειμένου και χρησιμοποιούνται συνήθως για αναζήτηση (όπου τα αποτελέσματα ταξινομούνται ανάλογα με τη συνάφεια με μια συμβολοσειρά ερωτήματος) και προτάσεις (όπου προτείνονται στοιχεία με σχετικές συμβολοσειρές κειμένου).

Το Text-embedding-ada-002 κοστίζει τώρα 0,0001 $ ανά 1.000 μάρκες, μείωση 75% από την προηγούμενη τιμή. Η OpenAI λέει ότι η μείωση κατέστη δυνατή χάρη στην αυξημένη αποτελεσματικότητα στα συστήματά της – ένας βασικός τομέας εστίασης για την εκκίνηση, αναμφίβολα, καθώς ξοδεύει

εκατοντάδες εκατομμύρια

δολαρίων για Ε&Α και υποδομές.

Το OpenAI έχει επισημάνει ότι οι σταδιακές ενημερώσεις σε υπάρχοντα μοντέλα – όχι τεράστια νέα μοντέλα από την αρχή – είναι ο MO του μετά την κυκλοφορία του GPT-4 στις αρχές Μαρτίου. Σε ένα πρόσφατο συνέδριο που φιλοξενήθηκε από τους Economic Times, ο Διευθύνων Σύμβουλος Sam Altman επιβεβαίωσε ότι το OpenAI δεν έχει αρχίσει να εκπαιδεύει τον διάδοχο του GPT-4, υποδεικνύοντας ότι η εταιρεία «έχει πολλή δουλειά να κάνει» προτού ξεκινήσει αυτό το μοντέλο.