Η Giga ML θέλει να βοηθήσει τις εταιρείες να αναπτύξουν LLM εκτός σύνδεσης

Η τεχνητή νοημοσύνη είναι η οργή — ιδιαίτερα η τεχνητή νοημοσύνη που δημιουργεί κείμενο, γνωστή και ως μοντέλα μεγάλων γλωσσών (σκεφτείτε τα μοντέλα σύμφωνα με

τι

ς γραμμές του ChatGPT). Σε ένα πρόσφατο

επισκόπηση

από περίπου 1.000 επιχειρηματικούς οργανισμούς, το 67,2% δηλώνει ότι βλέπει την υιοθέτηση μεγάλων γλωσσικών μοντέλων (LLM) ως κορυφαία προτεραιότητα έως τις αρχές του 2024.

Όμως τα

εμπ

όδια στέκονται εμπόδιο. Σύμφωνα με την ίδια έρευνα, η έλλειψη προσαρμογής και ευελιξίας, σε συνδυασμό με την αδυναμία διατήρησης της εταιρικής γνώσης και της πνευματικής ιδιοκτησίας, εμπόδιζαν — και είναι — πολλές επιχειρήσεις να αναπτύξουν LLM στην παραγωγή.

Αυτό έκανε τον Varun Vummadi και την Esha Manideep Dinne να σκεφτούν: πώς μπορεί να μοιάζει μια λύση στην πρόκληση υιοθέτησης LLM για επιχειρήσεις; Σε αναζήτηση ενός, ίδρυσαν

Giga ML

μια startup που χτίζει μια πλατφόρμα που επιτρέπει στις εταιρείες να αναπτύσσουν LLM on-premise — μειώνοντας φαινομενικά το κόστος και διατηρώντας το απόρρητο στη διαδικασία.

«Το απόρρητο δεδομένων και η προσαρμογή των LLM είναι μερικές από τις μεγαλύτερες προκλήσεις που αντιμετωπίζουν οι επιχειρήσεις όταν υιοθετούν LLM για την επίλυση προβλημάτων», δήλωσε ο Vummadi στο TechCrunch σε μια συνέντευξη μέσω

email

. “Το Giga ML αντιμετωπίζει και τις δύο αυτές προκλήσεις.”

Η Giga ML προσφέρει το δικό της σύνολο LLM, τη “σειρά X1”, για εργασίες όπως η δημιουργία κώδικα και η απάντηση σε κοινές ερωτήσεις πελατών (π.χ. “Πότε μπορώ να περιμένω να φτάσει η παραγγελία μου;”). Η startup ισχυρίζεται ότι τα μοντέλα, κατασκευασμένα πάνω στο Llama 2 της Meta, ξεπερνούν τα δημοφιλή LLM σε ορισμένα σημεία αναφοράς, ιδιαίτερα

MT-Πάγκος

δοκιμαστικό σετ για διαλόγους. Αλλά είναι δύσκολο να πούμε πώς συγκρίνεται το X1 ποιοτικά. αυτός ο ρεπόρτερ δοκίμασε τα Giga ML’s

διαδικτυακή επίδειξη

αλλά αντιμετώπισε τεχνικά προβλήματα. (Η εφαρμογή έληξε ανεξάρτητα από το

μήνυμα

που πληκτρολογούσα.)

Ακόμα κι αν τα μοντέλα της Giga ML

είναι

Ανώτεροι σε ορισμένες πτυχές, ωστόσο, μπορούν πραγματικά να κάνουν μια βουτιά στον ωκεανό των LLMs ανοιχτού κώδικα, εκτός σύνδεσης;

Μιλώντας με τον Vummadi, είχα την αίσθηση ότι η Giga ML δεν προσπαθεί τόσο να δημιουργήσει τα LLM με τις καλύτερες επιδόσεις εκεί έξω, αλλά αντίθετα δημιουργεί εργαλεία που θα επιτρέπουν στις επιχειρήσεις να ρυθμίζουν με ακρίβεια τα LLM τοπικά χωρίς να χρειάζεται να βασίζονται σε πόρους τρίτων και πλατφόρμες.

“Η αποστολή της Giga ML είναι να βοηθήσει τις επιχειρήσεις να αναπτύξουν με ασφάλεια και αποτελεσματικότητα LLM στη δική τους υποδομή εσωτερικής εγκατάστασης ή στο εικονικό ιδιωτικό cloud”, δήλωσε ο Vummadi. «Το Giga ML απλοποιεί τη διαδικασία εκπαίδευσης, τελειοποίησης και εκτέλεσης LLM φροντίζοντας για αυτό μέσω ενός εύχρηστου API, εξαλείφοντας κάθε σχετική ταλαιπωρία».

Ο Vummadi τόνισε τα πλεονεκτήματα του απορρήτου της λειτουργίας μοντέλων εκτός σύνδεσης — πλεονεκτήματα που ενδέχεται να είναι πειστικά για ορισμένες επιχειρήσεις.

Η Predibase, η πλατφόρμα προγραμματισμού τεχνητής νοημοσύνης χαμηλού κώδικα, διαπίστωσε ότι λιγότερο από το ένα τέταρτο των επιχειρήσεων αισθάνονται άνετα με τη χρήση εμπορικών LLM λόγω ανησυχιών σχετικά με την κοινή χρήση ευαίσθητων ή ιδιόκτητων δεδομένων με προμηθευτές. Σχεδόν το 77% των ερωτηθέντων στην έρευνα είπε ότι είτε δεν χρησιμοποιούν είτε δεν σκοπεύουν να χρησιμοποιήσουν εμπορικά LLM πέρα ​​από πρωτότυπα στην παραγωγή — αναφέροντας ζητήματα που σχετίζονται με το απόρρητο, το κόστος και την έλλειψη προσαρμογής.

“Οι διαχειριστές IT σε επίπεδο C-suite βρίσκουν τις

προσφορές

της Giga ML πολύτιμες λόγω της ασφαλούς εγκατάστασης LLM στην εγκατάσταση, των προσαρμόσιμων μοντέλων προσαρμοσμένων στη συγκεκριμένη περίπτωση χρήσης και της γρήγορης εξαγωγής συμπερασμάτων, που διασφαλίζει τη συμμόρφωση των δεδομένων και τη μέγιστη απόδοση.”

είπε ο Βουμάντι.

Ο Vummadi είπε, το οποίο περιλαμβάνει επί του παρόντος ανώνυμες «επιχειρηματικές» εταιρείες στον τομέα των χρηματοοικονομικών και της υγειονομικής περίθαλψης.