Η Qualcomm θα συνεργαστεί με τη Meta για να προσθέσει υποστήριξη Llama 2 στη συσκευή για smartphone και υπολογιστές

Νωρίτερα σήμερα αναφέραμε ότι η

Meta

ανακοίνωσε και λανσάρει το Llama 2, την επόμενης γενιάς έκδοση του μοντέλου μεγάλης γλώσσας για εφαρμογές και υπηρεσίες τεχνητής νοημοσύνης. Τώρα, υπάρχει η είδηση ​​για μια νέα συνεργασία μεταξύ της Meta και της Qualcomm που θα επιτρέψει στο Llama 2 να χρησιμοποιείται σε κινητές συσκευές που τροφοδοτούνται από τσιπ Qualcomm Snapdragon.

Σε δελτίο τύπου

, η Qualcomm δήλωσε ότι ο στόχος ήταν να επιτραπεί σε αυτές τις συσκευές να εκτελούν εφαρμογές και υπηρεσίες που βασίζονται στο Llama 2 σε αυτές τις συσκευές, χωρίς να χρειάζεται να συνδεθούν σε μια υπηρεσία που βασίζεται σε σύννεφο όπως άλλα τρέχοντα προϊόντα τεχνητής νοημοσύνης που χρησιμοποιούν τα τρέχοντα προϊόντα, όπως το

ChatGPT

και το Bing Chat. Η Qualcomm δήλωσε:

Η δυνατότητα εκτέλεσης μοντέλων AI όπως το Llama 2 σε συσκευές όπως smartphone, υπολογιστές, ακουστικά VR/AR και οχήματα επιτρέπει στους προγραμματιστές να εξοικονομούν κόστος στο

cloud

και να παρέχουν στους χρήστες ιδιωτικές, πιο αξιόπιστες και εξατομικευμένες εμπειρίες.

Η Qualcomm λέει ότι η δυνατότητα εκτέλεσης μοντέλων μεγάλων γλωσσών όπως το Llama 2 σε μια συσκευή έχει πολλά πλεονεκτήματα. Θα μπορούσε να είναι πιο οικονομικό σε σχέση με τη χρήση ενός LLM που βασίζεται σε σύννεφο και να προσφέρει καλύτερη απόδοση, καθώς δεν θα χρειάζεται να συνδεθεί σε μια διαδικτυακή υπηρεσία. Ταυτόχρονα, ένα LLM στη συσκευή μπορεί να προσφέρει περισσότερη εξατομίκευση των υπηρεσιών AI. Μπορεί επίσης να είναι πιο ασφαλές και ιδιωτικό σε σύγκριση με τη σύνδεση σε διακομιστή cloud.

Επί του παρόντος, η Qualcomm σχεδιάζει να αρχίσει να υποστηρίζει υπηρεσίες AI που βασίζονται στο Llama 2 σε συσκευές που χρησιμοποιούν τσιπ Snapdragon κάποια στιγμή μέσα στο 2024. Δεν υπάρχει ακόμα καμία πληροφορία για το εάν θα χρειαστεί τα τσιπ τελευταίας γενιάς της Qualcomm για να λειτουργήσει ή αν αυτό το είδος υποστήριξης μπορεί να γίνει προς τα πίσω συμβατό με τα τρέχοντα τσιπ Snapdragon.

Ο Meta λέει ότι το Llama 2 έχει εκπαιδευτεί σε 40 τοις εκατό περισσότερα δεδομένα από το Llama LLM πρώτης γενιάς. Έχει ήδη ανακοινώσει μια συνεργασία με τη

Microsoft

για να καταστήσει το Llama 2 διαθέσιμο δωρεάν σε εμπορικούς και ερευνητές χρήστες στις υπηρεσίες της Azure, μαζί με έναν τρόπο λήψης και εκτέλεσης του LLM τοπικά σε υπολογιστές με Windows.