Νέο «AI Hub» της Qualcomm επαναπροσδιορίζει την εμπειρία ανάπτυξης λογισμικού AI

Η Qualcomm αποκάλυψε το AI Hub της, μια ολοκληρωμένη βιβλιοθήκη προ-βελτιστοποιημένων μοντέλων τεχνητής νοημοσύνης, έτοιμη για χρήση σε συσκευές που λειτουργούν σε πλατφόρμες Snapdragon και Qualcomm.

Αυτά τα μοντέλα υποστηρίζουν ένα ευρύ φάσμα εφαρμογών, συμπεριλαμβανομένης της επεξεργασίας φυσικής γλώσσας, της όρασης υπολογιστή και της ανίχνευσης ανωμαλιών, και έχουν σχεδιαστεί για να παρέχουν υψηλή απόδοση με ελάχιστη κατανάλωση ενέργειας, κρίσιμο παράγοντα για κινητές συσκευές και συσκευές αιχμής.

Η βιβλιοθήκη AI Hub περιλαμβάνει επί του παρόντος περισσότερα από 75 δημοφιλή μοντέλα τεχνητής νοημοσύνης και γενετικής τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Whisper, ControlNet, Stable Diffusion και Baichuan 7B. Όλα τα μοντέλα ομαδοποιούνται σε διάφορους χρόνους εκτέλεσης και είναι βελτιστοποιημένα για να αξιοποιούν την επιτάχυνση υλικού του Qualcomm AI Engine σε όλους τους πυρήνες (NPU, CPU και GPU). Σύμφωνα με την Qualcomm, θα προσφέρουν τέσσερις φορές ταχύτερους χρόνους εξαγωγής συμπερασμάτων.

Παρέχονται τεκμηρίωση και σεμινάρια

Το AI Hub χειρίζεται επίσης αυτόματα τη μετάφραση μοντέλων από το πλαίσιο προέλευσης σε δημοφιλείς χρόνους εκτέλεσης. Λειτουργεί απευθείας με το Qualcomm AI Engine Direct SDK και εφαρμόζει βελτιστοποιήσεις με γνώση υλικού. Οι προγραμματιστές μπορούν να αναζητήσουν μοντέλα με βάση τις ανάγκες τους, να τα κατεβάσουν και να τα ενσωματώσουν στις εφαρμογές τους, εξοικονομώντας χρόνο και πόρους.

Το AI Hub παρέχει επίσης εργαλεία και πόρους στους προγραμματιστές για να προσαρμόσουν αυτά τα μοντέλα και μπορούν να τα ρυθμίσουν με ακρίβεια χρησιμοποιώντας το Qualcomm Neural Processing SDK και το AI Model Efficiency Toolkit, και τα δύο διαθέσιμα στην πλατφόρμα.

Για να χρησιμοποιήσουν το AI Hub, οι προγραμματιστές χρειάζονται ένα εκπαιδευμένο μοντέλο σε μορφή PyTorch, TorchScript, ONNX ή TensorFlow Lite και μια καλή κατανόηση του στόχου ανάπτυξης, ο οποίος μπορεί να είναι μια συγκεκριμένη συσκευή (όπως το Samsung Galaxy S23 Ultra) ή μια σειρά συσκευών .

Ωστόσο, το AI Hub δεν είναι αποκλειστικά για έμπειρους προγραμματιστές. Λειτουργεί επίσης ως πλατφόρμα εκμάθησης, παρέχοντας ολοκληρωμένη τεκμηρίωση και σεμινάρια για όσους μπαίνουν στον κόσμο της τεχνητής νοημοσύνης.

Η Qualcomm σχεδιάζει να ενημερώνει τακτικά το AI Hub με νέα μοντέλα και υποστήριξη για πρόσθετες πλατφόρμες και λειτουργικά συστήματα. Οι προγραμματιστές μπορούν να εγγραφούν για πρόσβαση σε αυτά τα μοντέλα σε συσκευές που φιλοξενούνται σε cloud που βασίζονται σε πλατφόρμες Qualcomm και να αποκτήσουν έγκαιρη πρόσβαση σε νέες δυνατότητες και μοντέλα τεχνητής νοημοσύνης.