Νέα υποστήριξη Intel Arc GPU στο PyTorch για ενίσχυση AI, Deep Learning και LLM

Οι GPU της σειράς Arc A υποστηρίζονται πλέον στο

Intel

Extension for PyTorch (IPEX), προσφέροντας ταχύτερες δυνατότητες τεχνητής νοημοσύνης σε βαθιά μάθηση και LLM.

Η επέκταση της Intel για την PyTorch εκμεταλλεύεται τώρα πλήρως το υλικό XMX AI επί των GPU της σειράς Arc A

Οι GPU της σειράς Arc A της Intel που βασίζονται στην αρχιτεκτονική Alchemist έχουν πολλές δυνατότητες στο υλικό που γίνονται αν

τι

ληπτές μέρα με τη μέρα. Το τμήμα λογισμικού έχει κάνει εξαιρετική δουλειά στη βελτιστοποίηση της απόδοσης του παιχνιδιού αυτών των GPU και τώρα η εστίαση είναι στην αναδυόμενη αγορά AI, όπου οι μονάδες XMX που εμφανίζονται σε αυτά τα τσιπ θα χρησιμοποιηθούν πλήρως.

Σε μια ενημέρωση, η Intel επιβεβαίωσε ότι το IPEX (Intel Extension για PyTorch) προσφέρει πλέον υποστήριξη για GPU Arc A-Series σε

πλατφόρμες

Windows, Linux και WSL2. Με αυτήν την υποστήριξη που προστέθηκε πρόσφατα, οι GPU της σειράς A της Intel όχι μόνο θα ενίσχυαν την επιτάχυνση των μοντέλων βαθιάς εκμάθησης όπως τα LLM, αλλά θα φέρουν επίσης νέες βελτιστοποιήσεις για το υλικό της Intel, επιτρέποντας ταχύτερη απόδοση και δίνοντας στους χρήστες τη δυνατότητα να εκτελούν μοντέλα PyTorch στη σειρά GPU Alchemist. .

Για όσους από εσάς έχετε GPU

Intel Arc

A-Series και θέλετε να επωφεληθείτε από τον κινητήρα XMX AI στο PyTorch,

η εταιρεία έχει δημοσιεύσει ένα πλήρες ιστολόγιο σχετικά με τον τρόπο εκτέλεσης της διεπαφής Llama 2 σε Windows και WSL2 εδώ

. Σύμφωνα με την ομάδα λογισμικού AI της Intel:

• Οι GPU είναι κατάλληλες για φόρτους εργασίας μεγάλων μοντέλων γλώσσας (LLM), καθώς οι GPU υπερέχουν σε τεράστιο παραλληλισμό δεδομένων και υψηλό εύρος ζώνης μνήμης. Τα γραφικά Arc A-Series Graphics, συμπεριλαμβανομένου του Arc A770 Graphics, είναι γραφικά υψηλής απόδοσης, με έως και 512 Xe Matrix Extensions (XMX) Engines, παρέχοντας δυνατότητα για ταχεία εκτέλεση μοντέλων βαθιάς εκμάθησης, συμπεριλαμβανομένων των LLM.
• Το IPEX επεκτείνει το PyTorch με τις πιο πρόσφατες βελτιστοποιήσεις απόδοσης για το υλικό της Intel, αξιοποιώντας τις μηχανές XMX σε διακριτές GPU της Intel.
• Η επέκταση IPEX για PyTorch επιτρέπει στη συσκευή PyTorch XPU, η οποία της επιτρέπει να μετακινεί εύκολα το μοντέλο PyTorch και τα δεδομένα εισόδου στη συσκευή για εκτέλεση σε διακριτή GPU Intel με επιτάχυνση GPU.
• Η τελευταία έκδοση του IPEX (v2.1.10+xpu) υποστηρίζει επίσημα το Arc A-Series Graphics σε WSL2, εγγενή Windows και εγγενές Linux.
• Έδειξε την εκτέλεση συμπερασμάτων Llama 2 7B και Llama 2-Chat 7B στο Arc A770 Graphics σε Windows και WSL2 μέσω Ipex.
• Για να εκτελέσετε το Llama 2, ή οποιοδήποτε άλλο μοντέλο PyTorch, σε επεξεργαστές Arc A-Series GPU, απλώς προσθέστε μερικές επιπλέον γραμμές κώδικα σε
  
  
  εισαγωγή
  
  intel_extension_for_pytorch και .to(“xpu”)
  
  για να μετακινήσετε το μοντέλο και τα δεδομένα στη συσκευή για εκτέλεση σε GPU Arc A-Series.

Πρόσφατα δημοσιεύσαμε ένα άρθρο αναφέροντας τον πρώην προϊστάμενο GPU της Intel,

Raja Koduri

, ο οποίος ανέφερε πώς οι GPU υπολογιστών πελατών και παιχνιδιών έπαιξαν καθοριστικό ρόλο στην επιτυχία της τεχνητής νοημοσύνης. Η επέκταση της υποστήριξης της Intel στις GPU της σειράς Arc A είναι κάτι εξαιρετικό για το τμήμα της αγοράς όπου η NVIDIA και η AMD πρωτοστατούν στη χρέωση, προσφέροντας γρήγορη υποστήριξη AI σε υλικό με επίκεντρο τον καταναλωτή.