Οι επεξεργαστές AMD Ryzen AI υπερέχουν τους ανταγωνιστές σε benchmarks και τιμή

Οι επεξεργαστές Ryzen AI της AMD ξεπερνούν τα τσιπ Core Ultra της Intel σε νέα σημεία αναφοράς AI που παρουσιάζουν φόρτο εργασίας LLM και GenAI.

Η AMD μοιράζεται νέα σημεία αναφοράς AI (LLM) με επεξεργαστές Ryzen AI που ξεπερνούν τα Core Ultra Chips της Intel ενώ λειτουργούν με πολύ χαμηλότερη ισχύ

Η AMD ήταν η πρώτη που εισήλθε στον χώρο των υπολογιστών AI με τους επεξεργαστές πρώτης γενιάς Ryzen AI με την κωδική ονομασία Phoenix που παρουσιάστηκε πέρυσι. Έκτοτε, η εταιρεία κυκλοφόρησε την ανανεωμένη σειρά τεχνητής νοημοσύνης Ryzen, γνωστή ως Hawk Point, η οποία προσφέρει βελτιωμένα NPU “XDNA”, παρέχοντας 60% ώθηση στα AI TOPS. Φαίνεται ότι η AMD έχει κάνει πολλή δουλειά σε βελτιστοποιήσεις λογισμικού για φόρτους εργασίας από πλευράς πελάτη και τοπικής τεχνητής νοημοσύνης, όπως αποδεικνύεται σε νέα σημεία αναφοράς που δημοσιεύει η εταιρεία.

Στις νέες δοκιμές, η AMD δίνει έμφαση στην εκτέλεση LLM στους επεξεργαστές σας τοπικά, κάτι που γίνεται εφικτό με μια σειρά μοντέλων όπως τα LLama 2, Mistral AI_, code llama και RAG. Η εκτέλεση ενός τοπικού μοντέλου AI στον υπολογιστή σας σημαίνει ότι έχετε περισσότερο απόρρητο από τα μοντέλα σε διαδικτυακές πλατφόρμες cloud, εξοικονομώντας σας τέλη συνδρομής χωρίς να απαιτείται σύνδεση στο διαδίκτυο. Η εταιρεία πιέζει περισσότερο σε αυτό το χώρο με τον πρόσφατο οδηγό της για το πώς να ρυθμίσετε το δικό σας τοπικό ρομπότ συνομιλίας AI, το οποίο ανταγωνίζεται το NVIDIA Chat με το chatbot RTX.

Για τη δοκιμή απόδοσης, η AMD χρησιμοποιεί την APU Ryzen 7 7840U στα 15W και τη συγκρίνει με τον Intel Core Ultra 7 155H στα 28W. Και τα δύο τσιπ λειτουργούν με 16 GB μνήμης LPDDR5-6400 και τα πιο πρόσφατα πακέτα προγραμμάτων οδήγησης.

Πρώτα, έχουμε το Mistral Instruct 7B LLM όπου η CPU AMD Ryzen 7 7840U ολοκληρώνει την επεξεργασία AI μόλις στο 61% του χρόνου σε σύγκριση με την προσφορά της Intel, ενώ η συνομιλία Llama 2 7B είναι ακόμα πιο γρήγορη με το τσιπ Ryzen AI να ολοκληρώνει την εργασία σε 54 % του χρόνου.

Για να απλοποιήσουμε τα πράγματα, η CPU AMD Ryzen 7 7840U (15W) μπορεί να προσφέρει έως και 14% ταχύτερη απόδοση στο LLama v2 Chat 7B (Q4 KM) και 17% ταχύτερη απόδοση στο Mistral Instruct 7b (Q4 KM). Οι ταχύτητες χρόνου μέχρι το πρώτο token είναι αντίστοιχα 79% μεγαλύτερες στο LLama v2 Chat και 41% μεγαλύτερες στο Mistral Instruct 7B LLM.

Υπάρχουν δύο πράγματα που πρέπει να σημειώσετε εδώ, όχι μόνο η CPU AMD Ryzen AI είναι ταχύτερη από την υψηλότερης ισχύος CPU Intel Core Ultra, αλλά διαθέτει επίσης μια ελαφρώς πιο αργή NPU με βαθμολογία 10 TOPs έναντι του τσιπ Core Ultra της Intel που έχει SKU 11 TOPs. Αυτό δεν συγκρίνει καν τα SKU 28W ή τα τσιπ Hawk Point που διαθέτουν έως και 16 TOPs του AI Compute. Η AMD υπογραμμίζει επίσης το πλεονέκτημα κόστους των πλατφορμών υπολογιστών AI που διατίθενται σε χαμηλότερη τιμή, ξεκινώντας από περίπου 899 $ (SEP) έναντι των 999 $ (SEP) των τσιπ Intel Core Ultra 155H.

Η πλατφόρμα AMD Ryzen AI PC έχει το πλεονέκτημα ότι βρίσκεται στην αγορά εδώ και αρκετό καιρό και αυτό ώθησε την κόκκινη ομάδα να κάνει γρήγορες βελτιστοποιήσεις τεχνητής νοημοσύνης για τις υπάρχουσες και τις επεξεργαστές επόμενης γενιάς. Αυτοί οι φόρτοι εργασίας της τεχνητής νοημοσύνης αναμένεται να ρυθμιστούν περαιτέρω στο δρόμο για την προετοιμασία της οικογένειας Strix Point με τροφοδοσία Zen 5, η οποία αναμένεται να κυκλοφορήσει αργότερα μέσα στο έτος. Η πλατφόρμα Core Ultra της Intel έχει κυκλοφορήσει εδώ και λίγους μήνες και η εταιρεία έχει σχεδιάσει μια τολμηρή στρατηγική AI για αυτόν τον χώρο.