Η Intel έδωσε συνέχεια στους ισχυρισμούς απόδοσης του Data Center
AI
της AMD για τους επεξεργαστές EPYC Turin 5ης γενιάς, λέγοντας ότι η 5η γενιά Xeon είναι ταχύτερη με τις σωστές βελτιστοποιήσεις.
Η AMD παρουσίασε τους επεξεργαστές EPYC Turin 5ης γενιάς με Zen 5 πυρήνες που ξε
περνούν
τα τσιπ Xeon 5ης γενιάς σε σημεία αναφοράς τεχνητής νοημοσύνης, αλλά η Intel λέει ότι η 5η γενιά ηγείται έναντι της EPYC όταν χρησιμοποιούνται σωστές βελτιστοποιήσεις
Στο
Computex 2024
, η AMD ανακοίνωσε επίσημα την οικογένεια CPU EPYC 5ης γενιάς με την κωδική ονομασία Turin, η οποία χρησιμοποιεί την πιο πρόσφατη αρχιτεκτονική πυρήνα Zen 5. Η εταιρεία έβγαλε ορισμένους μεγάλους αριθμούς κατά της οικογένειας Xeon 5ης γενιάς της Intel με την κωδική ονομασία Emerald Rapids, ειδικά σε φόρτους εργασίας τεχνητής νοημοσύνης, αλλά η Intel έχει τώρα διευκρινίσει ότι αυτά τα σημεία αναφοράς πραγματοποιήθηκαν χωρίς τις κατάλληλες βελτιστοποιήσεις για την οικογένεια Xeon και με αυτές που εφαρμόστηκαν, ακόμη και 5ης γενιάς Τα Xeons θα πρέπει να ξεπεράσουν εύκολα την 5η γενιά EPYC Turin σε επιδόσεις AI.
Το σημείο αναφοράς που επισημάνθηκε συγκεκριμένα από την Intel είναι το Llama2-7B
Chatbot
που βασίζεται στην απόδοση συμπερασμάτων INT4 και διεξήχθη με καθυστέρηση 50 ms. Η AMD έδειξε ότι οι επεξεργαστές της EPYC 5ης γενιάς σε διαμόρφωση 2S (dual-socket) με 128 πυρήνες ο καθένας προσφέρουν έως και 671 tokens/s απόδοσης, ενώ τα τσιπ 5ης γενιάς Xeon Platinum 8592+ της Intel με 64 πυρήνες το καθένα τρέχουν στην ίδια διπλή υποδοχή Η διαμόρφωση προσέφερε μόνο 125 μάρκες/δευτερόλεπτα. Αυτό ήταν ένα τεράστιο κέρδος 5,4x για τους επεξεργαστές AMD EPYC Turin.
Η Intel δηλώνει ότι τα σημεία αναφοράς διεξήχθησαν χωρίς τη σωστή σουίτα λογισμικού για τα SKU Xeon 5ης γενιάς και η AMD δεν παρουσίασε λεπτομέρειες σχετικά με τη διαμόρφωση της Intel στις υποσημειώσεις της.
Η μπλε ομάδα έχει πλέον πραγματοποιήσει τα σημεία αναφοράς επιδόσεων με τους ίδιους φόρτους εργασίας AI και φαίνεται ότι τα αποτελέσματα είναι ριζικά διαφορετικά.
Χ
ρησιμοποιώντας την επέκταση Intel για PyTorch (Latency P99), οι επεξεργαστές Xeon Emerald Rapids 5ης γενιάς μπορούν να αποδώσουν 5,4 φορές καλύτερη απόδοση από αυτή που παρουσίαζε η AMD. Η έξοδος 686 Tokens/s υπερβαίνει την απόδοση των CPU 5ης γενιάς EPYC Zen 5 της AMD. Αυτό δεν οφείλεται μόνο στις βελτιστοποιήσεις λογισμικού της Intel για το Llama2, αλλά και στους πρόσθετους επιταχυντές υλικού τεχνητής νοημοσύνης στην οικογένεια Emerald Rapids 5ης γενιάς που παρέχουν μια ωραία ώθηση.
Η Intel δεν σταματά εκεί, η εταιρεία δηλώνει επίσης ότι στους άλλους δύο φόρτους εργασίας, τη Μετάφραση και τη Σύνοψη, η εταιρεία σημείωσε αύξηση απόδοσης 1,2x έως 2,3x σε σύγκριση με τα αποτελέσματα που είχε χρησιμοποιήσει η AMD στην παρουσίασή της στο Computex 2024.
Επιπλέον, η πιο κρίσιμη πτυχή είναι ότι αυτά τα σημεία αναφοράς εξαρτώνται σε μεγάλο βαθμό από τη μνήμη και η επόμενη γενιά της οικογένειας EPYC Turin θα διαθέτει διεπαφή DDR5 12 καναλιών. Ενώ οι επεξεργαστές Xeon “Emerald Rapids” τρέχουσας γενιάς της Intel κορυφώνονται στα 8 κανάλια μνήμης DDR5, οι επεξεργαστές επόμενης γενιάς Granite Rapids “Xeon 6700P/6900P” όχι μόνο θα διαθέτουν την ίδια διεπαφή μνήμης 12 καναλιών “Up To” αλλά και διαθέτουν τον ίδιο αριθμό πυρήνων 128 με P-Cores και έως 288 E-Cores με την οικογένεια Xeon 6900E που θα κυκλοφορήσει στις αρχές του 2025. Οι επεξεργαστές Granite Rapids Xeon 6700P θα είναι διαθέσιμοι με έως και 86 P-Cores το τρίτο τρίμηνο του 2024.
Φαίνεται ότι όλες οι μεγάλες εταιρείες που ασχολούνται επί του παρόντος με τον κλάδο της τεχνητής νοημοσύνης είναι πολύ σοβαροί όχι μόνο για τους ισχυρισμούς απόδοσης τους αλλά και για το τι επιδεικνύουν οι άλλοι. Η NVIDIA και η AMD συμμετείχαν σε μια παρόμοια μάχη πριν από λίγους μήνες, όταν η κόκκινη ομάδα ανακοίνωσε τα στοιχεία της MI300X έναντι της σειράς Hopper και από εκεί και πέρα ήταν πίσω και πίσω.
Ομοίως, από την πλευρά των πραγμάτων για υπολογιστές τεχνητής νοημοσύνης, οι εταιρείες, η AMD, η Intel, η Qualcomm και η NVIDIA εμπλέκονται σε έναν πολύ σκληρό αγώνα όπου τα AI TOPs είναι η συζήτηση της πόλης. Με την αυξανόμενη ζήτηση για τεχνητή νοημοσύνη σε όλο τον τεχνολογικό τομέα, όλες αυτές οι εταιρείες τεχνολογίας προσπαθούν να προσελκύσουν περισσότερους πελάτες για να χρησιμοποιήσουν τα προϊόντα τους και να αποστείλουν τόσες μονάδες για να ικανοποιήσουν τη συνεχώς αυξανόμενη ανάγκη για ικανό υλικό.
VIA:
wccftech.com
0