Επαγγελματίες τεχνητής νοημοσύνης εξετάζουν τη μετάβαση από NVIDIA σε AMD: Ανάλυση της απόδοσης και του κόστους του Instinct MI300X

Μια πρόσφατη έρευνα αποκάλυψε ότι ένα μεγάλο κομμάτι επαγγελματιών τεχνητής νοημοσύνης θέλει να αλλάξει από NVIDIA σε AMD Instinct MI300X GPU.

Το Instinct MI300X της AMD μπορεί να είναι η πύλη για την είσοδο της εταιρείας στο συνεχιζόμενο AI “Gold Rush” καθώς προσελκύει τεράστιο ενδιαφέρον

Jeff Tatarchuk, ο οποίος εργάζεται στο

TensorWave

, ρώτησε πρόσφατα 82 μηχανικούς και επαγγελματίες τεχνητής νοημοσύνης, υποστηρίζοντας ότι περίπου το 50% από αυτούς εξέφρασαν την εμπιστοσύνη τους στη χρήση της GPU AMD Instinct MI300X, θεωρώντας ότι προσφέρει καλύτερη αναλογία τιμής προς απόδοση, καθώς και εκτεταμένη διαθεσιμότητα σε σύγκριση με αντίστοιχες όπως η NVIDIA H100s. Εκτός από αυτό, ο Jeff λέει επίσης ότι η TensorWave θα χρησιμοποιήσει τους επιταχυντές MI300X AI, κάτι που είναι άλλο ένα πολλά υποσχόμενο νέο για την Team Red, δεδομένου ότι η σειρά Instinct τους, γενικά, δεν έχει δει το επίπεδο υιοθέτησης σε σύγκριση με άλλες όπως η NVIDIA.

Σε μια έρευνα που διεξήχθη πρόσφατα μεταξύ 82 μηχανικών και επαγγελματιών τεχνητής νοημοσύνης, δήλωσε ότι το 50% των ερωτηθέντων σκέφτεται ενεργά να χρησιμοποιήσει την GPU AMD Instinct MI300X.

Οι τρεις κύριοι λόγοι για να εξετάσετε το AMD MI300X είναι η διαθεσιμότητα, το κόστος και η απόδοση, με αυτή τη σειρά.

Εμείς…

pic.twitter.com/ZckHBj6b20

— Jeff Tatarchuk (@jtatarchuk)

8 Μαρτίου 2024

Για μια γρήγορη περιγραφή της GPU MI300X Instinct AI, έχει σχεδιαστεί αποκλειστικά στην αρχιτεκτονική CDNA 3 και πολλά πράγματα συμβαίνουν. Φιλοξενεί έναν συνδυασμό IP 5nm και 6nm, που συνδυάζονται για να παρέχουν έως και 153 δισεκατομμύρια τρανζίστορ (MI300X). Η μνήμη είναι ένας άλλος τομέας όπου σημειώθηκε τεράστια αναβάθμιση, με το MI300X να διαθέτει 50% περισσότερη χωρητικότητα HBM3 από τον προκάτοχό του, το MI250X (128 GB). Δείτε πώς συγκρίνεται με το H100 της NVIDIA:

• 2,4 φορές μεγαλύτερη χωρητικότητα μνήμης
• 1,6Χ υψηλότερο εύρος ζώνης μνήμης
• 1,3X FP8 TFLOPS
• 1,3X FP16 TFLOPS
• Έως 20% ταχύτερα έναντι H100 (Llama 2 70B) σε σύγκριση 1v1
• Έως και 20% ταχύτερα έναντι H100 (FlashAttention 2) σε σύγκριση 1v1
• Έως και 40% ταχύτερα έναντι H100 (Llama 2 70B) σε διακομιστή 8v8
• Έως και 60% ταχύτερα έναντι H100 (Bloom 176B) σε διακομιστή 8v8

Πρόσφατα αναφέραμε πώς ο κορυφαίος επιταχυντής AI Instinct της AMD προκαλεί «πονοκεφάλους» στους ανταγωνιστές της αγοράς. Αυτό οφείλεται στο γεγονός ότι όχι μόνο τα κέρδη απόδοσης με το MI300X είναι τεράστια, αλλά η AMD έχει χρονομετρήσει τέλεια την κυκλοφορία του, καθώς η NVIDIA αυτή τη στιγμή έχει κολλήσει με το «βάρος» των ανεκτέλεστων παραγγελιών, γεγονός που έχει εμποδίσει την ανάπτυξή της στην απόκτηση νέων πελατών. Αν και η Team Red δεν ξεκίνησε την αρχή που ήθελε, φαίνεται ότι η επερχόμενη περίοδος θα μπορούσε να αποδειχθεί καρποφόρα για την εταιρεία, δυνητικά να έρθει αντιμέτωπη με τους ανταγωνιστές της αγοράς.

Πηγή ειδήσεων:

Τζεφ Τατάρχουκ