Η Microsoft λέει ότι θα χρησιμοποιήσει τα νέα τσιπ της AMD Instinct MI300 Series για υπηρεσίες web Azure

Στον αγώνα για να προσφέρουν νέες και βελτιωμένες υπηρεσίες παραγωγής τεχνητής νοημοσύνης, οι εταιρείες τεχνολογίας χρειάζονται νέες CPU για να βοηθήσουν στην τροφοδοσία του αυξανόμενου αριθμού διακομιστών που απαιτούνται για την τροφοδοσία αυτών των λειτουργιών. Η

NVIDIA

ήταν, αναμφίβολα, ο ηγέτης στην παροχή αυτού του είδους CPU σε αυτές τις εταιρείες, συμπεριλαμβανομένης της Microsoft, και ως αποτέλεσμα κερδίζει έναν τόνο χρημάτων.

Σήμερα, ένας από τους μεγαλύτερους ανταγωνιστές της NVIDIA, η AMD, ανακοίνωσε τα σχέδιά της να προσφέρει την πιο πρόσφατη έκδοση των δικών της τσιπ τεχνητής νοημοσύνης, με την εισαγωγή της σειράς AMD Instinct MI300. Η Microsoft ήταν μεταξύ των εταιρειών που δήλωσαν ότι θα χρησιμοποιούσε εκδόσεις των νέων τσιπ της AMD για τις υπηρεσίες της. Συγκεκριμένα, η Microsoft είπε ότι θα χρησιμοποιήσει το AMD Instinct MI300X στους διακομιστές της

Azure

ND MI300x v5 Virtual Machine.

Η AMD δήλωσε ότι το νέο Instinct MI300X χρησιμοποιεί την αρχιτεκτονική του CDNA 3. Συνέκρινε την απόδοσή του με αυτή των GPU NVIDIA H100 που έχουν χρησιμοποιηθεί σε πολλές εταιρείες για υπηρεσίες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της Microsoft:

Σε σύγκριση με το Nvidia H100 HGX, η πλατφόρμα AMD Instinct μπορεί να προσφέρει αύξηση απόδοσης έως και 1,6x κατά την εκτέλεση συμπερασμάτων σε LLM όπως το BLOOM 176B4 και είναι η μόνη επιλογή στην αγορά που μπορεί να εκτελέσει συμπεράσματα για ένα

μοντέλο

παραμέτρων 70B, όπως το Llama2. σε έναν μόνο επιταχυντή MI300X. απλοποίηση των αναπτύξεων LLM σε επίπεδο επιχείρησης και επιτρέποντας το εξαιρετικό TCO.

Η AMD πρόσθεσε ότι η Meta και η Oracle θα είναι μεταξύ των εταιρειών που θα χρησιμοποιήσουν τα τσιπ Instinct MI300X για τις δικές τους υπηρεσίες τεχνητής νοημοσύνης.

Αυτό είναι μόνο το πιο πρόσφατο παράδειγμα της νέας ώθησης για την παροχή του τεράστιου όγκου ζήτησης για GPU που βασίζονται σε AI. Πράγματι, η Microsoft ανακοίνωσε πριν από μερικές εβδομάδες στο Ignite

2023

ότι θα κατασκευάσει το δικό της τσιπ τεχνητής νοημοσύνης, το Azure Maia AI Accelerator. Θα χρησιμοποιηθεί για την ενίσχυση των Υπηρεσιών Microsoft Copilot και

Azure OpenAI

κάποια στιγμή στις αρχές του 2024.