Η NVIDIA HGX H200 είναι η πιο πρόσφατη GPU που θα τροφοδοτεί διακομιστές τεχνητής νοημοσύνης που δημιουργούνται

Η NVIDIA έχει κερδίσει πολλά χρήματα τον περασμένο χρόνο, χάρη σε εταιρείες όπως η Microsoft, το OpenAI και άλλες που αγόρασαν πολλές από τις high-end GPU της εταιρείας για να τροφοδοτήσουν τα παραγωγικά προϊόντα τεχνητής νοημοσύνης τους. Σήμερα, η NVIDIA ανακοίνωσε μια νέα γενιά των γραφικών γραφικών τεχνητής νοημοσύνης της που υπόσχεται να προσφέρει στη Microsoft και σε άλλους ακόμη μεγαλύτερη ταχύτητα και απόδοση για

υπηρεσίες

τεχνητής νοημοσύνης.

Σε δελτίο τύπου

, η NVIDIA ανακοίνωσε την GPU HGX H200, βασισμένη στην

αρχιτεκτονική

τσιπ Hopper της εταιρείας και την H200

Tensor

Core GPU της. Δηλώνει:

Η NVIDIA H200 είναι η πρώτη GPU που προσφέρει HBM3e — ταχύτερη, μεγαλύτερη μνήμη για να τροφοδοτήσει την επιτάχυνση της γενετικής τεχνητής νοημοσύνης και των μεγάλων μοντέλων γλώσσας, ενώ προάγει την επιστημονική πληροφορική για φόρτους εργασίας HPC. Με το HBM3e, το NVIDIA H200 προσφέρει 141 GB μνήμης στα 4,8 terabyte ανά δευτερόλεπτο, σχεδόν διπλάσια χωρητικότητα και 2,4 φορές περισσότερο εύρος ζώνης σε σύγκριση με τον προκάτοχό του, το NVIDIA A100.

Η NVIDIA ισχυρίζεται ότι το νέο τσιπ θα προσφέρει σχεδόν διπλάσια ταχύτητα συμπερασμάτων όταν εκτελεί το μοντέλο μεγάλης γλώσσας Llama 2, σε σύγκριση με το H100.

Η εταιρεία δήλωσε ότι οι μεγαλύτερες υπηρεσίες

cloud

, συμπεριλαμβανομένων των Microsoft Azure, Amazon Web Services, Google Cloud και Oracle Cloud Infrastructure έχουν ήδη εγγραφεί για να αγοράσουν τη νέα GPU HGX H200. Μπορεί να χρησιμοποιηθεί σε διαμορφώσεις τεσσάρων και οκτώ κατευθύνσεων που είναι συμβατές με τα παλαιότερα συστήματα υλικού και λογισμικού HGX H100. Η NVIDIA πρόσθεσε:

Ένα HGX H200 οκτώ κατευθύνσεων παρέχει πάνω από 32 petaflops υπολογισμού βαθιάς εκμάθησης FP8 και 1,1 TB συνολικής μνήμης υψηλού εύρους ζώνης για την υψηλότερη απόδοση σε εφαρμογές τεχνητής νοημοσύνης και HPC.

Επιπλέον, αρκετοί συνεργάτες υλικού διακομιστή, συμπεριλαμβανομένων των ASRock Rack, ASUS,

Dell Technologies

, GIGABYTE, Hewlett Packard Enterprise, Lenovo και πολλών άλλων θα μπορούν να αναβαθμίσουν τα παλαιότερα συστήματα H100 με το νέο τσιπ H200.

Η GPU HGX H200 θα είναι διαθέσιμη από αυτές τις εταιρείες υπολογιστών διακομιστών και από αυτές τις επιχειρήσεις που βασίζονται στο cloud κάποια στιγμή στο δεύτερο τρίμηνο του 2024. Προηγουμένως είχε ανακοινώσει τη γενετική πλατφόρμα AI GH200 Grace Hopper, η οποία θα κυκλοφορήσει επίσης το δεύτερο τρίμηνο του 2024.