Η επόμενη γενιά τσιπ υπερυπολογιστών AI της NVIDIA είναι εδώ
Η NVIDIA κυκλοφόρησε την επόμενη γενιά τσιπ υπερυπολογιστών τεχνητής νοημοσύνης που πιθανότατα θα διαδραματίσει σημαντικό ρόλο σε μελλοντικές ανακαλύψεις στη βαθιά εκ
μάθηση
και μεγάλα γλωσσικά μοντέλα (LLM) όπως το GPT-4 του OpenAI, ανακοίνωσε η εταιρεία. Η τεχνολογία αντιπροσωπεύει ένα σημαντικό άλμα σε σχέση με την τελευταία γενιά και είναι έτοιμη να χρησιμοποιηθεί σε κέντρα δεδομένων και υπερυπολογιστές — σε εργασίες όπως πρόβλεψη καιρού και κλίματος, ανακάλυψη φαρμάκων, κβαντικοί υπολογιστές και πολλά άλλα.
Το βασικό προϊόν είναι η GPU HGX H200 που βασίζεται σε NVIDIA “Χοάνη” αρχιτεκτονική, μια αντικατάσταση της δημοφιλούς GPU H100. Είναι το πρώτο τσιπ της εταιρείας που χρησιμοποιεί μνήμη HBM3e, η οποία είναι πιο γρήγορη και έχει μεγαλύτερη χωρητικότητα, καθιστώντας το πιο κατάλληλο για μεγάλα μοντέλα γλώσσας. “Με το HBM3e, το NVIDIA H200 προσφέρει 141 GB μνήμης στα 4,8 terabyte ανά δευτερόλεπτο, σχεδόν διπλάσια χωρητικότητα και 2,4 φορές περισσότερο εύρος ζώνης σε σύγκριση με τον προκάτοχό του, το NVIDIA A100,” έγραψε η εταιρεία.
Όσον αφορά τα οφέλη για την τεχνητή νοημοσύνη, η NVIDIA λέει ότι το HGX H200 διπλασιάζει την ταχύτητα συμπερασμάτων στο Llama 2, ένα LLM 70 δισεκατομμυρίων παραμέτρων, σε σύγκριση με το H100. Θα είναι διαθέσιμο σε διαμορφώσεις 4 και 8 κατευθύνσεων που είναι συμβατές τόσο με το λογισμικό όσο και με το υλικό των συστημάτων H100. Θα λειτουργεί σε κάθε τύπο κέντρου δεδομένων (on-premises, cloud,
hybrid
-cloud και edge) και θα αναπτυχθεί μεταξύ άλλων από τις Υπηρεσίες Web της Amazon, το
Google Cloud
, το Microsoft Azure και την
Oracle
Cloud Infrastructure. Έχει προγραμματιστεί να φτάσει το δεύτερο τρίμηνο του 2024.
Το άλλο βασικό προϊόν της NVIDIA είναι το GH200 Grace Hopper “superchip” που συνδυάζει την GPU HGX H200 και την βασισμένη σε βραχίονα επεξεργαστή NVIDIA Grace χρησιμοποιώντας τη διασύνδεση NVLink-C2C της εταιρείας. Είναι σχεδιασμένο για υπερυπολογιστές για να το επιτρέπει “επιστήμονες και ερευνητές για να αντιμετωπίσουν τα πιο δύσκολα προβλήματα του κόσμου επιταχύνοντας σύνθετες εφαρμογές AI και HPC που εκτελούν terabyte δεδομένων,” έγραψε η NVIDIA.
Το GH200 θα χρησιμοποιηθεί σε “40+ υπερυπολογιστές AI σε παγκόσμια ερευνητικά κέντρα, κατασκευαστές συστημάτων και παρόχους cloud,” είπε η εταιρεία, συμπεριλαμβανομένων των Dell, Eviden,
Hewlett Packard Enterprise
(HPE), Lenovo, QCT και Supermicro. Αξιοσημείωτοι μεταξύ αυτών είναι οι υπερυπολογιστές Cray EX2500 της HPE που θα χρησιμοποιούν quad GH200, που θα κλιμακώνονται έως και δεκάδες χιλιάδες κόμβους Grace Hopper Superchip.
Ίσως ο μεγαλύτερος υπερυπολογιστής Grace Hopper θα είναι ο JUPITER, που βρίσκεται στις εγκαταστάσεις Jülich στη Γερμανία, ο οποίος θα γίνει ο “το πιο ισχυρό σύστημα AI στον κόσμο” όταν εγκατασταθεί το 2024. Χρησιμοποιεί υγρόψυκτη αρχιτεκτονική, “με μια ενισχυτική μονάδα που περιλαμβάνει σχεδόν 24.000 NVIDIA GH200 Superchips διασυνδεδεμένα με την πλατφόρμα δικτύωσης NVIDIA Quantum-2 InfiniBand,” σύμφωνα με την NVIDIA.
Η NVIDIA λέει ότι ο JUPITER θα βοηθήσει σε επιστημονικές ανακαλύψεις σε διάφορους τομείς, συμπεριλαμβανομένης της πρόβλεψης του κλίματος και του καιρού, δημιουργώντας κλιματικές και καιρικές προσομοιώσεις υψηλής ανάλυσης με διαδραστική απεικόνιση. Θα χρησιμοποιηθεί επίσης για την ανακάλυψη φαρμάκων, τους κβαντικούς υπολογιστές και τη βιομηχανική μηχανική. Πολλές από αυτές τις περιοχές χρησιμοποιούν προσαρμοσμένες λύσεις λογισμικού NVIDIA που διευκολύνουν την ανάπτυξη αλλά και κάνουν τις ομάδες υπερυπολογιστών να εξαρτώνται από το υλικό NVIDIA.
Οι νέες τεχνολογίες θα είναι βασικές για την NVIDIA, η οποία πλέον αντλεί το μεγαλύτερο μέρος των εσόδων της από τα τμήματα AI και data center. Το περασμένο τρίμηνο η εταιρεία σημείωσε έσοδα ρεκόρ 10,32 δισεκατομμυρίων δολαρίων μόνο σε αυτόν τον τομέα (από τα συνολικά έσοδα 13,51 δισεκατομμυρίων δολαρίων), αυξημένα κατά 171 τοις εκατό από πέρυσι. Αναμφίβολα ελπίζει ότι η νέα GPU και το superchip θα βοηθήσουν στη συνέχιση αυτής της τάσης. Μόλις την περασμένη εβδομάδα, η NVIDIA έσπασε το δικό της ρεκόρ αναφοράς εκπαίδευσης AI χρησιμοποιώντας παλαιότερη τεχνολογία H100, επομένως η νέα τεχνολογία της θα πρέπει να τη βοηθήσει να επεκτείνει αυτό το προβάδισμα έναντι των αντιπάλων σε έναν τομέα που ήδη κυριαρχεί.
Αυτό το άρθρο εμφανίστηκε αρχικά στο Engadget στη διεύθυνση https://www.engadget.com/nvidia-announces-its-next-generation-of-ai-supercomputer-chips-140004095.html?src=rss
VIA:
engadget.com