Ναι, η AMD έχει ένα μυστικό όπλο για να καταπολεμήσει την αρμάδα Nvidia AI — όχι, δεν έχει καμία απολύτως σχέση με GPU και οτιδήποτε έχει να κάνει με το HBM

Η AMD θα βασιστεί στις εξελίξεις στη μνήμη υψηλού εύρους ζώνης (HBM) στην προσπάθειά της να ανατρέψει τη Nvidia ως ηγέτη στον κλάδο για την κατασκευή των εξαρτημάτων που τροφοδοτούν τα συστήματα τεχνητής νοημοσύνης.

Με βάση το θέμα του επεξεργαστή στη μνήμη (PIM), η Xilinx, η οποία ανήκει στην AMD, παρουσίασε την κάρτα Virtex XCVU7P, στην οποία κάθε FPGA είχε οκτώ μονάδες επιταχυντή στη μνήμη (AiM). Η εταιρεία το παρουσίασε στο OCP Summit 2023, μαζί με τη μονάδα μνήμης HBM3E της

SK Hynix

, σύμφωνα με


Εξυπηρετεί το Σπίτι


.

Ουσιαστικά, εκτελώντας υπολογιστικές λειτουργίες απευθείας στη μνήμη, τα δεδομένα δεν θα χρειάζεται να μετακινούνται μεταξύ των στοιχείων των συστημάτων, πράγμα που σημαίνει ότι η απόδοση αυξάνεται και το συνολικό σύστημα γίνεται πιο ενεργειακά αποδοτικό. Η χρήση PIM, με το AiM της SK Hynix, οδήγησε σε δέκα φορές μικρότερο λανθάνοντα χρόνο διακομιστή, πέντε φορές χαμηλότερη κατανάλωση ενέργειας και το μισό κόστος σε φόρτους

εργασία

ς συμπερασμάτων AI.

Η πιο πρόσφατη ανατροπή στον συνεχιζόμενο αγώνα εξοπλισμών AI

Η Nvidia και η AMD δημιουργούν τις περισσότερες από τις καλύτερες GPU μεταξύ τους και μπορεί κανείς να υποθέσει ότι οι προσπάθειες για τη βελτίωση της ποιότητας αυτών των στοιχείων είναι το κλειδί για τη βελτίωση της απόδοσης της τεχνητής νοημοσύνης. Αλλά στην πραγματικότητα, οι εταιρείες αυτές βλέπουν ότι υπάρχουν τεράστια πλεονεκτήματα όσον αφορά την ισχύ και την αποτελεσματικότητα, με το να φτιάχνουν τη σχέση μεταξύ υπολογιστών και μνήμης.

Η Nvidia προχωρά επίσης με τα δικά της σχέδια να ενσωματώσει την

τεχνολογία

HBM στη σειρά των GPU της, συμπεριλαμβανομένων των A100, H100 και GH200, που είναι από τις καλύτερες κάρτες γραφικών εκεί έξω. Έκανε συμφωνία με τη

Samsung

τον περασμένο μήνα για την ενσωμάτωση της τεχνολογίας μνήμης HBM3 στις GPU της, για παράδειγμα, και πιθανότατα θα επεκτείνει τη συμφωνία για να συμπεριλάβει τις νέες μονάδες HBM3e.

Το PIM είναι κάτι που έχουν επιδιώξει αρκετές εταιρείες τους τελευταίους μήνες. Η Samsung, για παράδειγμα, παρουσίασε το Processing-Near-Memory (PNM) της τον Σεπτέμβριο. ο

CXL-PNM

Η μονάδα είναι μια κάρτα 512 GB με εύρος ζώνης έως και 1,1 TB/s.

Αυτό ακολουθεί ένα πρωτότυπο για μια κάρτα HBM-PIM, η οποία κατασκευάστηκε σε συνεργασία με την AMD. Η προσθήκη μιας τέτοιας κάρτας αύξησε την απόδοση κατά 2,6% ενώ ενίσχυσε την ενεργειακή απόδοση κατά 2,7% έναντι των υπαρχόντων επιταχυντών GPU.