Μια μικροσκοπική εκκίνηση βοήθησε την Intel να ξεπεράσει την AMD και την Nvidia σε κρίσιμες δοκιμές τεχνητής νοημοσύνης — έχει τελειώσει ήδη το παιχνίδι;
Η Numenta έχει αποδείξει ότι οι επεξεργαστές
Intel
Xeon μπορούν να ξεπεράσουν κατά πολύ τις καλύτερες CPU και τις καλύτερες GPU σε φόρτους εργασίας AI, εφαρμόζοντας μια νέα προσέγγιση σε αυτές.
Χρησιμοποιώντας ένα σύνολο τεχνικών που βασίζονται σε αυτήν την ιδέα, με την επωνυμία Numenta Platform for Intelligent
Computing
(NuPIC), η startup έχει ξεκλειδώσει νέα επίπεδα απόδοσης σε συμβατικές CPU με συμπέρασμα AI, σύμφωνα με
Εξυπηρετήστε το σπίτι
.
Το πραγματικά εκπληκτικό είναι ότι μπορεί προφανώς να ξεπεράσει τις GPU και τις CPU που έχουν σχεδιαστεί ειδικά για την αντιμετώπιση των συμπερασμάτων AI. Για παράδειγμα, η Numenta πήρε έναν φόρτο εργασίας για τον οποίο η Nvidia ανέφερε στοιχεία απόδοσης με την A100 GPU της και τον έτρεξε σε μια επαυξημένη CPU 48-πύρηνων Sapphire Rapids 4ης γενιάς. Σε όλα τα σενάρια, ήταν ταχύτερο από το τσιπ της Nvidia με βάση τη συνολική απόδοση. Στην πραγματικότητα, ήταν 64 φορές ταχύτερος από έναν επεξεργαστή Intel Xeon 3ης γενιάς και δέκα φορές ταχύτερος από την GPU A100.
Ενίσχυση της απόδοσης της τεχνητής νοημοσύνης με τη
νευροεπιστήμη
Η Numenta, γνωστή για την εμπνευσμένη από τις νευροεπιστήμες προσέγγισή της στους φόρτους εργασίας της τεχνητής νοημοσύνης, βασίζεται σε μεγάλο βαθμό στην ιδέα του αραιού υπολογισμού – που είναι ο τρόπος με τον οποίο ο εγκέφαλος σχηματίζει συνδέσεις μεταξύ των νευρώνων.
Πλέον
CPU
και
GPU
Σήμερα έχουν σχεδιαστεί για πυκνούς
υπολογιστές
, ειδικά για τεχνητή νοημοσύνη, η οποία είναι μάλλον πιο ωμή δύναμη από τον τρόπο με τον οποίο λειτουργεί ο εγκέφαλος. Αν και η αραιότητα είναι ένας σίγουρος τρόπος για την ενίσχυση της απόδοσης, οι CPU δεν μπορούν να λειτουργήσουν καλά με αυτόν τον τρόπο. Εδώ μπαίνει η Numenta.
Αυτή η εκκίνηση προσπαθεί να ξεκλειδώσει τα κέρδη απόδοσης του αραιού υπολογισμού σε μοντέλα τεχνητής νοημοσύνης, εφαρμόζοντας τη “μυστική σάλτσα” της σε γενικές CPU αντί
τσιπ κατασκευασμένα ειδικά για να χειρίζονται φόρτους εργασίας με επίκεντρο την τεχνητή νοημοσύνη
.
Αν και μπορεί να λειτουργήσει τόσο σε CPU όσο και σε GPU, η Numenta υιοθέτησε επεξεργαστές Intel Xeon και εφάρμοσε τις Advanced Vector Extensions (AVX)-512
plus
Advanced Matrix Extensions (AMX) σε αυτήν, επειδή τα τσιπ της Intel ήταν τα πιο διαθέσιμα εκείνη την εποχή.
Αυτές είναι επεκτάσεις στην αρχιτεκτονική x86 – χρησιμεύουν ως πρόσθετα σύνολα εντολών που μπορούν να επιτρέψουν στις CPU να εκτελούν πιο απαιτητικές λειτουργίες.
Η Numenta παρέχει την υπηρεσία NuPIC της χρησιμοποιώντας κοντέινερ docker και μπορεί να εκτελεστεί στους διακομιστές μιας εταιρείας. Εάν λειτουργήσει στην πράξη, θα ήταν η βέλτιστη λύση για τον επαναπροσδιορισμό των CPU που έχουν ήδη αναπτυχθεί σε κέντρα δεδομένων για φόρτους εργασίας AI, ειδικά υπό το φως των μεγάλων χρόνων αναμονής στις κορυφαίες στον κλάδο GPU της Nvidia A100 και H100.