Η Google μετατρέπεται γρήγορα σε τρομερό αντίπαλο της BFF Nvidia — το τσιπ TPU v5p AI που τροφοδοτεί τον υπερυπολογιστή της είναι πιο γρήγορο και έχει περισσότερη μνήμη και εύρος ζώνης από ποτέ, ξεπερνώντας ακόμη και το πανίσχυρο H100

Η Google συνόδευσε την πρόσφατη κυκλοφορία των μοντέλων Gemini AI με την πιο πρόσφατη έκδοση της ναυαρχίδας της μονάδας επεξεργασίας τανυστών (TPU) για εκπαίδευση και εξαγωγή συμπερασμάτων τεχνητής νοημοσύνης, σε κάτι που φαίνεται να είναι

μι

α προσπάθεια να αντιμετωπίσει τις κορυφαίες GPU της Nvidia στην αγορά.

Το TPU v5p – ο πιο ισχυρός προσαρμοσμένος επιταχυντής τεχνητής νοημοσύνης της Google – έχει αναπτυχθεί για την τροφοδοσία του «AI Υπερυπολογιστή» της εταιρείας. Αυτή είναι μια αρχιτεκτονική υπερυπολογιστών που έχει κατασκευαστεί ειδικά για την εκτέλεση εφαρμογών τεχνητής νοημοσύνης, αντί για υπερυπολογιστές που συνήθως εκτελούν επιστημονικούς φόρτους εργασίας, επειδή οι TPU

δεν είναι

κατάλληλες για αυτό.

Η τελευταία έκδοση του TPU του έχει 8.960 μάρκες ανά pod (που αποτελούν το σύστημα), έναντι 4.096 στο v4, και είναι τέσσερις φορές πιο επεκτάσιμη όσον αφορά τη συνολική διαθεσιμότητα FLOP ανά pod. Αυτά τα νέα pod παρέχουν απόδοση 4.800 Gbps. Τα νέα pods διαθέτουν επίσης 95 GB μνήμης υψηλού εύρους ζώνης (HBM) έναντι 32 GB HBM RAM στο TPU v4.

Nvidia H100 εναντίον Google TPU v5p: Ποιο είναι πιο γρήγορο;

Σε αντίθεση με τη Nvidia, η οποία προσφέρει τις GPU της για αγορά άλλων εταιρειών, οι προσαρμοσμένες TPU της Google παραμένουν εσωτερικά για χρήση στα δικά της

προϊόντα

και υπηρεσίες. Οι TPU της Google χρησιμοποιούνται εδώ και καιρό για την τροφοδοσία των υπηρεσιών της, συμπεριλαμβανομένων των Gmail,

YouTube

και Android, και η τελευταία έκδοση έχει χρησιμοποιηθεί επίσης για την εκπαίδευση του Gemini.

Οι V5p TPU της Google είναι έως και 2,8 φορές πιο γρήγοροι στην εκπαίδευση μεγάλων μοντέλων γλώσσας από το TPU v4 και προσφέρουν 2,1 φορές καλύτερη σχέση ποιότητας-τιμής. Αν και η ενδιάμεση έκδοση, TPU v5e, που κυκλοφόρησε νωρίτερα φέτος, προσφέρει τη μεγαλύτερη σχέση ποιότητας-τιμής και των τριών, είναι μόνο έως και 1,9 φορές ταχύτερη από το TPU v4, καθιστώντας το TPU v5p το πιο ισχυρό.

Είναι ακόμη αρκετά ισχυρό για να ανταγωνιστεί την ευρέως περιζήτητη GPU H100 της Nvidia, η οποία είναι μία από τις

καλύτερες κάρτες γραφικών

εκεί έξω για φόρτους εργασίας AI. Αυτό το στοιχείο είναι τέσσερις φορές πιο γρήγορο σε φόρτους εργασίας εκπαίδευσης από την GPU A100 της Nvidia, σύμφωνα με


στοιχεία της ίδιας της εταιρείας


.

Το TPU v4 της Google, εν τω μεταξύ, εκτιμάται ότι είναι μεταξύ 1,2 και 1,7 φορές ταχύτερο από το A100, σύμφωνα με


έρευνα που δημοσίευσε τον Απρίλιο


. Οι απίστευτα πρόχειροι υπολογισμοί θα υποδεικνύουν ότι το TPU v5p, επομένως, είναι περίπου μεταξύ 3,4 και 4,8 φορές ταχύτερο από το A100 – κάτι που το καθιστά ίσο ή ανώτερο από το H100, αν και απαιτείται πιο λεπτομερής συγκριτική αξιολόγηση πριν εξαχθούν συμπεράσματα.