Η Meta, στην προσπάθεια της να γίνει ηγέτιδα δύναμη στον τομέα της τεχνητής νοημοσύνης, ανακοίνωσε την κυκλοφορία της δεύτερης γενιάς του Meta Training & Inference Accelerator (MTIA).
Ο νέος επιταχυντής MTIA αποτελεί ένα κομβικό βήμα προς την ανάπτυξη πιο ισχυρών και αποδοτικών συστημάτων τεχνητής νοημοσύνης, με στόχο την τροφοδότηση των καινοτόμων εφαρμογών της Meta σε διάφορες πλατφόρμες, όπως το Facebook και το Instagram.
Βελτιωμένη απόδοση για εκπαίδευση και συμπερασμό AI:
Σχεδιασμένος με βάση την τεχνολογία 5nm της TSMC, ο νέος επιταχυντής MTIA προσφέρει σημαντικά αυξημένη απόδοση σε σύγκριση με την προηγούμενη γενιά. Στην επεξεργασία πινάκων GEMM, ο MTIA αγγίζει τα 708 TeraFLOPS σε INT8 (πιθανώς FP8) με αραιότητα, 354 TeraFLOPS χωρίς αραιότητα, 354 TeraFLOPS σε FP16/BF16 με αραιότητα και 177 TeraFLOPS χωρίς αραιότητα.
Εξειδικευμένη αρχιτεκτονική για AI PyTorch:
Ο MTIA έχει σχεδιαστεί ειδικά για την εκτέλεση εργασιών εκπαίδευσης και συμπερασμού AI στο πλαίσιο AI PyTorch της Meta. Συνδυάζεται με το ανοικτού κώδικα backend Triton για βέλτιστη απόδοση και ευελιξία.
Κλιμακωτή λύση για rack-scale deployments:
Η Meta υιοθετεί μια κλιμακωτή προσέγγιση, τοποθετώντας δύο επιταχυντές MTIA σε μια πλακέτα μαζί με 128 GB μνήμης LPDDR5. Κάθε πλακέτα συνδέεται μέσω PCIe Gen 5 σε ένα σύστημα που μπορεί να φιλοξενήσει έως και 12 πλακέτες. 72 πλακέτες μπορούν να εγκατασταθούν σε ένα rack, προσφέροντας συνολική απόδοση 101,95 PetaFLOPS.
Ενίσχυση της τεχνολογικής ηγεσίας:
Η ανάπτυξη του MTIA υπογραμμίζει τη δέσμευση της Meta στην καινοτομία στον τομέα της τεχνητής νοημοσύνης. Ο νέος επιταχυντής αναμένεται να διαδραματίσει καίριο ρόλο στην τροφοδότηση της επόμενης γενιάς εφαρμογών τεχνητής νοημοσύνης της Meta, προσφέροντας βελτιωμένη εμπειρία στους χρήστες και προωθώντας την έρευνα και ανάπτυξη σε κρίσιμους τομείς.
Συνοπτικά:
- Η Meta παρουσιάζει τη δεύτερη γενιά του επιταχυντή MTIA για την ενίσχυση της εκπαίδευσης και του συμπερασμού AI.
- Ο MTIA προσφέρει σημαντικά αυξημένη απόδοση και είναι σχεδιασμένος για AI PyTorch.
- Η κλιμακωτή αρχιτεκτονική επιτρέπει την εγκατάσταση έως και 144 επιταχυντών MTIA σε ένα rack, για συνολική απόδοση 101,95 PetaFLOPS.
- Ο MTIA ενισχύει τη θέση της Meta ως ηγέτη στον τομέα της τεχνητής νοημοσύνης.
