Η Amazon αποκαλύπτει τσιπ Graviton4 και Trainium2 επόμενης γενιάς για να τροφοδοτήσει το μέλλον της επιχειρηματικής τεχνητής νοημοσύνης

Η AWS επιβεβαίωσε τις προθέσεις της να είναι ένας από τους μεγαλύτερους παρόχους υλικού στον κόσμο με την κυκλοφορία των πιο ισχυρών και αποτελεσματικών τσιπ της

σήμερα

.

Τα νέα τσιπ Graviton4 και Trainium2, που παρουσιάστηκαν στην εκδήλωση AWS re:Invent

2023

από τον CEO

Adam

Selipsky, έχουν σχεδιαστεί για να τροφοδοτούν την επόμενη γενιά μοντέλων τεχνητής νοημοσύνης και μηχανικής μάθησης, προσφέροντας περισσότερη απόδοση και αποτελεσματικότητα από ποτέ.

«Το πυρίτιο στηρίζει κάθε φόρτο

εργασία

ς πελατών, καθιστώντας το κρίσιμο τομέα καινοτομίας για το AWS», δήλωσε ο David Brown, αντιπρόεδρος Υπολογιστών και Δικτύωσης στην AWS. «Εστιάζοντας τα σχέδια τσιπ μας σε πραγματικούς φόρτους εργασίας που έχουν σημασία για τους πελάτες, είμαστε σε θέση να τους προσφέρουμε την πιο προηγμένη υποδομή cloud.

AWS Graviton4 και Trainium2

Το AWS υπόσχεται ένα σημαντικό βήμα για τον Graviton4, υποστηρίζοντας ότι παρέχει έως και 30% καλύτερη απόδοση υπολογισμού, 50% περισσότερους πυρήνες και 75% περισσότερο εύρος ζώνης μνήμης από τους επεξεργαστές Graviton3 της τρέχουσας γενιάς.

Η εταιρεία λέει ότι καθώς πειραματίζονται και αναπτύσσουν όλο και περισσότερους φόρτους εργασίας με τεχνητή νοημοσύνη, οι πελάτες βλέπουν ότι οι απαιτήσεις υπολογισμού, μνήμης, αποθήκευσης και δικτύωσης αυξάνονται, επομένως χρειάζονται υψηλότερη απόδοση και μεγαλύτερα μεγέθη παρουσίασης, όλα σε προσιτό κόστος και επίπεδο ενεργειακής απόδοσης να μειώσει τυχόν επιπτώσεις στο περιβάλλον.

Η AWS καθιστά το Graviton4 διαθέσιμο σε περιπτώσεις Amazon EC2 R8g που λέει ότι προσφέρουν μεγαλύτερα μεγέθη παρουσιών με έως και τρεις φορές περισσότερες vCPU και τρεις φορές περισσότερη μνήμη από την τρέχουσα γενιά, επιτρέποντας στους πελάτες να επεξεργάζονται μεγαλύτερες ποσότητες δεδομένων, να κλιμακώνουν τον φόρτο εργασίας τους, να βελτιώνουν το χρόνο -αποτελέσματα και μείωση του συνολικού κόστους ιδιοκτησίας.

Μετά την αρχική του κυκλοφορία το 2020, το Trainium2 δεύτερης γενιάς φαίνεται να προσφέρει ταχύτερη και πιο αποτελεσματική εκπαίδευση για τρέχοντα και μελλοντικά μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούν μεγαλύτερα σύνολα δεδομένων από ποτέ, με τα σημερινά πιο προηγμένα FM και LLM να διαθέτουν εκατοντάδες δισεκατομμύρια έως τρισεκατομμύρια παραμέτρους.

Η AWS λέει ότι το Trainium2 θα προσφέρει έως και τέσσερις φορές ταχύτερη εκπαίδευση από το υλικό πρώτης γενιάς, μαζί με την προσφορά τριπλάσιας χωρητικότητας μνήμης και μπορεί να βελτιώσει την ενεργειακή απόδοση έως και δύο φορές.

Μπορεί να αναπτυχθεί σε EC2 UltraClusters έως και 100.000 τσιπ, καθιστώντας δυνατή την εκπαίδευση μοντέλων βάσης και μεγάλων γλωσσικών μοντέλων σε ένα κλάσμα του χρόνου που χρειάστηκε προηγουμένως, με την εταιρεία να δίνει το παράδειγμα εκπαίδευσης LLM 300 δισεκατομμυρίων παραμέτρων σε εβδομάδες έναντι μήνες.