Το AWS προσφέρει πιο ευέλικτη πρόσβαση στις GPU της Nvidia για φόρτους εργασίας τεχνητής νοημοσύνης μικρής διάρκειας

Η AWS, μια ήδη δημοφιλής υπηρεσία υπολογιστικού νέφους για προγραμματιστές που θέλουν να αποκτήσουν πρόσβαση στο υλικό με τις καλύτερες επιδόσεις για φόρτους

εργασία

ς τεχνητής νοημοσύνης, ανακοίνωσε ένα πιο ευέλικτο σχέδιο για βραχυπρόθεσμες απαιτήσεις.

Το

Amazon

Elastic Compute Cloud (EC2) Capacity Blocks για ML είναι αυτό που η Amazon αποκαλεί πρωτοπόρο στον κλάδο και θα επιτρέψει στους πελάτες να έχουν πρόσβαση σε GPU σε ένα μοντέλο που βασίζεται στην κατανάλωση.

Ο γίγαντας cloud με έδρα το Σιάτλ ελπίζει ότι οι πιο προσιτές επιλογές θα παρέχουν σε μικρότερους οργανισμούς μεγαλύτερες ευκαιρίες, συμβάλλοντας στη δημιουργία ενός πιο διαφορετικού τοπίου.

Η AWS εγκαινιάζει βραχυπρόθεσμη ενοικίαση GPU με βάση την κατανάλωση

Σε ένα

δελτίο τύπου

είπε η εταιρεία: «Με τα EC2 Capacity Blocks, οι πελάτες μπορούν να κάνουν κράτηση για εκατοντάδες GPU της Nvidia που βρίσκονται στο Amazon EC2 UltraClusters που έχουν σχεδιαστεί για φόρτους εργασίας ML υψηλής απόδοσης».

Οι πελάτες μπορούν να αποκτήσουν πρόσβαση στις πιο πρόσφατες GPU της Nvidia H100

Tensor

Core, οι οποίες είναι κατάλληλες για

εκπαίδευση

βασικών μοντέλων και μοντέλων μεγάλων γλωσσών, προσδιορίζοντας το μέγεθος και τη διάρκεια του συμπλέγματος, που σημαίνει ότι πληρώνουν μόνο για ό,τι χρειάζονται.

Η Amazon σημείωσε ότι η ζήτηση για GPU ξεπερνά γρήγορα την προσφορά, καθώς περισσότερες επιχειρήσεις καταπιάνονται με τη γενετική τεχνητή νοημοσύνη και πολλές είτε θα πληρώσουν για υπερβολική υπηρεσία είτε θα έχουν τις GPU σε αδράνεια όταν δεν χρησιμοποιούνται – ή ακόμα χειρότερα, και τα δύο.

Οι χρήστες AWS μπορούν να κάνουν κράτηση EC2 UltraClusters των παρουσιών P5 για 1-14 ημέρες και έως και οκτώ εβδομάδες νωρίτερα. Μπορούν να επιλέξουν ευέλικτες επιλογές μεγέθους συμπλέγματος, που κυμαίνονται από 1-64 περιπτώσεις ή έως 512 GPU.

Ο αντιπρόεδρος της AWS Compute and

Networking

, David Brown, σχολίασε: «Με το Amazon EC2 Capacity Blocks, προσθέτουμε έναν νέο τρόπο για τις επιχειρήσεις και τις νεοφυείς επιχειρήσεις να αποκτούν προβλέψιμα την ικανότητα GPU της Nvidia για να δημιουργήσουν, να εκπαιδεύσουν και να αναπτύξουν τις παραγωγικές τους εφαρμογές τεχνητής νοημοσύνης – χωρίς μακροπρόθεσμο κεφάλαιο δεσμεύσεις. Είναι ένας από τους πιο πρόσφατους τρόπους με τους οποίους η AWS καινοτομεί για να διευρύνει την πρόσβαση σε δυνατότητες παραγωγής τεχνητής νοημοσύνης».

Η τιμολόγηση για την υπηρεσία βρίσκεται στον ιστότοπο της AWS, όπου οι υποψήφιοι χρήστες μπορούν επίσης να εγγραφούν για να χρησιμοποιήσουν τη βραχυπρόθεσμη, προσιτή επιλογή.