Η νέα υπηρεσία AWS επιτρέπει στους πελάτες να νοικιάζουν GPU της Nvidia για γρήγορες εργασίες AI

Όλο και περισσότερες εταιρείες εκτελούν μεγάλα μοντέλα γλώσσας, τα οποία απαιτούν πρόσβαση σε GPU. Τα πιο δημοφιλή από αυτά είναι από τη Nvidia, γεγονός που τα καθιστά ακριβά και συχνά σε έλλειψη. Η ενοικίαση μιας μακροπρόθεσμης παρουσίας από έναν πάροχο cloud όταν χρειάζεστε μόνο πρόσβαση σε αυτούς

του

ς δαπανηρούς πόρους για μία μόνο εργασία, δεν έχει απαραίτητα νόημα.

Για να βοηθήσει στην επίλυση αυτού του προβλή

ματ

ος, η AWS κυκλοφόρησε σήμερα το Amazon Elastic Compute Cloud (EC2) Capacity Blocks για ML, επιτρέποντας στους πελάτες να αγοράσουν πρόσβαση σε αυτές τις GPU για καθορισμένο χρονικό διάστημα, συνήθως για να εκτελέσουν κάποιο είδος εργασίας που σχετίζεται με την τεχνητή νοημοσύνη, όπως η εκπαίδευση ενός

μοντέλο

μηχανικής μάθησης ή εκτέλεση πειράματος με υπάρχον μοντέλο.

“Αυτός είναι ένας καινοτόμος

νέο

ς τρόπος για να προγραμματίσετε παρουσίες GPU όπου μπορείτε να δεσμεύσετε τον αριθμό των περιπτώσεων που χρειάζεστε για μια μελλοντική ημερομηνία μόνο για το χρονικό διάστημα που χρειάζεστε”, έγραψε ο Channy Yun

σε μια ανάρτηση ιστολογίου

ανακοινώνοντας τη νέα δυνατότητα.

Το προϊόν παρέχει στους πελάτες πρόσβαση σε παρουσίες NVIDIA H100 Tensor Core GPU σε μεγέθη συμπλέγματος από μία έως 64 παρουσίες με 8 GPU ανά παρουσία. Μπορούν να κάνουν κράτηση για έως και 14 ημέρες σε προσαυξήσεις 1 ημέρας, έως και 8 εβδομάδες νωρίτερα. Όταν τελειώσει το χρονικό πλαίσιο, οι παρουσίες θα τερματιστούν αυτόματα.

Το νέο προϊόν δίνει τη δυνατότητα στους χρήστες να εγγραφούν για τον αριθμό των περιπτώσεων που χρειάζονται για καθορισμένο χρονικό διάστημα, ακριβώς όπως η κράτηση δωματίου σε ξενοδοχείο για συγκεκριμένο αριθμό ημερών (όπως το έθεσε η εταιρεία). Από την οπτική γωνία του πελάτη, θα γνωρίζουν ακριβώς πόσο καιρό θα λειτουργεί η εργασία, πόσες GPU θα χρησιμοποιήσουν και πόσο θα κοστίσει εκ των προτέρων, δίνοντάς τους βεβαιότητα κόστους.

Για την Amazon, μπορούν να βάλουν αυτούς τους πόρους σε ζήτηση για να λειτουργήσουν σχεδόν σε ένα περιβάλλον δημοπρασίας, διασφαλίζοντάς τους έσοδα (υποθέτοντας φυσικά ότι οι πελάτες έρχονται). Η τιμή για την πρόσβαση σε αυτούς τους πόρους θα είναι πραγματικά δυναμική, ποικίλλει ανάλογα με την προσφορά και τη ζήτηση, σύμφωνα με την εταιρεία.

Καθώς ένας χρήστης εγγράφεται στην υπηρεσία, εμφανίζει το συνολικό κόστος για το χρονικό πλαίσιο και τους πόρους. Οι χρήστες μπορούν να το καλέσουν προς τα πάνω ή προς τα κάτω, ανάλογα με την όρεξη για πόρους και τους προϋπολογισμούς τους προτού συμφωνήσουν να αγοράσουν.

Η νέα δυνατότητα είναι γενικά διαθέσιμη από σήμερα στην περιοχή AWS US East (Οχάιο).