Ο προγραμματιστής LLM που υποστηρίζεται από την AMD κοροϊδεύει τις ελλείψεις GPU AI της NVIDIA

Ένας προγραμματιστής LLM με βάση την AMD χλεύασε τη σπανιότητα των GPU AI της NVIDIA σε ένα αρκετά ενδιαφέρον σύντομο

βίντεο

. Οι ελλείψεις GPU AI της NVIDIA γίνονται μείζον ζήτημα για τον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των startups με

τεχνητή νοημοσύνη

που αρχίζουν να μεταβαίνουν σε άλλα στρατόπεδα για να καλύψουν τη ζήτησή τους.

Ο Διευθύνων Σύμβουλος της Lamini ανεβάζει ενδιαφέροντα βίντεο μικρού μήκους, αντιπροσωπεύοντας με ακρίβεια τις ελλείψεις GPU AI NVIDIA και μαγειρεύοντας τις GPU AMD Instinct

Λαμίνι

είναι μια εταιρεία που εστιάζει στο LLM για επιχειρήσεις και προγραμματιστές που εστιάζει στην ανάπτυξη AI. Ο Διευθύνων Σύμβουλός τους

Σάρον Ζου

ήρθε στο X για να εκφράσει την απογοήτευση διαφόρων startups AI, συμπεριλαμβανομένων των ίδιων για την έλλειψη διαθεσιμότητας των GPU της NVIDIA AI, μέσα από ένα σύντομο και αστείο βίντεο.

Απλώς ετοιμάζετε μερικές GPU 💁🏻‍♀️

Συγχαρητήρια στον Jensen που τα έψησε πρώτα

https://t.co/4448NNf2JP


pic.twitter.com/IV4UqIS7OR

— Sharon Zhou (@realSharonZhou)

26 Σεπτεμβρίου 2023

Η Sharon μπαίνει σε μια κουζίνα (ένα όμορφο εμβληματικό σκηνικό για τον ίδιο τον CEO της NVIDIA) αναζητώντας έναν επιταχυντή LLM AI και ανοίγει έναν φούρνο για να δει τι «μαγειρεύει». Ωστόσο, ο χρόνος παράδοσης στο φούρνο ήταν έως και 52 εβδομάδες, αλλά στη συνέχεια έλεγξε τη σχάρα της και είδε τους επιταχυντές Instinct της AMD να είναι έτοιμοι να χρησιμοποιηθούν.

Η αναπαράσταση της τρέχουσας κατάστασης από τον Sharon είναι ακριβής, καθώς οι GPU AI της NVIDIA, ειδικά οι H100, αντιμετωπίζουν αυτήν τη στιγμή τεράστιες καθυστερήσεις παραγγελιών, με ημερομηνίες παράδοσης να υπερβαίνουν το όριο των έξι μηνών. Η AMD έχει ένα πλεονέκτημα εδώ, καθώς ο όγκος των παραγγελιών επιταχυντών Instinct AI που έχει αυτή τη στιγμή δεν είναι τίποτα σε σύγκριση με αυτό που εκπληρώνει η NVIDIA. Η Lamini χρησιμοποιεί εδώ και καιρό τις Instinct GPU της AMD σε LLM και η εταιρεία έχει δεσμευτεί για εκτεταμένη συνεργασία με την AMD.

Επιπλέον, με το Lamini, μπορείτε να σταματήσετε να ανησυχείτε για τον χρόνο παράδοσης 52 εβδομάδων για το NVIDIA H100s. Χρησιμοποιώντας αποκλειστικά το Lamini, μπορείτε να δημιουργήσετε τα δικά σας εταιρικά LLM και να τα μεταφέρετε στην παραγωγή σε GPU AMD Instinct. Και σσσς… Η Lamini παράγει κρυφά πάνω από εκατό GPU της AMD όλο το χρόνο, ακόμη και πριν από την κυκλοφορία του ChatGPT. Έτσι, αν έχετε δοκιμάσει το Lamini, τότε έχετε δοκιμάσει την AMD.

Τώρα, είμαστε ενθουσιασμένοι που ανοίγουμε GPU με LLM-ready σε περισσότερους ανθρώπους. Το LLM Superstation είναι διαθέσιμο τόσο στο cloud όσο και στο εσωτερικό. Συνδυάζει την εύχρηστη εταιρική

υποδομή

LLM της Lamini με επιταχυντές AMD Instinct MI210 και MI250. Είναι βελτιστοποιημένο για ιδιωτικές επιχειρήσεις LLM, κατασκευασμένο για να διαφοροποιείται σε μεγάλο βαθμό με ιδιόκτητα δεδομένα.

Η Lamini είναι η μόνη

πλατφόρμα

LLM που τρέχει αποκλειστικά με GPU AMD Instinct — σε παραγωγή. Στείλτε τα δικά σας ιδιόκτητα LLM! Απλώς δώστε μια παραγγελία LLM Superstation για να εκτελέσετε το δικό σας Llama 2-70B εκτός συσκευασίας—διαθέσιμο τώρα και με ελκυστική τιμή (10 φορές λιγότερο από το AWS).

μέσω Lamini

Η βιομηχανία δεν έχει ακόμη δει μια μεγάλης κλίμακας υιοθέτηση των Instinct GPU της AMD και δεν έχουν φτάσει στο επίπεδο “δημοφιλίας” των H100 της NVIDIA προς το παρόν. Μιλώντας για επιδόσεις, όλοι γνωρίζουμε ότι τα H100 πρωτοστατούν. Ωστόσο, η AMD κλείνει το χάσμα εδώ μέσω γρήγορων βελτιώσεων στη στοίβα λογισμικού ROCm, η οποία βοηθά στη συνολική υψηλότερη υπολογιστική απόδοση. Η Team Red έχει σχεδιάσει τα Instinct MI400 και

MI300X

ως μελλοντικές εκδόσεις, αλλά δεν έχουν κυκλοφορήσει ακόμη στην αγορά. Ως εκ τούτου, δεν μπορούμε να το σχολιάσουμε.

Το μόνο πλεονέκτημα που μπορεί να κεφαλαιοποιήσει η AMD είναι η ικανότητα της εταιρείας να ανταποκρίνεται σε μεγάλες παραγγελίες, καθώς η NVIDIA βρίσκεται στο πίσω μέρος σε αυτό το τμήμα. Με χρόνους αναμονής ενός έτους για τα NVIDIA H100s, οι νεοσύστατες εταιρείες και εταιρείες LLM θα κοιτάξουν τελικά την AMD και την Intel, γι’ αυτό κάθε εταιρεία τεχνολογίας επιταχύνει τρομερά τις εξελίξεις της AI καθώς κινούνται το 2024.

Πηγή ειδήσεων:

Tom’s Hardware