Η τεχνητή νοημοσύνη αλλάζει το παιχνίδι όσον αφορά τις προδιαγραφές που λαμβάνουμε υπόψη όταν καθορίζουμε πόσο γρήγορος είναι ένας υπολογιστής. Σίγουρα, πράγματα όπως τα GHz, Gbps και MT/s θα παραμείνουν σημαντικά για τη γενική χρήση του συστήματος, αλλά με τις λειτουργίες AI ενσωματωμένες, ορισμένες νέες μετρήσεις μπαίνουν στο παιχνίδι. Θα ακούσετε για TOPS (Τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο), μάρκες, ακόμη και την
ταχύτητα
δημιουργίας εικόνας, και οι υπολογιστές τεχνητής νοημοσύνης NVIDIA RTX είναι επικεφαλής για να σας δείξουν τι μπορείτε να κάνετε με όλα αυτά τα TOPS. Ας δούμε τι σημαίνει όλο αυτό για εσάς.
Για να επωφεληθείτε από την τεχνητή νοημοσύνη, είτε πρόκειται για τη δημιουργία εικόνων, τη σύνοψη κειμένου ή οποιαδήποτε από τις πολλές νέες δυνατότητες που κυκλοφορούν με τρομακτικό ρυθμό, χρειάζεστε ένα συγκεκριμένο επίπεδο απόδοσης. Αυτή είναι ακριβώς η απόδοση που μετράει το TOPS. Αυτά τα TOPS είναι ακέραιες μαθηματικές πράξεις που υποβάλλονται σε επεξεργασία από μάρκες στο σύστημα. Αυτή η ταχύτητα μπορεί να προέρχεται από μια αποκλειστική NPU (Νευρωνική Μονάδα Επεξεργασίας), CPU, GPU ή έναν συνδυασμό στοιχείων που συνεργάζονται για την επεξεργασία των μαθηματικών πράξεων. Οι υπολογιστές NVIDIA RTX AI έχουν ήδη ένα τεράστιο πόδι εδώ, καθώς προσφέρουν σημαντικές
ταχύτητες
σε αυτό το τμήμα.
(Πίστωση εικόνας: NVIDIA)
Με ταχύτητα 40 TOPS, ένα σύστημα που πληροί το όριο ταχύτητας για να χειριστεί τη δημιουργία κειμένου και τις δυνατότητες ανάλυσης του νέου Copilot+ της
Microsoft
. Εάν ένα σύστημα προσέφερε σημαντικά χαμηλότερα TOPS, η εμπειρία του χρήστη θα μπορούσε να παρεμποδιστεί από απίστευτα αργές αποκρίσεις από τα εργαλεία βοηθών τεχνητής νοημοσύνης, τα οποία θα έπρεπε να είναι τόσο γρήγορες όσο η αλληλεπίδραση με άλλον άνθρωπο.
Εδώ συναντάμε μάρκες. Όλες αυτές οι τρισεκατομμύρια λειτουργίες οδηγούν σε συμπέρασμα τεχνητής νοημοσύνης με στόχο την παραγωγή διακριτικών, που είναι οι χαρακτήρες, οι λέξεις και οι φράσεις που παράγει ένα LLM (μεγάλο γλωσσικό μοντέλο). Όταν λαμβάνετε μια απάντηση σε απλή γλώσσα από ένα chatbot, αυτό που επιστρέφει είναι μάρκες. Για ένα δεδομένο LLM, όσο περισσότερα TOPS μπορεί να επιτύχει το σύστημά σας, τόσο περισσότερα tokens μπορείτε να αποκτήσετε κάθε δευτερόλεπτο και επομένως τόσο πιο ανταποκρινόμενο θα αισθάνεστε χρησιμοποιώντας το LLM. Αρκετά γρήγορα, και θα νιώσετε στιγμιαία. Με τα chatbot, για παράδειγμα, ένας αρκετά υψηλός ρυθμός διακριτικού ανά δευτερόλεπτο θα παράγει ουσιαστικά κείμενο τόσο γρήγορα όσο οι περισσότεροι άνθρωποι μπορούν να το διαβάσουν. Οι υπολογιστές με τεχνητή νοημοσύνη RTX της NVIDIA έχουν ήδη μπει για τα καλά στην επικράτεια της γρήγορης διαχείρισης LLM.
Βλέπετε, 40 τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο μπορεί να ακούγονται σαν πολλές, αυτό απλώς χαράζει την επιφάνεια του τι μπορούν να κάνουν οι υπολογιστές RTX AI. Υπάρχουν πολύ περισσότερες εφαρμογές τεχνητής νοημοσύνης πέρα από τη δημιουργία κειμένου, όπως οι δυνατότητες δημιουργίας εικόνας και βίντεο του Stable Diffusion, η αναγνώριση αντικειμένων για λογισμικό βίντεο ή ακόμα και η αναβάθμιση του περιεχομένου βίντεο με τεχνητή νοημοσύνη, όπως βλέπουν οι παίκτες εδώ και αρκετά χρόνια με την τεχνολογία DLSS της NVIDIA σε RTX GPU.
Αυτές οι εργασίες μπορούν να επωφεληθούν από πολύ μεγαλύτερη υπολογιστική ισχύ. Εξάλλου, αν χρειάζεται έστω και ένα δευτερόλεπτο για τη δημιουργία μιας εικόνας, δεν θα μπορείτε να δημιουργήσετε ρευστό βίντεο σε πραγματικό χρόνο. Εκεί μπορεί πραγματικά να λάμψει η επιπλέον ισχύς των GPU RTX της NVIDIA. Είτε πρόκειται για δημιουργία κειμένου ή εικόνας, δημιουργία περιεχομένου με τη βοήθεια τεχνητής νοημοσύνης, υπερδειγματοληψία σε παιχνίδια υπολογιστή ή αναζήτηση LLM, οι GPU RTX της NVIDIA παρέχουν σοβαρή απόδοση. Το GeForce RTX 4090, για παράδειγμα, μπορεί να φτάσει τα 1.700 TOPS. Ακόμη και η πιο οικονομική παραλλαγή GPU για φορητές
συσκευές
της NVIDIA επιτυγχάνει 194 TOPS. Σε αυτό το επίπεδο απόδοσης, οι υπολογιστές τεχνητής νοημοσύνης NVIDIA RTX όχι μόνο μπορούν να κάνουν πράγματα όπως να απαντούν σε ερωτήματα χρήστη με απαντήσεις φυσικής γλώσσας, αλλά μπορούν να το κάνουν σε ένα εικονικό
περιβάλλον
με έναν πλήρως κινούμενο 3D χαρακτήρα που εκφράζει αυτήν την απόκριση, όπως είδαμε με
NVIDIA ACE
.
Μεγάλο μέρος αυτής της απόδοσης προέρχεται από τους Tensor Cores που περιλαμβάνονται στις GPU RTX της NVIDIA. Αυτοί είναι ειδικοί επιταχυντές τεχνητής νοημοσύνης που έχουν σχεδιαστεί ειδικά για να επιταχύνουν τις εργασίες τεχνητής νοημοσύνης, καθιστώντας τους έναν χρήσιμο συνεργάτη για τις παραγωγικές εφαρμογές τεχνητής νοημοσύνης.
(Πίστωση εικόνας: NVIDIA)
Το ύψος της απόδοσης αυξάνεται ακόμη περισσότερο όταν χρησιμοποιείτε NVIDIA
TensorRT
λογισμικό, το οποίο είναι διαθέσιμο σε εκατομμύρια υπολογιστές Windows και σταθμούς εργασίας που χρησιμοποιούν GPU RTX. Το TensorRT βοηθά στη βελτιστοποίηση των ροών εργασίας AI για την αξιοποίηση του υλικού RTX της NVIDIA, ώστε να αξιοποιείτε στο έπακρο την επεξεργαστική ισχύ των στοιχείων σας. Με τη διεπαφή Automatic1111 του Stable Diffusion, το TensorRT εργάστηκε
ενισχύστε τις ταχύτητες δημιουργίας εικόνας έως και 2x
. Πρόσφατα έλαβε επίσης υποστήριξη από το δημοφιλές Stable Diffusion ComfyUI, όπου αύξησε την ταχύτητα δημιουργίας εικόνας έως και 60% και την ταχύτητα μετατροπής εικόνας σε βίντεο στο Stable Video Diffusion κατά 70%. Αυτά τα πλεονεκτήματα είναι ακόμη διαθέσιμα στο πρόσφατα λανσαρισμένο Stable Diffusion 3.
(Πίστωση εικόνας: NVIDIA)
Με την τεχνητή νοημοσύνη να τρέχει με εκπληκτικό ρυθμό. Η παρακολούθηση όλων των τελευταίων εξελίξεων και της νέας ορολογίας μπορεί να είναι αποθαρρυντική. Για να σας βοηθήσει να συμβαδίζετε και να προσεγγίζετε πιο εύκολα τα πολλά σύνθετα θέματα, η NVIDIA κυκλοφόρησε το
AI Αποκωδικοποιημένο
σειρά blog. Μπορείτε να το ακολουθήσετε για να λαμβάνετε τα τελευταία νέα και να ανακαλύψετε χρήσιμα εργαλεία που θα σας επιτρέψουν να αξιοποιήσετε τις δυνατότητες AI στο δικό σας σύστημα.
VIA:
WindowsCentral
0