Η Nvidia παρουσιάζει το Chat with RTX: Ένα τοπικό chatbot των Windows με υποστήριξη από GPU GeForce RTX

Όταν η τάση του chatbot τεχνητής νοημοσύνης άρχισε να παίρνει ατμό, οι περισσότεροι άνθρωποι χρησιμοποίησαν ένα που συνδέθηκε με έναν διακομιστή που βασίζεται σε σύννεφο. Ωστόσο, υπάρχει μια αυξανόμενη τάση προς την εκτέλεση τοπικών chatbot σε

υπολογιστές

και smartphone. Σήμερα, η Nvidia λάνσαρε έναν νέο τρόπο για τους κατόχους υπολογιστών με Windows να δημιουργήσουν τα δικά τους μοντέλα συνομιλίας AI σε μεγάλη γλώσσα που συνδέονται με τοπικά αποθηκευμένο περιεχόμενο.

Η Nvidia καλεί αυτήν την τοπική συνομιλία LLM με RTX και είναι διαθέσιμη

τώρα σε δοκιμαστική έκδοση από την ιστοσελίδα της εταιρείας

. Όπως υποδηλώνει το όνομα, ο υπολογιστής σας πρέπει να διαθέτει GPU Nvidia GeForce RXT για να τρέξει αυτό το τοπικό chatbot. Ακολουθούν οι ακριβείς απαιτήσεις υλικού:

• GPU – GPU Nvidia GeForce RTX 30 ή 40 Series ή GPU Nvidia RTX Ampere ή Ada Generation με τουλάχιστον 8 GB VRAM
• RAM – 16 GB ή μεγαλύτερη
• OS – Windows 11
• Πρόγραμμα
  
  οδήγηση
  
  ς Geforce – 535.11 ή μεταγενέστερη έκδοση

Αφού το κατεβάσετε και το εγκαταστήσετε, μπορείτε να συνδέσετε την εφαρμογή Chat with RTX με το τοπικά αποθηκευμένο περιεχόμενό σας, όπως έγγραφα, αρχεία PDF,

βίντεο

και άλλα. Στη συνέχεια, μπορείτε να χρησιμοποιήσετε αυτό το σύνολο τοπικών δεδομένων για να ρωτήσετε το chatbot, ώστε να μπορεί να σας δώσει απαντήσεις χωρίς να χρειάζεται να περιηγηθείτε σε όλο αυτό το υλικό.

Επιπλέον, το Chat with RTX μπορεί να βρει πληροφορίες σε ορισμένα βίντεο του YouTube.

Το

μόνο που έχετε να κάνετε είναι να αντιγράψετε τη διεύθυνση URL του βίντεο στην εφαρμογή και στη συνέχεια να κάνετε ερωτήσεις σχετικά με το περιεχόμενο του βίντεο. Η συνομιλία με το RTX θα πρέπει να σας δώσει τις απαντήσεις.

Φυσικά, το μεγαλύτερο χαρακτηριστικό των τοπικών εφαρμογών LLM όπως το Chat with RTX είναι ότι μπορείτε να έχετε ένα chatbot AI που δεν θα μεταδίδει δεδομένα στον διακομιστή

cloud

μιας εταιρείας για εκπαίδευση και άλλους σκοπούς. Το συμβιβασμό είναι ότι θα χρειαστείτε έναν αρκετά ισχυρό υπολογιστή για να το εκτελέσετε.

Η Nvidia χαρακτηρίζει την εφαρμογή Chat with RTX ως δωρεάν τεχνική επίδειξη. Αυτό μπορεί να υποδηλώνει ότι η εταιρεία έχει σχέδια να τη μετατρέψει σε μια επί πληρωμή ή συνδρομητική εφαρμογή με περισσότερες δυνατότητες κάποια στιγμή στο μέλλον.