Το τοπικό chatbot AI της NVIDIA: Μια νέα εφαρμογή που τρέχει στον υπολογιστή σας

Η

NVIDIA

μόλις κυκλοφόρησε α


ενός chatbot που


Αυτό είναι αρκετά προσεγμένο, καθώς δίνει στο chatbot πρόσβαση στα αρχεία και τα έγγραφά σας. Μπορείτε να τροφοδοτήσετε το Chat με το RTX μια επιλογή προσωπικών δεδομένων και να το ζητήσετε να δημιουργήσει περιλήψεις με βάση αυτές

τι

ς πληροφορίες. Μπορείτε επίσης να του κάνετε ερωτήσεις, όπως κάθε chatbot, και θα βουτήξει στα δεδομένα σας για απαντήσεις.

Η εταιρεία λέει ότι επιτρέπει στους χρήστες να «συνδέουν γρήγορα και εύκολα τοπικά αρχεία σε έναν υπολογιστή ως σύνολο δεδομένων σε ένα μοντέλο ανοιχτού κώδικα μεγάλης

γλώσσα

ς όπως το

Mistral

ή το Llama 2». Η NVIDIA δίνει ένα παράδειγμα χρήστη που ρωτά το chatbot σχετικά με ένα εστιατόριο που πρότεινε ο συνεργάτης του όταν ήταν στο Λας Βέγκας. Το λογισμικό σαρώνει τοπικά αρχεία για να βρει την απάντηση. Υποστηρίζει μια ολόκληρη δέσμη μορφών αρχείων, συμπεριλαμβανομένων των .txt, .pdf, .doc/.docx και .xml. Η εταιρεία λέει ότι θα φορτώσει σχετικά αρχεία στο σύνολο δεδομένων της «σε δευτερόλεπτα».

Το Chat with RTX ενσωματώνει επίσης βίντεο και λίστες αναπαραγωγής YouTube. Μπορείτε να προσθέσετε μια διεύθυνση URL βίντεο στο σύνολο δεδομένων και θα ενσωματώσει τις γνώσεις που περιέχονται στο κλιπ για ερωτήματα με βάση τα συμφραζόμενα. Η NVIDIA λέει ότι αυτό θα είναι χρήσιμο όταν ζητάτε ταξιδιωτικές προτάσεις «με βάση το περιεχόμενο από αγαπημένα βίντεο με επηρεαστές» ή όταν αναζητάτε σεμινάρια και περιλήψεις που προέρχονται από εκπαιδευτικούς πόρους.

Το χείλος



με το chatbot και βγήκαν εντυπωσιασμένοι, γράφοντας ότι μπορούσαν να το δουν ως «ένα πολύτιμο μέρος της έρευνας δεδομένων για δημοσιογράφους ή οποιονδήποτε χρειάζεται να αναλύσει μια συλλογή εγγράφων».

Αυτό ακούγεται σαν ένα μεγάλο βήμα προς κάτι που μοιάζει με πραγματικό ψηφιακό βοηθό που λειτουργεί εντός του πλαισίου των προσωπικών σας δεδομένων. Με τα περισσότερα chatbot, τα δεδομένα αποστέλλονται στο

cloud

, αλλά το Chat with RTX «επιτρέπει στους χρήστες να επεξεργάζονται ευαίσθητα δεδομένα σε έναν τοπικό υπολογιστή χωρίς να χρειάζεται να τα μοιραστούν με τρίτο μέρος ή να έχουν σύνδεση στο διαδίκτυο». Άρα είναι πιο ασφαλές

και

με μεγαλύτερη επίγνωση των συμφραζομένων.

Υπάρχουν κάποιοι περιορισμοί. Αυτό είναι ένα προϊόν επίδειξης, επομένως θα πρέπει να περιμένετε πολλά σφάλματα, αν και η NVIDIA θα πρέπει να αρχίσει να τα εξαλείφει μόλις οι χρήστες αρχίσουν να εκδίδουν αναφορές σφαλμάτων και παρόμοια. Υπάρχουν επίσης ορισμένοι αυστηροί περιορισμοί υλικού εδώ. Η συνομιλία με RTX λειτουργεί μόνο σε υπολογιστές με Windows με GPU NVIDIA GeForce RTX 30 Series ή νεότερη και τουλάχιστον 8 GB VRAM.

Η NVIDIA επιδεικνύει πραγματικά την ικανότητά της στο AI τον τελευταίο καιρό, καθώς η εταιρεία μόλις κυκλοφόρησε την επόμενη γενιά του . Οφείλεται κυρίως στα τμήματα AI και data center της εταιρείας.

Αυτό το άρθρο περιέχει συνδέσμους θυγατρικών. Εάν κάνετε κλικ σε έναν τέτοιο σύνδεσμο και κάνετε μια αγορά, ενδέχεται να κερδίσουμε μια προμήθεια.