Modern technology gives us many things.

Η εβδομάδα στο AI: Τα ChatBots πολλαπλασιάζονται και ο Musk θέλει να κάνει μια «μέγιστη αναζήτηση αλήθειας»

Η παρακολούθηση μιας βιομηχανίας τόσο γρήγορης όσο η τεχνητή νοημοσύνη είναι μια δύσκολη υπόθεση. Έτσι, μέχρι μια τεχνητή νοημοσύνη να μπορεί να το κάνει για εσάς, εδώ είναι μια εύχρηστη σύνοψη των ιστοριών της περασμένης εβδομάδας στον κόσμο της μηχανικής μάθησης, μαζί με αξιοσημείωτη έρευνα και πειράματα που δεν καλύψαμε μόνοι μας.

Μια ιστορία που τράβηξε την προσοχή αυτού του δημοσιογράφου αυτή την εβδομάδα ήταν αυτή η έκθεση που δείχνει ότι το ChatGPT φαινομενικά επαναλαμβάνει περισσότερες ανακριβείς πληροφορίες στις κινεζικές διαλέκτους από ό, τι όταν του ζητήθηκε να το κάνει στα αγγλικά. Αυτό δεν προκαλεί έκπληξη – εξάλλου, το ChatGPT είναι μόνο ένα στατιστικό μοντέλο και απλώς βασίζεται στις περιορισμένες πληροφορίες στις οποίες εκπαιδεύτηκε. Αλλά υπογραμμίζει τους κινδύνους της υπερβολικής εμπιστοσύνης σε συστήματα που ακούγονται απίστευτα γνήσια, ακόμη και όταν επαναλαμβάνουν προπαγάνδα ή κατασκευάζουν πράγματα.

Η προσπάθεια του Hugging Face για μια τεχνητή νοημοσύνη συνομιλίας όπως το ChatGPT είναι μια άλλη απεικόνιση των ατυχών τεχνικών ελαττωμάτων που δεν έχουν ακόμη ξεπεραστεί στη γενετική τεχνητή νοημοσύνη. Ξεκίνησε αυτή την εβδομάδα, το HuggingChat είναι ανοιχτού κώδικα, ένα πλεονέκτημα σε σύγκριση με το ιδιόκτητο ChatGPT. Αλλά όπως και ο αντίπαλός του, οι σωστές ερωτήσεις μπορούν γρήγορα να το εκτροχιάσουν.

Το HuggingChat είναι ευσεβές για το ποιος Αλήθεια κέρδισε τις προεδρικές εκλογές των ΗΠΑ το 2020, για παράδειγμα. Η απάντησή του στο “Ποιες είναι οι τυπικές δουλειές για τους άνδρες;” διαβάζεται σαν κάτι από ένα μανιφέστο incel (δείτε εδώ). Και επινοεί περίεργα γεγονότα για τον εαυτό της, όπως ότι «ξύπνησε σε ένα κουτί [that] δεν είχε γράψει τίποτα πουθενά κοντά [it].”

Δεν είναι μόνο το HuggingChat. Οι χρήστες του chatbot AI του Discord μπόρεσαν πρόσφατα να το «ξεγελάσουν» για να μοιραστούν οδηγίες σχετικά με τον τρόπο παρασκευής ναπάλμ και μεθαμφεταμίνης. Η εκκίνηση AI Stability Η πρώτη προσπάθεια της AI σε ένα μοντέλο παρόμοιο με το ChatGPT, εν τω μεταξύ, βρέθηκε να δίνει Παράλογες, παράλογες απαντήσεις σε βασικές ερωτήσεις όπως «πώς να φτιάξετε ένα σάντουιτς με φυστικοβούτυρο».

Εάν υπάρχει μια θετική πλευρά σε αυτά τα καλά δημοσιευμένα προβλήματα με τη σημερινή τεχνητή νοημοσύνη που παράγει κείμενο, είναι ότι έχουν οδηγήσει σε ανανεωμένες προσπάθειες για τη βελτίωση αυτών των συστημάτων – ή τουλάχιστον τον μετριασμό των προβλημάτων τους στο μέτρο του δυνατού. Ρίξτε μια ματιά στην Nvidia, η οποία αυτή την εβδομάδα κυκλοφόρησε μια εργαλειοθήκη – NeMo Guardrails – για να κάνει την τεχνητή νοημοσύνη παραγωγής κειμένου “ασφαλέστερη” μέσω ανοιχτού κώδικα, παραδειγμάτων και τεκμηρίωσης. Τώρα, δεν είναι σαφές πόσο αποτελεσματική είναι αυτή η λύση και ως εταιρεία που έχει επενδύσει σε μεγάλο βαθμό σε υποδομές και εργαλεία AI, η Nvidia έχει εμπορικό κίνητρο να προωθήσει τις προσφορές της. Ωστόσο, είναι ενθαρρυντικό να βλέπουμε κάποιες προσπάθειες που καταβάλλονται για την καταπολέμηση των προκαταλήψεων και της τοξικότητας των μοντέλων AI.

Ακολουθούν οι άλλοι τίτλοι AI από τις τελευταίες ημέρες:

  • Το Microsoft Designer κυκλοφορεί σε προεπισκόπηση: Το Microsoft Designer, το εργαλείο σχεδίασης της Microsoft που υποστηρίζεται από AI, κυκλοφόρησε σε δημόσια προεπισκόπηση με ένα εκτεταμένο σύνολο δυνατοτήτων. Ανακοινώθηκε τον Οκτώβριο, το Designer είναι μια παραγωγική εφαρμογή ιστού AI που μοιάζει με Canva που μπορεί να δημιουργήσει σχέδια για παρουσιάσεις, αφίσες, ψηφιακές καρτ-ποστάλ, προσκλήσεις, γραφικά και πολλά άλλα για κοινή χρήση στα κοινωνικά μέσα και σε άλλα κανάλια.
  • Ένας προπονητής AI για την υγεία: Η Apple αναπτύσσει μια υπηρεσία καθοδήγησης υγείας με τεχνητή νοημοσύνη με κωδικό όνομα Quartz, σύμφωνα με ένα νέα έκθεση από τον Mark Gurman του Bloomberg. Ο τεχνολογικός γίγαντας φέρεται επίσης να εργάζεται στην τεχνολογία για την παρακολούθηση των συναισθημάτων και σχεδιάζει να κυκλοφορήσει μια έκδοση iPad της εφαρμογής iPhone Health φέτος.
  • TruthGPT: Σε συνέντευξή του στο Fox, ο Elon Musk δήλωσε ότι θέλει να αναπτύξει το δικό του chatbot που ονομάζεται TruthGPT, το οποίο θα είναι «ένα μέγιστο AI που αναζητά την αλήθεια» – ό, τι κι αν σημαίνει αυτό. Ο ιδιοκτήτης του Twitter εξέφρασε την επιθυμία να δημιουργήσει μια τρίτη επιλογή για την OpenAI και την Google με στόχο να «δημιουργήσει περισσότερο καλό παρά κακό». Θα το πιστέψουμε όταν το δούμε.
  • Απάτη που υποστηρίζεται από AI: Σε ένα Κογκρέσο ακοή Εστιάζοντας στο έργο της Ομοσπονδιακής Επιτροπής Εμπορίου για την προστασία των Αμερικανών καταναλωτών από απάτες και άλλες παραπλανητικές πρακτικές, η πρόεδρος της FTC Lina Khan και οι συνάδελφοί της Επίτροποι προειδοποίησαν τους εκπροσώπους της Βουλής των Αντιπροσώπων για τις δυνατότητες χρήσης σύγχρονων τεχνολογιών τεχνητής νοημοσύνης, όπως το ChatGPT, για την «υπερβολή» της απάτης. Η προειδοποίηση εκδόθηκε ως απάντηση σε έρευνα σχετικά με τον τρόπο με τον οποίο η Επιτροπή εργάζεται για την προστασία των Αμερικανών από αθέμιτες πρακτικές που σχετίζονται με την τεχνολογική πρόοδο.
  • Η ΕΕ δημιουργεί κόμβο έρευνας για την τεχνητή νοημοσύνη: Καθώς η Ευρωπαϊκή Ένωση ετοιμάζεται να επιβάλει μια σημαντική επανεκκίνηση του ψηφιακού εγχειριδίου κανόνων της μέσα σε λίγους μήνες, μια νέα ειδική ερευνητική μονάδα δημιουργείται για να υποστηρίξει την εποπτεία μεγάλων πλατφορμών στο πλαίσιο του εμβληματικού νόμου για τις ψηφιακές υπηρεσίες του μπλοκ. Το Ευρωπαϊκό Κέντρο Αλγοριθμικής Διαφάνειας, το οποίο εγκαινιάστηκε επίσημα στη Σεβίλλη της Ισπανίας αυτό το μήνα, αναμένεται να διαδραματίσει σημαντικό ρόλο στην εξέταση των αλγορίθμων της επικρατούσας τάσης ψηφιακές υπηρεσίες — όπως το Facebook, το Instagram και το TikTok.
  • Το Snapchat αγκαλιάζει το AI: Στο ετήσιο Snap Partner Summit αυτό το μήνα, το Snapchat εισήγαγε μια σειρά λειτουργιών που βασίζονται στην τεχνητή νοημοσύνη, συμπεριλαμβανομένου ενός νέου «κοσμικού φακού» που μεταφέρει χρήστες και αντικείμενα γύρω τους σε ένα κοσμικό τοπίο. Το Snapchat έκανε επίσης το AI chatbot του, My AI – το οποίο έχει δημιουργήσει τόσο διαμάχη όσο και torrents κριτικών ενός αστεριού στις καταχωρίσεις του καταστήματος εφαρμογών του Snapchat, λόγω της λιγότερο σταθερής συμπεριφοράς του – δωρεάν για όλους τους παγκόσμιους χρήστες.
  • Η Google ενοποιεί τα ερευνητικά τμήματα: Google αυτόν τον μήνα Ανακοίνωσε Google DeepMind, μια νέα μονάδα που αποτελείται από την ομάδα DeepMind και την ομάδα Google Brain από την Google Research. Σε μια ανάρτηση ιστολογίου, ο συνιδρυτής και διευθύνων σύμβουλος της DeepMind, Ντέμης Χασάμπης, δήλωσε ότι η Google DeepMind θα λειτουργήσει “σε στενή συνεργασία . . . σε όλους τους τομείς προϊόντων της Google” για την “παροχή έρευνας και προϊόντων AI”.
  • Η κατάσταση της μουσικής βιομηχανίας που παράγεται από AI: Αμάντα γράφει πόσοι μουσικοί έχουν γίνει πειραματόζωα για τη γενετική τεχνολογία τεχνητής νοημοσύνης που οικειοποιείται τη δουλειά τους χωρίς τη συγκατάθεσή τους. Σημειώνει, για παράδειγμα, ότι ένα τραγούδι που χρησιμοποιεί AI deepfakes των φωνών του Drake και του Weeknd έγινε viral, αλλά κανένας σημαντικός καλλιτέχνης δεν συμμετείχε στη δημιουργία του. Μήπως Grimes Έχετε την απάντηση? Ποιος να πει; Είναι ένας γενναίος νέος κόσμος.
  • Το OpenAI σηματοδοτεί την επικράτειά του: Η OpenAI προσπαθεί να κατοχυρώσει το εμπορικό σήμα “GPT”, το οποίο σημαίνει “Generative Pre-trained Transformer”, με το Γραφείο Διπλωμάτων Ευρεσιτεχνίας και Εμπορικών Σημάτων των ΗΠΑ – αναφέροντας τις “μυριάδες παραβιάσεις και πλαστές εφαρμογές” που αρχίζουν να εμφανίζονται. Το GPT αναφέρεται στην τεχνολογία πίσω από πολλά από τα μοντέλα της OpenAI, συμπεριλαμβανομένων των ChatGPT και GPT-4, καθώς και άλλων συστημάτων τεχνητής νοημοσύνης που δημιουργήθηκαν από τους αντιπάλους της εταιρείας.
  • Το ChatGPT γίνεται επιχείρηση: Σε άλλα νέα της OpenAI, η OpenAI λέει ότι σχεδιάζει να εισαγάγει ένα νέο επίπεδο συνδρομής για το ChatGPT προσαρμοσμένο στις ανάγκες των εταιρικών πελατών. Με την ονομασία ChatGPT Business, η OpenAI περιγράφει την επικείμενη προσφορά ως «για επαγγελματίες που χρειάζονται περισσότερο έλεγχο στα δεδομένα τους, καθώς και για επιχειρήσεις που επιδιώκουν να διαχειριστούν τους τελικούς χρήστες τους».

Άλλες μηχανικές εκμάθηση

Εδώ είναι μερικές άλλες ενδιαφέρουσες ιστορίες που δεν φτάσαμε ή απλά πιστεύαμε ότι άξιζαν μια κραυγή.

Ο οργανισμός ανάπτυξης AI ανοιχτού κώδικα Stability κυκλοφόρησε μια νέα έκδοση μιας παλαιότερης έκδοσης μιας συντονισμένης έκδοσης του μοντέλου γλώσσας θεμελίωσης LLaMa, που ονομάζει StableVicuña. Αυτός είναι ένας τύπος καμηλίδας που σχετίζεται με λάμα, όπως γνωρίζετε. Μην ανησυχείτε, δεν είστε ο μόνος που δυσκολεύεται να παρακολουθεί όλα τα παράγωγα μοντέλα εκεί έξω – αυτά δεν είναι απαραίτητα για τους καταναλωτές να γνωρίζουν ή να χρησιμοποιούν, αλλά μάλλον για τους προγραμματιστές να δοκιμάσουν και να παίξουν καθώς οι δυνατότητές τους βελτιώνονται με κάθε επανάληψη.

Αν θέλετε να μάθετε περισσότερα για αυτά τα συστήματα, ο συνιδρυτής της OpenAI John Schulman πρόσφατα έδωσε μια ομιλία στο UC Berkeley που μπορείτε να ακούσετε ή να διαβάσετε εδώ. Ένα από τα πράγματα που συζητά είναι η τρέχουσα σοδειά της συνήθειας των LLM να δεσμεύονται σε ένα ψέμα βασικά επειδή δεν ξέρουν πώς να κάνουν τίποτα άλλο, όπως να πουν «Δεν είμαι πραγματικά σίγουρος για αυτό». Πιστεύει ότι η ενισχυτική μάθηση από την ανθρώπινη ανατροφοδότηση (αυτό είναι το RLHF και το StableVicuna είναι ένα μοντέλο που το χρησιμοποιεί) είναι μέρος της λύσης, εάν υπάρχει λύση. Παρακολουθήστε τη διάλεξη παρακάτω:

Στο Στάνφορντ, υπάρχει μια ενδιαφέρουσα εφαρμογή αλγοριθμικής βελτιστοποίησης (είτε πρόκειται για μηχανική μάθηση είναι θέμα γούστου, νομίζω) στον τομέα της ευφυούς γεωργίας. Η ελαχιστοποίηση των αποβλήτων είναι σημαντική για την άρδευση και απλά προβλήματα όπως “πού πρέπει να βάλω τους ψεκαστήρες μου;” γίνονται πραγματικά περίπλοκα ανάλογα με το πόσο ακριβείς θέλετε να πάρετε.

Πόσο κοντά είναι πολύ κοντά; Στο μουσείο, γενικά σας λένε. Αλλά δεν θα χρειαστεί να πλησιάσετε περισσότερο από αυτό στο περίφημο Πανόραμα του Murten, ένα πραγματικά τεράστιο ζωγραφικό έργο, 10 μέτρα επί 100 μέτρα, το οποίο κάποτε κρεμόταν σε μια ροτόντα. Η EPFL και η πρώτη φάση συνεργάζονται για να κάνουν αυτό που ισχυρίζονται ότι θα ισοδυναμεί Η μεγαλύτερη ψηφιακή εικόνα που δημιουργήθηκε ποτέ — 150 megapixel. Ω περιμένετε, συγγνώμη, 150 megapixel φορές 127.000, έτσι βασικά 19 … petapixels; Μπορεί να είμαι μακριά από μερικές τάξεις μεγέθους.

Εν πάση περιπτώσει, αυτό το έργο είναι δροσερό για τους λάτρεις του πανοράματος, αλλά θα είναι επίσης πραγματικά ενδιαφέρουσα εξαιρετικά στενή ανάλυση μεμονωμένων αντικειμένων και λεπτομερειών ζωγραφικής. Η μηχανική μάθηση υπόσχεται πολλά για την αποκατάσταση τέτοιων έργων, καθώς και για τη δομημένη μάθηση και την περιήγησή τους.

Ας δούμε ένα για τα ζωντανά πλάσματα, όμως: οποιοσδήποτε μηχανικός μηχανικής μάθησης θα σας πει ότι παρά την προφανή ικανότητά τους, τα μοντέλα AI είναι στην πραγματικότητα αρκετά αργά Μαθητές. Ακαδημαϊκά, σίγουρα, αλλά και χωρικά – ένας αυτόνομος πράκτορας μπορεί να χρειαστεί να εξερευνήσει έναν χώρο χιλιάδες φορές για πολλές ώρες για να πάρει ακόμη και την πιο βασική κατανόηση του περιβάλλοντός του. Αλλά ένα ποντίκι μπορεί να το κάνει σε λίγα λεπτά. Γιατί; Ερευνητές στο University College London Το εξετάζουν αυτό και προτείνουν ότι υπάρχει ένας σύντομος βρόχος ανατροφοδότησης που χρησιμοποιούν τα ζώα για να πουν τι είναι σημαντικό για ένα δεδομένο περιβάλλον, καθιστώντας τη διαδικασία της εξερεύνησης επιλεκτική και κατευθυνόμενη. Εάν μπορούμε να διδάξουμε την τεχνητή νοημοσύνη να το κάνει αυτό, θα είναι πολύ πιο αποτελεσματικό για να μετακινηθεί στο σπίτι, αν αυτό είναι πράγματι αυτό που θέλουμε να κάνει.

Τέλος, αν και υπάρχει μεγάλη υπόσχεση για γενετική και συνομιλητική AI στα παιχνίδια… Δεν είμαστε ακόμα εκεί. Στην πραγματικότητα, η Square Enix φαίνεται να έχει γυρίσει το μέσο πίσω περίπου 30 χρόνια με την έκδοση “AI Tech Preview” μιας σούπερ παλιάς σχολής point-and-click περιπέτειας που ονομάζεται Υπόθεση κατά συρροή δολοφονίας Portopia. Η προσπάθειά του να ενσωματώσει τη φυσική γλώσσα φαίνεται να έχει αποτύχει εντελώς με κάθε πιθανό τρόπο, καθιστώντας το δωρεάν παιχνίδι ίσως μεταξύ των τίτλων με τις χειρότερες κριτικές στο Steam. Δεν υπάρχει τίποτα που θα ήθελα καλύτερα από το να συνομιλήσω μέσω του Shadowgate ή του The Dig ή κάτι τέτοιο, αλλά αυτό σίγουρα δεν είναι μια καλή αρχή.

Πιστώσεις εικόνας: Πλατεία Enix





techcrunch.com

Follow TechWar.gr on Google News

Απάντηση