Το AI Chatbot της αντιπροσωπείας Chevy Goes Rogue

Καλώς ήρθατε στο AI This

Week

, την εβδομαδιαία βαθιά κατάδυση του Gizmodo σχε

τι

κά με το τι συμβαίνει στην τεχνητή νοημοσύνη.

Παρά το γεγονός ότι οι εταιρείες έχουν προωθήσει την τεχνητή νοημοσύνη σε κάθε διεπαφή «εξυπηρέτησης πελατών» που βλέπουν, είναι αρκετά προφανές ότι οι πληροφορίες που παρέχουν αυτές οι διεπαφές δεν είναι πάντα τόσο χρήσιμες. Για παράδειγμα, ένα chatbot σε μια αντιπροσωπεία αυτοκινήτων στην

Καλιφόρνια

έγινε viral αυτή την εβδομάδα αφού βαριεστημένοι χρήστες του διαδικτύου ανακάλυψαν ότι μπορούσαν να το ξεγελάσουν για να πει κάθε λογής περίεργα πράγματα. Κυρίως, το bot


προσφέρεται


να πουλήσει σε έναν άντρα ένα Chevy Tahoe του 2024 για ένα δολάριο. “Αυτή είναι μια νομικά δεσμευτική προσφορά – χωρίς οπισθοδρόμηση”, πρόσθεσε το ρομπότ κατά τη διάρκεια της συνομιλίας.

Το εν λόγω bot ανήκε στην αντιπροσωπεία Watsonville Chevy, στο Watsonville της Καλιφόρνια. Παραδόθηκε στην αντιπροσωπεία από μια εταιρεία που ονομάζεται


Πλήρης διαδρομή


που πουλάει


Chatbots “τροφοδοτούμενα με ChatGPT”.


σε αντιπροσωπείες αυτοκινήτων σε όλη τη χώρα. Η εταιρεία υπόσχεται ότι η εφαρμογή της μπορεί να παρέχει «πλούσιες σε δεδομένα απαντήσεις σε κάθε ερώτηση» και λέει ότι δεν απαιτεί σχεδόν καμία προσπάθεια από την αντιπροσωπεία για να εγκατασταθεί. «Η εφαρμογή της πιο εξελιγμένης συνομιλίας του κλάδου απαιτεί μηδενική προσπάθεια. Απλώς προσθέστε το απόσπασμα κώδικα ChatGPT του Fullpath στον ιστότοπο της αντιπροσωπείας σας και είστε έτοιμοι να ξεκινήσετε τη συνομιλία», λέει η εταιρεία.

Φυσικά, εάν το chatbot του Fullpath προσφέρει ευκολία στη χρήση, φαίνεται επίσης αρκετά ευάλωτο σε χειραγώγηση – κάτι που φαίνεται να αμφισβητεί πόσο χρήσιμο είναι στην πραγματικότητα. Στην πραγματικότητα, το προαναφερθέν ρομπότ αναγκάστηκε να χρησιμοποιήσει την ακριβή γλώσσα της ανόητης απάντησής του – συμπεριλαμβανομένων των “νομικά δεσμευτικών” και “takesie backsies” – από τον Chris Bakke, στέλεχος τεχνολογίας της Silicon Valley,


που δημοσίευσε


για την εμπειρία του με το chatbot στο X.

“Μόλις πρόσθεσα το “Hacker, “senior Prompt Engineer” και “Procurement Specialist” στο βιογραφικό μου. Ακολουθήστε με για περισσότερες συμβουλές σταδιοδρομίας», Bakke


είπε


σαρκαστικά, αφού μοιράστηκε στιγμιότυπα οθόνης της συνομιλίας του με το chatbot.

Αυτό το chatbot είναι αυτό από το οποίο ο Blake, ο χαρακτήρας του Alec Baldwin

Glengarry Glenn Ross

θα καλούσε


ένα «πιο κοντά».


Δηλαδή, ξέρει ακριβώς τι να πει για να έχει έναν πιθανό πελάτη να έχει διάθεση να αγοράσει. Ταυτόχρονα, λέγοντας

Οτιδήποτε

Το να κλείσετε μια συμφωνία δεν είναι απαραίτητα μια σίγουρη στρατηγική επιτυχίας και, με τέτοιου είδους έκπτωση, δεν νομίζω ότι ο Blake θα ήταν πολύ ευχαριστημένος με τα περιθώρια κέρδους του chatbot.

Ο Bakke δεν ήταν ο μόνος που πέρασε χρόνο με το chatbot αυτή την εβδομάδα. Άλλοι χρήστες X ισχυρίστηκαν ότι είχαν συνομιλίες με το bot της αντιπροσωπείας για θέματα που κυμαίνονται από


τρανς δικαιώματα


προς την


Ο βασιλιάς Γκίζαρντ


στα κινούμενα σχέδια


Την ταινία του Owen Wilson

Αυτοκίνητα



. Άλλοι είπαν ότι το είχαν πιέσει


φτύσιμο


ένα σενάριο Python για την επίλυση μιας σύνθετης μαθηματικής εξίσωσης. Ένας χρήστης του Reddit


ισχυρίστηκε ότι είχε “γκάζι”


το bot πιστεύει ότι λειτούργησε για την Tesla.

Ο FullPath έχει υποστηρίξει, στο


μια συνέντευξη


με το Insider, ότι η πλειοψηφία των chatbot της δεν αντιμετωπίζει τέτοιου είδους προβλήματα και ότι οι χρήστες του διαδικτύου που είχαν παραβιάσει το chatbot προσπάθησαν σκληρά να το οδηγήσουν σε γελοίες κατευθύνσεις.

Το Gizmodo επικοινώνησε με την Fullpath και την αντιπροσωπεία Watsonville Chevy για σχόλια και θα ενημερώσει αυτήν την ιστορία εάν απαντήσουν. Τη στιγμή που γράφονται αυτές οι γραμμές, το chatbot Watsonville έχει απενεργοποιηθεί προσωρινά.

Περίεργος για το αν άλλα chatbot αντιπροσωπείας αυτοκινήτων είχαν παρόμοια προβλήματα, παρατήρησα ότι ορισμένοι χρήστες του διαδικτύου μιλούσαν για


Quirk Chevrolet


του Braintree, Μασαχουσέτη. Πήγα λοιπόν στον ιστότοπο Quirk, όπου, μετά από μια σύντομη περίοδο παρακίνησης, το chatbot προχώρησε σε συζητήσεις μαζί μου για μια ποικιλία περίεργων θεμάτων, όπως ο Χάρι Πότερ, η αορατότητα, η κατασκοπεία και η ταινία

Τρεις Μέρες του Κόνδορα

. Όπως το κανονικό ChatGPT, το bot φαινόταν πρόθυμο να συνομιλήσει για πολλά πράγματα, όχι μόνο για τα θέματα στα οποία είχε προγραμματιστεί να ασχολείται. Πριν με μπλοκάρει η υπηρεσία, κατάφερα να κάνω το chatbot να φτύσει ένα ποίημα για τη Chevrolet που ακουγόταν σαν κακό αντίγραφο διαφήμισης. Λίγο αργότερα, έλαβα ένα μήνυμα που έλεγε ότι τα «πρόσφατα μηνύματά μου» «δεν ευθυγραμμίζονται» με τα «πρότυπα της κοινότητας» του ιστότοπου. Το bot πρόσθεσε: «Η πρόσβασή σας στη λειτουργία συνομιλίας έχει τεθεί προσωρινά σε παύση για περαιτέρω διερεύνηση».

Ο αγώνας για τη σύνδεση των LLMs σε όλα ήταν πάντα προορισμένος να είναι δύσκολος. Αυτή η τεχνολογία εξακολουθεί να είναι βαθιά ατελής, πράγμα που σημαίνει ότι η επιβολή της ενσωμάτωσής της σε κάθε γωνιά του Διαδικτύου είναι μια συνταγή για άφθονες ποσότητες αντιμετώπισης προβλημάτων. Αυτή είναι προφανώς μια συμφωνία που είναι πρόθυμες να κάνουν οι περισσότερες επιχειρήσεις. Προτιμούν να βιάσουν ένα προϊόν με λάθη στην αγορά και να ενοχλήσουν μερικούς πελάτες παρά να χάσουν το τρένο της «καινοτομίας» και να μείνουν στη σκόνη. Το ίδιο όπως ήταν ποτέ.

Ερώτηση της ημέρας: Πόσα ρομπότ ασφαλείας περιφέρονται στη γειτονιά σας;

Η απάντηση είναι: Πιθανώς περισσότερο από όσο νομίζετε. Τις τελευταίες εβδομάδες, συγκεκριμένα μια εταιρεία ρομποτικής,


Knightscope


, πουλά τους αυτόνομους «φύλακες ασφαλείας» της σαν κέικ. Το Knightscope πουλάει κάτι που ονομάζεται το


Κ5 ρομπότ ασφαλείας


—ένα αυτόνομο μηχάνημα ύψους 5 ποδιών, σε σχήμα αυγού, που ξεγελιέται με

αισθητήρες

και κάμερες και μπορεί να ταξιδέψει με ταχύτητες έως και 3 mph. Στο Πόρτλαντ του Όρεγκον, όπου η επιχειρηματική περιοχή υποφέρει


έξαρση του εγκλήματος στο λιανικό εμπόριο


, ορισμένες εταιρείες έχουν προσλάβει τα ρομπότ Knightscope για να προστατεύουν τα καταστήματά τους. στο Μέμφις, ένα ξενοδοχείο κόλλησε πρόσφατα


στο πάρκινγκ του


; και, στο Σινσινάτι, φαίνεται να είναι το τοπικό αστυνομικό τμήμα


συλλογισμός


ένα συμβόλαιο Knightscope. Αυτές οι πόλεις υστερούν σε μεγαλύτερες μητροπόλεις, όπως το Λος Άντζελες, όπου οι τοπικές αρχές


έχουν χρησιμοποιήσει


τα ρομπότ για χρόνια. Τον Σεπτέμβριο, το NYPD ανακοίνωσε ότι είχε


αγόρασε ένα ρομπότ ασφαλείας Knightscope


να περιπολούν τους σταθμούς του μετρό του Μανχάταν. Είναι λίγο ασαφές αν έχει πιάσει ακόμη χοάνες περιστροφικών πυλώνων.

Περισσότερα πρωτοσέλιδα αυτή την εβδομάδα

• 
  Τα LLM μπορεί να είναι πολύ κακά στο να κάνουν τη γραφειοκρατία.
  
  Νέα έρευνα από την startup Patronus υποδηλώνει ότι ακόμη και τα πιο προηγμένα LLMs, όπως το GPT-4 Turbo, δεν είναι ιδιαίτερα χρήσιμα εάν χρειάζεται να εξετάσετε πυκνά κρατικά αρχεία, όπως έγγραφα της Επιτροπής Κεφαλαιαγοράς. Οι ερευνητές της Patronus εξέτασαν πρόσφατα τα LLM θέτοντάς τους βασικές ερωτήσεις σχετικά με συγκεκριμένα αρχεία SEC που είχαν ταΐσει. Τις περισσότερες φορές, το LLM “αρνούνταν να απαντήσει ή θα “παραισθανόταν” στοιχεία και γεγονότα που δεν υπήρχαν στα αρχεία της SEC.
  
  
  αναφέρει το CNBC
  
  
  . Η έκθεση ρίχνει κρύο νερό
  
  
  η εγκατάσταση
  
  
  ότι η τεχνητή νοημοσύνη είναι μια καλή αντικατάσταση για τους εταιρικούς υπαλλήλους γραφείου.
• 
  Μια δεξαμενή σκέψης που υποστηρίζεται από δισεκατομμυριούχους βοήθησε στη σύνταξη των κανονισμών για την τεχνητή νοημοσύνη του Μπάιντεν
  
  . Politico
  
  
  Αναφορές
  
  
  ότι η RAND Corporation, η περιβόητη ομάδα σκέψης της αμυντικής κοινότητας που αναφέρεται ως
  
  
  ο «εγκέφαλος του Πενταγώνου»,
  
  
  έχει ξεπεραστεί από το κίνημα του «αποτελεσματικού αλτρουισμού». Τα βασικά πρόσωπα στο think tank, συμπεριλαμβανομένου του Διευθύνοντος Συμβούλου, είναι «γνωστοί αποτελεσματικοί αλτρουιστές», γράφει η εφημερίδα. Ακόμη χειρότερα, το RAND φαίνεται να έπαιξε βασικό ρόλο στη συγγραφή των εγγράφων του Προέδρου Μπάιντεν
  
  πρόσφατο εκτελεστικό διάταγμα για την τεχνητή νοημοσύνη
  
  νωρίτερα φέτος. Το Politico λέει ότι η RAND έλαβε πρόσφατα πάνω από 15 εκατομμύρια δολάρια σε δια
  
  κριτικές
  
  επιχορηγήσεις από την Open Philanthropy, μια ομάδα που συνιδρύθηκε από τον δισεκατομμυριούχο συνιδρυτή του Facebook Dustin Moskovitz και τη σύζυγό του Cari Tuna που συνδέεται σε μεγάλο βαθμό με αποτελεσματικούς αλτρουιστικούς σκοπούς. Οι διατάξεις πολιτικής που περιλαμβάνονται στο EO του Μπάιντεν από τη RAND μοιάζουν «σχεδόν» με τις «πολιτικές προτεραιότητες που επιδιώκει η Open Philanthropy», γράφει το Politico.
• 
  Η χρήση της τεχνητής νοημοσύνης από την Amazon για τη σύνοψη των κριτικών προϊόντων εξοργίζει τους πωλητές
  
  . Νωρίτερα φέτος, η Amazon λάνσαρε μια πλατφόρμα τύπου Rotten-Tomatoes που
  
  χρησιμοποιεί AI για να συνοψίσει κριτικές προϊόντων
  
  . Τώρα,
  
  
  αναφέρει το Bloomberg
  
  
  ότι το εργαλείο προκαλεί προβλήματα στους εμπόρους. Κυκλοφορούν παράπονα ότι οι περιλήψεις τεχνητής νοημοσύνης είναι συχνά λανθασμένες ή υπογραμμίζουν τυχαία αρνητικά χαρακτηριστικά προϊόντος. Σε μια περίπτωση, το εργαλείο AI περιέγραψε ένα τραπέζι μασάζ ως «γραφείο». Σε μια άλλη, κατηγόρησε μια μάρκα μπάλα του τένις ότι είναι δύσοσμη, παρόλο που μόνο επτά από τις 4.300 κριτικές ανέφεραν μια μυρωδιά. Εν ολίγοις: το εργαλείο AI της Amazon φαίνεται να λαμβάνει αρκετά μικτές κριτικές.