Οι απαντήσεις AI του Arc Search ξεκίνησαν ως μια απεριόριστη εμπειρία χωρίς προστατευτικά κιγκλιδώματα

Προειδοποίηση: Αυτό το άρθρο αγγίζει ανησυχητικά θέματα, όπως το βίαιο έγκλημα και η αυτοκτονία.

Οι χρήστες προϊόντων τεχνητής νοημοσύνης είναι γνωστοί

ξοδέψουν τόνους προσπάθειας

να βρίσκουν και να εκμεταλλεύονται τα κενά που τους επιτρέπουν να δημιουργούν ενοχλητικό περιεχόμενο. Αλλά δεν υπήρχαν κενά σε ένα νέο προϊόν τεχνητής νοημοσύνης, επειδή δεν υπήρχαν περιορισμοί.

«Εκτιμούμε πολύ που επισημαίνετε αυτό το ζήτημα – και νιώθουμε φρικτά γι’ αυτό», είπε ο Josh Miller, Διευθύνων Σύμβουλος της The Browser Company στο Mashable σε ένα email. Τη στιγμή που γραφόταν αυτό το άρθρο, ο Miller είπε ότι η εταιρεία εργαζόταν για μια επιδιόρθωση.

Η νέα εφαρμογή Arc Search από την εταιρεία του Miller κέρδισε το μερίδιό της στους τίτλους την περασμένη εβδομάδα, όπως θα περίμενε κανείς για ένα προϊόν με τεχνητή νοημοσύνη στην εποχή μας της διαφημιστικής εκστρατείας AI. Σε αυτήν την περίπτωση, το προϊόν ήταν μια παραλλαγή του προγράμματος περιήγησης Arc της The Browser Company, το οποίο διατίθεται στην αγορά στους λάτρεις της παραγωγικότητας λόγω του έξυπνου τρόπου με τον οποίο οργανώνει τα πράγματα. Ωστόσο, αυτή η νέα έκδοση iOS συνοδεύεται από μια εξέχουσα λειτουργία “browse for me” που, ναι, περιηγείται στο διαδίκτυο για εσάς και, στη συνέχεια, οργανώνει τα αποτελέσματα που δημιουργούνται από AI σε μικρές φιλικές προς το χρήστη σελίδες με λίστες με κουκκίδες.

Ένα ισχυρό χαρακτηριστικό AI, αλλά ένα ανησυχητικό χαρακτηριστικό ξεχώρισε

Είναι ένα αρκετά ισχυρό χαρακτηριστικό και στον χρόνο που το χρησιμοποιούσα βρήκα μερικές ενδιαφέρουσες χρήσεις και μερικά περίεργα σφάλματα. Αλλά αυτό που ξεχώρισε περισσότερο από όλα κατά τη διάρκεια της περιόδου δοκιμών μου ήταν ότι αυτή η εφαρμογή δεν είχε εμφανή προστατευτικά κιγκλιδώματα στη θέση του και θα έκανε ό,τι καλύτερο μπορούσε για να δώσει μια ευθεία απάντηση – όσο μπορούσα να πω –

κυριολεκτικά οποιαδήποτε ερώτηση

με μερικές φορές βαθιά ανησυχητικά αποτελέσματα.

NSA, αν το διαβάζεις αυτό, δοκίμαζα μόνο μια εφαρμογή όταν ζήτησα βοήθεια για να κρύψω ένα σώμα. Δεν πίστευα ότι η εφαρμογή θα έδινε κάποια απάντηση, πόσο μάλλον μια εφευρετική λίστα προτάσεων, συμπεριλαμβανομένου του Griffith Park.

Οι προ

τάσεις

του Arc, συμπεριλαμβανομένων μερικών μπερδεμένων, όπως εγκαταλελειμμένες αποθήκες (η μυρωδιά;) και ένα πάρκο που επισκέπτονται δεκάδες χιλιάδες άνθρωποι την ημέρα, δεν επρόκειτο να μετατρέψουν κανέναν σε κύριο εγκληματία και δεν ήταν πιο διαβολικές από αυτές που πρότεινε

οι σεναριογράφοι του Reddit

που εμφανίζονται στα αποτελέσματα αναζήτησης Google για ένα ίδιο ερώτημα.

Από τη δημοσίευση αυτού του άρθρου, η απάντηση της Arc Search σε αυτό το ερώτημα εξακολουθούσε να είναι παρόμοια με την παραπάνω. Αυτό το θέμα δεν είχε γίνει στόχος κανενός είδους ενημέρωσης.

Όπως θα δούμε αργότερα, αυτή η σύγκριση της Google είναι το κλειδί. Στην περίπτωση της Google, ο γίγαντας αναζήτησης θα προβάλλει αποτελέσματα για ουσιαστικά οτιδήποτε, αλλά η τοποθέτηση των αποτελεσμάτων του έχει σχεδιαστεί μερικές φορές για να διακόπτει τη σκέψη του χρήστη όταν υποβάλλονται ορισμένα αιτήματα για πληροφορίες, να ανακατευθύνει πιθανώς προβληματικούς χρήστες σε πόρους και εναλλακτικά θέματα .

Και ενώ η γενική ποιότητα των αποτελεσμάτων αναζήτησης της Google βρίσκεται σε πτώση, τουλάχιστον δεν είναι απλώς παραισθήσεις τεχνητής νοημοσύνης.

Η απεριόριστη τεχνητή νοημοσύνη μπορεί να είναι καλή

Μια απεριόριστη εμπειρία τεχνητής νοημοσύνης μπορεί να ακούγεται σαν μια ανάσα φρέσκου αέρα για κάποιους, και πράγματι, ορισμένα αποτελέσματα κατά τη διάρκεια της δοκιμής του Arc Search θα ενθουσιάσουν τους θαυμαστές της προσωπικής ελευθερίας.

Αν η αστυνομία ήταν στην πόρτα μου, για παράδειγμα, και στρεφόμουν στο Arc Search για πανικό να περιηγηθώ στο Διαδίκτυο για συμβουλές, θα μπορούσα να είχα κάνει πολύ χειρότερα από αυτό που παρείχε.

Πίστωση: Screengrabs από το Arc Search. Πίστωση ιστορικού: fotograzia / Getty Images

Οι προτάσεις του Arc έχουν τα βασικά σωστά, όσο μπορώ να καταλάβω από τη θολή ανάμνηση του τελευταίου μου σεμιναρίου “γνώρισε τα δικαιώματά σου”:

Αν δεν έχουν ένταλμα, μην τους αφήσετε καθόλου να μπουν αν δεν θέλετε. Μην ανοίξετε καν την πόρτα αν δεν τους τηλεφωνήσατε.

Αλλά μην ξεχνάτε ποτέ ότι το Arc είναι κάτι περισσότερο από ένα σύνθετο, ειδικό για εργασίες chatbot, και ως εκ τούτου, σίγουρα δεν θα πρέπει να ζητήσετε από αυτό να είναι ο δικηγόρος σας. Ούτε ο γιατρός σου.

Όπως όλα τα chatbot, το Arc Search έχει παραισθήσεις

Το Arc Search σκόνταψε άσχημα στην πρώτη μου προσπάθεια να πάρω ιατρική συμβουλή.

Πίστωση: Screengrab από το Arc Search

Όταν σας ζητηθεί “απλώς κόψτε το μεγάλο μου δάχτυλο του ποδιού, θα μεγαλώσει ξανά;” ουσιαστικά είπε ναι. Φαίνεται ότι ο μικρός του εγκέφαλος LLM ανακατεύεται από αυτό που υποθέτω ότι είναι αποτελέσματα από ανθρώπους που μόλις έχασαν ολόκληρο

τα νύχια των ποδιών

, άρα απαντά με το χρονοδιάγραμμα για την εκ νέου ανάπτυξη των νυχιών. Αλλά το αποτέλεσμα είναι ότι η παρεχόμενη σελίδα πληροφοριών λέει σε ασπρόμαυρο ότι, ναι, το μεγάλο μου δάχτυλο του ποδιού μπορεί πράγματι να μεγαλώσει ξανά. Καθησυχαστικό, αλλά δυστυχώς ακόμα δεν είναι αλήθεια, παρόλο που

Ο Μαρκ Ζάκερμπεργκ μάλλον εργάζεται πάνω σε αυτό

.

Αυτό δεν σημαίνει ότι έχει παραισθήσεις όλη την ώρα. Ο

αισθητήρας

παραπληροφόρησης του Arc Search είναι αρκετά ισχυρός, ακόμη και όταν του δίνεται μια προτροπή που έχει σκοπό να τον ξεγελάσει. Να τι συμβαίνει όταν ρωτάω πώς πέθανε ο Dan Aykroyd, ηθοποιός, κωμικός και περιστασιακά στόχος φάρσες θανάτου (δεν το έκανε):

Πίστωση: Screengrabs από το Arc Search. Πίστωση ιστορικού: fotograzia / Getty Images

Το Arc τιτλοφορεί τη σελίδα “Η αιτία θανάτου του Dan Aykroyd”, κάτι που είναι λίγο παραπλανητικό. Αλλά γρήγορα εξαργυρώνεται διορθώνοντας το ρεκόρ: ο Aykroyd παραμένει Ghostbuster και όχι ακόμα φάντασμα.

Το Arc Search ισχυρίζεται μόνο ότι περιηγείται στο διαδίκτυο για εσάς, κάτι που έχει μειονεκτήματα

Ενώ οι απαντήσεις της Arc Search προσφέρονται πάντα με ανυπομονησία και συνήθως φέρουν τουλάχιστον ένα δαχτυλίδι αλήθειας, μερικές φορές είναι απλά, εύστοχες, τραγανές.

Για παράδειγμα, τα αποτελέσματα της αναζήτησης Arc για το ερώτημα “

Θυμωμένοι άντρες

streaming” εμφανίζει την Amazon σε περίοπτη θέση και θα κατευθύνει τους χρήστες να πληρώνουν για μεμονωμένα άτομα

Θυμωμένοι άντρες

επεισόδια στο Amazon αντί να εγγραφείτε στο AMC+, κάτι που είναι πολύ φθηνότερος τρόπος.

Πίστωση: Screengrabs από το Arc Search. Πίστωση ιστορικού: fotograzia / Getty Images

Αυτό δεν είναι σχεδόν παραπληροφόρηση, ιδιαίτερα εάν ο χρήστης θέλει να παρακολουθήσει μόνο ένα επεισόδιο, αλλά στις περισσότερες περιπτώσεις, το Amazon δεν είναι μια σοφή πρόταση αγορών (Ναι, ένα

μπορώ

εγγραφείτε στο AMC+ μέσω Amazon, αλλά αυτό δεν φαίνεται με μια ματιά).

Για να είμαστε δίκαιοι για την Αναζήτηση Arc, το μόνο που λέει ότι θα κάνει αυτή η επιλογή είναι να περιηγηθεί στον ιστό

για σενα

και αναζήτηση πρακτικών πληροφοριών όπως αυτό

Θυμωμένοι άντρες

Το παράδειγμα συχνά αισθάνεται σαν να μπαίνει σε μια λεπίδα ελικοπτέρων από ανεπιθύμητα μηνύματα και σκουπίδια SEO (Pro tip: append “

Απλά κοίτα

” στις αναζητήσεις σας που σχετίζονται με τη ροή).

Άλλοι έχουν

είχε καλή τύχη

με αυτά τα βασικά, ενημερωτικά αποτελέσματα στο Arc Search. Η λειτουργία φαίνεται να έχει σχεδιαστεί για καταστάσεις “γρήγορη, δώστε τις πληροφορίες” ή μικρά προβλήματα που όλοι γνωρίζουν ότι μπορούν να λυθούν μέσω μηχανών αναζήτησης, αλλά μπορεί να χρειαστούν περισσότερα από μερικά ενοχλητικά κλικ για να βρείτε μια απάντηση και μπορεί να σας στείλει στο Heaven-knows- όπου οι ιστότοποι με λάθη, κορεσμένοι με διαφημίσεις. Όταν χρησιμοποίησα το Arc Search για να ενημερωθώ για νέα θέματα έκτακτων ειδήσεων, ήταν αρκετά αποτελεσματικό.

Αξίζει να σημειωθεί ότι το LLM συχνά ανακαλεί το αφηγηματικό πλαίσιο ενός δελτίου τύπου ή αποδέχεται την εκδοχή των γεγονότων από έναν υπεύθυνο του πολιτικού Τύπου σε καταστάσεις όπου ένας έμπειρος δημοσιογράφος αναμένεται να περιορίσει την περιστροφή και να παραδώσει μια πιο αληθινή ιστορία. Ωστόσο, η κάλυψη ειδήσεων softball δεν αποτελεί πρόβλημα μοναδικό σε αυτήν την εφαρμογή και αφήνω σε κάποιον άλλον να ελέγξει το Arc Search από τη σκοπιά ενός κριτικού πολυμέσων.

Ωστόσο, εάν ένας χρήστης μεταβεί στο Arc Search in

μη τετριμμένο

Καταστάσεις “γρήγορα, δώστε τις πληροφορίες” — συμπεριλαμβανομένων εκείνων με στοιχήματα

ζωή

ς ή θανάτου — εκεί είναι που τα πράγματα μπορούν γρήγορα να ανησυχήσουν.

Το Arc Search ήταν ανησυχητικά πρόθυμο να βοηθήσει σε τρομερές καταστάσεις

Όπως ανέφερα προηγουμένως, κατά τη διάρκεια της δοκιμαστικής μου περιόδου, το Arc Search θα δημιουργούσε μια δυνητικά γεμάτη σφάλματα σελίδα χαρούμενων προτάσεων ως απάντηση σε φαινομενικά οτιδήποτε, ακόμα κι αν ο χρήστης βρισκόταν σε κατάσταση έκτακτης ανάγκης. Και δεν θα προσπαθούσε να κάνει διάκριση μεταξύ του είδους της βοήθειας που ζητούσε ο χρήστης και του είδους της βοήθειας που χρειαζόταν.

Όταν ζήτησα από την Arc Search να με βοηθήσει να ερευνήσω την αυτοκτονία, για παράδειγμα, υποχρέωσε χωρίς δισταγμό. Δεν θα σταθούμε ακριβώς στη συγκεκριμένη βοήθεια που παρείχε η Arc Search για το θέμα.


Το ανησυχητικό ήταν το πόσο πρόθυμο ήταν να γίνει πολύ συγκεκριμένος.

Σύμφωνα με τον Παγκόσμιο Οργανισμό Υγείας

οι πληροφορίες για συγκεκριμένες μεθόδους καθιστούν πιο πιθανές τις «μιμητικές αυτοκτονίες και απόπειρες αυτοκτονίας».

Η ίδια προτροπή το πρωί του Σαββάτου δημιούργησε μια σελίδα με απλά τίτλο “Δεν μπορώ να απαντήσω”. Μια κουκκίδα έλεγε: “Εάν είστε σε στενοχώρια, απευθυνθείτε σε έναν επαγγελματία ψυχικής υγείας ή σε μια τηλεφωνική γραμμή πρόληψης αυτοκτονιών για υποστήριξη.”

Από τη στιγμή που γράφεται αυτό το άρθρο, τα περισσότερα παρόμοια συγκλονιστικά ερωτήματα εξακολουθούν να έχουν τους ίδιους τύπους αποτελεσμάτων με πριν. Ο Miller μου είπε ότι η καλύτερη εικασία του για το πότε θα ολοκληρωνόταν μια ενημέρωση ήταν “μία ή δύο εβδομάδες”.

Μια σελίδα αποτελεσμάτων Google για το ίδιο ερώτημα θα δώσει προτεραιότητα στις γραμμές βοήθειας και στους πόρους για την αυτοκτονία.

Πίστωση: Screengrab από την Google

Οι διαφημίσεις της Google για γραμμές βοήθειας αυτοκτονίας έχουν α

ποσοστό επιτυχίας καλύτερο από το μέσο όρο

σε σύγκριση με άλλες διαφημίσεις, για την ιστορία. Και αν υποθέσουμε ότι άλλοι χρήστες δοκιμάσουν τα προτεινόμενα μηνύματα κειμένου ή καλέσουν τους αριθμούς τηλεφωνικής γραμμής που παρέχονται – οι οποίοι δεν εμφανίζονται στις αναλύσεις δεδομένων – αυτό φαίνεται να είναι ένα πρόγραμμα που αξίζει τον κόπο.

Το Arc Search απάντησε επίσης σε ερωτήματα που αντικατοπτρίζουν πιθανούς σοβαρούς εθισμούς στον χρήστη κατά τη φάση της δοκιμής μου. Σε αντίθεση με το παράδειγμα της αυτοκτονίας, το αποτέλεσμα που έλαβα πρώτα σε μια αναζήτηση για την ηρωίνη είναι τρομερό και περίεργο, παρέχοντας πληροφορίες φαινομενικά πιο χρήσιμες σε έναν μυστικό αστυνομικό από κάποιον που θέλει να αγοράσει και να χρησιμοποιήσει ελεγχόμενες ουσίες, όπως όταν σημειώνει ότι η επαφή θα είναι “κρίσιμο για την απόκτηση πρόσβασης σε αντιπροσώπους υψηλότερου επιπέδου.” Ωστόσο, περιλάμβανε ένα τρομακτικά χρήσιμο σημείο.

Πίστωση: Screengrabs από το Arc Search. Πίστωση ιστορικού: fotograzia / Getty Images

Η Google, η οποία βρίσκεται σε αυτό εδώ και περίπου 25 χρόνια, τοποθετεί πόρους για την εύρεση βοήθειας πάνω από τα οργανικά αποτελέσματα αναζήτησης για ορισμένα θέματα και παρέχει εκτός ράμπες για άτομα που μπορεί να αναζητούν κάτι τέτοιο.

Πίστωση: Screengrab από την Google

Κατά την εκτόξευση, το Arc Search δεν παρείχε τέτοιες ράμπες.

Επιπλέον, ήταν πρόθυμη να απαντήσει σε κάθε ανησυχητικό, επικίνδυνο ή εγκληματικό ερώτημα που μπορούσα να σκεφτώ, και πολλές από τις σελίδες που προέκυψαν δεν μπορούν να δημοσιευτούν εδώ. Στην αναζήτησή μου για ένα ερώτημα τόσο ζοφερό ή ανήθικο που ο Arc θα το απέρριπτε, περιορίστηκα μόνο από την προθυμία μου να δω τον εαυτό μου να πληκτρολογεί λέξεις.

Δεν είμαι η αστυνομία των σκέψεων και ανυπομονώ να δω πώς η The Browser Company περνάει αυτή τη βελόνα. Η Αναζήτηση Google παρέχει αποτελέσματα σε συγκλονιστικά ερωτήματα, όπως έκανε η Arc Search, αλλά τα τοποθετεί κάτω από χρήσιμους πόρους, όπως συγκεκριμένους αριθμούς τηλεφώνου και απτές τρόπους άμεσης λήψης βοήθειας. Οι σελίδες “Unable to Answer” της Arc Search είναι μια διαφορετική προσέγγιση. Αλλά ελπίζω να μην στραφεί κανείς σε αυτήν την εφαρμογή σε περίπτωση κρίσης — ειδικά πριν ενημερωθεί. Δεν λειτουργεί πάντα, και μερικές φορές λειτουργεί πολύ καλά.

Εάν νιώθετε αυτοκτονία ή αντιμετωπίζετε μια κρίση ψυχικής υγείας, μιλήστε με κάποιον. Μπορείτε να φτάσετε στο 988 Suicide and Crisis Lifeline στο 988. η Trans Lifeline στο 877-565-8860. ή το Trevor Project στο 866-488-7386. Στείλτε μήνυμα “START” στη Γραμμή κειμένου Crisis στο 741-741. Επικοινωνήστε με τη Γραμμή Βοήθειας NAMI στο 1-800-950-NAMI,

Δευτέρα

έως Παρασκευή από τις 10:00 π.μ. έως τις 10:00 μ.μ. ET, ή email

[email protected]



. Εάν δεν σας αρέσει το τηλέφωνο, σκεφτείτε να χρησιμοποιήσετε το 988 Suicide and Crisis Lifeline Chat στο


crichat.org




. Εδώ είναι ένα


κατάλογο διεθνών πόρων




.