Οι ερευνητές του Kansas U ισχυρίζονται 99% ακρίβεια ανίχνευσης πλαστών ChatGPT

Επιστήμονες από το

Το Πανεπιστήμιο του Κάνσας δημοσίευσε μια εργασία την Τετάρτη με λεπτομέρειες

αλγόριθμος λένε

ανιχνεύει

ακαδημαϊκή γραφή από το

ChatGPT

με ποσοστό ακρίβειας άνω του 99%.

Καθώς το περιεχόμενο chatbot AI αρχίζει να

πλημμύρα

στον κόσμο, μια από τις μεγαλύτερες ανησυχίες είναι η αξιοπιστία

εντοπίζοντας τη διαφορά μεταξύ των λέξεων των ρομπότ και των πραγματικών ανθρώπων. Έχουν γίνει μερικές προσπάθειες κατασκευής

Ανιχνευτές ChatGPT

και

δεκάδες εταιρείες ανταγωνίζονται

για την κατασκευή AI-

τεχνολογία εντοπισμού. Αλλά μέχρι στιγμής, καμία από τις επιλογές δεν λειτουργεί καλά, ακόμη και

ένα που χτίστηκε από


OpenAI


, η εταιρεία που έφτιαξε το ChatGPT. Τα υπάρχοντα εργαλεία είναι τόσο αναποτελεσματικά που είναι ουσιαστικά άχρηστα.

Ο εντοπιστής του ChatGPT που περιγράφεται στην εργασία

έχει κατασκευαστεί μόνο για να λειτουργεί σε συγκεκριμένα πλαίσια, αλλά η αναφερόμενη επιτυχία του φαίνεται πολλά υποσχόμενη.

Στη διαδικασία κατασκευής του

οι ερευνητές

λένε ότι έχουν εντοπίσει ενδεικτικά σημάδια γραφής τεχνητής νοημοσύνης.

Το χαρτί, που ήταν

συνομήλικος-

αναθεωρήθηκε και



δημοσίευσε


σε

Cell Reports Physical

Science


, περιγράφει μια τεχνική που μυρίζει ακαδημαϊκά ερευνητικά άρθρα που έχουν γραφτεί με AI. Η μελέτη επέλεξε ένα σύνολο 64 άρθρων επιστημονικών ερευνητών που γράφτηκαν από ανθρώπους συγγραφείς σε διάφορους κλάδους—από τη βιολογία μέχρι τη φυσική. Έδωσαν αυτά τα δεδομένα στο ChatGPT και τα χρησιμοποίησαν για να παράγουν ένα σύνολο δεδομένων 128 άρθρων τεχνητής νοημοσύνης με συνολικά ανοησίες chatbot αξίας 1.276 παραγράφων.

Οι επιστήμονες χρησιμοποιούν αυτά τα ψεύτικα

παραγράφους

για να δημιουργήσουν τον αλγόριθμο ανίχνευσης ChatGPT. Στη συνέχεια συγκέντρωσαν νέα δεδομένα

ορίζονται για να δοκιμάσουν τον αλγόριθμό τους

με 30 πραγματικά άρθρα και

60 άρθρα γραμμένα με ChatGPT, που ανέρχονται σε 1.210 παραγράφους

συνολικά.

Οι ερευνητές ισχυρίζονται ότι ο αλγόριθμός τους εντόπισε ολόκληρα άρθρα γραμμένα από το ChatGPT 100% των περιπτώσεων. Ήταν λιγότερο ακριβές, αλλά και πάλι εντυπωσιακό σε επίπεδο παραγράφου: ο αλγόριθμος εντόπισε το 92% των παραγράφων AI.

Οι ερευνητές

ελπίζω άλλοι

θα χρησιμοποιήσουν την εργασία τους για να προσαρμόσουν το λογισμικό ανίχνευσης στις δικές τους θέσεις και σκοπούς.

«Προσπαθήσαμε σκληρά να δημιουργήσουμε μια προσβάσιμη μέθοδο, ώστε με ελάχιστη καθοδήγηση, ακόμη και μαθητές γυμνασίου να μπορούν να κατασκευάσουν έναν ανιχνευτή AI για διαφορετικούς τύπους γραφής», δήλωσε η Heather Desaire, συγγραφέας της εργασίας και καθηγήτρια χημείας στο Πανεπιστήμιο του Κάνσας. σε μια συνέντευξη με


EurekAlert


. «Υπάρχει ανάγκη να αντιμετωπιστεί η γραφή τεχνητής νοημοσύνης και οι άνθρωποι δεν χρειάζονται πτυχίο επιστήμης υπολογιστών για να συνεισφέρουν σε αυτόν τον τομέα».

Η εφημερίδα λέει ότι υπάρχουν μερικά ενδεικτικά σημάδια της δουλειάς του ChatGPT. Πρώτον, οι ανθρώπινοι συγγραφείς γράφουν μεγαλύτερες παραγράφους, χρησιμοποιούν μεγαλύτερο λεξιλόγιο, περιλαμβάνουν περισσότερα σημεία στίξης και τείνουν να χαρακτηρίζουν τις δηλώσεις τους με λέξεις όπως «ωστόσο», «αλλά» και «αν και». Το ChatGPT είναι επίσης λιγότερο συγκεκριμένο με αναφορές όπως στοιχεία και αναφορές άλλων επιστημόνων.

Το μοντέλο που κατασκεύασαν οι Desaire και συνεργάτες.

δεν θα λειτουργήσει απροσδόκητα για τους δασκάλους που ελπίζουν να τιμωρήσουν τους εξαπατημένους μαθητές γυμνασίου

. Ο αλγόριθμος κατασκευάστηκε για ακαδημαϊκή γραφή, συγκεκριμένα

το είδος της ακαδημαϊκής γραφής που διαβάζετε σε επιστημονικά περιοδικά. Αυτό είναι κρίμα για τους εκπαιδευτές και τους διαχειριστές που, γενικά, πέρασαν τους τελευταίους έξι μήνες

φρικάρω

πάνω από λογοκλοπή που διευκολύνεται από

ChatGPT

. Ωστόσο, ο Desaire είπε ότι μπορείτε θεωρητικά να χρησιμοποιήσετε την ίδια τεχνική για να δημιουργήσετε ένα μοντέλο που ανιχνεύει άλλα είδη γραφής.

Τα πράγματα καταρρέουν αν σκεφτεί κανείς το γεγονός ότι ένας συγγραφέας θα μπορούσε εύκολα να κάνει κάποιες μικρές τροποποιήσεις σε ένα κομμάτι γραφής chatbot και να το καταστήσει πολύ πιο δύσκολο να εντοπιστεί.

Ωστόσο, οι ερευνητές περιέγραψαν αυτό το έργο ως «απόδειξη της ιδέας» και λένε ότι θα μπορούσαν να αναπτύξουν ένα πιο ισχυρό και ίσως πιο ακριβές εργαλείο με ένα μεγαλύτερο σύνολο δεδομένων.

Όσο ελπιδοφόρα κι αν είναι αυτά τα αποτελέσματα, οι εταιρείες τεχνολογίας και οι ενισχυτές τεχνητής νοημοσύνης λένε ότι εργαλεία όπως το ChatGPT είναι στα σπάργανα. Είναι αδύνατο να πούμε εάν οι μέθοδοι ανίχνευσης όπως αυτή θα αντέξουν εάν η τεχνητή νοημοσύνη συνεχίσει να αναπτύσσεται με τον ακραίο ρυθμό που έχουμε δει τα τελευταία χρόνια. Όσο πιο κοντά είναι μεγάλο

Τα γλωσσικά μοντέλα φτάνουν να αναπαράγουν τα μουρμουρητά της ανθρώπινης γραφής με βάση τη σάρκα, τόσο πιο δύσκολο θα είναι να εντοπιστούν τα ίχνη της ομιλίας ρομπότ.

Θέλετε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, τα

chatbots

και το μέλλον της μηχανικής μάθησης; Δείτε την πλήρη κάλυψή μας για



τεχνητή νοημοσύνη



ή περιηγηθείτε στους οδηγούς μας



Οι καλύτερες δωρεάν γεννήτριες τέχνης AI



και



Όλα όσα γνωρίζουμε για το ChatGPT του OpenAI



.