Τα παράδοξα της τεχνητής νοημοσύνης: Ανακαλύπτοντας τις ανοησίες στα επιστημονικά περιοδικά

Τον Φεβρουάριο, ένα παράλογο, δημιουργημένο από τεχνητή νοημοσύνη πέος αρουραίου, με κάποιο τρόπο, μπήκε κρυφά σε ένα από τότε ανασυρμένο

Σύνορα στην Κυτταρική και Αναπτυξιακή Βιολογία

άρθρο. Τώρα αυτή η περίεργη παρωδία φαίνεται ότι μπορεί απλώς να είναι ένα ιδιαίτερα ηχηρό παράδειγμα ενός πιο επίμονου προβλήματος που δημιουργείται στην επιστημονική βιβλιογραφία. Τα περιοδικά βρίσκονται επί του παρόντος σε ένα σταυροδρόμι για το πώς να ανταποκριθούν καλύτερα στους ερευνητές που χρησιμοποιούν δημοφιλή αλλά αμφισβητήσιμα εργαλεία τεχνητής νοημοσύνης για να βοηθήσουν στη σύνταξη χειρογράφων ή στην παραγωγή εικόνων. Ο εντοπισμός αποδεικτικών στοιχείων χρήσης της τεχνητής νοημοσύνης δεν είναι πάντα εύκολος, αλλά νέος

αναφορά από

404 Μέσα




Αυτή η εβδομάδα δείχνει αυτό που φαίνεται να είναι δεκάδες δημοσιευμένα άρθρα που δημιουργήθηκαν μερικώς από την τεχνητή νοημοσύνη και κρύβονται σε κοινή θέα. Οι νεκροί δίνουν μακριά;

Συνηθισμένα, ορολογία που δημιουργείται από υπολογιστή

.

404 Μέσα

έψαξε τη φράση που δημιουργήθηκε από την τεχνητή νοημοσύνη «Από την τελευταία ενημέρωση γνώσεων μου» στη δημόσια βάση δεδομένων του Μελετητή Google και φέρεται να βρήκε 115 διαφορετικά άρθρα που φαινόταν να βασίζονταν σε αποτελέσματα αντιγραφής και επικόλλησης μοντέλων τεχνητής νοημοσύνης. Αυτή η σειρά λέξεων είναι μία από τις πολλές στροφές φράσης που συχνά αναπαράγονται από μεγάλα γλωσσικά μοντέλα όπως το ChatGPT του OpenAI. Σε αυτήν την περίπτωση, η «ενημέρωση γνώσης» αναφέρεται στην περίοδο κατά την οποία ενημερώθηκαν τα δεδομένα αναφοράς ενός μοντέλου. Κουβέντα. Άλλες κοινές φράσεις γενετικής τεχνητής νοημοσύνης περιλαμβάνουν «

Ως μοντέλο γλώσσας AI

” και “αναγέννηση απόκρισης.” Εκτός της ακαδημαϊκής βιβλιογραφίας, αυτά τα τεχνουργήματα τεχνητής νοημοσύνης έχουν εμφανιστεί διάσπαρτα

Κριτικές προϊόντων Amazon

και

σε πλατφόρμες μέσων κοινωνικής δικτύωσης

.

Αρκετές από τις εργασίες που αναφέρονται από

404 Μέσα

φάνηκε να αντιγράφει το κείμενο της τεχνητής νοημοσύνης απευθείας σε άρθρα με κριτές που υποτίθεται ότι εξηγούν περίπλοκα ερευνητικά θέματα όπως η κβαντική εμπλοκή και η

απόδοση μπαταριών μετάλλου λιθίου

. Άλλα παραδείγματα άρθρων περιοδικών που φαίνεται να περιλαμβάνουν την κοινή φράση γενετικής τεχνητής νοημοσύνης “Δεν έχω πρόσβαση σε δεδομένα σε πραγματικό χρόνο” ήταν επίσης

κοινοποιήθηκε στο X, πρώην Twitter, το Σαββατοκύριακο

. Τουλάχιστον μερικά από τα παραδείγματα που εξετάστηκαν από

PopSci

φάνηκε να σχετίζεται με την έρευνα σε μοντέλα τεχνητής νοημοσύνης. Οι δηλώσεις τεχνητής νοημοσύνης, με άλλα λόγια, ήταν μέρος του θεματικού υλικού σε αυτές τις περιπτώσεις.

Γίνεται χειρότερο. Προφανώς, αν αναζητήσετε “από την τελευταία μου ενημέρωση γνώσεων” ή “δεν έχω πρόσβαση σε δεδομένα σε πραγματικό χρόνο” στο Google Scholar, θα εμφανιστούν τόνοι εγγράφων που δημιουργήθηκαν με τεχνητή νοημοσύνη. Αυτό είναι πραγματικά το χειρότερο χρονοδιάγραμμα.

pic.twitter.com/YXZziarUSm

— Η ζωή μετά το διδακτορικό μου. (@LifeAfterMyPhD)

18 Μαρτίου 2024

Αν και αρκετές από αυτές τις φράσεις εμφανίστηκαν σε έγκριτα, γνωστά περιοδικά,

404 Μέσα

ισχυρίζεται ότι η πλειονότητα των παραδειγμάτων που βρήκε προέρχονταν από μικρές, αποκαλούμενες «χαρτοποιίες» που ειδικεύονται στην ταχεία δημοσίευση εργασιών, συχνά επί πληρωμή και χωρίς επιστημονικό έλεγχο ή σχολαστική αξιολόγηση από ομοτίμους. Οι ερευνητές ισχυρίστηκαν ότι ο πολλαπλασιασμός αυτών των χαρτοβιομηχανιών

συνέβαλε στην αύξηση των ψευδών ή λογοκλοπών ακαδημαϊκών ευρημάτων

Τα τελευταία χρόνια.

Οι αναξιόπιστοι ισχυρισμοί που δημιουργούνται από την τεχνητή νοημοσύνη θα μπορούσαν να οδηγήσουν σε περισσότερες ανακλήσεις

Τα πρόσφατα παραδείγματα φαινομενικών κειμένων που δημιουργούνται από την τεχνητή νοημοσύνη και εμφανίζονται σε δημοσιευμένα άρθρα περιοδικών έρχονται εν μέσω μιας ανόδου των ανακλήσεων γενικά. Πρόσφατο

Φύση


ανάλυση

από ερευνητικές εργασίες που δημοσιεύθηκαν πέρυσι βρήκαν περισσότερες από 10.000 ανακλήσεις, περισσότερες από κάθε χρόνο που είχε μετρηθεί στο παρελθόν. Αν και το μεγαλύτερο μέρος αυτών των περιπτώσεων δεν συνδέθηκε με περιεχόμενο που δημιουργήθηκε από την τεχνητή νοημοσύνη, οι ενδιαφερόμενοι ερευνητές εδώ και χρόνια φοβούνταν ότι η αυξημένη χρήση αυτών των εργαλείων θα μπορούσε να οδηγήσει σε

περισσότερο ψευδές ή παραπλανητικό περιεχόμενο

περνώντας τη διαδικασία αξιολόγησης από ομοτίμους. Στην ενοχλητική υπόθεση πέους αρουραίου, οι παράξενες εικόνες και οι ανόητες ετικέτες που παράγονται από την τεχνητή νοημοσύνη, όπως “dissiliced” και “testtomcels” κατάφεραν να ξεφύγουν από πολλούς αναθεωρητές είτε απαρατήρητες είτε χωρίς αναφορά.

Υπάρχει καλός λόγος να πιστεύουμε ότι τα άρθρα που υποβάλλονται με κείμενο που δημιουργείται από AI μπορεί να γίνουν πιο συνηθισμένα. Το 2014, τα περιοδικά IEEE και Springer μαζί

αφαίρεσε περισσότερα από 120 άρθρα

βρέθηκε ότι περιελάμβανε παράλογη γλώσσα που δημιουργήθηκε από AI. Η επικράτηση του κειμένου που δημιουργείται από AI σε περιοδικά έχει σχεδόν

σίγουρα αυξήθηκε μέσα στη δεκαετία

Έκτοτε, τα πιο εξελιγμένα και πιο εύχρηστα εργαλεία όπως το ChatGPT του OpenAI έχουν αποκτήσει ευρύτερη υιοθέτηση.

Μια έρευνα του 2023 σε επιστήμονες που διεξήχθη από

Φύση

διαπίστωσε ότι 1.600 ερωτηθέντες, ή περίπου το 30% των ερωτηθέντων,

παραδέχτηκε ότι χρησιμοποιεί εργαλεία AI για να τους βοηθήσει να γράψουν χειρόγραφα

. Και ενώ φράσεις όπως “Ως αλγόριθμος AI” είναι νεκρά δώρα που εκθέτουν την προέλευση μιας πρότασης μεγάλου γλωσσικού μοντέλου (LLM), πολλές άλλες πιο λεπτές χρήσεις της τεχνολογίας είναι πιο δύσκολο να ξεριζωθούν. Τα μοντέλα ανίχνευσης που χρησιμοποιούνται για την αναγνώριση κειμένου που δημιουργείται από AI έχουν

αποδείχθηκε απογοητευτικά ανεπαρκής

.

Όσοι υποστηρίζουν την άδεια κειμένου που δημιουργείται από AI σε ορισμένες περιπτώσεις λένε ότι μπορεί να βοηθήσει

μη γηγενείς ομιλητές

εκφράζονται πιο ξεκάθαρα και δυνητικά χαμηλότερα γλωσσικά εμπόδια. Άλλοι υποστηρίζουν ότι τα εργαλεία, εάν χρησιμοποιηθούν υπεύθυνα, θα μπορούσαν

επιτάχυνση του χρόνου δημοσίευσης και αύξηση της συνολικής αποτελεσματικότητας

. Ωστόσο, η δημοσίευση ανακριβών δεδομένων ή κατασκευασμένων ευρημάτων που δημιουργούνται από αυτά τα μοντέλα κινδυνεύει να βλάψει τη φήμη ενός περιοδικού μακροπρόθεσμα. Πρόσφατο έγγραφο

δημοσίευσε

σε

Τρέχουσες αναφορές οστεοπόρωσης

Η σύγκριση των αναφορών άρθρων ανασκόπησης που γράφτηκαν από ανθρώπους και δημιουργήθηκαν από το ChatGPT διαπίστωσε ότι τα παραδείγματα που δημιουργήθηκαν από την τεχνητή νοημοσύνη ήταν συχνά πιο ευανάγνωστα. Την ίδια στιγμή, οι αναφορές που δημιουργήθηκαν από την τεχνητή νοημοσύνη ήταν επίσης

γεμάτο ανακριβείς αναφορές

.

«Το ChatGPT ήταν αρκετά πειστικό με μερικές από τις ψεύτικες δηλώσεις που έκανε, για να είμαι ειλικρινής», δήλωσε η καθηγήτρια της Ιατρικής Σχολής του Πανεπιστημίου της Ιντιάνα και συγγραφέας εγγράφων, Melissa Kacena.

συνέντευξη

με

χρόνος

. «Χρησιμοποιούσε τη σωστή σύνταξη και τις ενσωμάτωσε με σωστές δηλώσεις σε μια παράγραφο, έτσι μερικές φορές δεν υπήρχαν προειδοποιητικά κουδούνια».

Τα περιοδικά θα πρέπει να συμφωνούν σε κοινά πρότυπα σχετικά με τη γενετική τεχνητή νοημοσύνη

Οι μεγάλοι εκδότες εξακολουθούν να μην είναι ευθυγραμμισμένοι ως προς το αν θα επιτρέψουν ή όχι κείμενο που δημιουργείται από AI. Από το 2022, περιοδικά που εκδίδονται από

Επιστήμη

υπήρξαν

απαγορεύεται αυστηρά η χρήση κειμένου ή εικόνων που δημιουργούνται από AI

που δεν γίνονται πρώτα αποδεκτά από έναν συντάκτη.

Φύση

αφ ‘ετέρου,

εξέδωσε ανακοίνωση

πέρυσι λέγοντας ότι δεν θα επέτρεπαν εικόνες ή βίντεο που δημιουργούνται από AI στα ημερολόγιά της, αλλά

θα

επιτρέπουν κείμενο που δημιουργείται από AI σε ορισμένα σενάρια. JAMA αυτή τη στιγμή

επιτρέπει κείμενο που δημιουργείται από AI

αλλά απαιτεί από τους ερευνητές να αποκαλύψουν πότε εμφανίζεται και ποια συγκεκριμένα μοντέλα χρησιμοποιήθηκαν.

Αυτές οι αποκλίσεις πολιτικής μπορούν να δημιουργήσουν περιττή σύγχυση τόσο για τους ερευνητές που υποβάλλουν εργασίες όσο και για τους αναθεωρητές που είναι επιφορτισμένοι να τις ελέγξουν. Οι ερευνητές έχουν ήδη ένα κίνητρο να χρησιμοποιήσουν εργαλεία που έχουν στη διάθεσή τους για να βοηθήσουν στη γρήγορη δημοσίευση άρθρων και να ενισχύσουν τον συνολικό αριθμό των δημοσιευμένων εργασιών τους. Ένα συμφωνημένο πρότυπο σχετικά με το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη από μεγάλα περιοδικά θα έθετε σαφή όρια για τους ερευνητές που πρέπει να ακολουθήσουν. Τα μεγαλύτερα καθιερωμένα περιοδικά μπορούν επίσης να διαχωριστούν περαιτέρω από λιγότερο σχολαστικές χαρτοβιομηχανίες τραβώντας σταθερές γραμμές γύρω από ορισμένες χρήσεις της τεχνολογίας ή απαγορεύοντάς την εντελώς σε περιπτώσεις όπου επιχειρεί να κάνει πραγματικούς ισχυρισμούς.