Ένα γελοίο πέος αρουραίου που δημιουργήθηκε από την τεχνητή νοημοσύνη έγινε ημερολόγιο με κριτές

Ένα εξέχον επιστημονικό περιοδικό απέσυρε επίσημα ένα άρθρο που παρουσιάζει μια εικόνα ενός αρουραίου που δημιουργήθηκε από AI με μεγάλα γεννητικά όργανα μαζί με σειρές ανόητων ανόητων λέξεων. Η ντροπιαστική ανατροπή υπογραμμίζει τον κίνδυνο χρήσης των ολοένα και πιο δημοφιλών εργαλείων

τεχν

ητής νοημοσύνης στην επιστημονική βιβλιογραφία. Αν και ορισμένα σημαντικά περιοδικά κυριαρχούν ήδη στην πράξη,

οι ερευνητές ανησυχούν

Η ανεξέλεγκτη χρήση των εργαλείων τεχνητής νοημοσύνης θα μπορούσε να προωθήσει ανακριβή ευρήματα και ενδεχομένως να προκαλέσει ζημιά στη φήμη σε ιδρύματα και ερευνητές.

Πώς ένας αρουραίος που δημιουργήθηκε από AI πέρασε την αξιολόγηση από ομοτίμους;

Οι εικόνες που δημιουργήθηκαν από AI εμφανίστηκαν σε α

χαρτί

δημοσιεύθηκε νωρίτερα αυτή την εβδομάδα στο περιοδικό

Σύνορα στην Κυτταρική και Αναπτυξιακή Βιολογία

. Οι τρεις ερευνητές, που προέρχονται από το Νοσοκομείο Xi’an Honghui και το Πανεπιστήμιο Xi’an Jiaotong, διερεύνησαν την τρέχουσα έρευνα που σχετίζεται με βλαστοκύτταρα σπέρματος μικρών θηλαστικών. Ως μέρος της εργασίας, οι ερευνητές συμπεριέλαβαν μια απεικόνιση ενός καρτούν αρουραίου με έναν φαλλό να υψώνεται πάνω από το σώμα του. Δίπλα στον αρουραίο εμφανίστηκαν ετικέτες με ασυνάρτητα έργα όπως «testtomcels», «Dissisilcied» και «dck». Οι ερευνητές αναγνώρισαν ανοιχτά ότι χρησιμοποίησαν τη γεννήτρια εικόνας AI της Midjoruney για να παράγουν την εικόνα σε κείμενο που συνοδεύει το σχήμα.

Ο αρουραίος που δημιουργήθηκε από AI ακολουθήθηκε από τρεις ακόμη φιγούρες που υποτίθεται ότι απεικονίζουν πολύπλοκα μονοπάτια σηματοδότησης. Αν και αρχικά φάνηκαν λιγότερο ενοχλητικά οπτικά από τον κινούμενο αρουραίο, περιβάλλονταν παρομοίως από ανόητες ασυναρτησίες που δημιουργήθηκαν από την τεχνητή νοημοσύνη. Σε συνδυασμό, οι περίεργοι αριθμοί τράβηξαν γρήγορα την προσοχή των ακαδημαϊκών στα μέσα κοινωνικής δικτύωσης, με μερικούς

προβληματισμός

πώς οι εμφανώς ανακριβείς φιγούρες κατάφεραν να γλιστρήσουν

σύνορα

διαδικασία

αναθεώρηση

ς.

Ερμ, πώς το Σχήμα 1 ξεπέρασε έναν ομότιμο κριτή;!

https://t.co/pAkRmfuVed

H/T

@aero_anna


pic.twitter.com/iXpZ1FvM1G

— Dr CJ Houldcroft 🕷️ (@DrCJ_Houldcroft)

15 Φεβρουαρίου 2024

Αν και πολλοί ερευνητές έχουν προειδοποιήσει κατά της χρήσης υλικού που δημιουργείται από AI στην ακαδημαϊκή βιβλιογραφία,

Σύνορα


πολιτικές

μην απαγορεύετε στους συγγραφείς να χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης, αρκεί να περιλαμβάνουν μια σωστή αποκάλυψη. Σε αυτή την περίπτωση, ο συγγραφέας δήλωσε ξεκάθαρα ότι χρησιμοποίησε τη γεννήτρια εικόνας AI της

Midjourney

για την παραγωγή των διαγραμμάτων. Ωστόσο, οι οδηγίες των συγγραφέων του περιοδικού σημειώνουν ότι τα στοιχεία που παράγονται με αυτά τα εργαλεία πρέπει να ελέγχονται για ακρίβεια, κάτι που σαφώς δεν φαίνεται να συνέβη σε αυτήν την περίπτωση.

Το περιοδικό έχει εκδώσει έκτοτε μια πλήρη

ανάκληση

, λέγοντας ότι το άρθρο «δεν πληροί [

Frontiers’

] πρότυπα εκδοτικής και επιστημονικής αυστηρότητας». Σε μια

συνοδευτική ανάρτηση ιστολογίου

,

Σύνορα

είπε ότι είχε αφαιρέσει το άρθρο και τα στοιχεία που δημιουργήθηκαν από την τεχνητή νοημοσύνη σε αυτό από τις βάσεις δεδομένων της «για να προστατεύσει την ακεραιότητα του επιστημονικού αρχείου».

Το περιοδικό ισχυρίζεται ότι οι συγγραφείς της εργασίας απέτυχαν να ανταποκριθούν στα αιτήματα ενός κριτή που τους καλούσε να αναθεωρήσουν τα στοιχεία. Τώρα,

Σύνορα

λέει ότι διερευνά πώς όλα αυτά μπόρεσαν να συμβούν εξαρχής. Ένας από τους κριτικούς στις ΗΠΑ

φέρεται να είπε στο Motherboard

εξέτασαν το άρθρο μόνο με βάση την επιστημονική του αξία. Η απόφαση να συμπεριληφθεί η φιγούρα που δημιουργήθηκε από την τεχνητή νοημοσύνη, ισχυρίστηκαν, τελικά αφέθηκε στην κρίση

Σύνορα

.

«Ζητούμε ειλικρινά συγγνώμη από την επιστημονική κοινότητα για αυτό το λάθος και ευχαριστούμε τους αναγνώστες μας που μας έδωσαν γρήγορα την προσοχή».

Σύνορα

έγραψε.

Σύνορα

δεν απάντησε αμέσως

PopSci’s

αίτημα για σχολιασμό.

Η ειδικός στην ακεραιότητα της επιστήμης Elisabeth Bik, η οποία αφιερώνει μεγάλο μέρος του χρόνου της εντοπίζοντας παραποιημένες εικόνες σε ακαδημαϊκά περιοδικά, περιέγραψε την εικόνα ως ένα «λυπηρό παράδειγμα» του τρόπου με τον οποίο οι γενετικές εικόνες AI μπορούν να γλιστρήσουν μέσα από τις ρωγμές. Παρόλο που η φαλλική φιγούρα ήταν εύκολο να εντοπιστεί, ο Bik προειδοποίησε ότι η δημοσίευσή του θα μπορούσε να προμηνύει περισσότερες επιβλαβείς καταχωρίσεις στο μέλλον.

«Αυτά τα στοιχεία δεν είναι σαφώς επιστημονικά σωστά, αλλά αν τέτοιες λανθασμένες απεικονίσεις μπορούν να περάσουν τόσο εύκολα από ομοτίμους, πιο ρεαλιστικά στοιχεία που έχουν δημιουργηθεί από την τεχνητή νοημοσύνη πιθανότατα έχουν ήδη διεισδύσει στην επιστημονική βιβλιογραφία», δήλωσε ο Bik.

έγραψε στο blog της

Επιστήμη Ακεραιότητας Digest. «Η γενετική τεχνητή νοημοσύνη θα βλάψει σοβαρά την ποιότητα, την αξιοπιστία και την αξία των επιστημονικών εργασιών».

Εικ 3!!!

https://t.co/iniUMlZiAK


pic.twitter.com/DJqMVFoaeo

— Craig Kaplan (@TriggerLoop)

15 Φεβρουαρίου 2024

Πρέπει τα ακαδημαϊκά περιοδικά να επιτρέπουν υλικό που δημιουργείται από AI;

Με

πάνω από πέντε εκατομμύρια ακαδημαϊκά άρθρα

που δημοσιεύεται στο διαδίκτυο κάθε χρόνο, είναι σχεδόν αδύνατο να μετρηθεί πόσο συχνά οι ερευνητές στρέφονται σε εικόνες που δημιουργούνται από AI.

PopSci

μπόρεσε να εντοπίσει τουλάχιστον ένα άλλο προφανές παράδειγμα αυτού που φαινόταν να είναι μια εικόνα που δημιουργήθηκε από AI που απεικονίζει δύο αφρικανικούς ελέφαντες να παλεύουν, η οποία εμφανίστηκε σε ένα κιτ τύπου για ένα πρόσφατα δημοσιευμένο


Μεταβολισμός

της Φύσης

χαρτί. Η εικόνα που δημιουργήθηκε από AI δεν συμπεριλήφθηκε στη δημοσιευμένη εργασία.

Ωστόσο, ακόμα κι αν οι εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη δεν κατακλύζουν άρθρα αυτή τη στιγμή, υπάρχει ακόμα ένα κίνητρο για τους ερευνητές που έχουν σπάσει το χρόνο να στραφούν στα ολοένα και πιο πειστικά εργαλεία για την παραγωγή δημοσιευμένων έργων σε πιο γρήγορο κλιπ. Ορισμένα εξέχοντα περιοδικά λαμβάνουν ήδη προφυλάξεις για να αποτρέψουν τη δημοσίευση του περιεχομένου.

Πέρυσι,

Φύση

κυκλοφόρησε μια έντονα διατυπωμένη

δήλωση

λέγοντας ότι δεν θα επέτρεπε να εμφανίζονται στα ημερολόγιά της εικόνες ή βίντεο που δημιουργούνται από AI. Η οικογένεια των περιοδικών που εκδίδονται από

Επιστήμη

είναι

απαγορεύεται η χρήση κειμένου, εικόνων ή σχημάτων

δημιουργείται από AI χωρίς πρώτα να λάβετε άδεια εκδότη.

της φύσης

Η συντακτική επιτροπή είπε ότι η απόφασή της, που ελήφθη μετά από μήνες διαβούλευσης, προήλθε κυρίως από δυσκολίες που σχετίζονται με την επαλήθευση των δεδομένων που χρησιμοποιούνται για τη δημιουργία περιεχομένου AI. Το συμβούλιο εξέφρασε επίσης ανησυχία για την αδυναμία των παραγωγών εικόνων να πιστώσουν σωστά τους καλλιτέχνες για το έργο τους.

Οι εταιρείες τεχνητής νοημοσύνης που είναι υπεύθυνες για αυτά τα εργαλεία αντιμετωπίζουν επί του παρόντος μια σειρά από αγωγές

καλλιτέχνες

και

συγγραφείς

που λένε ότι αυτά τα εργαλεία φτύνουν παράνομα εικόνες εκπαιδευμένες σε υλικό που προστατεύεται από πνευματικά δικαιώματα. Εκτός από τα ερωτήματα απόδοσης, τα εργαλεία παραγωγής τεχνητής νοημοσύνης έχουν την τάση να εκτοξεύουν κείμενο και να παράγουν εικόνες που δεν είναι πραγματικά ή εννοιολογικά ακριβείς, ένα φαινόμενο που οι ερευνητές αναφέρουν ως “

παραισθήσεις

.» Αλλού ερευνητές

προειδοποιώ ότι οι εικόνες που δημιουργούνται από AI θα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία ρεαλιστικών ψεύτικων εικόνων

, γνωστά και ως deepfakes, τα οποία λένε ότι θα μπορούσαν να χρησιμοποιηθούν για να δώσουν αξιοπιστία σε λανθασμένα δεδομένα ή ανακριβή συμπεράσματα. Όλοι αυτοί οι παράγοντες αποτελούν προκλήσεις για τους ερευνητές ή τα περιοδικά που θέλουν να δημοσιεύσουν υλικό που δημιουργείται από AI.

«Ο κόσμος βρίσκεται στα πρόθυρα μιας επανάστασης της τεχνητής νοημοσύνης»

της φύσης

έγραψε η συντακτική επιτροπή πέρυσι. «Αυτή η επανάσταση υπόσχεται πολλά, αλλά η τεχνητή νοημοσύνη —και ιδιαίτερα η γενεσιουργός τεχνητή νοημοσύνη— ανατρέπει επίσης γρήγορα τις μακροχρόνιες συμβάσεις στην επιστήμη, την τέχνη, τις εκδόσεις και πολλά άλλα. Αυτές οι συμβάσεις χρειάστηκαν, σε ορισμένες περιπτώσεις, αιώνες για να αναπτυχθούν, αλλά το αποτέλεσμα είναι ένα σύστημα που προστατεύει την ακεραιότητα στην επιστήμη και προστατεύει τους δημιουργούς περιεχομένου από την εκμετάλλευση. Εάν δεν είμαστε προσεκτικοί στον χειρισμό της τεχνητής νοημοσύνης, όλα αυτά τα κέρδη κινδυνεύουν να ξεδιαλυθούν».