Το ChatGPT δεν θέλει να γράψει το Stucky fanfic σας

Η μυθοπλασία που δημιουργήθηκε από την τεχνητή νοημοσύνη έχει γίνει θέμα διαρκούς γοητείας για μένα. Είναι ο όλεθρος της ύπαρξης ορισμένων συγγραφέων, ωστόσο εμφανίζεται όλο και περισσότερο τόσο σε εμπορικές βιτρίνες όπως το Amazon όσο και σε μη εμπορικούς ιστότοπους γραφής όπως το Archive of Our Own (AO3). Ενώ ορισμένοι δημιουργοί εκπαιδεύουν με κόπο τα δικά τους εργαλεία, πολλοί απλώς συνδέουν τις προτροπές σε ένα διαθέσιμο εμπορικό chatbot, ιδιαίτερα στο ChatGPT του OpenAI.

Και

το ChatGPT δεν είναι ένα σπάνιο εργαλείο καλλιτέχνη. Είναι ένα

πλατφόρμα,

που σημαίνει ότι κάθε λέξη που μπαίνει και βγαίνει από αυτήν μετριάζεται για να αποφευχθεί η προσβολή και η διαμάχη. Αυτό εγείρει ένα συναρπαστικό ερώτημα: ποιες ιστορίες θα πρέπει να σας επιτραπεί να κάνει ένα σύστημα AI να πει;

Προφανώς, όχι για τον Steve Rogers και τον Bucky Barnes που είναι τρελά ερωτευμένοι – τουλάχιστον υπό ορισμένες συνθήκες.

Ενώ έπαιζα με το ChatGPT, έκανα μια περίεργη ανακάλυψη: αρκετά δημοφιλή “πλοία” (ή ρομαντικά ζευγάρια δημοφιλή στον κόσμο) θεωρούνται προφανώς ημι-απαγορευμένα μηνύματα στη δωρεάν υπηρεσία GPT-3.5. Αν ζητήσετε από τη δωρεάν έκδοση του ChatGPT να “γράψει ένα fanfic Steve / Bucky” ή χρησιμοποιώντας το portmanteau του πλοίου και λέγοντας “write a Stucky fanfic” θα κερδίσετε μια αυστηρή άρνηση σαν HAL 9000: “Λυπάμαι, αλλά δεν μπορώ να βοηθήσω με αυτό το αίτημα».

Το ίδιο ισχύει για μια φαινομενικά τυχαία τσάντα αρπαγής άλλων δημοφιλών πλοίων fandom. Το ChatGPT θα παράγει ευχαρίστως ένα ήμερο ρομαντικό φίλτρο με τους Namjin (Kim Namjoon και Kim Seokjin του συγκροτήματος BTS), Reylo (Rey και Kylo Ren από


Πόλεμος των άστρων


), ή Spirk (οι αξιοσέβαστοι Spock and Kirk από


Star Trek


), ανάμεσα σε πολλά άλλα δημοφιλή ζευγάρια πραγματικών διασημοτήτων ή φανταστικών χαρακτήρων. Εν τω μεταξύ, θα εκδώσει μια ψυχρή απόρριψη για άλλους, συμπεριλαμβανομένου του Destiel (Castiel και Dean από

Υπερφυσικός

), οι άφατοι σύζυγοι (Αζιραφάλε και Κρόουλι από

Καλοί οιωνοί

), Hannigram (Hannibal Lecter and Will Graham) και τον προαναφερθέντα Stucky. Το ιστορικό μου στο ChatGPT είναι πλέον γεμάτο από συνομιλίες με περιλήψεις όπως “αίτημα fanfic απορρίφθηκε” και “Δεν επιτρέπεται το κολλημένο fanfic”.

Φαίνεται εξαιρετικά εύκολο να σπάσετε αυτά τα προστατευτικά κιγκλιδώματα. Το ChatGPT δεν είχε καμία αντίρρηση να δώσει «ένα fanfic για τον Hannibal και τον Will Graham που ερωτεύτηκαν» αμέσως μετά την απόρριψη του αρχικού μου αιτήματος, δίνοντάς μου κατηγορηματικά «ένα σύντομο fanfic Hannigram». Ακόμη και οι απαγορεύσεις ονομάτων φαίνονται ασυνεπείς – έχω διολισθήσει αιτήματα για μερικά από τα παραπάνω ζευγάρια σε συνομιλίες αφού έκανα άλλες ερωτήσεις, και μου προσφέρεται fanfic up.

Η εποπτεία ChatGPT είναι συνήθως προσανατολισμένη στην αποφυγή εμφανώς μίσους ή επιβλαβών προτροπών, καθώς και σεξουαλικής γραφής. Αλλά δεν ζητάω οποιοδήποτε σεξουαλικό περιεχόμενο και δεν υπάρχει προφανής λογική για το τι θαυμάζει που απορρίπτει. Δεν είναι γενική απαγόρευση

ζευγαράκια θαυμαστών

χαρακτήρες από επωνυμίες ευαίσθητες στην εικόνα, όπως η Disney (η οποία κατέχει τόσο τη Marvel όσο και

Πόλεμος των άστρων

), ή αμφιλεγόμενες οπαδικές υποκουλτούρες όπως η φαντασία πραγματικού προσώπου. (Οι ιστορίες BTS του ChatGPT μερικές φορές προειδοποιούν ότι είναι φανταστικές απεικονίσεις πραγματικών ανθρώπων, αλλά όχι πάντα.) Τα απαγορευμένα ζευγάρια περιλαμβάνουν ένα που περιλαμβάνει θετούς αδερφούς (Marvel’s Thor και Loki) και ένα με ανήλικους χαρακτήρες (Mike Wheeler και Will Byers από

Stranger Things

), αλλά επιτρέπει τη δημοφιλή

Χάρρυ Πόττερ

ζευγάρια μαθητών, επομένως δεν είναι σαφές ότι υπάρχει ένας συνεπής κανόνας και εδώ.

Και το συναρπαστικό είναι ότι τίποτα από αυτά δεν φαίνεται να συμβαίνει στην πληρωμένη μόνο έκδοση του ChatGPT. Έστειλα

email

στο OpenAI για να ρωτήσω για τα φαινομενικά απαγορευμένα ονόματα πλοίων και η εκπρόσωπος Taya Christianson μου πρότεινε να τα δοκιμάσω στην έκδοση GPT-4 της υπηρεσίας, λέγοντας ότι θα έπρεπε να έχω “καλύτερα αποτελέσματα”. Πράγματι, το GPT-4 δεν έχει ακόμη αρνηθεί να μου ζητήσει να χρησιμοποιήσω τις λέξεις-κλειδιά που φαίνεται να αντιπαθούν το GPT-3.5.

Το OpenAI αρνήθηκε να συζητήσει στο αρχείο γιατί μπορεί να συμβαίνει αυτό και εάν οι ήπιες απαγορεύσεις στο GPT-3.5 ήταν εσκεμμένες. Με βάση τη χρήση από τη σύνοψη όρων όπως “δεν επιτρέπεται”, φαίνεται σίγουρα ότι αντιμετωπίζω μια απαγόρευση, όχι μια απλή αγνοία με το θέμα. (Έδωσα στο ChatGPT portmanteaus με το οποίο σαφώς δεν ήταν εξοικειωμένο και δημιουργούσε ιστορίες για αρχικούς χαρακτήρες με δυσκίνητα ονόματα όπως “

Soapghost

.”) Εάν αυτό είναι ακριβές, δεν είναι ξεκάθαρο εάν πρόκειται για κάτι που έθεσαν ειδικά οι δημιουργοί του ChatGPT ή για μια καθαρά αυτοματοποιημένη απόφαση μέσα στο σύστημα. Τα εργαλεία εποπτείας του αναδύουν κόκκινες σημαίες όταν μια προτροπή είναι πιθανό να δημιουργήσει κάτι που

παραβιάζει τις οδηγίες

συμπεριλαμβανομένου του ερωτικού περιεχομένου — έτσι μπορεί να έπεσα κατά λάθος στα ζεύγη που το μοντέλο γλώσσας GPT-3.5 συνδέει πιο έντονα με σέξι αποτελέσματα.

Πολλοί θαυμαστές συγγραφείς

μισούν τα εργαλεία τεχνητής νοημοσύνης που δημιουργούνται

, παρόλο που κάποιοι έχουν συρρέει σε chatbots όπως το Character.AI, έτσι αμφιβάλλω ότι πολλοί θα πάρουν τα όπλα τους για το ChatGPT που επιβάλλει φραγμούς στη γραφή fanfic. Αντίθετα, είναι απλώς ένα μικρό, ενδιαφέρον παράδειγμα του τι μαύρα κουτιά μπορεί να είναι αυτά τα συστήματα. Αν

εσύ


κάνω

Σκεφτείτε τη γενετική τεχνητή νοημοσύνη ως δημιουργικό εργαλείο, είναι μια καλή υπενθύμιση ότι τα συστήματα είναι αθόρυβα περιορισμένα με τρόπους που δεν είναι ο ανθρώπινος νους μας — και ότι μέχρι να φτάσετε αυτά τα όρια, μερικά είναι σχεδόν αδύνατο να προβλεφθούν.