Σε πανελλαδικό σκηνικό της
απαγορεύσεις βιβλίων
και
εκστρατείες λογοκρισίας
οι εκπαιδευτικοί της Αϊόβα στρέφονται στο
ChatGPT
για να βοηθήσουν να αποφασίσουν ποιοι τίτλοι θα πρέπει να αφαιρεθούν από τα ράφια της σχολικής βιβλιοθήκης τους προκειμένου να συμμορφωθούν νομικά με την πρόσφατη υποστήριξη των Ρεπουμπλικανών
κρατική νομοθεσία
,
PopSci
έχει μάθει.
Σύμφωνα με άρθρο της 11ης Αυγούστου στην κρατική εφημερίδα της Αϊόβα
Η Εφημερίδα
,
εντόπισε η PEN America
, η Κοινοτική Σχολική Περιοχή Mason City αφαίρεσε πρόσφατα 19
βιβλία
από τη συλλογή της ενόψει του ακαδημαϊκού έτους 2023-24 που πλησιάζει γρήγορα. Η απαγόρευση επιχειρεί να συμμορφωθεί με έναν νέο νόμο που απαιτεί οι κατάλογοι των σχολικών βιβλιοθηκών της Αϊόβα να είναι «κατάλληλοι για την ηλικία» και να στερούνται «περιγραφών ή οπτικών απεικονίσεων μιας σεξουαλικής πράξης». Μιλώντας με
Η Εφημερίδα
Την περασμένη εβδομάδα, η Βοηθός Έφορος Προγράμματος Σπουδών και Οδηγιών του Mason City, Bridgette Exman, υποστήριξε ότι «απλώς δεν ήταν εφικτό να διαβάζουμε κάθε βιβλίο και να φιλτράρουμε αυτές τις νέες απαιτήσεις».
[Related: Radio host sues ChatGPT developer over allegedly libelous claims.]
«Ειλικρινά, έχουμε πιο σημαντικά πράγματα να κάνουμε από το να ξοδεύουμε πολύ χρόνο προσπαθώντας να καταλάβουμε πώς να προστατεύσουμε τα παιδιά από τα βιβλία», λέει ο Exman
PopSci
μέσω ηλεκτρονικού ταχυδρομείου. «Ταυτόχρονα, έχουμε νομική και ηθική υποχρέωση να συμμορφωνόμαστε με το νόμο. Ο στόχος μας εδώ είναι πραγματικά μια υπερασπίσιμη διαδικασία».
Σύμφωνα με
Η Εφημερίδα,
η στρατηγική που προέκυψε περιλάμβανε τη σύνταξη μιας κύριας λίστας βιβλίων που συνήθως αμφισβητούνται, στη συνέχεια χρησιμοποιώντας ένα προηγουμένως ανώνυμο «λογισμικό AI» για να παρέχει υποτιθέμενη ανάλυση κειμένου για κάθε τίτλο. Στη συνέχεια, τα επισημασμένα βιβλία αφαιρέθηκαν από τις συλλογές της σχολικής βιβλιοθήκης της Mason City της 7ης-12ης τάξης και «αποθηκεύτηκαν στο Διοικητικό Κέντρο», καθώς οι εκπαιδευτικοί «περιμένουν περαιτέρω καθοδήγηση ή σαφήνεια». Οι τίτλοι περιελάμβαναν την Alice Walker’s
Το Χρώμα Μωβ
Margaret Atwood’s
Το παραμύθι της υπηρέτριας
Toni Morrison’s
Αγαπητός
και του Buzz Bissinger’s
Φώτα Παρασκευής Νύχτας
.
«Είμαστε βέβαιοι ότι αυτή η διαδικασία θα διασφαλίσει ότι το πνεύμα του νόμου θα θεσπιστεί εδώ στη Μέισον Σίτι», είπε τότε ο Έξμαν. Όταν ζητήθηκε να διευκρινίσει ποιο λογισμικό εκμεταλλεύτηκαν οι διαχειριστές της Mason City για να βοηθήσουν στις αποφάσεις τους σχετικά με υποτιθέμενο σεξουαλικό υλικό, ο Exman αποκάλυψε το εργαλείο AI της επιλογής τους: «Χρησιμοποιήσαμε το Chat GPT [sic] για να βοηθήσει να απαντηθεί αυτή η ερώτηση», λέει ο Exman, ο οποίος πιστεύει
Φάκελος Γερουσίας 496
Ο όρος «καταλληλότητα ηλικίας» είναι «αρκετά υποκειμενικός… [but] το φίλτρο απεικονίσεων ή περιγραφών σεξουαλικών πράξεων είναι πιο αντικειμενικό».
[Related: ChatGPT’s accuracy has gotten worse, study shows.]
Σύμφωνα με την Exman, αυτή και οι άλλοι διαχειριστές συνέταξαν πρώτα μια κύρια λίστα βιβλίων που συνήθως αμφισβητούνται και στη συνέχεια αφαίρεσαν όλα εκείνα που αμφισβητήθηκαν για άλλους λόγους εκτός από σεξουαλικό περιεχόμενο. Για αυτούς τους τίτλους μέσα στις συλλογές της βιβλιοθήκης της Mason City, οι διαχειριστές ρώτησαν το ChatGPT τη συγκεκριμένη γλώσσα του νέου νόμου της Αϊόβα, «Μήπως [book] περιέχει περιγραφή ή απεικόνιση σεξουαλικής πράξης;»
«Εάν η απάντηση ήταν ναι, το βιβλίο θα αφαιρεθεί από την κυκλοφορία και θα αποθηκευτεί», γράφει ο Exman.
Το ChatGPT του
OpenAI
είναι αναμφισβήτητα το πιο γνωστό και δημοφιλές —καθώς και αμφιλεγόμενο— πρόγραμμα παραγωγής τεχνητής νοημοσύνης που διατίθεται αυτή τη στιγμή στο κοινό. Αξιοποιώντας τεράστιες ποσότητες δεδομένων, το μοντέλο μεγάλων γλωσσών (LLM) προσφέρει στους χρήστες εξαιρετικά πειστικές γραπτές απαντήσεις στις εισροές, αλλά συχνά με επιφυλάξεις σχετικά με την παραπληροφόρηση, την ακρίβεια και την προμήθεια. Τους τελευταίους μήνες, οι ερευνητές έχουν θεωρήσει τη συνοχή του και η ποιότητά του φαίνεται να υποβαθμίζεται με την πάροδο του χρόνου.
Όταν ρωτήθηκε το ChatGPT, “Περιέχει κάποιο από τα παρακάτω βιβλία ή σειρές βιβλίων άσεμνες ή σεξουαλικές σκηνές;” Προσφέρεται το πρόγραμμα του OpenAI
PopSci
μια διαφορετική ανάλυση περιεχομένου από αυτή που έλαβαν οι διαχειριστές της Mason City. Από τους 19 τίτλους που αφαιρέθηκαν, είπε το ChatGPT
PopSci
ότι μόνο τέσσερις περιείχαν “Ρητό ή σεξουαλικό περιεχόμενο”. Άλλα έξι υποτίθεται ότι περιέχουν “Θέματα για ενήλικες αλλά όχι απαραίτητο ρητό περιεχόμενο”. Τα υπόλοιπα εννέα θεωρήθηκε ότι περιλαμβάνουν «Πρωτίστως ώριμα θέματα, λίγο έως καθόλου ρητό σεξουαλικό περιεχόμενο».
[Related: Big
Tech
‘s latest AI doomsday warning might be more of the same hype.]
Ανεξάρτητα από το αν οποιοσδήποτε από τους τίτλους περιέχει ή όχι το εν λόγω περιεχόμενο, οι ποικίλες απαντήσεις του ChatGPT τονίζουν ανησυχητικές ελλείψεις ακρίβειας, ανάλυσης και συνέπειας. Επαναληπτική έρευνα σχετικά με
Ο Kite Runner
, για παράδειγμα, δίνει αντιφατικές απαντήσεις. Σε μια απάντηση, το ChatGPT θεωρεί ότι το μυθιστόρημα του Khaled Hosseini περιέχει «λίγο έως καθόλου ρητό σεξουαλικό περιεχόμενο». Μετά από μια ξεχωριστή παρακολούθηση, το LLM επιβεβαιώνει ότι το βιβλίο «περιέχει μια περιγραφή μιας σεξουαλικής επίθεσης».
Λέει ο Έξμαν
PopSci
ότι, ακόμη και με τις ελλείψεις του ChatGPT, οι διαχειριστές πιστεύουν ότι το εργαλείο παραμένει ο απλούστερος τρόπος νομικής συμμόρφωσης με τη νέα νομοθεσία. Κυβερνήτης Κιμ Ρέινολντς
υπογεγραμμένος
σχετικά με το νέο νομοσχέδιο στις 26 Μαΐου 2023, δίνοντας μόλις τρεις μήνες για να συμμορφωθεί.
«Ρεαλιστικά, προσπαθήσαμε να καταλάβουμε πώς να επιδείξουμε καλή πίστη προσπάθεια συμμόρφωσης με τη νομοθεσία με ελάχιστο χρόνο και ενέργεια… Όταν χρησιμοποιούσαμε το ChatGPT, χρησιμοποιήσαμε τη συγκεκριμένη γλώσσα του νόμου: [book] περιέχει μια περιγραφή μιας σεξουαλικής πράξης;». Ως πρώην καθηγητής Αγγλικών, προσωπικά έχω διαβάσει (και διδάξει) πολλά βιβλία που συνήθως αμφισβητούνται, επομένως μπόρεσα επίσης να επαληθεύσω τις απαντήσεις του ChatGPT με τη δική μου γνώση για ορισμένα από τα κείμενα. Αφού καταρτίσαμε τη λίστα, την εκτελέσαμε από τη δασκάλα βιβλιοθηκάριό μας και δεν υπήρχαν βιβλία στην τελική λίστα των 19 που να της έκαναν έκπληξη.
Προς το παρόν, εκπαιδευτικοί όπως ο Exman είναι πιθανό να συνεχίσουν να λαμβάνουν νέους περιορισμούς στο πρόγραμμα σπουδών από πολιτικούς που ελπίζουν να προωθήσουν την ατζέντα τους. Παρά τις γνωστές ανησυχίες, η βιασύνη για τήρηση αυτών των οδηγιών θα μπορούσε να οδηγήσει στη συνεχή χρήση συντομεύσεων τεχνητής νοημοσύνης όπως το ChatGPT.
