Πώς η τεχνητή νοημοσύνη θα μπορούσε να αναλάβει τις εκλογές και να υπονομεύσει τη δημοκρατία

Θα μπορούσαν οι οργανισμοί να χρησιμοποιήσουν μοντέλα γλώσσας τεχνητής νοημοσύνης όπως το

ChatGPT

για να παρακινήσουν τους ψηφοφόρους να συμπεριφέρονται με συγκεκριμένους τρόπους;

Ο γερουσιαστής Josh Hawley έκανε αυτή την ερώτηση στον Διευθύνοντα Σύμβουλο του

OpenAI

Sam Altman σε ένα


16 Μαΐου 2023, ακρόαση στη Γερουσία των ΗΠΑ


στην τεχνητή νοημοσύνη. Ο Άλτμαν απάντησε ότι πράγματι ανησυχούσε ότι κάποιοι άνθρωποι μπορεί να χρησιμοποιήσουν γλωσσικά μοντέλα για να χειραγωγήσουν, να πείσουν και να συμμετάσχουν σε αλληλεπιδράσεις ένας προς έναν με τους ψηφοφόρους.

Ο Άλτμαν δεν έδωσε περισσότερες λεπτομέρειες, αλλά μπορεί να είχε κάτι σαν αυτό το σενάριο στο μυαλό του. Φανταστείτε ότι σύντομα, οι πολιτικοί τεχνολόγοι θα αναπτύξουν μια μηχανή που ονομάζεται Clogger – μια πολιτική εκστρατεία σε ένα μαύρο κουτί. Το Clogger επιδιώκει αδυσώπητα έναν μόνο στόχο: να μεγιστοποιήσει τις πιθανότητες να επικρατήσει ο υποψήφιος – η εκστρατεία που αγοράζει τις υπηρεσίες της Clogger Inc. – σε εκλογές.

Ενώ πλατφόρμες όπως το

Facebook

, το

Twitter

και το YouTube χρησιμοποιούν μορφές τεχνητής νοημοσύνης για να προσελκύσουν τους χρήστες


περνώ περισσότερο χρόνο


στους ιστότοπούς τους, η τεχνητή νοημοσύνη του Clogger θα είχε έναν διαφορετικό στόχο: να αλλάξει την εκλογική συμπεριφορά των ανθρώπων.

Πώς θα λειτουργούσε ο Clogger

Σαν


πολιτικός επιστήμονας


και ένα


νομικός μελετητής


που μελετούν τη διασταύρωση τεχνολογίας και δημοκρατίας, πιστεύουμε ότι κάτι σαν το Clogger θα μπορούσε να χρησιμοποιήσει την αυτοματοποίηση για να αυξήσει δραματικά την κλίμακα και ενδεχομένως την αποτελεσματικότητα του


τεχνικές χειραγώγησης συμπεριφοράς και μικροστόχευσης


που χρησιμοποιούσαν οι πολιτικές εκστρατείες από τις αρχές της δεκαετίας του 2000. Απλα οπως


οι διαφημιστές χρησιμοποιούν το ιστορικό περιήγησής σας και τα μέσα κοινωνικής δικτύωσης


για να στοχεύσετε μεμονωμένα εμπορικές και πολιτικές διαφημίσεις τώρα, το Clogger θα έδινε προσοχή σε εσάς – και σε εκατοντάδες εκατομμύρια άλλους ψηφοφόρους – μεμονωμένα.

Θα προσφέρει τρεις προόδους σε σχέση με τον τρέχοντα χειρισμό αλγοριθμικής συμπεριφοράς τελευταίας τεχνολογίας. Πρώτον, το γλωσσικό μοντέλο του θα δημιουργούσε μηνύματα —κείμενα, μέσα κοινωνικής δικτύωσης και email, ίσως συμπεριλαμβανομένων εικόνων και βίντεο— προσαρμοσμένα σε εσάς προσωπικά. Ενώ οι διαφημιστές τοποθετούν στρατηγικά έναν σχετικά μικρό αριθμό διαφημίσεων, τα μοντέλα γλώσσας όπως το ChatGPT μπορούν να δημιουργήσουν αμέτρητα μοναδικά μηνύματα για εσάς προσωπικά –και εκατομμύρια για άλλους– κατά τη διάρκεια μιας καμπάνιας.

Δεύτερον, ο Clogger θα χρησιμοποιούσε μια τεχνική που ονομάζεται


ενισχυτική μάθηση


για να δημιουργήσετε μια σειρά από μηνύματα που γίνονται όλο και πιο πιθανό να αλλάξουν την ψήφο σας. Η ενισχυτική μάθηση είναι μια προσέγγιση μηχανικής μάθησης, δοκιμής και λάθους, στην οποία ο υπολογιστής αναλαμβάνει ενέργειες και λαμβάνει ανατροφοδότηση σχετικά με το ποια λειτουργούν καλύτερα προκειμένου να μάθει πώς να επιτύχει έναν στόχο. Μηχανήματα που μπορούν να παίξουν Go, Chess και πολλά βιντεοπαιχνίδια


καλύτερα από κάθε άνθρωπο


έχουν χρησιμοποιήσει την ενισχυτική μάθηση.

Πώς λειτουργεί η ενισχυτική μάθηση.

Τρίτον, κατά τη διάρκεια μιας καμπάνιας, τα μηνύματα του Clogger θα μπορούσαν να εξελιχθούν προκειμένου να ληφθούν υπόψη οι απαντήσεις σας στις προηγούμενες αποστολές του μηχανήματος και τι έχει μάθει για την αλλαγή γνώμης των άλλων. Ο Clogger θα μπορούσε να συνεχίσει δυναμικές «συνομιλίες» με εσάς – και με εκατομμύρια άλλους ανθρώπους – με την πάροδο του χρόνου. Τα μηνύματα του Clogger θα ήταν παρόμοια με


διαφημίσεις που σας ακολουθούν


σε διαφορετικούς ιστότοπους και μέσα κοινωνικής δικτύωσης.

Η φύση του AI

Τρία ακόμη χαρακτηριστικά – ή σφάλματα – αξίζει να σημειωθούν.

Πρώτον, τα μηνύματα που στέλνει ο Clogger μπορεί να είναι ή να μην έχουν πολιτικό περιεχόμενο. Ο μόνος στόχος του μηχανήματος είναι να μεγιστοποιήσει το μερίδιο ψήφων και πιθανότατα θα επινόησε στρατηγικές για την επίτευξη αυτού του στόχου που κανένας άνθρωπος δεν θα είχε σκεφτεί.

Μια πιθανότητα είναι η αποστολή πιθανών αντιπάλων ψηφοφόρων σχετικά με μη πολιτικά πάθη που έχουν στον αθλητισμό ή την ψυχαγωγία για να θάψουν τα πολιτικά μηνύματα που λαμβάνουν. Μια άλλη δυνατότητα είναι η αποστολή άστοχων μηνυμάτων – για παράδειγμα διαφημίσεων για την ακράτεια – με χρονική στιγμή να συμπίπτουν με τα μηνύματα των αντιπάλων. Και ένα άλλο χειραγωγεί τις ομάδες φίλων των ψηφοφόρων στα μέσα κοινωνικής δικτύωσης για να δώσει την αίσθηση ότι οι κοινωνικοί τους κύκλοι υποστηρίζουν τον υποψήφιο του.

Δεύτερον, ο Clogger δεν σέβεται την αλήθεια. Πράγματι, δεν έχει κανέναν τρόπο να γνωρίζει τι είναι αληθινό ή ψευδές.


Γλωσσικό μοντέλο «ψευδαισθήσεις»


δεν αποτελούν πρόβλημα για αυτό το μηχάνημα γιατί στόχος του είναι να αλλάξει την ψήφο σας και όχι να παρέχει ακριβείς πληροφορίες.

Τρίτον, επειδή είναι α


τύπος μαύρου κουτιού τεχνητής νοημοσύνης


οι άνθρωποι δεν θα είχαν τρόπο να γνωρίζουν ποιες στρατηγικές χρησιμοποιεί.

Το πεδίο της εξηγήσιμης τεχνητής νοημοσύνης στοχεύει να ανοίξει το μαύρο κουτί πολλών μοντέλων μηχανικής μάθησης, ώστε οι άνθρωποι να μπορούν να κατανοήσουν πώς λειτουργούν.

Κλογοκρατία

Εάν η προεδρική εκστρατεία των Ρεπουμπλικάνων επρόκειτο να αναπτύξει τον Clogger το 2024, η εκστρατεία των Δημοκρατικών θα αναγκαζόταν πιθανότατα να απαντήσει με το ίδιο είδος, ίσως με μια παρόμοια μηχανή. Πείτε το Dogger. Εάν οι διαχειριστές της καμπάνιας πίστευαν ότι αυτά τα μηχανήματα ήταν αποτελεσματικά, ο προεδρικός διαγωνισμός θα μπορούσε κάλλιστα να καταλήξει στο Clogger εναντίον του Dogger και ο νικητής θα ήταν ο πελάτης της πιο αποτελεσματικής μηχανής.

Οι πολιτικοί επιστήμονες και οι ειδικοί θα είχαν πολλά να πουν για το γιατί επικράτησε η μία ή η άλλη τεχνητή νοημοσύνη, αλλά πιθανότατα κανείς δεν θα γνώριζε πραγματικά. Ο πρόεδρος θα έχει εκλεγεί όχι επειδή οι πολιτικές του προτάσεις ή οι πολιτικές ιδέες του έπεισαν περισσότερους Αμερικανούς, αλλά επειδή είχε την πιο αποτελεσματική τεχνητή νοημοσύνη. Το περιεχόμενο που κέρδισε την ημέρα θα προερχόταν από μια τεχνητή νοημοσύνη επικεντρωμένη αποκλειστικά στη νίκη, χωρίς δικές της πολιτικές ιδέες, παρά από υποψηφίους ή κόμματα.

Υπό αυτή την πολύ σημαντική έννοια, μια μηχανή θα είχε κερδίσει τις εκλογές και όχι ένα άτομο. Οι εκλογές δεν θα ήταν πλέον δημοκρατικές, παρόλο που όλες οι συνήθεις δραστηριότητες της δημοκρατίας –οι ομιλίες, οι διαφημίσεις, τα μηνύματα, η ψηφοφορία και η καταμέτρηση των ψήφων– θα έχουν πραγματοποιηθεί.

Ο εκλεγμένος πρόεδρος της AI θα μπορούσε στη συνέχεια να ακολουθήσει έναν από τους δύο τρόπους. Θα μπορούσε να χρησιμοποιήσει τον μανδύα των εκλογών για να ακολουθήσει πολιτικές Ρεπουμπλικανικού ή Δημοκρατικού κόμματος. Αλλά επειδή οι ιδέες του κόμματος μπορεί να είχαν ελάχιστη σχέση με το γιατί οι άνθρωποι ψήφισαν με τον τρόπο που ψήφισαν – ο Clogger και ο Dogger δεν ενδιαφέρονται για τις πολιτικές απόψεις – οι ενέργειες του προέδρου δεν θα αντικατοπτρίζουν απαραίτητα τη βούληση των ψηφοφόρων. Οι ψηφοφόροι θα είχαν χειραγωγηθεί από την AI αντί να επιλέγουν ελεύθερα τους πολιτικούς ηγέτες και τις πολιτικές τους.

Ένας άλλος δρόμος είναι ο πρόεδρος να ακολουθήσει τα μηνύματα, τις συμπεριφορές και τις πολιτικές που η μηχανή προβλέπει ότι θα μεγιστοποιήσουν τις πιθανότητες επανεκλογής. Σε αυτό το μονοπάτι, ο πρόεδρος δεν θα είχε καμία συγκεκριμένη πλατφόρμα ή ατζέντα πέρα ​​από τη διατήρηση της εξουσίας. Οι ενέργειες του προέδρου, καθοδηγούμενες από τον Clogger, θα ήταν αυτές που είναι πιο πιθανό να χειραγωγήσουν τους ψηφοφόρους αντί να εξυπηρετήσουν τα γνήσια συμφέροντά τους ή ακόμα και την ιδεολογία του ίδιου του προέδρου.

Αποφυγή της κλογοκρατίας

Θα ήταν δυνατό να αποφευχθεί η εκλογική χειραγώγηση της τεχνητής νοημοσύνης εάν οι υποψήφιοι, οι εκστρατείες και οι σύμβουλοι αρνούνταν τη χρήση αυτής της πολιτικής ΤΝ. Πιστεύουμε ότι είναι απίθανο. Εάν αναπτύχθηκαν πολιτικά αποτελεσματικά μαύρα κουτιά, ο πειρασμός να τα χρησιμοποιήσει θα ήταν σχεδόν ακαταμάχητος. Πράγματι, οι πολιτικοί σύμβουλοι μπορεί κάλλιστα να δουν ότι χρησιμοποιούν αυτά τα εργαλεία όπως απαιτείται από την επαγγελματική τους ευθύνη για να βοηθήσουν τους υποψηφίους τους να κερδίσουν. Και από τη στιγμή που ένας υποψήφιος χρησιμοποιεί ένα τόσο αποτελεσματικό εργαλείο, οι αντίπαλοι δύσκολα αναμένεται να αντισταθούν αφοπλίζοντας μονομερώς.

Βελτιωμένη προστασία απορρήτου


θα βοηθούσε


. Το Clogger θα εξαρτιόταν από την πρόσβαση σε τεράστιες ποσότητες προσωπικών δεδομένων προκειμένου να στοχεύσει άτομα, να δημιουργήσει μηνύματα προσαρμοσμένα για να τα πείσει ή να τα χειραγωγήσει και να τα παρακολουθήσει και να τα επαναστοχοποιήσει κατά τη διάρκεια μιας καμπάνιας. Κάθε κομμάτι από αυτές τις πληροφορίες που οι εταιρείες ή οι υπεύθυνοι χάραξης πολιτικής αρνούνται το μηχάνημα θα το καθιστούσε λιγότερο αποτελεσματικό.

Οι ισχυροί νόμοι περί απορρήτου δεδομένων θα μπορούσαν να βοηθήσουν στην απομάκρυνση της τεχνητής νοημοσύνης από το να είναι χειριστικό.

Μια άλλη λύση βρίσκεται στις εκλογικές επιτροπές. Θα μπορούσαν να προσπαθήσουν να απαγορεύσουν ή να ρυθμίσουν αυστηρά αυτά τα μηχανήματα. Υπάρχει μια


σφοδρή συζήτηση


για το αν τέτοια


«αντιγραφική» ομιλία


, ακόμη και αν είναι πολιτικής φύσης, μπορεί να ρυθμιστεί. Η ακραία παράδοση ελευθερίας του λόγου των ΗΠΑ


κάνει πολλούς κορυφαίους ακαδημαϊκούς να λένε ότι δεν μπορεί


.

Αλλά δεν υπάρχει λόγος να επεκταθεί αυτόματα η προστασία της Πρώτης Τροποποίησης στο προϊόν αυτών των μηχανών. Το έθνος μπορεί κάλλιστα να επιλέξει να δώσει δικαιώματα στις μηχανές, αλλά αυτή θα πρέπει να είναι μια απόφαση που βασίζεται στις σημερινές προκλήσεις,


όχι η άστοχη υπόθεση


ότι οι απόψεις του Τζέιμς Μάντισον το 1789 προορίζονταν να εφαρμοστούν στην ΑΙ.

Οι ρυθμιστικές αρχές της Ευρωπαϊκής Ένωσης κινούνται προς αυτή την κατεύθυνση. Οι υπεύθυνοι χάραξης πολιτικής αναθεώρησαν το προσχέδιο του Ευρωπαϊκού Κοινοβουλίου για τον νόμο περί τεχνητής νοημοσύνης για να ορίσει «συστήματα τεχνητής νοημοσύνης που επηρεάζουν τους ψηφοφόρους στις εκστρατείες».


ως «υψηλού κινδύνου»


και υπόκειται σε ρυθμιστικό έλεγχο.

Ένα συνταγματικά ασφαλέστερο, αν και μικρότερο, βήμα, που έχει ήδη εγκριθεί εν μέρει από


Ευρωπαϊκές ρυθμιστικές αρχές του Διαδικτύου


και στο


Καλιφόρνια


, είναι να απαγορεύσει στα bots να περνούν τον εαυτό τους ως άνθρωποι. Για παράδειγμα, ο κανονισμός μπορεί να απαιτεί τα μηνύματα της καμπάνιας να συνοδεύονται από δηλώσεις αποποίησης ευθύνης όταν το περιεχόμενο που περιέχουν δημιουργείται από μηχανές και όχι από ανθρώπους.

Αυτό θα ήταν σαν τις απαιτήσεις αποποίησης ευθυνών για τη διαφήμιση – “Πληρωμή από την επιτροπή Sam Jones για το Κογκρέσο” – αλλά τροποποιήθηκε ώστε να αντικατοπτρίζει την προέλευσή της από την τεχνητή νοημοσύνη: “Αυτή η διαφήμιση που δημιουργήθηκε από AI πληρώθηκε από την Επιτροπή Sam Jones για το Κογκρέσο”. Μια ισχυρότερη έκδοση θα μπορούσε να απαιτήσει: “Αυτό το μήνυμα που δημιουργείται από AI σας αποστέλλεται από την Επιτροπή του Σαμ Τζόουνς για το Κογκρέσο, επειδή ο Clogger έχει προβλέψει ότι κάτι τέτοιο θα αυξήσει τις πιθανότητές σας να ψηφίσετε για τον Σαμ Τζόουνς κατά 0,0002%. Τουλάχιστον, πιστεύουμε ότι οι ψηφοφόροι αξίζουν να γνωρίζουν πότε είναι ένα bot που τους μιλάει, και θα πρέπει να ξέρουν επίσης γιατί.

Η δυνατότητα ενός συστήματος όπως το Clogger δείχνει ότι η πορεία προς


ανθρώπινη συλλογική αποδυνάμωση


μπορεί να μην απαιτεί κάποιο υπεράνθρωπο


τεχνητή γενική νοημοσύνη


. Ενδέχεται να απαιτούνται απλώς υπερβολικοί αγωνιστές και σύμβουλοι που διαθέτουν ισχυρά νέα εργαλεία που μπορούν να πατήσουν αποτελεσματικά τα πολλά κουμπιά εκατομμυρίων ανθρώπων.

Θέλετε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, τα chatbots και το μέλλον της μηχανικής μάθησης; Δείτε την πλήρη κάλυψή μας για



τεχνητή νοημοσύνη



ή περιηγηθείτε στους οδηγούς μας



Οι καλύτερες δωρεάν γεννήτριες τέχνης AI



και



Όλα όσα γνωρίζουμε για το ChatGPT του OpenAI



.

Archon Fung




Καθηγητής Ιθαγένειας και Αυτοδιοίκησης,




Σχολή Κένεντι του Χάρβαρντ




και




Λόρενς Λέσιγκ




Καθηγητής Νομικής και Ηγεσίας,




πανεπιστήμιο Χάρβαρντ

Αυτό το άρθρο αναδημοσιεύεται από




Η συζήτηση




με άδεια Creative Commons. Διαβάστε το




πρωτότυπο άρθρο




.