Το Generative AI είναι το νεότερο εργαλείο στο Εγχειρίδιο του Δικτάτορα

Όταν οι διαδηλώσεις στο Πακιστάν κλιμακώθηκαν νωρίτερα φέτος


συγκρούσεις μεταξύ φιλοκυβερνητικών δυνάμεων και υποστηρικτών του πρώην πρωθυπουργού Ίμραν Χαν


, ο φυλακισμένος πλέον ηγέτης στράφηκε στα μέσα κοινωνικής δικτύωσης για να ενισχύσει το μήνυμά του. Ο Khan το μοιράστηκε αυτό


σύντομο βίντεο κλιπ


στο

Twitter

που δείχνει τους υποστηρικτές του να κρατούν πινακίδες με το πρόσωπό του πάνω τους και να φωνάζουν το όνομά του. Το κλιπ τελειώνει με μια ακίνητη φωτογραφία μιας γυναίκας με πορτοκαλί φόρεμα που στέκεται τολμηρά πρόσωπο με πρόσωπο με μια σειρά από βαριά τεθωρακισμένα ΜΑΤ.

«Αυτό που δεν θα ξεχαστεί ποτέ είναι η βαρβαρότητα των δυνάμεων ασφαλείας μας και ο ξεδιάντροπος τρόπος με τον οποίο προσπάθησαν να κακοποιήσουν, να πληγώσουν και να εξευτελίσουν τις γυναίκες μας», έγραψε ο Χαν στο Twitter. Το μόνο πρόβλημα: Η εικόνα που δείχνει τη γυναίκα να στέκεται γενναία μπροστά στην αστυνομία δεν ήταν αληθινή. Δημιουργήθηκε χρησιμοποιώντας ένα από

πολλές νέες γεννήτριες εικόνων AI

.

Ο Khan δεν είναι ο μόνος πολιτικός ηγέτης που στρέφεται

Deepfakes AI, για πολιτικό όφελος

. Μια νέα έκθεση από το Freedom House που κοινοποιήθηκε στο Gizmodo διαπίστωσε ότι πολιτικοί ηγέτες σε τουλάχιστον 16 χώρες τον περασμένο χρόνο έχουν χρησιμοποιήσει βαθιά ψεύτικα για να «σπείρουν αμφιβολίες, να δυσφημήσουν τους αντιπάλους ή να επηρεάσουν τη δημόσια συζήτηση». Αν και μια χούφτα από αυτά τα παραδείγματα εμφανίστηκαν σε λιγότερο ανεπτυγμένες χώρες στην Υποσαχάρια Αφρική και τη Νοτιοδυτική

Ασία

, τουλάχιστον δύο προέρχονται από τις Ηνωμένες Πολιτείες.

Τόσο ο πρώην Πρόεδρος

Ντόνα

λντ Τραμπ όσο και ο Κυβερνήτης της Φλόριντα Ρον Ντε Σάντις έχουν χρησιμοποιήσει ψεύτικα βίντεο και ήχο για να προσπαθήσουν να συκοφαντούν ο ένας τον άλλον ενόψει της επερχόμενης προεδρικής υποψηφιότητας των Ρεπουμπλικάνων. Στην περίπτωση του Τραμπ, χρησιμοποίησε ψεύτικη μίμηση ήχου

Ο Τζορτζ Σόρος, ο Αδόλφος Χίτλερ και ο ίδιος ο Διάβολος για να κοροϊδεύουν τον ΝτεΣάντις

ασταθής ανακοίνωση καμπάνιας στο Twitter Spaces. Ο DeSantis απάντησε με βαθιά ψεύτικες εικόνες που υποτίθεται ότι δείχνουν τον Τραμπ


αγκαλιάζοντας


πρώην διευθυντής του Εθνικού Ινστιτούτου Υγείας, Anthony Fauci. Το να δείχνεις καλοσύνη στον Fauci στο σημερινό GOP ισοδυναμεί με πολιτική αυτοκτονία.

«Η τεχνητή νοημοσύνη μπορεί να χρησιμεύσει ως ενισχυτής ψηφιακής καταστολής, κάνοντας τη λογοκρισία, την παρακολούθηση και τη δημιουργία και διάδοση παραπληροφόρησης ευκολότερη, ταχύτερη, φθηνότερη και πιο αποτελεσματική», σημείωσε η Freedom House στην έκθεσή της «Freedom on the Net».

Η έκθεση περιγράφει πολλούς προβληματικούς τρόπους με τους οποίους χρησιμοποιούνται εργαλεία τεχνητής νοημοσύνης για την ενίσχυση της πολιτικής καταστολής σε όλο τον κόσμο. Οι κυβερνήσεις σε τουλάχιστον 22 από τις 70 χώρες που αναλύθηκαν στην έκθεση διέθεταν νομικά πλαίσια που απαιτούσαν από τις εταιρείες μέσων κοινωνικής δικτύωσης να αναπτύσσουν τεχνητή νοημοσύνη για να κυνηγήσουν και να αφαιρέσουν τον δυσμενή πολιτικό, κοινωνικό και θρησκευτικό λόγο. Αυτά τα πλαίσια υπερβαίνουν τις τυπικές πολιτικές ελέγχου περιεχομένου σε μεγάλες τεχνολογικές πλατφόρμες. Σε αυτές τις χώρες, η Freedom House υποστηρίζει ότι οι ισχύοντες νόμοι υποχρεώνουν τις εταιρείες να αφαιρούν πολιτικό, κοινωνικό ή θρησκευτικό περιεχόμενο που «πρέπει να προστατεύεται σύμφωνα με τα πρότυπα ελεύθερης έκφρασης στο πλαίσιο των διεθνών νόμων για τα ανθρώπινα δικαιώματα». Εκτός από την αύξηση της αποτελεσματικότητας της λογοκρισίας, η χρήση της τεχνητής νοημοσύνης για την αφαίρεση πολιτικού περιεχομένου παρέχει επίσης στο κράτος περισσότερη κάλυψη για να κρυφτεί.

«Αυτή η χρήση της τεχνητής νοημοσύνης καλύπτει επίσης τον ρόλο του κράτους στη λογοκρισία και μπορεί να διευκολύνει το δίλημμα του λεγόμενου ψηφιακού δικτάτορα, στο οποίο οι αντιδημοκρατικοί ηγέτες πρέπει να σταθμίσουν τα οφέλη της επιβολής διαδικτυακών ελέγχων έναντι του κόστους του

δημόσιο

υ θυμού σε τέτοιους περιορισμούς», η έκθεση. προσθέτει.

Σε άλλες περιπτώσεις, κρατικοί φορείς φέρονται να στρέφονται σε ιδιωτικές εταιρείες «AI για ενοικίαση» που ειδικεύονται στη δημιουργία προπαγάνδας που δημιουργείται από την τεχνητή νοημοσύνη που έχει σκοπό να μιμηθεί πραγματικούς παρουσιαστές ειδήσεων. Οι κρατικοί σταθμοί ειδήσεων στη Βενεζουέλα, για παράδειγμα, άρχισαν να μοιράζονται περίεργα βίντεο κυρίως λευκών, αγγλόφωνων παρουσιαστών ειδήσεων που αντικρούουν τις δυτικές επικρίσεις για τη χώρα. Αυτά τα περίεργα

ηχεία

ήταν στην πραγματικότητα


Άβαταρ που δημιουργήθηκαν από AI και δημιουργήθηκαν από μια εταιρεία που ονομάζεται Synthesia


. Οι λογαριασμοί ρομπότ της κυβέρνησης υπέρ της Κίνας μοιράστηκαν παρόμοια κλιπ από παρουσιαστές ειδήσεων που δημιουργήθηκαν από την τεχνητή νοημοσύνη στα μέσα κοινωνικής δικτύωσης, αυτή τη φορά φαίνεται να αποκρούουν τους επικριτές. Τα avatar της τεχνητής νοημοσύνης υπέρ της Κίνας ήταν μέρος ενός εξ ολοκλήρου


κατασκευασμένο τμήμα ειδήσεων AI που υποτίθεται ότι ονομάζεται “Wolf News”.

Οι ερευνητές του Freedom House βλέπουν αυτές τις καινοτόμες προσπάθειες δημιουργίας deepfake εκπομπών ειδήσεων ως μια τεχνική και τακτική εξέλιξη των κυβερνήσεων που αναγκάζουν ή πληρώνουν τους ειδησεογραφικούς σταθμούς να προωθήσουν την προπαγάνδα.

«Αυτές οι χρήσεις των deepfakes είναι συνεπείς με τους τρόπους με τους οποίους αδίστακτοι πολιτικοί παράγοντες χρησιμοποιούν εδώ και καιρό παραποιημένο περιεχόμενο ειδήσεων και ρομπότ κοινωνικής δικτύωσης για να διαδώσουν ψευδείς ή παραπλανητικές πληροφορίες», σημειώνει η έκθεση.

Ίσως το πιο ανησυχητικό από όλα, η έκθεση του Freedom House δείχνει μια άνοδο

πολιτικοί παράγοντες που αποκαλούν βίντεο και ήχους deepfakes που είναι στην πραγματικότητα αυθεντικά

. Σε ένα παράδειγμα, ένας εξέχων κρατικός αξιωματούχος στην Ινδία ονόματι Palanivel Thiagarajan φέρεται να προσπάθησε να παραμερίσει τον ήχο που διέρρευσε που υποτιμούσε τους συναδέλφους του ισχυριζόμενος ότι είχε δημιουργηθεί από AI. Ήταν αληθινό. Οι ερευνητές πιστεύουν ότι μια εσφαλμένη υπόθεση ότι ένα βίντεο του πρώην προέδρου της Γκαμπόν Αλί Μπόνγκο ήταν πλαστό μπορεί να έχει

βοήθησε να πυροδοτήσει μια πολιτική εξέγερση

.

Αν και η πλειονότητα των προσπαθειών πολιτικής χειραγώγησης και παραπληροφόρησης που ανακαλύφθηκαν από το Freedom House τον περασμένο χρόνο εξακολουθούν να βασίζονται κυρίως στην ανάπτυξη χαμηλότερης τεχνολογίας ρομπότ και πληρωμένων τρολ, αυτή η εξίσωση θα μπορούσε να αναστραφεί καθώς τα εργαλεία παραγωγής τεχνητής νοημοσύνης συνεχίζουν να γίνονται πιο πειστικά και να πέφτουν οι τιμές. Ακόμη και η κάπως μη πειστική ή εύκολα διαψεύσιμη χειραγώγηση της τεχνητής νοημοσύνης, υποστηρίζει το Freedom House, εξακολουθεί να «υπονομεύει την εμπιστοσύνη του κοινού στη δημοκρατική διαδικασία».

«Αυτό είναι ένα κρίσιμο ζήτημα για την εποχή μας, καθώς τα ανθρώπινα δικαιώματα στο Διαδίκτυο αποτελούν βασικό στόχο των σημερινών αυταρχών», δήλωσε ο πρόεδρος του Freedom House, Michael J. Abramowitz. «Τα δημοκρατικά κράτη θα πρέπει να ενισχύσουν τους κανονισμούς τους για την τεχνητή νοημοσύνη για να προσφέρουν περισσότερη διαφάνεια, να παρέχουν αποτελεσματικούς μηχανισμούς εποπτείας και να δώσουν προτεραιότητα στην προστασία των ανθρωπίνων δικαιωμάτων».