Πώς η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στον εντοπισμό ψεύτικων ειδήσεων αντί να τις κάνει

Οι ψευδείς ειδήσεις είναι ένα περίπλοκο πρόβλημα και μπορούν να καλύπτουν κείμενο, εικόνες και βίντεο.

Ειδικά για γραπτά άρθρα, υπάρχουν διάφοροι τρόποι δημιουργίας ψευδών ειδήσεων. Ένα άρθρο ψευδών ειδήσεων θα μπορούσε να δημιουργηθεί με την επιλεκτική επεξεργασία γεγονότων, συμπεριλαμβανομένων των ονομάτων, των ημερομηνιών ή των στατιστικών. Ένα άρθρο θα μπορούσε επίσης να κατασκευαστεί εντελώς με φτιαχτά γεγονότα ή άτομα.

Τα άρθρα ψευδών ειδήσεων μπορούν επίσης να δημιουργηθούν μηχανικά, καθώς οι εξελίξεις στην τεχνητή νοημοσύνη καθιστούν ιδιαίτερα εύκολη τη δημιουργία παραπληροφόρησης.

Καταστροφικές επιπτώσεις

Ερωτήσεις όπως: «Υπήρξε νοθεία ψηφοφόρων κατά τις εκλογές του 2020 στις ΗΠΑ;» ή “Είναι η κλιματική αλλαγή φάρσα;” μπορεί να ελεγχθεί με την ανάλυση των διαθέσιμων δεδομένων. Αυτές οι ερωτήσεις μπορούν να απαντηθούν με αληθείς ή ψευδείς, αλλά υπάρχει πιθανότητα παραπληροφόρησης σχετικά με ερωτήσεις όπως αυτές.

Η παραπληροφόρηση και η παραπληροφόρηση —ή ψεύτικες ειδήσεις— μπορεί να έχουν


καταστροφικές επιπτώσεις σε μεγάλο αριθμό ανθρώπων σε σύντομο χρονικό διάστημα


. Αν και η έννοια του


Οι ψευδείς ειδήσεις υπήρχαν πολύ πριν από την τεχνολογική πρόοδο


τα μέσα κοινωνικής δικτύωσης έχουν επιδεινώσει το πρόβλημα.

Μια μελέτη Twitter του 2018 το έδειξε αυτό


Οι ψευδείς ειδήσεις αναμεταδίδονταν συχνότερα από ανθρώπους παρά από bots και 70% περισσότερες πιθανότητες να αναγραφούν σε σχέση με τις αληθινές ιστορίες. Η ίδια μελέτη διαπίστωσε ότι χρειάστηκαν αληθινές ιστορίες περίπου έξι φορές περισσότερο για να φτάσει σε μια ομάδα 1.500 ατόμων και, ενώ οι αληθινές ιστορίες σπάνια έφταναν σε περισσότερα από 1.000 άτομα, οι δημοφιλείς ψευδείς ειδήσεις μπορούσαν να διαδοθούν έως και 100.000.

Οι προεδρικές εκλογές των ΗΠΑ του 2020, τα εμβόλια για τον

COVID-19

και η κλιματική αλλαγή έχουν γίνει όλα αντικείμενο εκστρατειών παραπληροφόρησης με σοβαρές συνέπειες. Υπολογίζεται ότι


Η παραπληροφόρηση γύρω από τον COVID-19 κοστίζει μεταξύ 50-300 εκατομμυρίων $ ημερησίως


. Το κόστος της πολιτικής παραπληροφόρησης θα μπορούσε να είναι κοινωνική αναταραχή, βία ή ακόμη και διάβρωση της εμπιστοσύνης του κοινού στους δημοκρατικούς θεσμούς.

Ανίχνευση παραπληροφόρησης

Η ανίχνευση παραπληροφόρησης μπορεί να γίνει με συνδυασμό αλγορίθμων, μοντέλων μηχανικής μάθησης, τεχνητής νοημοσύνης,

και τους ανθρώπους. Ένα σημαντικό ερώτημα είναι ποιος είναι υπεύθυνος για τον έλεγχο, αν όχι για να σταματήσει, τη διάδοση της παραπληροφόρησης μόλις εντοπιστεί. Μόνο οι εταιρείες μέσων κοινωνικής δικτύωσης είναι πραγματικά σε θέση να ασκούν έλεγχο στη διάδοση των πληροφοριών μέσω των δικτύων τους.

Ένα ιδιαίτερα απλό αλλά αποτελεσματικό μέσο δημιουργίας παραπληροφόρησης είναι η επιλεκτική επεξεργασία άρθρων ειδήσεων. Για παράδειγμα, σκεφτείτε «Ο Ουκρανός σκηνοθέτης και θεατρικός συγγραφέας συνελήφθη και κατηγορήθηκε για «δικαίωση της τρομοκρατίας». Αυτό επιτεύχθηκε αντικαθιστώντας το «ρωσικό» με το «ουκρανικό» στην αρχική πρόταση σε ένα


πραγματικό άρθρο ειδήσεων


.

Απαιτείται μια πολύπλευρη προσέγγιση για τον εντοπισμό της παραπληροφόρησης στο Διαδίκτυο, προκειμένου να ελεγχθεί η ανάπτυξη και η διάδοσή της.

Οι επικοινωνίες στα μέσα κοινωνικής δικτύωσης μπορούν να μοντελοποιηθούν ως δίκτυα, με τους χρήστες να σχηματίζουν σημεία στο μοντέλο δικτύου και οι επικοινωνίες να σχηματίζουν δεσμούς μεταξύ τους. ένα retweet ή ένα like μιας ανάρτησης αντικατοπτρίζει μια σύνδεση μεταξύ δύο σημείων. Σε αυτό το μοντέλο δικτύου, οι διανομείς παραπληροφόρησης τείνουν να σχηματίζουν πολύ πιο πυκνά συνδεδεμένες δομές πυρήνα-περιφέρειας από τους χρήστες που διαδίδουν την αλήθεια.

Η ερευνητική μου ομάδα


έχει αναπτύξει αποτελεσματικούς αλγόριθμους




για την ανίχνευση πυκνών δομών




από δίκτυα επικοινωνίας


. Αυτές οι πληροφορίες μπορούν να αναλυθούν περαιτέρω για


εντοπισμός περιπτώσεων εκστρατειών παραπληροφόρησης


.

Δεδομένου ότι αυτοί οι αλγόριθμοι βασίζονται μόνο στη δομή της επικοινωνίας, απαιτείται ανάλυση περιεχομένου που διεξάγεται από αλγόριθμους και ανθρώπους για να επιβεβαιωθούν περιπτώσεις παραπληροφόρησης.

Ο εντοπισμός παραποιημένων άρθρων απαιτεί προσεκτική ανάλυση. Η έρευνά μας χρησιμοποίησε α


προσέγγιση βασισμένη σε νευρωνικά δίκτυα


που συνδυάζει τις πληροφορίες κειμένου με μια εξωτερική βάση γνώσεων για τον εντοπισμό τέτοιων παραβιάσεων.

Διακοπή της εξάπλωσης

Ο εντοπισμός παραπληροφόρησης είναι μόνο η μισή μάχη — απαιτείται αποφασιστική δράση για να σταματήσει η διάδοσή της. Οι στρατηγικές για την καταπολέμηση της διάδοσης παραπληροφόρησης στα κοινωνικά δίκτυα περιλαμβάνουν τόσο την παρέμβαση από τις διαδικτυακές πλατφόρμες όσο και την έναρξη αντεκστρατειών για την εξουδετέρωση καμπανιών ψευδών ειδήσεων.

Η παρέμβαση μπορεί να λάβει σκληρές μορφές, όπως η αναστολή του λογαριασμού ενός χρήστη ή πιο ήπια μέτρα όπως η επισήμανση μιας ανάρτησης ως ύποπτης.

Οι αλγόριθμοι και τα δίκτυα που τροφοδοτούνται από AI δεν είναι 100 ανά

σεντ αξιόπιστο. Η παρέμβαση σε ένα αληθινό αντικείμενο κατά λάθος έχει κόστος καθώς και η μη παρέμβαση σε ένα ψεύτικο αντικείμενο.

Για το σκοπό αυτό, σχεδιάσαμε μια έξυπνη πολιτική παρέμβασης που αποφασίζει αυτόματα εάν θα παρέμβει σε ένα αντικείμενο


με βάση την προβλεπόμενη αλήθεια και την προβλεπόμενη δημοτικότητά του


.

Αντιμετώπιση ψευδών ειδήσεων

Η έναρξη αντεκστρατειών για την ελαχιστοποίηση, αν όχι την εξουδετέρωση των επιπτώσεων των εκστρατειών παραπληροφόρησης, πρέπει να ληφθούν υπόψη


σημαντικές διαφορές μεταξύ αλήθειας και ψεύτικων ειδήσεων όσον αφορά το πόσο γρήγορα και εκτενώς διαδίδεται το καθένα από αυτά


.

Εκτός από αυτές τις διαφορές, οι αντιδράσεις σε ιστορίες μπορεί να διαφέρουν ανάλογα με τον χρήστη, το θέμα και τη διάρκεια της ανάρτησης.


Η προσέγγισή μας λαμβάνει υπόψη όλους αυτούς τους παράγοντες


και επινοεί μια αποτελεσματική στρατηγική αντιμετώπισης της εκστρατείας που μετριάζει αποτελεσματικά τη διάδοση της παραπληροφόρησης.

Οι πρόσφατες εξελίξεις στη γενετική τεχνητή νοημοσύνη, ιδιαίτερα εκείνες που υποστηρίζονται από μεγάλα γλωσσικά μοντέλα όπως το

ChatGPT

, καθιστούν ευκολότερη από ποτέ τη δημιουργία άρθρων με μεγάλη ταχύτητα και σημαντικό όγκο, θέτοντας την πρόκληση του εντοπισμού παραπληροφόρησης και της αντιμετώπισης της διάδοσής της σε κλίμακα και σε πραγματικό χρόνο. Η τρέχουσα έρευνά μας συνεχίζει να αντιμετωπίζει αυτήν τη συνεχιζόμενη πρόκληση που έχει τεράστιο κοινωνικό αντίκτυπο.

Θέλετε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, τα chatbots και το μέλλον της μηχανικής μάθησης; Δείτε την πλήρη κάλυψή μας για



τεχνητή νοημοσύνη



ή περιηγηθείτε στους οδηγούς μας



Οι καλύτερες δωρεάν γεννήτριες τέχνης AI



και



Όλα όσα γνωρίζουμε για το ChatGPT του

OpenAI




.

Laks VS Lakshmanan




Καθηγητής Πληροφορικής,




Πανεπιστήμιο της Βρετανικής Κολομβίας

Αυτό το άρθρο αναδημοσιεύεται από




Η συζήτηση




με άδεια Creative Commons. Διαβάστε το




πρωτότυπο άρθρο




.