Οι ερευνητές λένε ότι ο Bing επινόησε στοιχεία για τις ευρωπαϊκές εκλογές

Οι ερευνητές βρήκαν ότι το chatbot της Microsoft στο Copilot παρείχε ψευδείς και παραπλανητικές πληροφορίες σχετικά με τις ευρωπαϊκές εκλογές.

Η οργάνωση ανθρωπίνων δικαιωμάτων AlgorithmWatch είπε

σε μια αναφορά

ότι έκανε ερωτήσεις στο Bing Chat —που πρόσφατα μετονομάστηκε σε Copilot— σχετικά με τις πρόσφατες εκλογές που διεξήχθησαν στην Ελβετία και στα γερμανικά κρατίδια της Βαυαρίας και της Έσσης. Διαπίστωσε ότι το ένα τρίτο των απαντήσεών

του

σε ερωτήσεις που σχετίζονται με τις εκλογές είχαν πραγ

ματ

ικά λάθη και οι διασφαλίσεις δεν εφαρμόστηκαν ομοιόμορφα.

Η ομάδα είπε ότι συνέλεξε απαντήσεις από την Bing από τον Αύγουστο έως τον Οκτώβριο του τρέχοντος έτους. Επέλεξε τις τρεις εκλογές επειδή αυτές είναι οι πρώτες που πραγματοποιήθηκαν στη Γερμανία και την Ελβετία μετά την εισαγωγή του Bing. Επίσης, επέτρεψε στους ερευνητές να εξετάσουν τα τοπικά πλαίσια και να συγκρίνουν τις απαντήσεις σε διαφορετικές γλώσσες: γερμανικά, αγγλικά και γαλλικά.

Οι ερευνητές ζήτησαν βασικές πληροφορίες, όπως πώς να ψηφίσουν, ποιοι υποψήφιοι είναι υποψήφιοι, αριθμούς δημοσκοπήσεων και ακόμη και κάποιες προτροπές γύρω από ρεπορτάζ ειδήσεων. Ακολούθησαν με ερωτήσεις σχετικά με θέσεις υποψηφίων και πολιτικά ζητήματα, και στην περίπτωση της Βαυαρίας, σκάνδαλα που μάστιζαν εκείνη την εκστρατεία.

Το AlgorithmWatch ταξινόμησε τις απαντήσεις σε τρεις κουβάδες: απαντήσεις που περιείχαν πραγματικά λάθη που κυμαίνονταν από παραπλανητικά έως ανόητα, υπεκφυγές όπου το μοντέλο αρνήθηκε να απαντήσει σε μια ερώτηση ή παρέκκλινε χαρακτηρίζοντας τις πληροφορίες του ελλιπείς και απολύτως ακριβείς απαντήσεις. Σημείωσε επίσης ότι ορισμένες απαντήσεις ήταν πολιτικά ανισόρροπες, όπως η Bing που παρουσίασε την απάντησή της στο πλαίσιο ή στη γλώσσα που χρησιμοποιεί ένα μέρος.

Οι απαντήσεις του Bing περιελάμβαναν ψεύτικες διαμάχες, λανθασμένες ημερομηνίες εκλογών, λανθασμένους αριθμούς εκλογών και, σε ορισμένα σημεία, υποψηφίους που δεν συμμετείχαν σε αυτές τις εκλογές. Αυτές οι απαντήσεις με σφάλματα αποτελούσαν το 31 τοις εκατό των απαντήσεων.

«Ακόμη και όταν το chatbot αντλούσε αριθμούς δημοσκοπήσεων από μία μόνο πηγή, οι αριθμοί που αναφέρονταν στην απάντηση συχνά διέφεραν από τη συνδεδεμένη πηγή, κατά καιρούς κατατάσσοντας τα κόμματα σε διαφορετική διαδοχή από τις πηγές», ανέφερε η έκθεση.

Η Microsoft, η οποία εκτελεί το Bing / Copilot, εφάρμοσε προστατευτικά κιγκλιδώματα στο chatbot. Τα προστατευτικά κιγκλιδώματα εμποδίζουν το Bing να παρέχει επικίνδυνες, ψευδείς ή προσβλητικές απαντήσεις. Τις περισσότερες φορές, τα προστατευτικά κιγκλιδώματα AI τείνουν να αρνούνται να απαντήσουν σε μια ερώτηση, ώστε να μην παραβιάζουν τους κανόνες που έχει θέσει η εταιρεία. Ο Bing επέλεξε να αποφύγει την ανάκριση το 39% του χρόνου στο τεστ. Αυτό άφησε μόλις το 30 τοις εκατό των απαντήσεων να κριθούν ως πραγματικά σωστές.

Η AlgorithmWatch είπε ότι ενώ έκανε την έρευνά της, η Bing εφάρμοσε κανόνες ασφαλείας όταν της ζητήθηκε γνώμη, αλλά όχι όταν της ζητήθηκε γεγονότα – σε αυτές τις περιπτώσεις, έφτασε «στο σημείο να κάνει σοβαρούς ψευδείς ισχυρισμούς για διαφθορά που παρουσιάστηκαν ως γεγονότα».

Ο Bing είχε επίσης χειρότερη απόδοση σε άλλες γλώσσες εκτός από τα αγγλικά, είπε η ομάδα.

είπε η Microsoft σε δήλωση που εστάλη στο

Το χείλος

ότι έχει λάβει μέτρα για να βελτιώσει τις πλατφόρμες συνομιλίας AI, ειδικά ενόψει των εκλογών του 2024 στις

Ηνωμένες Πολιτείες

. Αυτά περιλαμβάνουν την εστίαση σε έγκυρες πηγές πληροφοριών για το Copilot.

“Λαμβάνουμε ορισμένα συγκεκριμένα βήματα πριν από τις εκλογές του επόμενου έτους και δεσμευόμαστε να βοηθήσουμε να προστατεύσουμε τους ψηφοφόρους, τους υποψηφίους, τις εκστρατείες και τις εκλογικές αρχές”, δήλωσε ο εκ

πρόσωπο

ς της Microsoft, Frank Shaw.

Πρόσθεσε ότι η Microsoft ενθαρρύνει τους ανθρώπους «να χρησιμοποιούν το Copilot με την καλύτερη κρίση τους όταν βλέπουν

αποτελέσματα

».

Η δυνατότητα της τεχνητής νοημοσύνης να παραπλανήσει τους ψηφοφόρους σε εκλογές προκαλεί ανησυχία. Η Microsoft δήλωσε τον Νοέμβριο ότι θέλει να συνεργαστεί με πολιτικά κόμματα και υποψηφίους για να περιορίσει τα deepfakes και να αποτρέψει την εκλογική παραπληροφόρηση.

Στις Ηνωμένες Πολιτείες, οι νομοθέτες έχουν καταθέσει νομοσχέδια που απαιτούν εκστρατείες να αποκαλύπτουν περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη και η Ομοσπονδιακή Εκλογική Επιτροπή μπορεί να περιορίσει τις διαφημίσεις τεχνητής νοημοσύνης.