Οι χρήστες σοκαρίστηκαν από το deepfake πορνό στα αποτελέσματα αναζήτησης Google και Bing

Τι πρέπει να ξέρετε

• Σύμφωνα με έρευνα του NBC News, το deepfake πορνό αυξάνεται και εμφανίζεται ανάμεσα στα κορυφαία αποτελέσματα κατά τη διεξαγωγή αναζητήσεων στο Google και στο Bing της Microsoft.
• Δεν υπάρχει κανένας πυρίμαχος τρόπος να αποτραπεί η επανεμφάνιση αυτού του φαινομένου στο
  
  μέλλον
  
  , καθώς δεν υπάρχουν αναλυτικά μέτρα και πολιτικές για να τεθεί ο έλεγχος αυτού του ζητήματος.
• Το Microsoft Copilot αρνήθηκε να εμφανίσει ψεύτικο πορνό, χαρακτηρίζοντας περαιτέρω την πράξη ως ανήθικη, παρά το γεγονός ότι παρείχε αρκετούς συνδέσμους καθώς και παραδείγματα που κατέδειξαν τον χρήστη απευθείας στο ρητό περιεχόμενο.

Καθώς η Google και η Microsoft Bing συνεχίζουν να ανταγωνίζονται για ένα μεγαλύτερο μέρος του μεριδίου της αγοράς αναζήτησης, υπάρχει μια κρίση που θα μπορούσε να επηρεάσει αρνητικά και τις δύο μηχανές αναζήτησης.

Σύμφωνα με έκθεση του

NBC News

, η βαθιά ψεύτικη πορνογραφία βρίσκεται σε ανοδική τάση καθώς βρίσκεται ψηλά σε μερικές από τις κορυφαίες μηχανές αναζήτησης. Για το πλαίσιο, η deepfake πορνογραφία είναι ουσιαστικά ένα σενάριο όπου το πρόσωπο ενός διάσημου προσώπου ενσωματώνεται σε ταινίες για ενήλικες, κάνοντάς το να φαίνεται σαν να εμφανίζεται στην παραγωγή.

Σύμφωνα με την ανάλυση και την έρευνα του περιοδικού, ήταν προφανές ότι οι deepfake πορνογραφικές εικόνες με γυναίκες διασημότητες κατείχαν υψηλή θέση στο Google και σε άλλες μηχανές αναζήτησης όταν αναζητούσαν τα περισσότερα γυναικεία ονόματα, τη λέξη deepfake, καθώς και φράσεις όπως deepfake πορνό ή ψεύτικα γυμνά. Το NBC τόνισε περαιτέρω ότι τα εργαλεία ασφαλούς αναζήτησης απενεργοποιήθηκαν κατά τη διεξαγωγή αυτής της έρευνας.

Εξετάζοντας περαιτέρω αυτό το θέμα, το outlet χρησιμοποίησε 36 ονόματα διάσημων γυναικών διασημοτήτων σε συνδυασμό με τη λέξη deepfake στο Google και το Bing. Από τους 36 συνδυασμούς, οι 34 εμφανίστηκαν μη συναινετικές deepfake εικόνες και σύνδεσμοι προς βίντεο στο κορυφαίο αποτέλεσμα της Google για τις αναζητήσεις. Η Bing, από την άλλη πλευρά, έφερε στην επιφάνεια 35 deepfake εικόνες και βίντεο. Από τα αποτελέσματα, το κατάστημα διαπίστωσε ότι οι περισσότερες από τις deepfake εικόνες και βίντεο προέρχονταν από έναν δημοφιλή ιστότοπο, ο οποίος είναι γνωστός για την κατασκευή μη συναινετικών deepfake εικόνων και ταινιών για ενήλικες.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:

Το Google Chrome είναι καθ’ οδόν προς τον πίνακα ελέγχου του οχήματός σας

Κατά την αναζήτηση για ψεύτικα γυμνά στο Bing της Microsoft, τα αποτελέσματα περιείχαν δεκάδες μη συναινετικά εργαλεία και ιστοτόπους για βαθιά ψεύτικα και ένα άρθρο που περιγράφει λεπτομερώς την πιθανή βλάβη και ζημιά που μπορεί να προκαλέσει η πράξη.

Όπως ίσως γνωρίζετε, η Microsoft ενσωμάτωσε τον πλήρη βοηθό της AI, Microsoft Copilot, στο Bing, οπότε φυσικά ήταν επίσης ένα από τα αποτελέσματα που εμφανίστηκαν κατά την αναζήτηση. Το chatbot ανέφερε κατηγορηματικά ότι δεν θα έδειχνε κανένα βαθύ ψεύτικο πορνό, μοιράζοντας περαιτέρω τα ακόλουθα συναισθήματα:

«Η χρήση των

deepfakes

είναι ανήθικη και μπορεί να έχει σοβαρές συνέπειες».

Ωστόσο, το εργαλείο τεχνητής νοημοσύνης εξακολουθούσε να παραθέτει αρκετούς συνδέσμους καθώς και παραδείγματα που θα κατευθύνουν τον χρήστη στο deepfake πορνό και τις εικόνες (είναι μόνο ένα κλικ μακριά). Η Google καταλαμβάνει ένα τεράστιο μέρος του μεριδίου αγοράς της αναζήτησης, αν και δεν φαίνεται να έχει εφαρμόσει περίπλοκα μέτρα και πολιτικές για να αποτρέψει την υπερχείλιση των deepfakes στον Ιστό. Ωστόσο, εργαλεία αναζήτησης όπως πίνακες με επιλεγμένες πληροφορίες αποτρέπουν τη χρήση αλλαγμένων μέσων και ακατάλληλου περιεχομένου στην πλατφόρμα.

Αξίζει να σημειωθεί ότι η Google έχει

μια βελτιωμένη πλατφόρμα

όπου οι χρήστες που εμφανίζονται στα συστήματα deepfake μπορούν να κάνουν αναφορές, ζητώντας να αφαιρεθεί από τον ιστό το ρητό περιεχόμενο στο οποίο εμφανίζονται.

Τα Deepfakes συνεχίζουν να μολύνουν τον ιστό με την επικράτηση της τεχνητής νοημοσύνης

Με την εμφάνιση της γενετικής τεχνητής νοημοσύνης, τα deepfakes είναι πιο διαδεδομένα από ποτέ. Ωστόσο, η Microsoft έχει επισημάνει το σχέδιό της για την προστασία των εκλογικών διαδικασιών από πλαστογραφήματα τεχνητής νοημοσύνης, ενισχύοντας τους ψηφοφόρους με «αυθεντικές» και πραγματικές εκλογικές ειδήσεις στο Bing ενόψει της δημοσκόπησης του 2024.

Η κυβέρνηση του

Μπάιντεν

εξέδωσε ένα Εκτελεστικό Διάταγμα που έχει σχεδιαστεί για να τοποθετεί προστατευτικά κιγκλιδώματα και έχει σχεδιαστεί για να αποτρέπει την έξοδο της τεχνολογίας εκτός ελέγχου. Ενώ η παραγγελία αντιμετωπίζει ορισμένες από τις ανησυχίες των χρηστών σχετικά με την τεχνολογία (ειδικά όσον αφορά την ασφάλεια και το απόρρητο), η ακρίβεια παραμένει ένα σημείο πίεσης.

Τον Δεκέμβριο, μια νέα αναφορά εμφανίστηκε στο διαδίκτυο που υποδεικνύει ότι το Microsoft Copilot παραπληροφόρησε τους χρήστες δημιουργώντας ψευδείς πληροφορίες σχετικά με τις επικείμενες εκλογές. Οι ερευνητές πίσω από τη μελέτη ανέφεραν ότι το ζήτημα ήταν συστημικό, καθώς παρόμοια περιστατικά εντοπίστηκαν κατά τη χρήση του chatbot για να μάθουν περισσότερα για τις εκλογές στη Γερμανία και την Ελβετία.

Τα εργαλεία δημιουργίας εικόνας όπως το Bing Image Creator και το Midjourney κερδίζουν γρήγορα δημοτικότητα μεταξύ των χρηστών. Τα εργαλεία γίνονται ακόμα καλύτερα στη δημιουργία εικόνων. Για παράδειγμα, το Bing Image Creator, το οποίο απέκτησε υποστήριξη για την τεχνολογία DALL-E 3 του OpenAI, δημιουργεί τώρα πιο ζωντανές εικόνες. Ωστόσο, οι καταγγελίες έχουν επισημάνει τις αργές ταχύτητες παραγωγής του και τις

υπηρεσίες

του σε λοβοτομή.

Ενώ η Microsoft έχει καθιερώσει κάποιο έλεγχο στο εργαλείο δημιουργίας εικόνων της, το πώς θα εξελιχθούν τα πράγματα είναι απρόβλεπτο, ειδικά με την πρόσφατη ανακοίνωση του OpenAI, που έκανε το πολυαναμενόμενο GPT Store διαθέσιμο στους χρήστες. Είναι πιθανό να δούμε περισσότερα deepfakes να εμφανίζονται στον ιστό, εάν δεν υπάρχουν περίτεχνα προστατευτικά κιγκλιδώματα που εμποδίζουν τέτοια περιστατικά.