Η Ofcom λέει ότι οι μηχανές αναζήτησης λειτουργούν ως πύλες αυτοτραυματισμού

Από την κυκλοφορία του ChatGPT, υπήρξε μια μεγάλη στροφή προς την ασφάλεια περιεχομένου. Η αυτολογοκρισία του ChatGPT και άλλων chatbots δεν είναι πραγματικά θέμα όσον αφορά τις μηχανές αναζήτησης, αλλά τώρα το Ofcom επισημαίνει έναν από τους κινδύνους – αυτόν της εύκολης πρόσβασης σε περιεχόμενο αυτοτραυματισμού.

Σε μια νέα μελέτη για την Ofcom από το Network Contagion Research Institute (NCRI), οι μεγάλες μηχανές αναζήτησης, συμπεριλαμβανομένων των Google, Bing, DuckDuckGo, Yahoo! και AOL, μπορούν να λειτουργήσουν ως πύλη σε περιεχόμενο που εξυμνεί ή γιορτάζει τον αυτοτραυματισμό. περιλαμβάνει ιστοσελίδες, εικόνες και βίντεο.

Ως μέρος της μελέτης, το NCRI εισήγαγε κοινά ερωτήματα αυτοτραυματισμού και κρυπτικούς όρους που χρησιμοποιούνται από τις διαδικτυακές κοινότητες για να κρύψουν το πραγματικό νόημα. Με βάση 37.000 αποτελέσματα αναζήτησης, διαπιστώθηκε ότι επικρατεί επιβλαβές περιεχόμενο αυτοτραυματισμού, οι αναζητήσεις εικόνων είναι ιδιαίτερα επικίνδυνες και οι κρυπτικοί όροι αναζήτησης αποκαλύπτουν πιο επιβλαβές περιεχόμενο.

Σχολιάζοντας τα ευρήματα, η Almudena Lara, Διευθύντρια Ανάπτυξης Πολιτικής Ασφάλειας στο Διαδίκτυο στο Ofcom, είπε:

«Οι μηχανές αναζήτησης είναι συχνά το σημείο εκκίνησης για την διαδικτυακή εμπειρία των ανθρώπων και ανησυχούμε ότι μπορούν να λειτουργήσουν ως πύλες με ένα κλικ σε σοβαρά επιβλαβές περιεχόμενο που προκαλεί αυτοτραυματισμό.

Οι υπηρεσίες αναζήτησης πρέπει να κατανοήσουν τους πιθανούς κινδύνους και την αποτελεσματικότητα των μέτρων προστασίας τους – ιδιαίτερα για τη διατήρηση της ασφάλειας των παιδιών στο Διαδίκτυο – πριν από την ευρεία διαβούλευση μας που θα γίνει την άνοιξη».

Μια σημαντική προειδοποίηση σε αυτή τη μελέτη είναι ότι οι ερευνητές δεν χρησιμοποιούσαν ρυθμίσεις ασφαλούς αναζήτησης και θολώματος εικόνας. Εάν οι γονείς διαθέτουν κατάλληλα φίλτρα, πράγματα όπως η ασφαλής αναζήτηση θα πρέπει να είναι ενεργοποιημένα από προεπιλογή χωρίς να υπάρχει επιλογή απενεργοποίησής τους – προσφέροντας κάποια προστασία για τα παιδιά.

Η Ofcom είναι η επιβολή του νόμου για την ασφάλεια στο Διαδίκτυο που ψηφίστηκε πρόσφατα στο Ηνωμένο Βασίλειο. Θα πει στις μηχανές αναζήτησης να λάβουν μέτρα για να μειώσουν τις πιθανότητες να βρουν τα παιδιά επιβλαβές περιεχόμενο όπως η προώθηση του αυτοτραυματισμού, η αυτοκτονία και οι διατροφικές διαταραχές. Μια διαβούλευση αναμένεται την άνοιξη.

Πηγή:

Ofcom