Μετακινήσου,
Τικ Τοκ
. Η Ofcom, η ρυθμιστική αρχή του Ηνωμένου Βασιλείου που επιβάλλει τον πλέον επίσημο Νόμο για την Ασφάλεια στο Διαδίκτυο, ετοιμάζεται να διαμορφώσει έναν ακόμη μεγαλύτερο στόχο: μηχανές αναζήτησης όπως η Google και το Bing και ο ρόλος που διαδραματίζουν στην παρουσίαση αυτοτραυματισμού, αυτοκτονίας και άλλου επιβλαβούς περιεχομένου με το κλικ ενός κουμπιού, ιδιαίτερα σε ανήλικους χρήστες.
Μια έκθεση που παρήγγειλε το Ofcom και παρήχθη από το Network Contagion Research Institute διαπίστωσε ότι οι μεγάλες μηχανές αναζήτησης, συμπεριλαμβανομένων των Google, Bing της Microsoft, DuckDuckGo, Yahoo και AOL γίνονται «πύλες με ένα κλικ» σε τέτοιο περιεχόμενο διευκολύνοντας την εύκολη, γρήγορη πρόσβαση σε ιστοσελίδες, εικόνες και βίντεο — με ένα στα πέντε αποτελέσματα αναζήτησης γύρω από βασικούς όρους αυτοτραυματισμού να συνδέονται με περαιτέρω επιβλαβές περιεχόμενο.
Η έρευνα είναι επίκαιρη και σημαντική, επειδή το μεγαλύτερο μέρος της εστίασης γύρω από το επιβλαβές περιεχόμενο στο διαδίκτυο τα τελευταία χρόνια έχει επικεντρωθεί στην επιρροή και τη χρήση ιστότοπων κοινωνικής δικτύωσης με τοίχους όπως το
Instagram
και
Τικ Τοκ
. Αυτή η νέα έρευνα είναι, σημαντικά, ένα πρώτο βήμα για να βοηθήσει την Ofcom να κατανοήσει και να συγκεντρώσει στοιχεία για το εάν υπάρχει πολύ μεγαλύτερη πιθανή απειλή, με ανοιχτούς ιστότοπους όπως το Google.com να προσελκύουν περισσότερες από 80 δισεκατομμύρια επισκέψεις το μήνα, σε σύγκριση με το TikTok μηνιαίως ενεργό χρήστες περίπου 1,7 δισεκατομμυρίων.
«Οι μηχανές αναζήτησης είναι συχνά το σημείο εκκίνησης για την διαδικτυακή εμπειρία των ανθρώπων και ανησυχούμε ότι μπορούν να λειτουργήσουν ως πύλες με ένα κλικ σε σοβαρά επιβλαβές περιεχόμενο αυτοτραυματισμού», δήλωσε η Almudena Lara, Διευθύντρια Ανάπτυξης Πολιτικής Ασφάλειας στο Διαδίκτυο, στο Ofcom. δήλωση. «Οι υπηρεσίες αναζήτησης πρέπει να κατανοήσουν τους πιθανούς κινδύνους και την αποτελεσματικότητα των μέτρων προστασίας τους –ιδιαίτερα για τη διατήρηση της ασφάλειας των παιδιών στο Διαδίκτυο– πριν από την ευρεία διαβούλευση μας που θα γίνει την άνοιξη».
Οι ερευνητές ανέλυσαν περίπου 37.000 συνδέσμους αποτελεσμάτων σε αυτές τις πέντε μηχανές αναζήτησης για την έκθεση, είπε η Ofcom. Χρησιμοποιώντας τόσο κοινούς όσο και πιο κρυπτικούς όρους αναζήτησης (κρυπτικοί για να προσπαθήσουν να αποφύγουν τον βασικό έλεγχο), διεξήγαγαν σκόπιμα αναζητήσεις απενεργοποιώντας τα εργαλεία γονικού ελέγχου “ασφαλούς αναζήτησης”, για να μιμηθούν τους πιο βασικούς τρόπους με τους οποίους οι άνθρωποι ενδέχεται να ασχοληθούν με τις μηχανές αναζήτησης καθώς και τους χειρότερους – σενάρια περιπτώσεων.
Τα αποτελέσματα ήταν από πολλές απόψεις τόσο άσχημα και καταδικαστικά όσο μπορείτε να μαντέψετε.
Όχι μόνο το 22% των αποτελεσμάτων αναζήτησης παρήγαγε συνδέσμους με ένα κλικ σε επιβλαβές περιεχόμενο (συμπεριλαμβανομένων οδηγιών για διάφορες μορφές αυτοτραυματισμού), αλλά αυτό το περιεχόμενο αντιπροσώπευε το πλήρες 19% των κορυφαίων συνδέσμων στα αποτελέσματα (και 22 % των συνδέσμων κάτω από τις πρώτες σελίδες των αποτελεσμάτων).
Οι αναζητήσεις εικόνων ήταν ιδιαίτερα καταιγιστικές, διαπίστωσαν οι ερευνητές, με το 50% αυτών να επιστρέφουν επιβλαβές περιεχόμενο για αναζητήσεις, ακολουθούμενες από ιστοσελίδες με 28% και βίντεο με 22%. Η έκθεση καταλήγει στο συμπέρασμα ότι ένας λόγος που ορισμένες από αυτές μπορεί να μην ελέγχονται καλύτερα από τις μηχανές αναζήτησης είναι επειδή οι αλγόριθμοι μπορεί να συγχέουν τις εικόνες αυτοτραυματισμού με ιατρικά και άλλα νόμιμα μέσα.
Οι κρυπτικοί όροι αναζήτησης ήταν επίσης καλύτεροι στην αποφυγή αλγορίθμων ελέγχου: αυτοί έκαναν έξι φορές πιο πιθανό ότι ένας χρήστης μπορεί να φτάσει σε επιβλαβές περιεχόμενο.
Ένα πράγμα που δεν θίγεται στην έκθεση, αλλά είναι πιθανό να γίνει μεγαλύτερο θέμα με την πάροδο του χρόνου, είναι ο ρόλος που μπορεί να διαδραματίσουν οι γενετικές αναζητήσεις τεχνητής νοημοσύνης σε αυτόν τον χώρο. Μέχρι στιγμής, φαίνεται ότι υπάρχουν περισσότεροι έλεγχοι που έχουν τεθεί σε εφαρμογή για να αποτραπεί η κακή χρήση πλατφορμών όπως το ChatGPT για τοξικούς σκοπούς. Το ερώτημα θα είναι αν οι χρήστες θα καταλάβουν πώς να το παίξουν και σε τι μπορεί να οδηγήσει αυτό.
«Εργαζόμαστε ήδη για να οικοδομήσουμε μια εις βάθος κατανόηση των ευκαιριών και των κινδύνων των νέων και αναδυόμενων τεχνολογιών, έτσι ώστε η καινοτομία να μπορεί να ευδοκιμήσει, ενώ προστατεύεται η ασφάλεια των χρηστών.
Ορισμένες εφαρμογές του Generative AI είναι πιθανό να εμπίπτουν στο πεδίο εφαρμογής του Νόμου για την Ασφάλεια στο Διαδίκτυο και αναμένουμε από τις υπηρεσίες να αξιολογούν τους κινδύνους που σχετίζονται με τη χρήση του κατά τη διεξ
αγωγή
της αξιολόγησης κινδύνου τους», δήλωσε στο TechCrunch εκπρόσωπος της Ofcom.
Δεν είναι όλα εφιάλτης: περίπου το 22% των αποτελεσμάτων αναζήτησης επισημάνθηκαν επίσης ως χρήσιμα με θετικό τρόπο.
Η έκθεση μπορεί να χρησιμοποιείται από την Ofcom για να αποκτήσει μια καλύτερη ιδέα για το υπό εξέταση ζήτημα, αλλά είναι επίσης ένα πρώιμο μήνυμα στους παρόχους μηχανών αναζήτησης για το τι θα πρέπει να προετοιμαστούν για να εργαστούν. Η Ofcom έχει ήδη πει ξεκάθαρα ότι τα παιδιά θα είναι η πρώτη της εστίαση στην επιβολή του νόμου για την ασφάλεια στο Διαδίκτυο. Την άνοιξη, η Ofcom σχεδιάζει να ανοίξει μια διαβούλευση σχετικά με τους Κώδικες Πρακτικής για την Προστασία των Παιδιών, η οποία στοχεύει να ορίσει «τα πρακτικά βήματα που μπορούν να κάνουν οι υπηρεσίες αναζήτησης για την επαρκή προστασία των παιδιών».
Αυτό θα περιλαμβάνει τη λήψη μέτρων για την ελαχιστοποίηση των πιθανοτήτων να αντιμετωπίσουν τα παιδιά επιβλαβές περιεχόμενο σχετικά με ευαίσθητα θέματα όπως η αυτοκτονία ή οι διατροφικές διαταραχές σε ολόκληρο το Διαδίκτυο, συμπεριλαμβανομένων των μηχανών αναζήτησης.
«Οι εταιρείες
τεχνολογία
ς που δεν το λαμβάνουν σοβαρά υπόψη μπορούν να περιμένουν από την Ofcom να λάβει τα κατάλληλα μέτρα εναντίον τους στο μέλλον», δήλωσε ο εκπρόσωπος της Ofcom. Αυτό θα περιλαμβάνει
πρόστιμα
(τα οποία η Ofcom είπε ότι θα χρησιμοποιούσε μόνο ως έσχατη λύση) και στα χειρότερα σενάρια, δικαστικές εντολές που απαιτούν από τους παρόχους υπηρεσιών διαδικτύου να μπλοκάρουν την πρόσβαση σε υπηρεσίες που δεν συμμορφώνονται με τους κανόνες. Ενδέχεται επίσης να υπάρχει ποινική ευθύνη για στελέχη που επιβλέπουν υπηρεσίες που παραβιάζουν τους κανόνες.
Μέχρι στιγμής, η Google έχει αμφισβητήσει ορισμένα από τα ευρήματα της έκθεσης και τον τρόπο με τον οποίο χαρακτηρίζει τις προσπάθειές της, υποστηρίζοντας ότι ο γονικός έλεγχος της κάνει μεγάλο μέρος της σημαντικής δουλειάς που ακυρώνει ορισμένα από αυτά τα ευρήματα.
«Είμαστε πλήρως αφοσιωμένοι στο να κρατάμε τους ανθρώπους ασφαλείς στο διαδίκτυο», είπε ένας εκπρόσωπος σε δήλωση στο TechCrunch. «Η μελέτη του Ofcom δεν αντικατοπτρίζει τις διασφαλίσεις που εφαρμόζουμε στην
Αναζήτηση
Google και αναφέρει όρους που χρησιμοποιούνται σπάνια στην Αναζήτηση. Η λειτουργία Ασφαλούς Αναζήτησης, η οποία φιλτράρει επιβλαβή και σοκαριστικά αποτελέσματα αναζήτησης, είναι ενεργοποιημένη από προεπιλογή για χρήστες κάτω των 18 ετών, ενώ η ρύθμιση θαμπώματος της Ασφαλούς Αναζήτησης – μια λειτουργία που θολώνει τις ακατάλληλες εικόνες, όπως το περιεχόμενο αυτοτραυματισμού – είναι ενεργοποιημένη από προεπιλογή για όλους τους λογαριασμούς. Συνεργαζόμαστε επίσης στενά με ειδικούς οργανισμούς και φιλανθρωπικές οργανώσεις για να διασφαλίσουμε ότι όταν οι χρήστες έρχονται στην Αναζήτηση Google για πληροφορίες σχετικά με αυτοκτονία, αυτοτραυματισμό ή διατροφικές διαταραχές, τα πάνελ πόρων υποστήριξης κρίσεων εμφανίζονται στο επάνω μέρος της σελίδας.” Η Microsoft και το DuckDuckGo μέχρι στιγμής δεν έχουν απαντήσει σε αίτημα για σχολιασμό.
VIA:
techcrunch.com
