Η Meta ορκίζεται να λάβει μέτρα μετά την αναφορά ότι ο αλγόριθμος του Instagram προωθεί περιεχόμενο παιδεραστίας

Η

Meta

δημιούργησε μια εσωτερική ομάδα εργασίας, αφού οι δημοσιογράφοι και οι ερευνητές ανακάλυψαν ότι τα συστήματά της βοήθησαν στη «σύνδεση και προώθηση ενός τεράστιου δικτύου λογαριασμών» αφιερωμένου σε περιεχόμενο για ανηλίκους.


Η Wall Street Journal


έχει αναφέρει. Σε αντίθεση με τα φόρουμ και τις υπηρεσίες μεταφοράς αρχείων, το

Instagram

όχι μόνο φιλοξενεί τέτοιες δραστηριότητες αλλά τις προωθεί μέσω των αλγορίθμων του. Η εταιρεία αναγνώρισε προβλήματα επιβολής και έχει λάβει μέτρα, συμπεριλαμβανομένου του περιορισμού των συστημάτων της από το να προτείνουν αναζητήσεις που σχετίζονται με σεξουαλική κακοποίηση.

«Η παιδική εκμετάλλευση είναι ένα φρικτό έγκλημα», είπε ο Μέτα

WSJ

σε δήλωση. «Διερευνούμε συνεχώς τρόπους για να αμυνθούμε ενεργά ενάντια σε αυτή τη συμπεριφορά».

Μαζί με την ομάδα εργασίας, η Μέτα είπε στους δημοσιογράφους ότι εργάζεται για τον αποκλεισμό δικτύων υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) και λαμβάνει μέτρα για την αλλαγή των συστημάτων της. Τα τελευταία δύο χρόνια, έχει καταργήσει 27 δίκτυα παιδεραστών και εργάζεται για την εξάλειψη περισσότερων. Έχει αποκλείσει χιλιάδες σχετικά hashtags (με εκατομμύρια δημοσιεύσεις για ορισμένους) και έχει λάβει μέτρα για να εμποδίσει τα συστήματά της να προτείνουν όρους που σχετίζονται με το CSAM. Προσπαθεί επίσης να εμποδίσει τα συστήματά της να συνδέουν πιθανούς καταχραστές μεταξύ τους.

Ωστόσο, η έκθεση θα πρέπει να είναι μια κλήση αφύπνισης για τον Μέτα, είπε ο πρώην επικεφαλής ασφαλείας της εταιρείας Άλεξ Στάμος.

WSJ

. «Το ότι μια ομάδα τριών ακαδημαϊκών με περιορισμένη πρόσβαση θα μπορούσε να βρει ένα τόσο τεράστιο δίκτυο θα πρέπει να ενεργοποιήσει συναγερμούς στο Meta», είπε, σημειώνοντας ότι η εταιρεία πολύ καλύτερα εργαλεία από εξωτερικούς ερευνητές για τη χαρτογράφηση των δικτύων CSAM. «Ελπίζω η εταιρεία να επανεπενδύσει σε ανθρώπινους ερευνητές».

Ακαδημαϊκοί από το Παρατηρητήριο Διαδικτύου του Στάνφορντ και το Εργαστήριο Διάσωσης του UMass κατάφεραν να βρουν γρήγορα «κοινότητες μεγάλης κλίμακας που προωθούν την εγκληματική σεξουαλική κακοποίηση», σύμφωνα με την έκθεση. Μετά τη δημιουργία δοκιμαστικών χρηστών και την προβολή ενός μόνο λογαριασμού, δέχθηκαν αμέσως προτάσεις “προτεινόμενες για εσάς” πιθανών πωλητών και αγοραστών CSAM, μαζί με λογαριασμούς που συνδέονται με ιστότοπους περιεχομένου εκτός πλατφόρμας. Ακολουθώντας μόνο αρκετές συστάσεις, οι δοκιμαστικοί λογαριασμοί πλημμύρισαν από περιεχόμενο σεξουαλικής κακοποίησης.

«Το Instagram είναι ένας δρόμος για μέρη στο Διαδίκτυο όπου υπάρχει πιο σαφής σεξουαλική κακοποίηση παιδιών», δήλωσε ο διευθυντής του εργαστηρίου διάσωσης του UMass, Brian Levine. Η ομάδα του Stanford διαπίστωσε επίσης ότι το περιεχόμενο CSAM είναι “ιδιαίτερα αυστηρό” στον ιστότοπο. «Η πιο σημαντική πλατφόρμα για αυτά τα δίκτυα αγοραστών και πωλητών φαίνεται να είναι το Instagram».

Η Meta είπε ότι η εταιρεία επιδιώκει ενεργά να αφαιρέσει τέτοιους χρήστες, έχοντας καταργήσει 490.000 λογαριασμούς που παραβιάζουν τις πολιτικές για την ασφάλεια των παιδιών μόνο τον Ιανουάριο. Τα εσωτερικά του στατιστικά δείχνουν ότι η εκμετάλλευση παιδιών εμφανίζεται σε λιγότερες από μία στις 10 χιλιάδες δημοσιεύσεις, πρόσθεσε.

Ωστόσο, μέχρι να ερωτηθεί από τους δημοσιογράφους, το Instagram επέτρεπε στους χρήστες να αναζητούν όρους που τα δικά του συστήματα γνωρίζουν ότι μπορεί να σχετίζονται με υλικό CSAM. Μια αναδυόμενη οθόνη προειδοποίησε τους χρήστες ότι “Αυτά τα αποτελέσματα ενδέχεται να περιέχουν εικόνες σεξουαλικής κακοποίησης παιδιών” που μπορεί να προκαλέσουν “ακραία βλάβη” στα παιδιά. Ωστόσο, στη συνέχεια επέτρεψε στους χρήστες είτε “Λήψη πόρων” ή “Δείτε αποτελέσματα ούτως ή άλλως”. Η τελευταία επιλογή έχει πλέον απενεργοποιηθεί, αλλά ο Meta δεν απάντησε όταν το

WSJ

ρώτησε γιατί επιτρεπόταν εξαρχής.

Επιπλέον, οι προσπάθειες των χρηστών να αναφέρουν περιεχόμενο για παιδικό σεξ συχνά αγνοήθηκαν από τους αλγόριθμους του Instagram. Και οι προσπάθειες του ίδιου του

Facebook

να αποκλείσει τα hashtags και τους όρους μερικές φορές παρακάμπτονταν από τα συστήματα, προτείνοντας στους χρήστες να δοκιμάσουν παραλλαγές στο όνομα. Σε δοκιμές, οι ερευνητές διαπίστωσαν ότι η προβολή έστω και ενός λογαριασμού ανήλικου πωλητή έκανε τον αλγόριθμο να προτείνει νέους. «Οι προτάσεις του Instagram βοήθησαν στην ανοικοδόμηση του δικτύου που το προσωπικό ασφαλείας της πλατφόρμας βρισκόταν στη μέση της προσπάθειας να διαλύσει».

Ένας εκπρόσωπος της Meta είπε ότι αυτή τη στιγμή κατασκευάζει σύστημα για να αποτρέψει τέτοιες συστάσεις, αλλά ο Levine είπε ότι η ώρα να δράσει είναι τώρα. “Τραβήξτε το φρένο έκτακτης ανάγκης. Αξίζουν τα οικονομικά οφέλη για τη ζημιά σε αυτά τα παιδιά;” Το Engadget επικοινώνησε με το Meta για σχόλια.

Όλα τα προϊόντα που προτείνει η Engadget επιλέγονται από τη συντακτική μας ομάδα, ανεξάρτητα από τη μητρική μας εταιρεία. Ορισμένες από τις ιστορίες μας περιλαμβάνουν συνδέσμους συνεργατών. Εάν αγοράσετε κάτι μέσω ενός από αυτούς τους συνδέσμους, ενδέχεται να κερδίσουμε μια προμήθεια θυγατρικών. Όλες οι τιμές είναι σωστές τη στιγμή της δημοσίευσης.