Το Instagram Reels φέρεται να δείχνει σεξουαλικό περιεχόμενο σε χρήστες που ακολουθούν μόνο παιδιά

Είναι δύσκολες μέρες για τον Μέτα. Πρώτα ο τεχνολογικός γίγαντας κατηγορήθηκε ότι σκόπιμα στόχευε παιδιά κάτω των 13 για να χρησιμοποιήσουν τις πλατφόρμες του. Στη συνέχεια, φαινόταν να απορρίπτει διαφημίσεις για προϊόντα περιποίησης περιόδου με βάση το ότι ήταν “ενήλικες” και “πολιτικές”. Τώρα αντιμετωπίζει ισχυρισμούς ότι ο αλγόριθμος

Reels

του Instagram παρέχει απροκάλυπτα σεξουαλικό περιεχόμενο σε λογαριασμούς που ακολουθούν μόνο παιδιά – καθώς και διαφημίσεις για μεγάλες

μάρκες

μαζί τους. Γενικά, δεν είναι υπέροχη εμφάνιση.

Σε νέα αναφορά από

Η Wall Street Journal


, η δημοσίευση δοκίμασε τον αλγόριθμο του Instagram δημιουργώντας λογαριασμούς που ακολουθούσαν μόνο «μικρές αθλήτριες, μαζορέτες και άλλους εφήβους και προεφηβικούς παράγοντες επιρ

ροής

» — περιεχόμενο που αφορούσε παιδιά και το οποίο στερείται σεξουαλικής χροιάς. Ακόμα κι έτσι, το

Εφημερίδα

Το πείραμα του διαπίστωσε ότι ο ανταγωνιστής του TikTok της Meta συνέστησε στη συνέχεια σεξουαλικό περιεχόμενο στους δοκιμαστικούς λογαριασμούς του, συμπεριλαμβανομένων τόσο προκλητικών

βίντεο

για ενήλικες όσο και «επικίνδυνων πλάνα παιδιών».

ο

Εφημερίδα

διαπίστωσε περαιτέρω ότι οι παιδικοί χρήστες, όπως αυτοί που ακολουθούσαν οι δοκιμαστικοί λογαριασμοί του, ακολουθούνταν επίσης συχνά από λογαριασμούς που ανήκουν σε ενήλικες άνδρες. Η παρακολούθηση τέτοιων λογαριασμών φάνηκε να προτρέπει τον αλγόριθμο του Instagram να του δείξει “πιο ενοχλητικό περιεχόμενο”.

Όλα αυτά είναι αρκετά άσχημα, αλλά γίνονται ακόμα χειρότερα για τον Μέτα. Η αναφορά διαπίστωσε περαιτέρω ότι το Instagram Reels εμφάνιζε διαφημίσεις για εταιρείες όπως η Disney, η Walmart, η Pizza Hut, η Bumble, η Match Group, ακόμη και οι

Εφημερίδα

η ίδια μαζί με τέτοιο αυτόκλητο, αλγοριθμικά παραδοθέν σεξουαλικό περιεχόμενο.

Σε απάντηση, οι εταιρείες εφαρμογών γνωριμιών Bumble και Match Group ανέστειλαν τις διαφημίσεις στο Instagram, διαφωνώντας με την τοποθέτηση των επωνυμιών τους δίπλα σε ακατάλληλο περιεχόμενο.

Σύμφωνα με τη Samantha Stetson του Meta, το

Εφημερίδα

Τα αποτελέσματα των δοκιμών του “βασίζονται σε μια κατασκευαστική εμπειρία που δεν αντιπροσωπεύει αυτό που βλέπουν δισεκατομμύρια άνθρωποι σε όλο τον κόσμο.” Ο Αντιπρόεδρος του Συμβουλίου Πελατών και των Εμπορικών Σχέσεων Βιομηχανίας της Meta δήλωσε ότι πάνω από τέσσερα εκατομμύρια Καρούλια αφαιρούνται κάθε μήνα λόγω παραβίασης των πολιτικών της. Ένας εκπρόσωπος της Meta σημείωσε περαιτέρω ότι οι περιπτώσεις περιεχομένου που παραβιάζει τις πολιτικές της είναι σχετικά χαμηλές.

“Δεν θέλουμε τέτοιου είδους περιεχόμενο στις πλατφόρμες μας και οι επωνυμίες δεν θέλουν οι διαφημίσεις τους να εμφανίζονται δίπλα σε αυτό. Συνεχίζουμε να επενδύουμε επιθετικά για να το σταματήσουμε — και αναφέρουμε κάθε τρίμηνο για την επικράτηση τέτοιου περιεχομένου, το οποίο παραμένει πολύ χαμηλό», είπε ο Stetson σε δήλωση στο Mashable. “Τα συστήματά μας είναι αποτελεσματικά στη μείωση του επιβλαβούς περιεχομένου και έχουμε επενδύσει δισεκατομμύρια σε λύσεις ασφάλειας, ασφάλειας και καταλληλότητας επωνυμίας.”

Νωρίτερα φέτος

Η Meta παρουσίασε ένα εργαλείο τεχνητής νοημοσύνης που έχει σχεδιαστεί για να προσδιορίζει εάν το περιεχόμενο πληροί τις πολιτικές της για δημιουργία εσόδων

, ταξινομώντας το σε κατηγορίες καταλληλότητας και απενεργοποιώντας τις διαφημίσεις εάν δεν εμπίπτει σε όλες. Αυτό το εργαλείο επεκτάθηκε στο Reels τον Οκτώβριο.

Έχουν περάσει δύσκολες εβδομάδες για τις επωνυμίες που προσπαθούν να διαφημιστούν στα μέσα κοινωνικής δικτύωσης. Νωρίτερα αυτόν τον μήνα,

μεγάλο

ι διαφημιστές όπως η Apple και η IBM εγκατέλειψαν το Twitter/X αφού ο ιδιοκτήτης Έλον Μασκ εξέφρασε την υποστήριξή του για μια αντισημιτική συνωμοσία και μια έκθεση Media Matters βρήκε ότι εμφάνιζε διαφημίσεις μαζί με ναζιστικό περιεχόμενο.

Το Twitter/X προέβαλε το ίδιο επιχείρημα ότι η Meta ενισχύει τώρα, δηλαδή ότι οι δοκιμές που οδήγησαν στην εμφάνιση ακατάλληλου περιεχομένου μαζί με τους διαφημιστές ήταν «κατασκευασμένες». Ωστόσο, όπως και στην περίπτωση του Twitter/X, το θέμα είναι λιγότερο σχετικά με το πόσοι άνθρωποι το είδαν ή πώς συνέβη, και περισσότερο στο ότι μπορεί να συμβεί καθόλου.

Το Instagram Reels διαφέρει επίσης από το ζήτημα του Twitter/X στο ότι, ενώ οι δοκιμές του Media Matters οδήγησαν στην παρακολούθηση λογαριασμών που δημοσίευαν “ακραίο περιθωριακό περιεχόμενο”, το

Εφημερίδα

ακολούθησε μόνο νεαρούς αθλητές και influencers. Το σεξουαλικό περιεχόμενο που προσφέρεται φαινόταν να οφείλεται εξ ολοκλήρου σε συμπεράσματα που εξήχθησαν από τον αλγόριθμο του Instagram.

Ως εκ τούτου, φαίνεται ότι ο εν λόγω αλγόριθμος θα μπορούσε να κάνει κάποιες σημαντικές προσαρμογές.