Η λειτουργία Clips του Twitch φέρεται να επέτρεψε την κακοποίηση παιδιών να εξαπλωθεί στην πλατφόρμα

Μια έρευνα

κανω ΑΝΑΦΟΡΑ

από

Bloomberg

απεικονίζει μια ανησυχητική εικόνα των δυσκολιών του Twitch στον συντονισμό της πλατφόρμας ζωντανής ροής — ειδικά τη λειτουργία Clips, η οποία επιτρέπει στους χρήστες να διατηρούν σύντομα

βίντεο

. Το περιοδικό αναφέρει ότι, αφού ανέλυσε περίπου 1.100 κλιπ, βρήκε τουλάχιστον 83 με σεξουαλικό περιεχόμενο που αφορούσε παιδιά. Το Twitch αφαίρεσε τα βίντεο αφού ειδοποιήθηκε και ένας εκπρόσωπος της εταιρείας έγραψε στο Engadget σε ένα email ότι έκτοτε «έχει επενδύσει πολλά σε εργαλεία επιβολής και προληπτικά μέτρα και θα συνεχίσει να το κάνει».

Bloomberg

τόνισε ένα περιστατικό που εξήγησε το πρόβλημα με τη μόνιμη φύση του Clips στην κατά τα άλλα παροδική πλατφόρμα. Αφηγείται την ανησυχητική

ιστορία

ενός 12χρονου αγοριού που πήγε στο Twitch την περασμένη άνοιξη «για να φάει ένα σάντουιτς και να παίξει το γαλλικό του κόρνα». Σύντομα άρχισε να δέχεται αιτήματα από τους θεατές, κάτι που (σε μια θλιβερή αντανάκλαση της διαδικτυακής συμπεριφοράς) οδήγησε κατά κάποιο τρόπο στο αγόρι να κατεβάσει το παντελόνι του.

Το ρεπορτάζ περιγράφει ότι το περιστατικό τελείωσε «σε μια στιγμή». Ωστόσο, η λειτουργία εγγραφής του Clips επέτρεψε σε έναν θεατή – ο οποίος φέρεται να ακολουθούσε πάνω από εκατό λογαριασμούς που ανήκαν σε παιδιά – να τη διατηρήσει. Αυτό φέρεται να οδήγησε σε περισσότερες από 130 προβολές του κλιπ διάρκειας 20 δευτερολέπτων προτού το Twitch ειδοποιηθεί και το αφαιρέσει.

Κλιπ που κυκλοφόρησαν το 2016 ως ένας τρόπος για να διατηρήσετε εφήμερες στιγμές στην πλατφόρμα. Η λειτουργία καταγράφει 25 δευτερόλεπτα πριν (και πέντε δευτερόλεπτα μετά) πατώντας το κουμπί εγγραφής. Αυτό έχει την ατυχή παρενέργεια να επιτρέπει στα αρπακτικά να σώσουν μια προβληματική στιγμή και να τη διανείμουν αλλού.

Το Twitch έχει προγραμματίσει να επεκτείνει τα Clips φέτος ως μέρος μιας στρατηγικής για την

παραγωγή

περισσότερου περιεχομένου παρόμοιο με το TikTok στην πλατφόρμα. Σχεδιάζει να κυκλοφορήσει μια ροή ανακαλύψεων (επίσης παρόμοια με το TikTok) όπου οι χρήστες μπορούν να δημοσιεύουν τα σύντομα βίντεό τους.

Bloomberg

Η αναφορά του ‘s επικαλείται το Καναδικό Κέντρο για την Προστασία του Παιδιού, το οποίο εξέτασε τα 83 εκμεταλλευτικά βίντεο και κατέληξε στο συμπέρασμα ότι 34 απεικόνιζαν νεαρούς χρήστες να δείχνουν τα γεννητικά τους όργανα στην κάμερα. Το μεγαλύτερο μέρος φέρεται να ήταν αγόρια ηλικίας μεταξύ πέντε και 12 ετών. Επιπλέον 49 κλιπ περιελάμβαναν σεξουαλικό περιεχόμενο με ανηλίκους «να εκθέτουν μέρη του σώματος ή να υποβάλλονται σε προσπάθειες περιποίησης».

Ο οργανισμός είπε ότι τα 34 «πιο εξωφρενικά» βίντεο προβλήθηκαν 2.700 φορές. Τα υπόλοιπα συγκέντρωσαν 7.300 προβολές.

Η απάντηση του Twitch

«Η βλάβη των νέων, οπουδήποτε στο διαδίκτυο, είναι απαράδεκτη και λαμβάνουμε αυτό το ζήτημα εξαιρετικά σοβαρά», έγραψε ένας εκπρόσωπος του Twitch στο Engadget. Ως απάντηση στην ειδοποίηση για το υλικό σεξουαλικής κακοποίησης παιδιών (

CSAM

), η εταιρεία λέει ότι έχει αναπτύξει νέα μοντέλα για τον εντοπισμό πιθανών συμπεριφορών περιποίησης και ενημερώνει τα υπάρχοντα εργαλεία της για να εντοπίζει και να αφαιρεί πιο αποτελεσματικά τους απαγορευμένους χρήστες που προσπαθούν να δημιουργήσουν νέους λογαριασμούς (συμπεριλαμβανομένων των νέων ζητήματα που σχετίζονται με την ασφάλεια).

Το Twitch προσθέτει ότι έχει εντείνει την επιβολή των ζωντανών ροών από τις ομάδες ασφαλείας του, τη ρίζα του Clips. «Αυτό σημαίνει ότι όταν απενεργοποιούμε μια ζωντανή ροή που περιέχει επιβλαβές περιεχόμενο και αναστείλουμε το κανάλι, επειδή δημιουργούνται κλιπ από ζωντανές ροές, αποτρέπουμε τη δημιουργία και τη διάδοση επιβλαβών κλιπ στην πηγή», έγραψε η εταιρεία. “Είναι σημαντικό ότι έχουμε εργαστεί επίσης για να διασφαλίσουμε ότι όταν διαγράφουμε και απενεργοποιούμε κλιπ που παραβιάζουν τις οδηγίες της κοινότητάς μας, αυτά τα κλιπ δεν είναι διαθέσιμα μέσω δημόσιου τομέα ή άλλων άμεσων συνδέσμων.”

«Αναγνωρίζουμε επίσης ότι, δυστυχώς, οι βλάβες στο διαδίκτυο εξελίσσονται», συνέχισε ο εκπρόσωπος. «Βελτιώσαμε τις κατευθυντήριες γραμμές που χρησιμοποιούν οι ομάδες εσωτερικής ασφάλειας για τον εντοπισμό ορισμένων από αυτές τις εξελισσόμενες βλάβες στο διαδίκτυο, όπως το γενετικό υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) με δυνατότητα τεχνητής νοημοσύνης». Το Twitch πρόσθεσε ότι έχει επεκτείνει τη λίστα των εξωτερικών οργανισμών με τους οποίους συνεργάζεται για (ελπίζουμε) να εξαλείψει οποιοδήποτε παρόμοιο περιεχόμενο στο μέλλον.

Προβλήματα μετριοπάθειας του Twitch

Bloomberg

αναφέρει ότι το Clips ήταν μια από τις λιγότερο επιμελημένες ενότητες στο Twitch. Σημειώνει επίσης ότι η εταιρεία απέλυσε το 15 τοις εκατό της εσωτερικής της ομάδας εμπιστοσύνης και ασφάλειας τον Απρίλιο του 2023 (μέρος μιας οδυνηρής χρονιάς απολύσεων τεχνολογίας) και έχει γίνει περισσότερο εξαρτημένη από εξωτερικούς συνεργάτες για την εξουδετέρωση του περιεχομένου CSAM.

Η πλατφόρμα του Twitch που εστιάζει στη ζωντανή ροή το καθιστά μια πιο δύσκολη πρόκληση ελέγχου από ό,τι πιο παραδοσιακοί ιστότοποι βίντεο όπως το YouTube ή το Instagram. Αυτές οι πλατφόρμες μπορούν να συγκρίνουν τα μεταφορτωμένα βίντεο με hashes — ψηφιακά δακτυλικά αποτυπώματα που μπορούν να εντοπίσουν παλαιότερα γνωστά προβληματικά αρχεία που δημοσιεύτηκαν στο διαδίκτυο. «Η τεχνολογία Hash αναζητά κάτι που ταιριάζει με κάτι που είδαμε στο παρελθόν», είπε στο Bloomberg η Lauren Coffren του Εθνικού Κέντρου των ΗΠΑ για τα εξαφανισμένα και εκμεταλλευόμενα παιδιά. “Η ζωντανή ροή σημαίνει ότι είναι ολοκαίνουργιο.”