Το Discord απαγορεύει τους διακομιστές γνωριμιών για εφήβους και την κοινή χρήση CSAM που δημιουργείται από AI

Η διχόνοια έχει

ΕΠΙΚΑΙΡΟΠΟΙΗΜΕΝΟ

η πολιτική της είχε ως στόχο την προστασία των παιδιών και των εφήβων στην πλατφόρμα της μετά

Αναφορές

αποκαλύφθηκε ότι οι θηρευτές χρησιμοποιούν την εφαρμογή για να δημιουργήσουν και να διαδώσουν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), καθώς και για να καλλωπίσουν νεαρούς εφήβους. Η πλατφόρμα τώρα

απαγορεύει ρητά

Φωτορεαλιστικό CSAM που δημιουργείται από AI. Οπως και


Η Washington Post


πρόσφατα αναφέρθηκε ότι η αύξηση της γενετικής τεχνητής νοημοσύνης οδήγησε επίσης στην έκρηξη ρεαλιστικών εικόνων με σεξουαλικές απεικονίσεις παιδιών. Η δημοσίευση είχε

δει

συνομιλίες σχετικά με τη χρήση του

Midjourney

— μιας τεχνητής νοημοσύνης που δημιουργεί κείμενο σε εικόνα στο

Discord

— για τη δημιουργία ακατάλληλων εικόνων παιδιών.

Εκτός από την απαγόρευση του CSAM που δημιουργείται από την τεχνητή νοημοσύνη, το Discord πλέον απαγορεύει επίσης ρητά κάθε άλλο είδος περιεχομένου κειμένου ή πολυμέσων που κάνει σεξουαλικά παιδιά. Η πλατφόρμα έχει απαγορεύσει επίσης τους διακομιστές γνωριμιών για εφήβους και έχει δεσμευτεί να λάβει μέτρα κατά των χρηστών που εμπλέκονται σε αυτήν τη συμπεριφορά. Ένα προηγούμενο


NBC News


Η έρευνα διαπίστωσε ότι οι διακομιστές Discord διαφημίζονταν ως διακομιστές γνωριμιών εφήβων με συμμετέχοντες που ζητούσαν γυμνές εικόνες από ανηλίκους.

Ενήλικες χρήστες είχαν ασκηθεί ποινική δίωξη στο παρελθόν για περιποίηση παιδιών στο Discord, ενώ υπάρχουν ακόμη και κυκλώματα εγκλημάτων που εκβιάζουν ανήλικους χρήστες να στείλουν σεξουαλικές εικόνες του εαυτού τους. Η πλήρης απαγόρευση των διακομιστών γνωριμιών για εφήβους θα μπορούσε να βοηθήσει στην άμβλυνση του προβλήματος. Η Discord έχει επίσης συμπεριλάβει μια γραμμή στην πολιτική της, η οποία δηλώνει ότι οι μεγαλύτεροι έφηβοι που διαπιστώνεται ότι περιποιούνται νεότερους εφήβους θα “εξεταστούν και θα ληφθούν μέτρα σύμφωνα με [its] Ανάρμοστη σεξουαλική συμπεριφορά με παιδιά και πολιτική καλλωπισμού.”

Εκτός από την ενημέρωση των κανόνων του, το Discord κυκλοφόρησε πρόσφατα ένα εργαλείο Family Center που μπορούν να χρησιμοποιήσουν οι γονείς για να παρακολουθούν τη δραστηριότητα των παιδιών τους στην υπηρεσία συνομιλίας. Ενώ οι γονείς δεν θα μπορούν να δουν το πραγματικό περιεχόμενο του μηνύματος των παιδιών τους, το εργαλείο συμμετοχής τους επιτρέπει να βλέπουν με ποιους είναι φίλοι τα παιδιά τους και με ποιους μιλούν στην πλατφόρμα. Η Discord ελπίζει ότι αυτά τα νέα μέτρα και εργαλεία μπορούν να βοηθήσουν να διατηρήσει τους ανήλικους χρήστες της ασφαλείς μαζί με τα παλιά μέτρα της, τα οποία περιλαμβάνουν προληπτική σάρωση εικόνων που έχουν ανέβει στην πλατφόρμα της χρησιμοποιώντας το PhotoDNA.