Η εφαρμογή Reddit εγκαθιδρύει μοντέλο τεχνητής νοημοσύνης για την αντιμετώπιση της παρενόχλησης
Edgar Cervantes / Android Authority
TL;DR
- Ένα Teardown του Android Authority αποκάλυψε ότι το Reddit θα χρησιμοποιήσει ένα μοντέλο AI για τον εντοπισμό παρενόχλησης.
- Το μοντέλο εκπαιδεύεται σε περιεχόμενο που προηγουμένως είχε επισημανθεί για παραβίαση των όρων του Reddit.
Έχουμε δει μεγάλα μοντέλα γλώσσας (LLM) που χρησιμοποιούνται για μια ποικιλία λειτουργιών τον τελευταίο χρόνο περίπου, από τη δημιουργία κειμένου/εικόνας έως εικονικούς βοηθούς και όχι μόνο. Τώρα, φαίνεται ότι μπορούμε να προσθέσουμε μια ακόμη περίπτωση χρήσης στη λίστα χάρη στο Reddit.
Η κατάργηση APK βοηθά στην πρόβλεψη λειτουργιών που ενδέχεται να φθάσουν σε μια υπηρεσία στο μέλλον με βάση τον κώδικα εργασίας σε εξέλιξη. Ωστόσο, είναι πιθανό τέτοια προβλεπόμενα χαρακτηριστικά να μην φτάσουν σε δημόσια κυκλοφορία.
Ένα teardown της έκδοσης 2024.10.0 της εφαρμογής Reddit για Android αποκάλυψε ότι το Reddit χρησιμοποιεί τώρα ένα LLM για να ανιχνεύσει την παρενόχληση στην πλατφόρμα. Μπορείτε να δείτε τις σχετικές συμβολοσειρές παρακάτω.
Κώδικας
<string name="hcf_answer_how_model_trained">The harassment model is an large language model (LLM) that is trained on content that our enforcement teams have found to be violating. Moderator actions are also an input in how the model is trained.</string>
<string name="hcf_faq_how_model_trained">How is the harassment model trained?</string>
Το Reddit ενημέρωσε επίσης
σελίδα υποστήριξης
πριν από μια εβδομάδα για να αναφέρω τη χρήση ενός μοντέλου AI ως μέρος του φίλτρου παρενόχλησής του.
“Το φίλτρο τροφοδοτείται από ένα Large Language Model (LLM) που είναι εκπαιδευμένο σε ενέργειες επόπτη και περιεχόμενο που αφαιρέθηκε από τα εσωτερικά εργαλεία και τις ομάδες επιβολής του Reddit”, αναφέρεται σε ένα απόσπασμα από τη σελίδα.
Είτε έτσι είτε αλλιώς, φαίνεται ότι οι συντονιστές έχουν ένα άλλο εργαλείο στο οπλοστάσιό τους για την καταπολέμηση του απαράδεκτου περιεχομένου στο Reddit. Θα κάνει πραγματικά καλή δουλειά στην επισήμανση περιεχομένου, ωστόσο; Θα πρέπει απλώς να περιμένουμε και να δούμε.
VIA:
AndroidAuthority.com
