Η αμφιλεγόμενη πλατφόρμα εικόνας AI Civitai αποσύρθηκε από τον πάροχο υπολογιστών νέφους μετά από αναφορές για πιθανή CSAM

Η OctoML λέει ό

τι

τερμάτισε την επιχειρηματική της σχέση με τη Civitai λίγες μέρες μετά από έρευνα που διεξήγαγε


404 Μέσα


αποκάλυψε ότι η πλατφόρμα κειμένου σε εικόνα χρησιμοποιήθηκε για τη δημιουργία εικόνων που «θα μπορούσαν να κατηγοριοποιηθούν ως παιδική πορνογραφία». Η Civitai βασιζόταν στο παρελθόν στο OctoAI της OctoML για τη δημιουργία εικόνων. Ενώ η OctoML αρχικά ανέφερε ότι θα συνεχίσει να συνεργάζεται με τη Civitai και εισήγαγε νέα μέτρα για να περιορίσει τη δημιουργία επιβλαβών εικόνων,


404 Μέσα


ανέφερε το Σάββατο ότι αποφάσισε τώρα να διακόψει εντελώς τους δεσμούς της με την πλατφόρμα.

Σύμφωνα με

404 Μέσα

Στην αναφορά της 5ης Δεκεμβρίου, οι εσωτερικές επικοινωνίες έδειξαν ότι η OctoML γνώριζε ότι ορισμένοι χρήστες Civitai δημιουργούσαν σεξουαλικά ρητό υλικό που περιλάμβανε μη συναινετικές εικόνες πραγματικών ανθρώπων


και πορνογραφικές απεικονίσεις παιδιών. Σε μια έκθεση παρακολούθησης αυτό το Σαββατοκύριακο, η δημοσίευση σημείωσε ότι η OctoML κυκλοφόρησε ένα φίλτρο για να εμποδίσει τη δημιουργία όλου του περιεχομένου NSFW στο Civitai πριν ανακοινώσει την απόφασή της να αποχωρήσει. Η Civitai πρόσθεσε επίσης νέες μεθόδους εποπτείας ως απάντηση στην έρευνα νωρίτερα αυτή την εβδομάδα, συμπεριλαμβανομένης μιας υποχρεωτικής ενσωμάτωσης που ονομάζεται Civitai Safe Helper (Minor) που εμποδίζει το

μοντέλο

να δημιουργεί εικόνες παιδιών εάν «ανιχνευτεί ένα ώριμο θέμα ή λέξη-κλειδί», σύμφωνα με

404

.

Η Civitai που υποστηρίζεται από τον

Andreessen Horowitz

έχει ελεγχθεί στο παρελθόν για τη λειτουργία “bounties” που προκαλεί τους χρήστες να δημιουργήσουν ρεαλιστικές εικόνες πραγματικών ανθρώπων για ανταμοιβές. Τον Νοεμβριο,


404 Μέσα


ανακάλυψε ότι χρησιμοποιήθηκε για τη δημιουργία μη συναινετικών

deepfakes

διασημοτήτων, επιρροών και ακόμη και ιδιωτών που, σε πολλές περιπτώσεις, είχαν σεξουαλικό χαρακτήρα. Τα υποκείμενα ήταν κυρίως γυναίκες. Σύμφωνα με

404 Μέσα

η Civitai έχει προσθέσει έκτοτε ένα φίλτρο για να αποτρέψει τη δημιουργία περιεχομένου NSFW με «ορισμένες» διασημότητες.

Ωστόσο, η OctoML — η οποία χρησιμοποιεί τους διακομιστές των υπηρεσιών Web της Amazon — δεν θέλει πλέον να συμμετέχει. Σε δήλωση προς

404 Μέσα

το Σάββατο, η OctoML δήλωσε: «Αποφασίσαμε να τερματίσουμε την επιχειρηματική μας σχέση με τη Civitai. Αυτή η απόφαση ευθυγραμμίζεται με τη δέσμευσή μας να διασφαλίσουμε την ασφαλή και υπεύθυνη χρήση της τεχνητής νοημοσύνης».