Οι δημιουργοί εικόνων AI εκπαιδεύονται σε εικόνες σεξουαλικής κακοποίησης παιδιών

Καλώς ήρθατε στο Τι νέο υπάρχει στην τεχνητή νοημοσύνη, την εβδομαδιαία μας ενημέρωση, όπου σας μεταφέρουμε όλα τα τελευταία νέα, εργαλεία και συμβουλές για την τεχνητή νοημοσύνη που θα σας βοηθήσουν να διαπρέψετε σε αυτόν τον νέο γενναίο κόσμο που βασίζεται στην τεχνητή νοημοσύνη. Ας ξεκινήσουμε εστιάζοντας στη μεγαλύτερη (και επί του παρόντος έκτακτη)

ιστορία

της εβδομάδας:

Τα μοντέλα εκπαίδευσης μπορεί να χρησιμοποιούν πραγματικές εικόνες που απεικονίζουν την κακοποίηση παιδιών

Μια ανησυχητική νέα έκθεση από το Παρατηρητήριο Διαδικτύου του Στάνφορντ διαπίστωσε ότι το σύνολο δεδομένων LAION-5B έχει τουλάχιστον 3.200 εικόνες ύποπτης σεξουαλικής κακοποίησης παιδιών και μέχρι στιγμής τουλάχιστον χίλιες εικόνες έχουν επιβεβαιωθεί από το Στάνφορντ σε συνεργασία με το Καναδικό Κέντρο Προστασίας Παιδιού και άλλα ομάδες κατά της κακοποίησης. Το πιο ανησυχητικό είναι ότι αυτά τα δεδομένα χρησιμοποιούνται αυτήν τη στιγμή από εργαλεία όπως το Stable Diffusion’s Stability AI και οι γεννήτριες Imagen της Google.

Τα καλά νέα είναι ότι ο μη κερδοσκοπικός οργανισμός πίσω από τη LAION κατέστησε σαφές ότι έχει πολιτική μηδενικής ανοχής για επιβλαβές περιεχόμενο και ότι θα αφαιρέσει προσωρινά τα σύνολα δεδομένων στο διαδίκτυο καθώς εξετάζεται το πρόβλημα. Ενώ οι εικόνες αποτελούν μόνο ένα μικρό κλάσμα της βάσης δεδομένων, το κακό δεν μπορεί να υποτιμηθεί. Είναι πολύ πιθανό αυτά τα δεδομένα να χρησιμοποιούνται από κακούς ηθοποιούς για τη δημιουργία παράνομων εικόνων πορνογραφίας και για άλλους κακόβουλους σκοπούς. Στην πραγματικότητα, έχουν ήδη σημειωθεί περιστατικά σχετικά με τη χρήση τεχνητής νοημοσύνης για την ψηφιακή αφαίρεση των ρούχων των εφήβων χρησιμοποιώντας τις

φωτογραφίες

τους στα μέσα κοινωνικής δικτύωσης. Παλαιότερα πίστευαν ότι αυτό γινόταν σε μεγάλο βαθμό με τη χρήση δεδομένων εκπαίδευσης από πορνό ενηλίκων σε συνδυασμό με νόμιμες, συνηθισμένες εικόνες παιδιών που συλλέγονταν από τους αποκομιστές των δεδομένων εκπαίδευσης. Όπως αποδεικνύεται, είναι πιθανό να εμπλέκονται και αυτά τα παράνομα δεδομένα εκπαίδευσης.

Δυστυχώς, ο τρόπος με τον οποίο λειτουργούν τα μοντέλα τεχνητής νοημοσύνης καθιστά δύσκολο να το αποτρέψουμε από το να διαγράψει παράνομα δεδομένα που βρίσκει στο Διαδίκτυο, γεγονός που καθιστά τη σημασία των διασφαλίσεων ακόμη πιο καθοριστική. Ενώ πολλές εταιρείες όπως το Stable Diffusion έχουν ήδη εφαρμόσει πρακτικές που μειώνουν τη ζημιά, υπάρχουν πολλά μη εξουσιοδοτημένα ή χακαρισμένα εργαλεία εκεί έξω. Υπήρξαν ήδη προηγούμενες εκ

κλήσεις

και από τους 50 γενικούς εισαγγελείς των ΗΠΑ για να αντιμετωπίσουν το CSAM που δημιουργείται από την τεχνητή νοημοσύνη στο

Κογκρέσο

και ελπίζουμε ότι αυτή η νέα έκθεση θα βοηθήσει να λάμψει ένα ακόμη πιο λαμπρό φως που θα λάβει τις απαραίτητες προστασίες και ρυθμίσεις. Μπορείτε να διαβάσετε περισσότερα για την ιστορία στο

Associated Press

.

AI στις ειδήσεις: Τι άλλο συμβαίνει αυτή την εβδομάδα

Αν και η παραπάνω αναφορά είναι σίγουρα η πιο ανησυχητική είδηση ​​της εβδομάδας, απέχει πολύ από το μόνο που συμβαίνει στην τεχνητή νοημοσύνη. Ακολουθεί μια γρήγορη σύνοψη:

• 
  
  Το Rite Aid απαγορεύτηκε να χρησιμοποιεί αναγνώριση προσώπου AI.
  
  
  Η Rite Aid βρέθηκε σε προβλήματα με την FTC αφού χρησιμοποίησε την αναγνώριση προσώπου AI για να κυνηγήσει κλέφτες καταστημάτων και άλλους κακούς ηθοποιούς. Η εταιρεία χρησιμοποιούσε τις εικόνες για να δημιουργήσει μια βάση δεδομένων «προσώπων ενδιαφέροντος». Αυτή η βάση δεδομένων οδήγησε τελικά τους υπαλλήλους του καταστήματος να χρησιμοποιήσουν αυτές τις πληροφορίες για να κατηγορήσουν τους πελάτες για κακή συμπεριφορά, στοχεύοντας ιδιαίτερα τις γυναίκες και τους έγχρωμους. Λόγω της «αλόγιστης χρήσης των συστημάτων παρακολούθησης προσώπου», η FTC λέει ότι η εταιρεία δεν μπορεί να χρησιμοποιήσει την αναγνώριση προσώπου AI στις επιχειρήσεις της για τα επόμενα πέντε χρόνια.
• 
  
  Δεν υπάρχει κανένα κρυφό από τους άρχοντες της τεχνητής νοημοσύνης μας.
  
  
  Ένα νέο έργο με την ονομασία Πρόβλεψη γεωγραφικών τοποθεσιών εικόνων δημιουργήθηκε από τρεις φοιτητές του Στάνφορντ για να σας βοηθήσει να βρείτε πού τραβήχτηκαν για πρώτη φορά οι εικόνες του Google Street View. Αλλά αφού τροφοδοτούσαν προσωπικές φωτογραφίες που δεν είχαν ξαναδεί, μπόρεσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να βρουν με ακρίβεια την τοποθεσία του ατόμου με υψηλό βαθμό ακρίβειας. Το να πούμε ότι αυτό παρουσιάζει σημαντικές ανησυχίες για το απόρρητο θα το θέτουμε ήπια.
• 
  
  Η ΕΕ θέλει να υποστηρίξει εγχώριες νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης.
  
  
  Η Ευρωπαϊκή Ένωση θέλει να παράσχει σε αυτές τις νεοφυείς επιχειρήσεις πρόσβαση στην απαραίτητη επεξεργαστική ισχύ που μπορεί να παρέχει ένας υπερυπολογιστής.
• 
  
  Μια εφημερίδα του Αρκάνσας μηνύει την Google.
  
  
  Η αγωγή του Helana World Chronicle ισχυρίζεται ότι το Google Bard AI εκπαιδεύτηκε σε ένα σύνολο δεδομένων που περιελάμβανε «ειδήσεις, περιοδικά και ψηφιακές εκδόσεις» και ότι αυτό επηρεάζει αρνητικά τον ελεύθερο τύπο χωρίς θετική απόδοση.
  
  Επιπλέον
  
  , υποστηρίζει ότι το πρόσφατο AI της Google έχει σχεδιαστεί για να αποθαρρύνει τους τελικούς χρήστες από το να επισκέπτονται ειδησεογραφικούς ιστότοπους, προτιμώντας να χρησιμοποιούν το AI απευθείας από την Google για τη δουλειά.

Εργαλεία AI & Apps Spotlight

Στο επίκεντρο των Εργαλείων & Εφαρμογών AI, ρίχνουμε το φως σε νέες εφαρμογές και εργαλεία που πιστεύουμε ότι αξίζουν την επιπλέον προσοχή. Θα είμαστε ειλικρινείς, αυτή ήταν μια πιο ήσυχη εβδομάδα για εργαλεία, κάτι που έχει νόημα τόσο βαθιά μέσα στην περίοδο των διακοπών. Τα φώτα της δημοσιότητας αυτής της εβδομάδας πηγαίνουν σε ένα εργαλείο που δεν είναι τεχνικά νέο, αλλά λαμβάνει μια αρκετά ενδιαφέρουσα ενημέρωση.

Το Microsoft Copilot δεν τραβάει το ίδιο επίπεδο προσοχής με μερικά από τα άλλα chatbot, αλλά είναι χτισμένο στο GPT 4 και είναι στην πραγματικότητα αρκετά ισχυρό. Επίσης, ανοίγει το δρόμο του σε περισσότερα μέρη, όπως εντός του Microsoft Edge, μέσω των Windows και πολλά άλλα. Ως επί το πλείστον, το Copilot κάνει τα ίδια πράγματα με τα υπόλοιπα κύρια chatbot, αλλά η νέα του ενσωμάτωση με το Suno το κάνει να αξίζει να τονιστεί αυτή την εβδομάδα. Απλώς επισκεφτείτε το Microsoft Copilot και ζητήστε του να “δημιουργήσει μουσική με το Suno”. Με ένα απλό πρόσθετο, θα μπορείτε να δημιουργήσετε τη μουσική σας που δημιουργείται από AI χρησιμοποιώντας ένα απλό μήνυμα κειμένου μίας ή δύο γραμμών.

Πώς και συμβουλές: Bard εναντίον ChatGPT, ποιο chatbot AI τα καταφέρνει καλύτερα στον προγραμματισμό ταξιδιού;

Θέλετε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, πώς να κάνετε καλύτερη χρήση των εργαλείων τεχνητής νοημοσύνης ή πώς να προστατεύσετε το απόρρητό σας από την τεχνητή νοημοσύνη; Κάθε εβδομάδα θα σας φέρνουμε έναν νέο οδηγό ή συμβουλή που πιστεύουμε ότι αξίζει να μοιραστούμε. Αυτή την εβδομάδα κάνω μια μικρή αυτοπροβολή για το τελευταίο μου άρθρο τεχνητής νοημοσύνης που εξετάζει πιο προσεκτικά τον τρόπο σύγκρισης των Gemini Pro και ChatGPT όσον αφορά τον προγραμματισμό μιας διαδρομής. Όχι μόνο φέρνει κάποια εικόνα για το πόσο διαφορετικά τείνουν να ανταποκρίνονται τα δύο εργαλεία, αλλά είναι επίσης ένας καλός οδηγός για να δείτε ποιο ταιριάζει καλύτερα στις ανάγκες σας.