Ο πληροφοριοδότης της Microsoft αντιλαμβάνεται τις απειλές του Designer AI

Τον Ιανουάριο, ένας υπάλληλος της Microsoft ονόματι Σέιν Τζόουνς έστειλε επιστολές στον Γενικό Εισαγγελέα της Πολιτείας της Ουάσιγκτον Μπομπ Φέργκιουσον και σε αρκετούς γερουσιαστές και εκπροσώπους των ΗΠΑ. Ο Τζόουνς ισχυρίζεται ότι είχε βρει προβλήματα με τα προστατευτικά κιγκλιδώματα για τον κατασκευαστή έργων τέχνης της Microsoft με βάση την τεχνητή νοημοσύνη Designer (παλαιότερα γνωστό ως Bing Image Creator). Σήμερα, ο Jones προβάλλει νέους ισχυρισμούς ότι το Designer μπορεί να χρησιμοποιηθεί για τη δημιουργία βίαιων και σεξουαλικών εικόνων με μερικές προτροπές κειμένου που δεν υποτίθεται ότι επιτρέπονται από τη Microsoft.

Σύμφωνα με

CNBC

, ο Τζόουνς έστειλε σήμερα νέες επιστολές στη Λίνα Καν, Πρόεδρο της Ομοσπονδιακής Επιτροπής Εμπορίου των ΗΠΑ, μαζί με άλλη μια επιστολή στο διοικητικό συμβούλιο της Microsoft. Στην επιστολή που εστάλη στον Khan, ο Jones ισχυρίζεται ότι προέτρεψε τη Microsoft να αφαιρέσει το Designer από τη δημόσια χρήση για αρκετούς μήνες μέχρι να τοποθετηθούν νέα και καλύτερα προστατευτικά κιγκλιδώματα.

Ο Jones ισχυρίζεται ότι η Microsoft αρνήθηκε να αφαιρέσει το Designer, επομένως ζήτησε από την εταιρεία να προβεί σε νέες αποκαλύψεις σχετικά με το τι μπορεί να δημιουργήσει ο Designer και επίσης να αλλάξει την αξιολόγηση για την εφαρμογή Android, ώστε να μην βαθμολογείται ως E (για όλους).

Το CNBC λέει ότι ο Jones ισχυρίζεται ότι πληκτρολόγησε το “Pro-choice” στο Designer, το οποίο στη συνέχεια δημιούργησε μια σειρά από βίαιες εικόνες κινουμένων σχεδίων. Ανέφερε:

Οι εικόνες, που προβλήθηκαν από το CNBC, περιελάμβαναν έναν δαίμονα με αιχμηρά δόντια έτοιμο να φάει ένα βρέφος, τον Darth Vader να κρατά ένα φωτόσπαθο δίπλα σε μεταλλαγμένα βρέφη και μια συσκευή χειρός που μοιάζει με τρυπάνι με την ένδειξη “pro Choice” που χρησιμοποιείται σε ένα πλήρως ώριμο μωρό.

Ο Jones ισχυρίζεται επίσης ότι το Designer μπορεί να χρησιμοποιηθεί για τη δημιουργία εικόνων χαρακτήρων που βασίζονται σε πνευματικά δικαιώματα από τη Disney. Το άρθρο λέει ότι είδε εικόνες από πράγματα όπως “Κονσέρβες Bud Light με την επωνυμία Star Wars και το παρόμοιο της Χιονάτης σε ατμιστή”.

Σε μια δήλωση που εστάλη στο CNBC, ένας εκπρόσωπος της Microsoft δήλωσε ότι εκτιμά τις προσπάθειες των εργαζομένων της εταιρείας που δοκιμάζουν την τεχνολογία και τις υπηρεσίες της για να τις κάνουν πιο ασφαλείς στη χρήση. Ο εκπρόσωπος πρόσθεσε:

Όταν πρόκειται για παρακάμψεις ασφαλείας ή ανησυχίες που θα μπορούσαν να έχουν δυνητικό αντίκτυπο στις υπηρεσίες μας ή στους συνεργάτες μας, έχουμε δημιουργήσει ισχυρά εσωτερικά κανάλια αναφοράς για τη σωστή διερεύνηση και αποκατάσταση τυχόν ζητημάτων, τα οποία ενθαρρύνουμε τους υπαλλήλους να χρησιμοποιήσουν ώστε να μπορέσουμε να επικυρώσουμε και να δοκιμάσουμε κατάλληλα. ανησυχίες.

Τον Φεβρουάριο, η Google έκλεισε τη λειτουργία δημιουργίας εικόνων AI που χρησιμοποιήθηκε στο chatbot Gemini AI, αφού ανακαλύφθηκε ότι θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία ρατσιστικά προσβλητικών εικόνων. Η εταιρεία λέει ότι τοποθετεί νέα προστατευτικά κιγκλιδώματα έτσι ώστε όταν επανέλθει το χαρακτηριστικό να μην κάνει τις ίδιες εικόνες.

Αυτοί οι νέοι ισχυρισμοί του Τζόουνς έρχονται ακόμη και όταν νέα έρευνα του Κέντρου Αντιμετώπισης Ψηφιακού Μίσους έδειξε ότι οι δημιουργοί τέχνης που βασίζονται στην τεχνητή νοημοσύνη, συμπεριλαμβανομένης της Microsoft, μπορούν εύκολα να χρησιμοποιηθούν για τη δημιουργία εικόνων σχεδιασμένων να δημιουργούν ψευδείς πληροφορίες σχετικά με εκλογές και υποψηφίους.