Η AI της Microsoft ανησυχεί για την ασφάλεια του Copilot Designer: Προειδοποίηση προς την FTC

Ένας μηχανικός της Microsoft φέρνει ανησυχίες για την ασφάλεια σχετικά με τη δημιουργία εικόνων AI της εταιρείας στην Ομοσπονδιακή Επιτροπή Εμπορίου,

σύμφωνα με δημοσίευμα του CNBC

. Ο Shane Jones, ο οποίος έχει εργαστεί για τη Microsoft για έξι χρόνια, έγραψε μια επιστολή στην FTC, δηλώνοντας ότι η Microsoft «αρνήθηκε» να καταργήσει το Copilot Designer παρά τις επανειλημμένες προειδοποιήσεις ότι το εργαλείο είναι ικανό να δημιουργεί επιβλαβείς εικόνες.

Όταν δοκίμασε το Copilot Designer για ζητήματα ασφάλειας και ελαττώματα, ο Jones διαπίστωσε ότι το εργαλείο δημιούργησε «δαίμονες και τέρατα μαζί με ορολογία που σχετίζεται με τα δικαιώματα αμβλώσεων, εφήβους με τουφέκια επίθεσης, σεξουαλικές εικόνες γυναικών σε βίαια ταμπλό και ανήλικους αλκοόλ και χρήση ναρκωτικών», αναφέρει το CNBC. .

Επιπλέον, ο Copilot Designer φέρεται να δημιούργησε εικόνες χαρακτήρων της Disney, όπως η Έλσα από

Παγωμένος

, σε σκηνές στη Λωρίδα της Γάζας «μπροστά από κατεστραμμένα κτίρια και πινακίδες «ελεύθερη Γάζα». Δημιούργησε επίσης εικόνες της Έλσας που φορούσε στολή των Ισραηλινών Αμυντικών Δυνάμεων ενώ κρατούσε μια ασπίδα με τη σημαία του Ισραήλ.

Το χείλος

μπόρεσε να δημιουργήσει παρόμοιες εικόνες χρησιμοποιώντας το εργαλείο.

Ο Jones προσπαθεί να προειδοποιήσει τη Microsoft για το DALLE-3, το μοντέλο που χρησιμοποιεί η Copilot Designer, από τον Δεκέμβριο, λέει το CNBC. Αυτός

δημοσίευσε ανοιχτή επιστολή

σχετικά με τα ζητήματα στο LinkedIn, αλλά φέρεται να επικοινώνησε μαζί του η νομική ομάδα της Microsoft για να αφαιρέσει την ανάρτηση, κάτι που έγινε.

«Τους τελευταίους τρεις μήνες, έχω επανειλημμένα προτρέψει τη Microsoft να αφαιρέσει το Copilot Designer από τη δημόσια χρήση μέχρι να τεθούν σε εφαρμογή καλύτερες διασφαλίσεις», έγραψε ο Jones στην επιστολή που έλαβε το CNBC. «Και πάλι, απέτυχαν να εφαρμόσουν αυτές τις αλλαγές και συνεχίζουν να εμπορεύονται το προϊόν σε «Κανένας». Οπουδήποτε. Οποιαδήποτε συσκευή.”

Σε δήλωση προς

Το χείλος

ο εκπρόσωπος της Microsoft, Frank Shaw, λέει ότι η εταιρεία «δεσμεύεται να αντιμετωπίσει οποιεσδήποτε ανησυχίες έχουν οι εργαζόμενοι σύμφωνα με» τις πολιτικές της Microsoft.

«Όταν πρόκειται για παρακάμψεις ασφαλείας ή ανησυχίες που θα μπορούσαν να έχουν δυνητικό αντίκτυπο στις υπηρεσίες μας ή στους συνεργάτες μας, έχουμε δημιουργήσει εργαλεία σχολίων χρηστών εντός προϊόντος και ισχυρά εσωτερικά κανάλια αναφοράς για τη σωστή διερεύνηση, ιεράρχηση και αποκατάσταση τυχόν ζητημάτων, τα οποία προτείναμε ότι ο υπάλληλος χρησιμοποιήσει ώστε να μπορέσουμε να επικυρώσουμε και να ελέγξουμε κατάλληλα τις ανησυχίες του.» Ο Shaw λέει επίσης ότι η Microsoft «διευκόλυνε συναντήσεις με την ηγεσία του προϊόντος και το Office of Responsible AI μας για να εξετάσουμε αυτές τις αναφορές».

Ενημέρωση 6 Μαρτίου, 6:09 μ.μ. ET:

Προστέθηκε δήλωση από τη Microsoft.