Το νομικό τμήμα της Microsoft φέρεται να φίμωσε έναν μηχανικό που εξέφρασε ανησυχίες για το DALL-E 3

Ένας διευθυντής της Microsoft ισχυρίζεται ότι το

DALL-E

3 του OpenAI έχει ευπάθειες ασφαλείας

που

θα μπορούσαν να επιτρέψουν στους χρήστες να δημιουργήσουν βίαιες ή ακατάλληλες εικόνες (παρόμοιες με αυτές που στόχευσαν πρόσφατα την

Taylor

Swift).

GeekWire


έχουν αναφερθεί

Την Τρίτη, η νομική ομάδα της εταιρείας μπλόκαρε τις προσπάθειες του ηγέτη μηχανικής της Microsoft, Shane Jones, να ειδοποιήσει το κοινό σχετικά με την εκμετάλλευση. Ο αυτοαποκαλούμενος πληροφοριοδότης μεταφέρει τώρα το μήνυμά του στο Καπιτώλιο.

«Κατέληξα στο συμπέρασμα ότι το DALL·E 3 αποτελούσε κίνδυνο για τη δημόσια ασφάλεια και θα έπρεπε να αφαιρεθεί από τη δημόσια χρήση έως ότου το OpenAI μπορέσει να αντιμετωπίσει τους κινδύνους που σχετίζονται με αυτό το μοντέλο», έγραψε ο Jones στους Αμερικανούς γερουσιαστές Patty Murray (D-WA) και Maria Cantwell ( D-WA), Δημ.

GeekWire


δημοσίευσε

Ολόκληρη η επιστολή του Τζόουνς.

Ο Jones ισχυρίζεται ότι ανακάλυψε ένα κατόρθωμα που του επέτρεπε να παρακάμψει τα προστατευτικά κιγκλιδώματα του DALL-E 3 στις αρχές Δεκεμβρίου. Λέει ότι ανέφερε το ζήτημα στους ανωτέρους του στη Microsoft, οι οποίοι του ανέθεσαν «να αναφέρει προσωπικά το ζήτημα απευθείας στο OpenAI». Αφού το έκανε, ισχυρίζεται ότι έμαθε ότι το ελάττωμα θα μπορούσε να επιτρέψει τη δημιουργία «βίαιων και ενοχλητικών επιβλαβών εικόνων».

Ο Τζόουνς προσπάθησε στη συνέχεια να δημοσιοποιήσει την αιτία του σε μια ανάρτηση στο LinkedIn. «Το πρωί της 14ης Δεκεμβρίου 2023 δημοσίευσα δημόσια μια επιστολή στο LinkedIn προς το μη κερδοσκοπικό διοικητικό συμβούλιο του OpenAI, καλώντας τους να αναστείλουν τη διαθεσιμότητα του DALL·E 3),» έγραψε ο Jones. «Επειδή η Microsoft είναι παρατηρητής του διοικητικού συμβουλίου στο OpenAI και είχα μοιραστεί προηγουμένως τις ανησυχίες μου με την ηγετική μου ομάδα, ενημέρωσα αμέσως τη Microsoft για την επιστολή που είχα δημοσιεύσει».

Η απάντηση της Microsoft φέρεται να απαιτούσε να αφαιρέσει τη θέση του. «Λίγο μετά την αποκάλυψη της επιστολής στην ηγετική μου ομάδα, ο διευθυντής μου επικοινώνησε μαζί μου και μου είπε ότι το νομικό τμήμα της Microsoft είχε ζητήσει να διαγράψω την ανάρτηση», έγραψε στην επιστολή του. «Μου είπε ότι το νομικό τμήμα της Microsoft θα ακολουθούσε τη συγκεκριμένη αιτιολόγηση για το αίτημα κατάργησης μέσω email πολύ σύντομα και ότι έπρεπε να το διαγράψω αμέσως χωρίς να περιμένω το μήνυμα ηλεκτρονικού ταχυδρομείου από το νομικό

πρόσωπο

».

Ο Τζόουνς συμμορφώθηκε, αλλά λέει ότι η πιο λεπτομερής απάντηση από τη νομική ομάδα της Microsoft δεν έφτασε ποτέ. «Δεν έλαβα ποτέ εξήγηση ή αιτιολόγηση από αυτούς», έγραψε. Λέει ότι περαιτέρω προσπάθειες για να μάθουν περισσότερα από το νομικό τμήμα της εταιρείας αγνοήθηκαν. «Το νομικό τμήμα της Microsoft δεν έχει ακόμη απαντήσει ούτε έχει επικοινωνήσει απευθείας μαζί μου», έγραψε.

Το Engadget επικοινώνησε με τη Microsoft και το OpenAI, αλλά καμία από τις εταιρείες δεν απάντησε αμέσως. Θα ενημερώσουμε αυτό το άρθρο εάν έχουμε νέα.

Ο πληροφοριοδότης λέει ότι τα πορνογραφικά deepfakes της Taylor Swift που κυκλοφόρησαν στο X την περασμένη εβδομάδα είναι ένα παράδειγμα του τι θα μπορούσαν να προκαλέσουν παρόμοια τρωτά σημεία εάν αφεθούν ανεξέλεγκτα.

404 Μέσα


έχουν αναφερθεί

Τη Δευτέρα που το Microsoft Designer, το οποίο χρησιμοποιεί το DALL-E 3 ως backend, ήταν μέρος του συνόλου εργαλείων των deepfakers που έφτιαξαν το βίντεο. Η δημοσίευση ισχυρίζεται ότι η Microsoft, αφού ειδοποιήθηκε, διόρθωσε το συγκεκριμένο κενό.

«Η Microsoft γνώριζε αυτά τα τρωτά σημεία και την πιθανότητα κατάχρησης», κατέληξε ο Jones. Δεν είναι ξεκάθαρο αν τα exploits που χρησιμοποιήθηκαν για την κατασκευή του Deepfake του Swift είχαν άμεση σχέση με αυτά που αναφέρθηκε ο Jones τον Δεκέμβριο.

Ο Τζόουνς προτρέπει τους εκπροσώπους του στην Ουάσιγκτον, DC, να αναλάβουν δράση. Προτείνει στην κυβέρνηση των ΗΠΑ να δημιουργήσει ένα σύστημα αναφοράς και παρακολούθησης συγκεκριμένων τρωτών σημείων τεχνητής νοημοσύνης — ενώ παράλληλα προστατεύει υπαλλήλους σαν αυτόν που μιλούν ανοιχτά. «Πρέπει να κάνουμε τις εταιρείες υπεύθυνες για την ασφάλεια των προϊόντων τους και την ευθύνη τους να αποκαλύπτουν γνωστούς κινδύνους στο κοινό», έγραψε. «Οι εργαζόμενοι που ανησυχούν, όπως εγώ, δεν πρέπει να φοβούνται να μείνουν σιωπηλοί».