Την περασμένη εβδομάδα, οι deepfake φωτογραφίες της τραγουδίστριας Taylor Swift έγιναν viral στο διαδίκτυο, προκαλώντας άλλη
μι
α συζήτηση σχετικά με την κακή χρήση της AI και αναγκάζοντας τον X (πρώην Twitter) να μπλοκάρει τις αναζητήσεις για Taylor Swift στην πλατφόρμα.
Τώρα,
404 δημοσιεύματα ΜΜΕ
ότι η Microsoft έχει κάνει αλλαγές στο Designer AI που φέρεται να χρησιμοποιήθηκε από το κανάλι Telegram για τη δημιουργία ακατάλληλων εικόνων. Σύμφωνα με
404 έρευνα των μέσων ενημέρωσης
οι βαθιά ψεύτικες φωτογραφίες της διασημότητας εντοπίστηκαν στο Designer AI της Microsoft, με το Telegram Channel και το 4chan να προτείνουν στους χρήστες να επωφεληθούν από το Designer AI.
Η ομάδα Telegram συνιστά στα μέλη να χρησιμοποιούν τη συσκευή δημιουργίας εικόνων AI της Microsoft που ονομάζεται Designer και οι χρήστες μοιράζονται συχνά μηνύ
ματ
α για να βοηθήσουν άλλους να παρακάμψουν τις προστασίες που έχει θέσει σε εφαρμογή η Microsoft. Το νήμα 4chan όπου εμφανίστηκαν αυτές οι εικόνες περιελάμβανε επίσης οδηγίες σχετικά με το πώς να κάνετε τον Σχεδιαστή της Microsoft να δημιουργεί σαφείς εικόνες.
Ενώ, η Microsoft έχει εφαρμόσει μπλοκ για να εμποδίσει τους ανθρώπους να δημιουργούν ακατάλληλες εικόνες, οι χρήστες το ξεπέρασαν γράφοντας λάθος ονόματα ή περιγράφοντας
σεξ
ουαλικές πράξεις αντί να χρησιμοποιούν ονόματα απευθείας στο μήνυμα.
Οι δοκιμές του 404
Media
διαπίστωσαν ότι ο Σχεδιαστής δεν θα δημιουργήσει μια εικόνα της «Τζένιφερ Άνιστον», αλλά μπορέσαμε να δημιουργήσουμε υποβλητικές εικόνες της ηθοποιού χρησιμοποιώντας τη φράση «τζένιφερ ‘ηθοποιός’ άνιστον». Πριν οι εικόνες του Swift AI γίνουν viral στο Twitter, ένας χρήστης στην ομάδα Telegram συνέστησε στα μέλη να χρησιμοποιούν τη φράση “Taylor ‘τραγουδιστής’ Swift” για τη δημιουργία εικόνων.
Σε μια δήλωση προς τα μέσα ενημέρωσης 404, η Microsoft δήλωσε ότι δεν βρήκε στοιχεία ότι το Designer AI χρησιμοποιήθηκε για τη δημιουργία εικόνων της Taylor Swift. Ο εκπρόσωπος σημείωσε περαιτέρω:
Ο Κώδικας Δεοντολογίας μας απαγορεύει τη χρήση των εργαλείων μας για τη δημιουργία οικείου περιεχομένου για ενηλίκους ή μη συναινετικού περιεχομένου και τυχόν επαναλαμβανόμενες προσπάθειες παρ
αγωγή
ς περιεχομένου που αντίκειται στις πολιτικές μας ενδέχεται να οδηγήσουν σε απώλεια πρόσβασης στην υπηρεσία. Έχουμε μεγάλες ομάδες που εργάζονται για την ανάπτυξη προστατευτικών κιγκλιδωμάτων και άλλων συστημάτων ασφαλείας σύμφωνα με τις υπεύθυνες αρχές τεχνητής νοημοσύνης μας, συμπεριλαμβανομένου του φιλτραρίσματος περιεχομένου, της λειτουργικής παρακολούθησης και του εντοπισμού κατάχρησης για τον μετριασμό της κακής χρήσης του συστήματος και τη δημιουργία ενός ασφαλέστερου περιβάλλοντος για τους χρήστες.
Ενώ η Microsoft δεν έχει ακόμη εκδώσει δημόσια δήλωση, ο διευθύνων σύμβουλος Satya Nadella αναφέρθηκε στο θέμα σε μια συνέντευξη με
Νέα του NBC
.
«Ναι, πρέπει να δράσουμε», είπε η Nadella απαντώντας σε ερώτηση σχετικά με τα deepfakes του Swift. “Πιστεύω ότι όλοι ωφελούμαστε όταν ο διαδικτυακός κόσμος είναι ένας ασφαλής κόσμος. Και επομένως δεν νομίζω ότι κάποιος θα ήθελε έναν διαδικτυακό κόσμο που δεν είναι εντελώς ασφαλής τόσο για τους δημιουργούς όσο και για τους καταναλωτές περιεχομένου. Επομένως, νομίζω ότι μας αρμόζει να προχωρήστε γρήγορα σε αυτό».
404 μέσα σημείωσαν ότι μετά τη δημοσίευση της έρευνάς της, η Microsoft φαίνεται να έχει επιδιορθώσει το κενό και η χρήση των ίδιων προτροπών ή φάσεων για να ξεπεράσει το μπλοκ λέξεων-κλειδιών δεν λειτουργεί πλέον στο Designer AI. Ωστόσο, ανέφεραν επίσης ότι η Telegram δεν έχει ακόμη προβεί σε κάποια ενέργεια και τα εν λόγω κανάλια είναι ενεργά και αναζητούν τρόπους εκμετάλλευσης άλλων υπηρεσιών τεχνητής νοημοσύνης για τη δημιουργία βαθιάς ψεύτικων εικόνων διασημοτήτων. Όχι μόνο αυτό, αλλά οι χρήστες στο 4chan ανέφεραν ότι έχουν βρει άλλους τρόπους για να παρακάμψουν την απαγόρευση του Bing και του Designer.
Τα νέα έρχονται σε μια κακή στιγμή για τη Microsoft καθώς η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) μόλις ανακοίνωσε ότι είχε ξεκινήσει έρευνα στη Microsoft για την επένδυσή της σε εταιρείες παραγωγής τεχνητής νοημοσύνης. Μια άλλη αναφορά στις αρχές αυτού του μήνα ισχυρίστηκε ότι η FTC και το Υπουργείο Δικαιοσύνης (DOJ) εξετάζουν τη σχέση της Microsoft με το OpenAI.
VIA:
NeoWin.net
