Νέο εργαλείο επιτρέπει στους καλλιτέχνες να πολεμούν τα ρομπότ εικόνας AI κρύβοντας κατεστραμμένα δεδομένα σε κοινή θέα

Από

τι

ς απεργίες του Χόλιγουντ μέχρι τα ψηφιακά πορτρέτα, η δυνατότητα της τεχνητής νοημοσύνης να κλέβει τη δουλειά των δημιουργικών και πώς να τη σταματήσει έχει κυριαρχήσει στην τεχνολογική συζήτηση το

2023

. Η τελευταία προσπάθεια για την προστασία των καλλιτεχνών και των δημιουργιών τους είναι το Nightshade, ένα εργαλείο που επιτρέπει στους καλλιτέχνες να προσθέτουν μη ανιχνεύσιμα

pixel

στη δουλειά τους που θα μπορούσε να καταστρέψει τα δεδομένα εκπαίδευσης ενός AI,

ο

MIT Technology Review

Αναφορές.

Η δημιουργία του Nightshade έρχεται καθώς μεγάλες εταιρείες όπως η OpenAI και η Meta αντιμετωπίζουν αγωγές για παραβίαση πνευματικών δικαιωμάτων και κλοπή προσωπικών έργων χωρίς αποζημίωση.

Ο καθηγητής του Πανεπιστημίου του Σικάγο Ben Zhao και η ομάδα του δημιούργησαν το Nightshade, το οποίο αυτή τη στιγμή βρίσκεται υπό αξιολόγηση από ομοτίμους, σε μια προσπάθεια να επαναφέρουν μέρος της δύναμης στα χέρια των καλλιτεχνών. Το δοκίμασαν σε πρόσφατα μοντέλα Stable Diffusion και ένα AI που κατασκεύασαν προσωπικά από την αρχή.

Το Nightshade ουσιαστικά λειτουργεί ως δηλητήριο, αλλάζοντας τον τρόπο με τον οποίο ένα μοντέλο μηχανικής

μάθηση

ς παράγει

περιεχόμενο

και πώς φαίνεται αυτό το τελικό προϊόν. Για παράδειγμα, θα μπορούσε να κάνει ένα σύστημα τεχνητής νοημοσύνης να ερμηνεύσει μια προτροπή για μια τσάντα ως τοστιέρα ή να εμφανίσει μια εικόνα μιας γάτας αντί του σκύλου που ζητήθηκε (το ίδιο ισχύει για παρόμοια μηνύματα όπως κουτάβι ή λύκος).

Το Nightshade ακολουθεί την κυκλοφορία του Zhao και της ομάδας του τον Αύγουστο ενός εργαλείου που ονομάζεται Glaze, το οποίο επίσης αλλάζει διακριτικά τα pixel ενός έργου τέχνης, αλλά κάνει τα συστήματα AI να ανιχνεύουν την αρχική εικόνα ως εντελώς διαφορετική από αυτήν. Ένας καλλιτέχνης που θέλει να προστατεύσει το έργο του μπορεί να το ανεβάσει στο Glaze και να επιλέξει να χρησιμοποιήσει το Nightshade.

Η καταστροφική τεχνολογία όπως το Nightshade θα μπορούσε να συμβάλει σημαντικά στην ενθάρρυνση των σημαντικών παικτών της τεχνητής νοημοσύνης να ζητήσουν και να αποζημιώσουν σωστά τη δουλειά των καλλιτεχνών (φαίνεται σαν μια καλύτερη εναλλακτική από την επανακαλωδίωση του συστήματός σας). Οι εταιρείες που θέλουν να αφαιρέσουν το δηλητήριο πιθανότατα θα χρειαστεί να εντοπίσουν κάθε κομμάτι διεφθαρμένων δεδομένων, κάτι που αποτελεί πρόκληση. Ο Ζάο προειδοποιεί ότι ορισμένα άτομα μπορεί να επιχειρήσουν να χρησιμοποιήσουν το εργαλείο για κακούς σκοπούς, αλλά ότι οποιαδήποτε πραγματική ζημιά θα απαιτούσε χιλιάδες κατεστραμμένα έργα.