Το εργαλείο AI Sticker του Facebook δημιουργεί περίεργα, όπως ο Waluigi με ένα τουφέκι

Την περασμένη εβδομάδα, ο Μέτα

ανακοινώθηκε

ό

τι

έβγαζε αυτοκόλλητα τεχνητής νοημοσύνης σε όλες τις εφαρμογές της, συμπεριλαμβανομένου του Facebook Messenger. Ωστόσο, η νέα λειτουργία αυτοκόλλητου AI, η οποία προορίζεται να επιτρέψει τη διασκέδαση και τη δημιουργική έκφραση, αντιμετωπίζει ήδη προβλήματα, με ορισμένους χρήστες να δημιουργούν ανησυχητικές ή προσβλητικές εικόνες.

Το εργαλείο χρησιμοποιεί το μοντέλο σύνθεσης εικόνας Emu της Meta για να μετατρέψει τις περιγραφές κειμένου σε προσομοιωμένες εικόνες που μπορούν να κοινοποιηθούν ως αυτοκόλλητα. Ωστόσο, μέσα σε λίγες μέρες από την κυκλοφορία, ο καλλιτέχνης Pier-Olivier Desbiens δημοσίευσε ένα

viral

thread στο X (Twitter) που δείχνει προβληματικές εικόνες που είχε δημιουργήσει ο ίδιος και άλλοι χρησιμοποιώντας τη δυνατότητα.

Αυτά περιελάμβαναν χαρακτήρες με πνευματικά δικαιώματα όπως ο Μίκυ Μάους σε βίαια ή σεξουαλικά σενάρια. Ο Desbiens σχολίασε ότι «κανείς δεν έχει σκεφτεί τίποτα» με αυτή την εκτόξευση.

Άλλα αυτοκόλλητα που δημιουργήθηκαν από την

τεχνητή νοημοσύνη

εξαπλώθηκαν γρήγορα στα

μέσα κοινωνικής δικτύωσης

, ξεπερνώντας τα όρια, όπως απεικονίσεις των επιθέσεων της 11ης Σεπτεμβρίου, φιγούρες παιχνιδιών με όπλα και πολιτικές προσωπικότητες σε ταπεινωτικές πόζες. Αυτό ακολουθεί μια τάση που παρατηρήθηκε προηγουμένως με τις γεννήτριες εικόνων χωρίς λογοκρισία, όπου ορισμένοι πειραματιστές προσπαθούν ενεργά να σπάσουν τα φίλτρα περιεχομένου.

Ενώ το Meta διαθέτει μεθόδους ελέγχου για να συλλάβει το πιο ακατάλληλο περιεχόμενο, οι σχεδόν άπειρες δυνατότητες αυτών των εργαλείων τεχνητής νοημοσύνης καθιστούν εξαιρετικά δύσκολη τη διεξοδική μετριοπάθεια. Η εταιρεία το αναγνώρισε αυτό, με τον εκπρόσωπο Άντι Στόουν να επισημαίνει τη δέσμευσή της για βελτίωση της υπεύθυνης ανάπτυξης. Σημείωσε ότι τα φίλτρα θα εξελίσσονται καθώς λαμβάνονται περισσότερα σχόλια για ανεπιθύμητα αποτελέσματα.

Οι χρήστες υποστηρίζουν ότι το Meta κινήθηκε πολύ γρήγορα, εισάγοντας τη λειτουργία αυτοκόλλητου που βλέπει τον καταναλωτή χωρίς αρκετά αυστηρές διασφαλίσεις. Πριν εφαρμοστούν αυστηρότερες κατευθυντήριες γραμμές, προηγούμενες δοκιμές beta της γενετικής τεχνητής νοημοσύνης από εταιρείες όπως

OpenAI

παρήγαγε παρόμοια προβληματικές εικόνες.

Μένει να δούμε αν η Meta θα αποσύρει το νέο εργαλείο αυτοκόλλητων ή θα ενισχύσει τον αποκλεισμό των λέξεων-κλειδιών της ως απάντηση σε αυτήν την αντίδραση. Ωστόσο, καθώς οι δυνατότητες της τεχνητής νοημοσύνης προχωρούν, η πρόκληση του μετριασμού απρόβλεπτων δημιουργικών συστημάτων μόνο θα εντείνεται.

Πηγή: X via

VentureBeat