Η γεννήτρια εικόνας AI του Bing προσπαθεί να μπλοκάρει τις προτροπές για «δίδυμους πύργους», αλλά δεν λειτουργεί

Αφού ορισμένοι χρήστες της ενσωμάτωσης DALL-E 3 του Bing βρήκαν ένα κενό στα προστατευτικά κιγκλιδώματα του εργαλείου και δημιούργησαν τέχνη με αρκετούς αγαπημένους χαρακτήρες κινουμένων σχεδίων και τους Δίδυμους Πύργους, η Microsoft φαίνεται να έχει μπλοκάρει μηνύματα όπως «δίδυμοι πύργοι» και «κέντρο παγκοσμίου εμπορίου» — αν και το Η γεννήτρια θα εξακολουθεί να παράγει τους πύργους με κάποιες αλλαγές λέξης.

Όπως αναφέρεται από


404 Μέσα


οι χρήστες του Bing Chat της Microsoft και της γεννήτριας εικόνων Bing — που πρόσφατα ενσωματώθηκε με το DALL-E 3 του OpenAI — χρησιμοποίησαν τα εργαλεία για να δημιουργήσουν

φωτογραφίες

του Μπομπ Σφουγγαράκης, του

Κίρμπι

, πιλότων από


Νέον Γένεσις Ευαγγελίων


και πολλοί άλλοι που πετούν με αεροπλάνο στους Δίδυμους Πύργους.

Οι άνθρωποι μπόρεσαν να δημιουργήσουν πραγματικά ασυνεχείς φωτογραφίες χρησιμοποιώντας γεννήτριες εικόνων AI, μερικές με χαρακτήρες που προστατεύονται από πνευματικά δικαιώματα. Όμως, καθώς οι γεννήτριες εικόνων τεχνητής νοημοσύνης έχουν μπει στο νερό λόγω αξιώσεων πνευματικών δικαιωμάτων και πλαστών, οι προγραμματιστές ήταν πιο προσεκτικοί στο να επιτρέπουν στους ανθρώπους να χρησιμοποιούν τα εργαλεία τους για να δημιουργούν αμφισβητούμενες φωτογραφίες. Ο προγραμματιστής του DALL-E 3 OpenAI είχε υποσχεθεί ότι δεν θα δημιουργούσε εικόνες από μηνύματα προτροπής με εξέχοντα ονόματα.

Η Caitlin Roulston, διευθύντρια επικοινωνίας στη Microsoft, δήλωσε σε μια δήλωση που εστάλη μέσω email προς

Το χείλος

ότι η εταιρεία σχεδιάζει να βελτιώσει τα συστήματά της «για να βοηθήσει στην πρόληψη της δημιουργίας επιβλαβούς περιεχομένου».

«Όπως με κάθε νέα τεχνολογία, ορισμένοι προσπαθούν να τη χρησιμοποιήσουν με τρόπους που δεν προορίζονταν, γι’ αυτό εφαρμόζουμε μια σειρά από προστατευτικά κιγκλιδώματα και φίλτρα για να κάνουμε το Bing Image Creator μια θετική και χρήσιμη εμπειρία για τους χρήστες», είπε ο Roulston.

Μερικοί

Χείλος

Οι συγγραφείς μπόρεσαν να δημιουργήσουν εικόνες παρόμοιες με αυτές

404

περιγράφεται, συμπεριλαμβανομένου του διάσημου Ιταλού υδραυλικού

Mario

που πετούσε με αεροπλάνο με θέα τους Δίδυμους Πύργους έξω από το πιλοτήριο. Αλλά όταν προσπάθησα να το αναδημιουργήσω με το Bing Image Creator αφού επικοινώνησα με τη Microsoft, διαπίστωσα ότι ο όρος “δίδυμοι πύργοι” είχε αποκλειστεί και έπεσε με μια προειδοποίηση περιεχομένου που έλεγε ότι η προτροπή παραβιάζει τις πολιτικές περιεχομένου. Ένας συνάδελφος έλαβε την ίδια απάντηση για προτροπές που ζητούσαν απλώς «τους Δίδυμους Πύργους» καθώς και «το Παγκόσμιο Κέντρο Εμπορίου».

Η Microsoft δεν επέκτεινε το πώς θα μπορούσαν να μοιάζουν αυτά τα προστατευτικά κιγκλιδώματα ή τα φίλτρα και δεν σχολίασε εάν απέκλεισε πρόσφατα περιεχόμενο που σχετίζεται με τους Δίδυμους Πύργους.

Ωστόσο, ο αποκλεισμός κάποιου περιεχομένου μπορεί να αργήσει λίγο


404 Μέσα

έχουν αναφερθεί

Οι αφίσες σε ιστότοπους όπως το 4chan καθοδηγούν τους ανθρώπους στο πώς να χειρίζονται δωρεάν εργαλεία όπως το Bing Chat και το Stable Diffusion για τη δημιουργία και τη διανομή ρατσιστικών εικόνων. Και ως συνήθως, μπορείτε να ξεπεράσετε τα προστατευτικά κιγκλιδώματα με τροποποιήσεις λέξεων. Ζητώντας “Ο Mario να κάθεται στο πιλοτήριο ενός αεροπλάνου, να πετάει προς τους ουρανοξύστες δύο δίδυμων ψηλών πύργων στη

Νέα

Υόρκη”, για παράδειγμα, θα κάνει τους πύργους να εμφανιστούν.

Οι προγραμματιστές του DALL-E 3 παραδέχτηκαν ανοιχτά ότι τα μέτρα ασφαλείας του «δεν είναι τέλεια» και αναβαθμίζονται συνεχώς. Μάλλον δεν περίμεναν ότι οι φωτογραφίες του Μπομπ Σφουγγαράκη που διαπράττει τρομοκρατικές ενέργειες θα ήταν η δοκιμασία που περίμεναν.

Ενημέρωση 5 Οκτωβρίου, 6:38 μ.μ. ET:

Προστέθηκαν λεπτομέρειες σχετικά με την παράκαμψη των προστατευτικών κιγκλιδωμάτων που μπλοκάρουν τους Δίδυμους Πύργους.