Έλληνες επιστήμονες ισχυρίζονται ότι μια τεχνητή νοημοσύνη “μιλάει” τη δική της μυστική γλώσσα
Αν και από τον τίτλο θα νομίζετε ότι πρόκειται για ένα οριακά εφιαλτικό σενάριο βγαλμένο από κάποια δυστοπική ταινία επιστημονικής φαντασίας, η συγκεκριμένη είδηση είναι γειωμένη στην δική μας πραγματικότητα.
Μια ομάδα
Ελλήνων ερευνητών
του Πανεπιστημίου του Austin στο Τέξας ισχυρίζονται ότι μια
τεχνητή νοημοσύνη
μάλλον έχει
ανακαλύψει τη δική της μυστική γλώσσα που μόνο αυτή καταλαβαίνει
. Ο λόγος για τη
DALL-E 2
, για την οποία σας είχαμε ενημερώσει πως πρόκειται για μια ΑΙ που ανέπτυξε η κοινοπραξία της
OpenAI
και μπορεί να δημιουργεί εικόνες μέσα από μερικές λέξεις.
Αυτή η νέας γενιάς τεχνητή νοημοσύνη, λένε οι
επιστήμονες
ότι αφότου παίρνει το κείμενο και το μετατρέπει σε εικόνες με ενσωματωμένες λεζάντες, μετά παίρνει αυτές τις λεζάντες και τις μετατρέπει σε κάτι το ακαταλαβίστικό εντός της μηχανής της.
Τη σύνοψη της έρευνάς τους δημοσίευσαν ο
Αλέξης Δημάκης
, καθηγητής στο
Πανεπιστήμιο
του Austin του Τέξας και ο
Γιάννης Δάρας
(μαθητής Computer Science Ph.D και Student Researcher στη Google). Σε αυτή καταλήγουν ότι η DALL-E 2 θεωρεί τη λέξη “Vicootes” ως “vegetables” (λαχανικά), τη φράση “
sea animals that a whale would consume
” τη μεταφράζει ως “
Wa ch zod rea
” και το
“Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons
” ως “
πουλιά που τρώνε έντομα
“. Λέξεις που μόνο αυτή μπορεί να κατανοήσει.
DALLE-2 has a secret language.
“Apoploe vesrreaitais” means birds.
“Contarra ccetnxniams luryca tanniounons” means bugs or pests.The prompt: “Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons” gives images of birds eating bugs.
A thread (1/n)🧵
pic.twitter.com/VzWfsCFnZo
— Giannis Daras (@giannis_daras)
May 31, 2022
We feed the text “Vicootes” from the previous image to DALLE-2. Surprisingly, we get (dishes with) vegetables! We then feed the words: “Apoploe vesrreaitars” and we get birds. It seems that the farmers are talking about birds, messing with their vegetables! (3/n)
pic.twitter.com/OiU7NPTbor
— Giannis Daras (@giannis_daras)
May 31, 2022
Some words from the DALLE-2 language can be learned and used to create absurd prompts. For example, “painting of Apoploe vesrreaitais” gives a painting of a bird. “Apoploe vesrreaitais” means to the model “something that flies” and can be used across diverse styles. (5/n)
pic.twitter.com/w73iKN4kM1
— Giannis Daras (@giannis_daras)
May 31, 2022
We wrote a small paper with
@AlexGDimakis
summarizing our findings.
Please find the paper here:
https://t.co/1xBkH07Nng
Arxiv version coming soon.
(7/n, n=7).— Giannis Daras (@giannis_daras)
May 31, 2022
Οι ισχυρισμοί τους είναι αρκετά σοβαροί διότι εάν αποδειχθούν αληθείς τότε αυτό σημαίνει ότι υπάρχουν σημαντικά κενά ασφαλείας και μετάφρασης στα τεράστια μοντέλα ΑΙ. Είναι όμως και έτσι τα πράγματα; Το πιο πιθανό είναι πως όχι, αν και υπάρχει ένα “αλλά”.
Σύμφωνα
με τον Aaron J. Snoswell, ερευνητή στο τμήμα “Computational Law & AI Accountability” του Queensland University of Technology, είναι απίθανο η DALL-E 2 να έχει αναπτύξει μια “μυστική γλώσσα”.
Για αρχή το να επιβεβαιωθούν αυτοί οι ισχυρισμοί για την εν λόγω ΑΙ και άλλα παρόμοια τεράστια τέτοια ΑΙ μοντέλα είναι τόσο δύσκολο επειδή υπάρχουν πολλοί λίγοι ερευνητές και χειριστές αυτής της τεχνολογίας. Ο Snoswell εξηγεί περαιτέρω ότι οποιεσδήποτε δημοσιευμένες
φωτογραφίες
(για παράδειγμα, στο Twitter) θα πρέπει να λαμβάνονται με κάθε επιφύλαξη, επειδή ένας άνθρωπος τις επέλεξε από έναν τεράστιο αριθμό εικόνων που γέννησε η ΑΙ.
Ένας άλλο ερευνητής αναφέρει ότι όλο αυτό δεν είναι απόδειξη ότι η τεχνητή νοημοσύνη αυτή ανέπτυξε μια μυστική γλώσσα, αλλά απόδειξη της τυχαίας φύσης της ΑΙ.
No, DALL-E doesn’t have a secret language.
(or at least, we haven’t found one yet)
This viral DALL-E thread has some pretty astounding claims. But maybe the reason they’re so astounding is that, for the most part, they’re not true.
Thread 👇🧵 (1/15)
https://t.co/8F2WDp7lTK
— Benjamin Hilton (@benjamin_hilton)
May 31, 2022
Το “Αλλά” όμως παραμένει στο ερώτημα του γιατί συγκεκριμένα η DALL-E 2 συσχετίζει αυτές τις εικόνες με ακαταλαβίστικες λέξεις.