Δεν υπάρχει λόγος πανικού για το WormGPT

Καθώς τα εργαλεία για την κατασκευή συστημάτων τεχνητής νοημοσύνης, ιδιαίτερα μοντέλων μεγάλων γλωσσών (LLM), γίνονται ευκολότερα και φθηνότερα, ορισμένοι τα χρησιμοποιούν για κακόβουλους σκοπούς, όπως η δημιουργία κακόβουλου κώδικα ή εκστρατείες ηλεκτρονικού ψαρέματος. Αλλά η απειλή των χάκερ που επιταχύνονται με τεχνητή νοημοσύνη δεν είναι τόσο τρομερή όσο υποδηλώνουν ορισμένοι τίτλοι.

Οι δημιουργοί σκοτεινού ιστού των LLM όπως το “WormGPT” και το “

FraudGPT

» διαφημίζουν τις δημιουργίες τους ως ικανές να διαπράττουν εκστρατείες ηλεκτρονικού ψαρέματος, να δημιουργούν μηνύματα που στοχεύουν να πιέσουν τα θύματα να υποκύψουν σε προγράμματα παραβίασης επαγγελματικών email και να γράφουν κακόβουλο κώδικα. Τα LLM μπορούν επίσης να χρησιμοποιηθούν για την κατασκευή προσαρμοσμένων βοηθητικών προγραμμάτων hacking, λένε οι δημιουργοί τους, καθώς και για τον εντοπισμό διαρροών και τρωτών σημείων στον κώδικα και τη σύνταξη ιστοσελίδων απάτης.

Θα μπορούσε κανείς να υποθέσει ότι αυτή η νέα φυλή LLM προαναγγέλλει μια τρομακτική τάση μαζικής πειρατείας με δυνατότητα AI. Αλλά υπάρχει περισσότερη απόχρωση από αυτό.

Πάρτε το WormGPT, για παράδειγμα. Κυκλοφόρησε στις αρχές Ιουλίου, σύμφωνα με πληροφορίες βασίζεται στο GPT-J, ένα LLM που διατίθεται από την ανοιχτή ερευνητική ομάδα EleutherAI το 2021. Αυτή η έκδοση του μοντέλου δεν διαθέτει διασφαλίσεις, πράγμα που σημαίνει ότι δεν θα διστάσει να απαντήσει σε ερωτήσεις που κανονικά το GPT-J μπορεί να αρνηθεί — συγκεκριμένα εκείνα που σχετίζονται με την πειρατεία.

Πριν από δύο χρόνια μπορεί και όχι

ήχος

τόσο καιρό στο μεγάλο σχέδιο. Αλλά στον κόσμο της τεχνητής νοημοσύνης, δεδομένου του πόσο γρήγορα κινείται η έρευνα, το GPT-J είναι πρακτικά αρχαία ιστορία – και σίγουρα δεν είναι τόσο ικανό όσο τα πιο εξελιγμένα LLM σήμερα, όπως το GPT-4 του OpenAI.

Γράφοντας για το Towards Data Science, ένα blog που εστιάζει στην τεχνητή νοημοσύνη, Alberto Romero

Αναφορές

ότι το GPT-J αποδίδει «σημαντικά χειρότερα» σε σύγκριση με το GPT-3, τον προκάτοχο του GPT-4, σε εργασίες εκτός της κωδικοποίησης — συμπεριλαμβανομένης της σύνταξης κειμένου με εύλογο ήχο. Θα περίμενε λοιπόν κανείς το WormGPT, το οποίο βασίζεται σε αυτό, να μην είναι ιδιαίτερα εξαιρετικό στη δημιουργία, ας πούμε, ηλεκτρονικού ταχυδρομείου ηλεκτρονικού ψαρέματος.

Αυτό φαίνεται να ισχύει.

Αυτός ο συγγραφέας δεν μπόρεσε να πάρει στα χέρια του το WormGPT, δυστυχώς. Αλλά ευτυχώς, ερευνητές στην εταιρεία κυβερνοασφάλειας

SlashNext

μπόρεσαν να εκτελέσουν το WormGPT μέσω μιας σειράς δοκιμών, συμπεριλαμβανομένου ενός για τη δημιουργία ενός «πειστικού email» που θα μπορούσε να χρησιμοποιηθεί σε μια επίθεση παραβίασης email για επιχειρήσεις και να δημοσιεύσει τα αποτελέσματα.

Σε απάντηση στο τεστ «πειστικού email», το WormGPT δημιούργησε αυτό:

Όπως μπορείτε να δείτε, δεν υπάρχει τίποτα ιδιαίτερα πειστικό σχετικά με το αντίγραφο του email. Σίγουρα, είναι γραμματικά σωστό — ένα βήμα πάνω από τα περισσότερα μηνύματα ηλεκτρονικού ψαρέματος, παραχωρείται — αλλά κάνει αρκετά λάθη (π.χ. αναφέρεται σε ανύπαρκτο συνημμένο email) που δεν μπορούσε να αντιγραφεί και να επικολληθεί χωρίς μερικές τροποποιήσεις. Επιπλέον, είναι γενικό με τρόπο που θα περίμενα ότι θα ηχούσε καμπανάκι κινδύνου για κάθε παραλήπτη που το διαβάζει προσεκτικά.

Το ίδιο ισχύει και για τον κώδικα του WormGPT. Είναι λίγο-πολύ σωστό, αλλά αρκετά βασικό στην κατασκευή του και παρόμοιο με τα σενάρια κακόβουλου λογισμικού που υπάρχουν ήδη στον Ιστό. Επιπλέον, ο κώδικας του WormGPT δεν αφαιρεί αυτό που είναι συχνά το πιο δύσκολο κομμάτι από την εξίσωση του hacking: την απόκτηση των απαραίτητων διαπιστευτηρίων και αδειών για την παραβίαση ενός συστήματος.

Για να μην αναφέρουμε, ως ένας χρήστης WormGPT

γράφει

σε ένα φόρουμ σκοτεινού ιστού, ότι το LLM είναι «σπασμένο τις περισσότερες φορές» και δεν μπορεί να δημιουργήσει «απλά πράγματα».

Αυτό μπορεί να είναι το αποτέλεσμα της παλαιότερης αρχιτεκτονικής του μοντέλου. Αλλά και τα δεδομένα εκπαίδευσης θα μπορούσαν να έχουν κάποια σχέση με αυτό. Ο δημιουργός του WormGPT ισχυρίζεται ότι βελτίωσαν το μοντέλο σε μια «διαφορετική σειρά» πηγών δεδομένων, επικεντρώνοντας σε δεδομένα που σχετίζονται με κακόβουλο λογισμικό. Αλλά δεν αναφέρουν ποια συγκεκριμένα σύνολα δεδομένων χρησιμοποίησαν για τη λεπτομέρεια.

Εκτός από περαιτέρω δοκιμές, δεν υπάρχει τρόπος να γνωρίζουμε, πραγματικά, σε ποιο βαθμό το WormGPT

ήταν

τελειοποιημένο — ή αν είναι

Πραγματικά


ήταν

σωστά συντονισμένο.

Το μάρκετινγκ γύρω από το FraudGPT ενσταλάζει ακόμη λιγότερη εμπιστοσύνη ότι το LLM αποδίδει όπως διαφημίζεται.

Στα φόρουμ του σκοτεινού ιστού, ο δημιουργός του FraudGPT το περιγράφει ως «αιχμής», ισχυριζόμενος ότι το LLM μπορεί να «δημιουργήσει μη ανιχνεύσιμο κακόβουλο λογισμικό» και να αποκαλύψει ιστοτόπους που είναι ευάλωτοι στην απάτη με πιστωτικές κάρτες. Αλλά ο δημιουργός αποκαλύπτει λίγα για την αρχιτεκτονική του LLM, εκτός από το ότι είναι μια παραλλαγή του GPT-3. δεν υπάρχουν πολλά να συνεχίσουμε εκτός από την υπερβολική γλώσσα.

Είναι η ίδια κίνηση πωλήσεων που κάνουν ορισμένες νόμιμες εταιρείες: Χτυπώντας «AI» σε ένα προϊόν για να ξεχωρίσετε ή να τραβήξετε την προσοχή του Τύπου, προσευχόμενοι για την άγνοια των πελατών.

Σε ένα βίντεο επίδειξης που είδε ο

Fast Company

εμφανίζεται το FraudGPT να δημιουργεί αυτό το κείμενο ως απάντηση στην προτροπή “γράψτε μου ένα σύντομο αλλά επαγγελματικό κείμενο ανεπιθύμητης αλληλογραφίας sms που μπορώ να στείλω στα θύματα που συναλλάσσονται με την Bank of America πείθοντάς τα να κάνουν κλικ στον κακόβουλο σύντομο σύνδεσμό μου”:

“Αγαπητό μέλος της Τράπεζας της Αμερικής: Ελέγξτε αυτόν τον σημαντικό σύνδεσμο για να διασφαλίσετε την ασφάλεια του διαδικτυακού τραπεζικού σας λογαριασμού”

Όχι πολύ πρωτότυπο ή πειστικό, θα έλεγα.

Παραμερίζοντας το γεγονός ότι αυτά τα κακόβουλα LLM δεν είναι πολύ καλά, δεν είναι ακριβώς ευρέως διαθέσιμα. Οι δημιουργοί των WormGPT και FraudGPT φέρεται να χρεώνουν δεκάδες έως εκατοντάδες δολάρια για συνδρομές στα εργαλεία και απαγορεύουν την πρόσβαση στις βάσεις κωδικών, πράγμα που σημαίνει ότι οι χρήστες δεν μπορούν να κοιτάξουν κάτω από την κουκούλα για να τροποποιήσουν ή να διανείμουν οι ίδιοι τα μοντέλα.

Το FraudGPT έγινε ακόμη πιο δύσκολο να αποκτηθεί πρόσφατα, αφού τα νήματα του δημιουργού αφαιρέθηκαν από ένα δημοφιλές φόρουμ σκοτεινού ιστού λόγω παραβίασης των πολιτικών του. Τώρα, οι χρήστες πρέπει να κάνουν το πρόσθετο βήμα επικοινωνίας με τον δημιουργό μέσω της εφαρμογής ανταλλαγής μηνυμάτων Telegram.

Το πρώτο είναι ότι τα LLM όπως το WormGPT και το FraudGPT μπορεί να δημιουργήσουν εντυπωσιακούς τίτλους — και, ναι, κακόβουλο λογισμικό. Αλλά σίγουρα δεν θα προκαλέσουν την πτώση των εταιρειών ή των κυβερνήσεων. Θα μπορούσαν θεωρητικά να επιτρέψουν σε απατεώνες με περιορισμένες αγγλικές δεξιότητες να δημιουργούν στοχευμένα επαγγελματικά email, όπως υποδηλώνει η ανάλυση του SlashNext; Ισως. Αλλά πιο ρεαλιστικά, το πολύ θα βγάλουν γρήγορα χρήματα για τους ανθρώπους (απατεώνες;) που τα κατασκεύασαν.