Διαπιστευτήρια OpenAI που έχουν κλαπεί κατά χιλιάδες προς πώληση στον σκοτεινό ιστό

Οι φορείς απειλών δείχνουν αυξημένο ενδιαφέρον για τα εργαλεία παραγωγής τεχνητής νοημοσύνης, με εκατοντάδες χιλιάδες διαπιστευτήρια

OpenAI

προς πώληση στον σκοτεινό ιστό και πρόσβαση σε μια κακόβουλη εναλλακτική λύση για το

ChatGPT

.

Τόσο οι λιγότερο έμπειροι όσο και οι έμπειροι εγκληματίες του κυβερνοχώρου μπορούν να χρησιμοποιήσουν τα εργαλεία για να δημιουργήσουν πιο πειστικά μηνύματα ηλεκτρονικού “ψαρέματος” που είναι προσαρμοσμένα για το κοινό που προορίζεται για να αυξήσει τις πιθανότητες μιας επιτυχημένης επίθεσης.

Χάκερ που πατούν στο GPT AI

Σε έξι μήνες, οι χρήστες του σκοτεινού ιστού και του

Telegram

ανέφεραν το ChatGPT, το chatbot τεχνητής νοημοσύνης του OpenAI, περισσότερες από 27.000 φορές, εμφανίζει δεδομένα από

Φωτοβολίδα

μια εταιρεία διαχείρισης έκθεσης σε απειλές, κοινή με την BleepingComputer.

Αναλύοντας φόρουμ και αγορές σκοτεινού ιστού, οι ερευνητές του Flare παρατήρησαν ότι τα διαπιστευτήρια OpenAI είναι από τα πιο πρόσφατα διαθέσιμα προϊόντα.

Οι ερευνητές εντόπισαν περισσότερα από 200.000 διαπιστευτήρια OpenAI προς πώληση στον σκοτεινό ιστό με τη μορφή κούτσουρων κλοπής.

Σε σύγκριση με τους εκτιμώμενους 100 εκατομμύρια ενεργούς χρήστες τον Ιανουάριο, ο αριθμός φαίνεται ασήμαντος, αλλά δείχνει ότι οι φορείς απειλών βλέπουν στα εργαλεία παραγωγής τεχνητής νοημοσύνης κάποιες δυνατότητες για κακόβουλη δραστηριότητα.

Μια αναφορά τον Ιούνιο από την εταιρεία κυβερνοασφάλειας Group-IB ανέφερε ότι οι παράνομες αγορές στο σκοτεινό ιστό αντάλλαζαν αρχεία καταγραφής από κακόβουλο λογισμικό κλοπής πληροφοριών που περιείχε περισσότερους από 100.000 λογαριασμούς ChatGPT.

Το ενδιαφέρον των κυβερνοεγκληματιών για αυτά τα βοηθητικά προγράμματα έχει κεντριστεί σε σημείο που ένας από αυτούς ανέπτυξε έναν κλώνο ChatGPT με το όνομα WormGPT και τον εκπαίδευσε σε δεδομένα εστιασμένα σε κακόβουλο λογισμικό.

Το εργαλείο διαφημίζεται ως η «καλύτερη εναλλακτική λύση GPT για blackhat» και ως εναλλακτική λύση ChatGPT «που σας επιτρέπει να κάνετε κάθε είδους παράνομο περιεχόμενο».

Το WormGPT βασίζεται στο μοντέλο μεγάλης γλώσσας ανοιχτού κώδικα GPT-J που αναπτύχθηκε το 2021 για την παραγωγή κειμένου που μοιάζει με άνθρωπο. Ο προγραμματιστής του λέει ότι εκπαίδευσαν το εργαλείο σε ένα διαφορετικό σύνολο δεδομένων, με έμφαση σε δεδομένα που σχετίζονται με κακόβουλο λογισμικό, αλλά δεν παρείχαν καμία υπόδειξη για τα συγκεκριμένα σύνολα δεδομένων.

Το WormGPT δείχνει πιθανότητες για επιθέσεις BEC

Ο πάροχος ασφάλειας email SlashNext μπόρεσε να αποκτήσει πρόσβαση στο WormGPT και πραγματοποίησε μερικές δοκιμές για να προσδιορίσει τον πιθανό κίνδυνο που ενέχει.

Η εστίαση των ερευνητών ήταν στη δημιουργία μηνυμάτων κατάλληλων για επιθέσεις συμβιβασμού για επιχειρηματικά email (BEC).

«Σε ένα πείραμα, δώσαμε εντολή στο WormGPT να δημιουργήσει ένα email με σκοπό να πιέσει έναν ανυποψίαστο διαχειριστή λογαριασμού να πληρώσει ένα δόλιο τιμολόγιο», οι ερευνητές

εξηγώ

.

«Τα αποτελέσματα ήταν ανησυχητικά. Το WormGPT δημιούργησε ένα email που όχι μόνο ήταν εξαιρετικά πειστικό αλλά και στρατηγικά πονηρό, αναδεικνύοντας τις δυνατότητές του για εξελιγμένες επιθέσεις

phishing

και BEC», κατέληξαν.

Αναλύοντας το αποτέλεσμα, οι ερευνητές του SlashNext εντόπισαν τα πλεονεκτήματα που μπορεί να φέρει η γενετική τεχνητή νοημοσύνη σε μια επίθεση BEC: εκτός από την «άψογη γραμματική» που δίνει νομιμότητα στο μήνυμα, μπορεί επίσης να επιτρέψει σε λιγότερο έμπειρους εισβολείς να πραγματοποιήσουν επιθέσεις πάνω από το επίπεδο πολυπλοκότητας τους.

Αν και η άμυνα έναντι αυτής της αναδυόμενης απειλής μπορεί να είναι δύσκολη, οι εταιρείες μπορούν να προετοιμαστούν εκπαιδεύοντας τους υπαλλήλους πώς να επαληθεύουν μηνύματα που απαιτούν επείγουσα προσοχή, ειδικά όταν υπάρχει ένα οικονομικό στοιχείο.

Η βελτίωση των διαδικασιών επαλήθευσης email θα πρέπει επίσης να αποδώσει με ειδοποιήσεις για μηνύματα εκτός του οργανισμού ή με επισήμανση λέξεων-κλειδιών που συνήθως σχετίζονται με επίθεση BEC.