Οι εγκληματίες του κυβερνοχώρου εκπαιδεύουν chatbots AI για phishing, επιθέσεις κακόβουλου λογισμικού

Στον απόηχο του WormGPT, ενός κλώνου ChatGPT που εκπαιδεύεται σε δεδομένα εστιασμένα σε κακόβουλο λογισμικό, εμφανίστηκε ένα νέο εργαλείο χάκερ τεχνητής νοημοσύνης που ονομάζεται FraudGPT και τουλάχιστον ένα άλλο είναι υπό ανάπτυξη που φέρεται να βασίζεται στο πείραμα τεχνητής νοημοσύνης της Google, Bard.

Και τα δύο ρομπότ με τεχνητή νοημοσύνη είναι έργο του ίδιου ατόμου, το οποίο φαίνεται να είναι βαθιά στο παιχνίδι της παροχής chatbot που εκπαιδεύονται ειδικά για κακόβουλους σκοπούς, από το ηλεκτρονικό ψάρεμα και την κοινωνική μηχανική, έως την εκμετάλλευση ευπαθειών και τη δημιουργία κακόβουλου λογισμικού.

Το FraudGPT κυκλοφόρησε στις 25 Ιουλίου και έχει διαφημιστεί σε διάφορα φόρουμ χάκερ από κάποιον με το όνομα χρήστη CanadianKingpin12, ο οποίος λέει ότι το εργαλείο προορίζεται για απατεώνες, χάκερ και spammers.

Επόμενης γενιάς chatbot για το έγκλημα στον κυβερνοχώρο

Μια έρευνα από ερευνητές στην εταιρεία κυβερνοασφάλειας SlashNext, αποκαλύπτει ότι η CanadianKingpin12 εκπαιδεύει ενεργά νέα chatbot χρησιμοποιώντας απεριόριστα σύνολα δεδομένων που προέρχονται από τον σκοτεινό ιστό ή τα βασίζει σε εξελιγμένα μοντέλα μεγάλων γλωσσών που αναπτύχθηκαν για την καταπολέμηση του εγκλήματος στον κυβερνοχώρο.

Σε ιδιωτικές συνομιλίες, ο CanadianKingpin12 είπε ότι εργάζονταν στο DarkBART – μια “σκοτεινή έκδοση” του chatbot τεχνητής νοημοσύνης που δημιουργεί συνομιλίες της Google.

Οι ερευνητές έμαθαν επίσης ότι ο διαφημιστής είχε επίσης πρόσβαση σε ένα άλλο μοντέλο μεγάλης γλώσσας που ονομάζεται DarkBERT που αναπτύχθηκε από Νοτιοκορεάτες ερευνητές και εκπαιδεύτηκε σε δεδομένα σκοτεινού ιστού αλλά για την καταπολέμηση του εγκλήματος στον κυβερνοχώρο.

Το DarkBERT είναι διαθέσιμο σε ακαδημαϊκούς με βάση τις σχετικές διευθύνσεις email αλλά

SlashNext επισημάνσεις

ότι αυτό το κριτήριο απέχει πολύ από το να αποτελεί πρόκληση για τους χάκερ ή τους προγραμματιστές κακόβουλου λογισμικού, οι οποίοι μπορούν να έχουν πρόσβαση σε μια διεύθυνση email από ένα ακαδημαϊκό ίδρυμα για περίπου 3 $.

Οι ερευνητές του SlashNext μοιράστηκαν ότι ο CanadianKingpin12 είπε ότι το ρομπότ DarkBERT είναι “ανώτερο από όλα σε μια δική του κατηγορία που έχει εκπαιδευτεί ειδικά στον σκοτεινό ιστό”. Η κακόβουλη έκδοση έχει ρυθμιστεί για:

• Δημιουργία εξελιγμένων καμπανιών phishing που στοχεύουν τους κωδικούς πρόσβασης και τα στοιχεία της πιστωτικής κάρτας των ατόμων
• Εκτέλεση προηγμένων επιθέσεων κοινωνικής μηχανικής για την απόκτηση ευαίσθητων πληροφοριών ή την απόκτηση μη εξουσιοδοτημένης πρόσβασης σε συστήματα και δίκτυα.
• Εκμετάλλευση τρωτών σημείων σε συστήματα υπολογιστών, λογισμικό και δίκτυα.
• Δημιουργία και διανομή κακόβουλου λογισμικού.
• Εκμετάλλευση τρωτών σημείων μηδενικής ημέρας για οικονομικό κέρδος ή διακοπή συστημάτων.

Όπως είπε ο CanadianKingpin12 σε προσωπικά μηνύματα με τους ερευνητές, τόσο το DarkBART όσο και το DarkBERT θα έχουν ζωντανή πρόσβαση στο διαδίκτυο και απρόσκοπτη ενσωμάτωση με το Google Lens για επεξεργασία εικόνας.

Για να αποδείξει τις δυνατότητες της κακόβουλης έκδοσης του DarkBERT, ο προγραμματιστής δημιούργησε το ακόλουθο βίντεο:

Δεν είναι σαφές εάν το CanadianKingpin12 τροποποίησε τον κώδικα στη νόμιμη έκδοση του DarkBERT ή απλώς απέκτησε πρόσβαση στο μοντέλο και απλώς τον χρησιμοποίησε για κακόβουλη χρήση.

Ανεξάρτητα από την προέλευση του DarkBERT και την εγκυρότητα των ισχυρισμών του παράγοντα απειλής, η τάση χρήσης γενετικών chatbots AI αυξάνεται και το ποσοστό υιοθέτησης είναι πιθανό να αυξηθεί επίσης, καθώς μπορεί να προσφέρει μια εύκολη λύση για λιγότερο ικανούς παράγοντες απειλής ή για αυτούς που θέλουν να επεκτείνουν τις δραστηριότητες σε άλλες περιοχές και δεν διαθέτουν γλωσσικές δεξιότητες.

Με τους χάκερ να έχουν ήδη πρόσβαση σε δύο τέτοια εργαλεία που μπορούν να βοηθήσουν στην εκτέλεση προηγμένων επιθέσεων κοινωνικής μηχανικής και στην ανάπτυξή τους σε λιγότερο από ένα μήνα, «υπογραμμίζει τη σημαντική επιρροή της κακόβουλης τεχνητής νοημοσύνης στην ασφάλεια στον κυβερνοχώρο και στο τοπίο του εγκλήματος στον κυβερνοχώρο», πιστεύουν οι ερευνητές του SlashNext.