Το AI και το ChatGPT είναι τρομακτικά, σύμφωνα με τους εγκληματίες του κυβερνοχώρου

Πολλοί κυβερνοεγκληματίες είναι επιφυλακτικοί σχετικά με τη χρήση εργαλείων που βασίζονται σε AI, όπως το ChatGPT για την αυτοματοποίηση των κακόβουλων καμπανιών τους.

Μια νέα έρευνα της Sophos προσπάθησε να μετρήσει τα συμφέροντα των εγκληματιών του κυβερνοχώρου αναλύοντας φόρουμ σκοτεινού ιστού. Προφανώς, υπάρχουν πολλές διασφαλίσεις σε εργαλεία όπως το ChatGPT, τα οποία εμποδίζουν τους χάκερ να αυτοματοποιήσουν τη δημιουργία κακόβουλων σελίδων προορισμού, email ηλεκτρονικού ψαρέματος, κώδικα κακόβουλου λογισμικού και πολλά άλλα.

Αυτό ανάγκασε τους χάκερ να κάνουν δύο πράγματα: να προσπαθήσουν να συμβιβάσουν τους premium λογαριασμούς ChatGPT (που, όπως προτείνει η έρευνα, συνοδεύονται από λιγότερους περιορισμούς) ή να στραφούν προς τα παράγωγα GhatGPT – κλωνοποιημένους συγγραφείς AI που οι χάκερ κατασκεύασαν για να παρακάμψουν τις διασφαλίσεις.

Κακή αποτελέσματα και άφθονο σκεπτικισμό

Αλλά πολλοί είναι επιφυλακτικοί με τα παράγωγα, φοβούμενοι ότι μπορεί να είχαν κατασκευαστεί απλώς για να τα ξεγελάσουν.

«Αν και υπάρχει σημαντική ανησυχία για την κατάχρηση της τεχνητής νοημοσύνης και των LLM από εγκληματίες του κυβερνοχώρου από την κυκλοφορία του ChatGPT, η έρευνά μας έχει διαπιστώσει ότι, μέχρι στιγμής, οι φορείς απειλών είναι περισσότερο δύσπιστοι παρά ενθουσιασμένοι», λέει ο Ben Gelman, ανώτερος επιστήμονας δεδομένων, Sophos. «Σε δύο από τα τέσσερα φόρουμ στον σκοτεινό ιστό που εξετάσαμε, βρήκαμε μόνο 100 δημοσιεύσεις στο AI. Συγκρίνετε το με το κρυπτονόμισμα όπου βρήκαμε 1.000 δημοσιεύσεις για την ίδια περίοδο».

Ενώ οι ερευνητές παρατήρησαν προσπάθειες δημιουργίας κακόβουλου λογισμικού ή άλλων εργαλείων επίθεσης χρησιμοποιώντας chatbots με τεχνητή νοημοσύνη, τα αποτελέσματα ήταν «στοιχειώδη και συχνά συναντήθηκαν με σκεπτικισμό από άλλους χρήστες», δήλωσε ο Christopher Budd, διευθυντής της έρευνας X-Ops, Sophos.

«Σε μια περίπτωση, ένας παράγοντας απειλών, που ήθελε να επιδείξει τις δυνατότητες του ChatGPT αποκάλυψε κατά λάθος σημαντικές πληροφορίες για την πραγματική του ταυτότητα. Βρήκαμε μάλιστα πολυάριθμα «κομάτια σκέψης» σχετικά με τις πιθανές αρνητικές επιπτώσεις της τεχνητής νοημοσύνης στην κοινωνία και τις ηθικές συνέπειες της χρήσης της. Με άλλα λόγια, τουλάχιστον προς το παρόν, φαίνεται ότι οι εγκληματίες του κυβερνοχώρου έχουν τις ίδιες συζητήσεις για τα LLM με εμάς τους υπόλοιπους», πρόσθεσε ο Budd.