Ο διευθυντής κυβερνοασφάλειας της NSA λέει ότι «προσδεθείτε» για τη γενετική τεχνητή νοημοσύνη

Στο RSA

Διάσκεψη ασφαλείας στο Σαν Φρανσίσκο αυτή την εβδομάδα, υπήρξε μια αίσθηση αναπόφευκτου στον αέρα. Σε ομιλίες και πάνελ σε όλο το εκτεταμένο συνεδριακό κέντρο Moscone, σε κάθε περίπτερο πωλητών στον εκθεσιακό χώρο και σε περιστασιακές συνομιλίες στις αίθουσες, γνωρίζετε απλώς ότι κάποιος πρόκειται να αναφέρει τη γενετική τεχνητή νοημοσύνη και τον πιθανό αντίκτυπό της στην ψηφιακή ασφάλεια και το κακόβουλο hacking. Ο διευθυντής κυβερνοασφάλειας της NSA, Rob Joyce, το αισθάνεται επίσης.

“Δεν μπορείτε να περπατήσετε γύρω από την RSA χωρίς να μιλήσετε για AI και κακόβουλο λογισμικό”, δήλωσε την Τετάρτη το απόγευμα κατά τη διάρκεια της ετήσιας πλέον παρουσίασής του “State of the Hack”. «Νομίζω ότι όλοι έχουμε δει την έκρηξη. Δεν θα πω ότι έχει παραδοθεί ακόμα, αλλά αυτή είναι πραγματικά μια τεχνολογία που αλλάζει το παιχνίδι».

Τους τελευταίους μήνες, τα chatbots που τροφοδοτούνται από μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT της OpenAI, έχουν κάνει χρόνια ανάπτυξης και έρευνας μηχανικής μάθησης να φαίνονται πιο συγκεκριμένα και προσβάσιμα σε ανθρώπους σε όλο τον κόσμο. Ωστόσο, υπάρχουν πρακτικά ερωτήματα σχετικά με το πώς αυτά τα νέα εργαλεία θα χειραγωγηθούν και θα καταχραστούν από κακούς ηθοποιούς για να αναπτύξουν και να διαδώσουν κακόβουλο λογισμικό, να τροφοδοτήσουν τη δημιουργία παραπληροφόρησης και μη αυθεντικού περιεχομένου και να επεκτείνουν τις ικανότητες των επιτιθέμενων να αυτοματοποιήσουν τις εισβολές τους. Ταυτόχρονα, η κοινότητα ασφάλειας είναι πρόθυμη να αξιοποιήσει τη γενετική τεχνητή νοημοσύνη για να υπερασπιστεί τα συστήματα και να αποκτήσει προστατευτικό πλεονέκτημα. Σε αυτές τις πρώτες μέρες, όμως, είναι δύσκολο να αναλύσουμε ακριβώς τι θα συμβεί στη συνέχεια.

Ο Joyce δήλωσε ότι η Εθνική Υπηρεσία Ασφαλείας αναμένει ότι η γενετική τεχνητή νοημοσύνη θα τροφοδοτήσει ήδη αποτελεσματικές απάτες όπως το phishing. Τέτοιες επιθέσεις βασίζονται σε πειστικό και συναρπαστικό περιεχόμενο για να εξαπατήσουν τα θύματα ώστε να βοηθήσουν άθελά τους τους επιτιθέμενους, οπότε η παραγωγική τεχνητή νοημοσύνη έχει προφανείς χρήσεις για τη γρήγορη δημιουργία προσαρμοσμένων επικοινωνιών και υλικών.

«Αυτός ο χάκερ ρωσικής καταγωγής που δεν μιλάει καλά αγγλικά δεν πρόκειται πλέον να δημιουργήσει ένα μίζερο email στους υπαλλήλους σας», δήλωσε ο Joyce. «Θα είναι αγγλικά στη μητρική γλώσσα, θα έχει νόημα, θα περάσει το τεστ όσφρησης… Έτσι, αυτό ακριβώς είναι εδώ σήμερα, και βλέπουμε αντιπάλους, τόσο έθνος-κράτος όσο και εγκληματίες, να αρχίζουν να πειραματίζονται με τη γενιά τύπου ChatGPT για να τους δώσουν ευκαιρίες αγγλικής γλώσσας».

Εν τω μεταξύ, παρόλο που τα chatbots AI ενδέχεται να μην είναι σε θέση να αναπτύξουν τέλεια οπλισμένο νέο κακόβουλο λογισμικό από το μηδέν, ο Joyce σημείωσε ότι οι επιτιθέμενοι μπορούν να χρησιμοποιήσουν τις δεξιότητες κωδικοποίησης που έχουν οι πλατφόρμες για να κάνουν μικρότερες αλλαγές που θα μπορούσαν να έχουν μεγάλο αποτέλεσμα. Η ιδέα θα ήταν να τροποποιηθεί το υπάρχον κακόβουλο λογισμικό με γενετική τεχνητή νοημοσύνη για να αλλάξει τα χαρακτηριστικά και τη συμπεριφορά του αρκετά ώστε τα εργαλεία σάρωσης όπως το λογισμικό προστασίας από ιούς να μην αναγνωρίζουν και να μην επισημαίνουν τη νέα επανάληψη.

“Θα βοηθήσει να ξαναγραφτεί ο κώδικας και να γίνει με τρόπους που θα αλλάξουν την υπογραφή και τα χαρακτηριστικά του”, δήλωσε ο Joyce. «Ότι [is] Θα είναι πρόκληση για εμάς στο εγγύς μέλλον».

Όσον αφορά την άμυνα, ο Joyce φάνηκε αισιόδοξος για τις δυνατότητες της γενετικής τεχνητής νοημοσύνης να βοηθήσει στην ανάλυση μεγάλων δεδομένων και τον αυτοματισμό. Ανέφερε τρεις τομείς όπου η τεχνολογία «δείχνει πραγματική υπόσχεση» ως «επιταχυντή για την άμυνα»: σάρωση ψηφιακών αρχείων καταγραφής, εύρεση μοτίβων στην εκμετάλλευση ευπάθειας και βοηθώντας τους οργανισμούς να δώσουν προτεραιότητα σε θέματα ασφάλειας. Προειδοποίησε, ωστόσο, ότι προτού οι υπερασπιστές και οι κοινότητες ευρύτερα εξαρτηθούν από αυτά τα εργαλεία στην καθημερινή ζωή, πρέπει πρώτα να μελετήσουν πώς μπορούν να χειραγωγηθούν και να αξιοποιηθούν τα γενετικά συστήματα τεχνητής νοημοσύνης.

Κυρίως, ο Joyce τόνισε τη σκοτεινή και απρόβλεπτη φύση της τρέχουσας στιγμής για την τεχνητή νοημοσύνη και την ασφάλεια, προειδοποιώντας την κοινότητα ασφαλείας να «προσδεθεί» για αυτό που πιθανότατα δεν έχει έρθει ακόμα.

«Δεν περιμένω κάποια μαγική τεχνική ικανότητα που δημιουργείται από την τεχνητή νοημοσύνη και θα εκμεταλλευτεί όλα τα πράγματα», είπε. Αλλά «το επόμενο έτος, αν μιλάμε εδώ για μια παρόμοια χρονιά, νομίζω ότι θα έχουμε ένα σωρό παραδείγματα για το πού έχει οπλιστεί, πού έχει χρησιμοποιηθεί και πού έχει πετύχει».