Προειδοποίηση NSA: “Κρατηθείτε“ για την ΑΙ που δε θα ξεχωρίζει από άνθρωπο
Η την παραγωγική τεχνητή νοημοσύνη τη βλέπουμε να έχει γίνει ραγδαία δημοφιλής χάρη στο ChatGPT της OpenAI, το οποίο μπορεί να δημιουργήσει ρεαλιστικές και συνεκτικές συνομιλίες με ανθρώπους.
Ωστόσο, η δημιουργική τεχνητή νοημοσύνη δημιουργεί επίσης σημαντικές προκλήσεις και κινδύνους για την κυβερνοασφάλεια και την πειρατεία. Αυτό ήταν το κύριο θέμα συζήτησης στο συνέδριο ασφάλειας RSA στο Σαν Φρανσίσκο αυτή την εβδομάδα, όπου ο διευθυντής κυβερνοασφάλειας της NSA, Rob Joyce, έκανε την ετήσια παρουσίαση του “State of the Hack” και εξέφρασε τους σοβαρούς προβληματισμούς του για την εξέλιξη της ΑΙ.
Ο Joyce προειδοποίησε ότι η δημιουργική τεχνητή νοημοσύνη θα επιτρέψει στους επιτιθέμενους να κατασκευάζουν πιο πειστικά και ελκυστικά μηνύματα ηλεκτρονικού “ψαρέματος”, να τροποποιούν το υπάρχον κακόβουλο λογισμικό για να αποφεύγουν την ανίχνευση και να δημιουργούν ψεύτικο ή παραπλανητικό περιεχόμενο για τη διάδοση παραπληροφόρησης και προπαγάνδας.
Ωστόσο, προέτρεψε επίσης την κοινότητα ασφαλείας να είναι προετοιμασμένη για τις προκλήσεις και τις επιπτώσεις της δημιουργικής AI, οι οποίες, όπως είπε, μόλις αρχίζουν να αναδύονται.
“Πρόκειται πραγματικά για μια τεχνολογία που αλλάζει το παιχνίδι. Προσδεθείτε” – Rob Joyce
Δήλωσε επίσης ότι θα δυσχεράνει την επαλήθευση της αυθεντικότητας και της ακεραιότητας των δεδομένων και των επικοινωνιών από τους αμυνόμενους.
“Βλέπουμε τους αντιπάλους, τόσο τα εθνικά κράτη όσο και τους εγκληματίες, να αρχίζουν να πειραματίζονται με τη γενιά τύπου ChatGPT για να τους βελτιώνουν την χρήση της αγγλικής γλώσσας“, δήλωσε ο Joyce. “Αυτός ο χάκερ που κατάγεται από τη Ρωσία και δεν μιλάει καλά τα αγγλικά δεν πρόκειται πλέον να φτιάξει ένα άθλια γραμμένο email προς τους υπαλλήλους σας. Θα είναι γραμμένο στα αγγλικά κανονικά, θα βγάζει νόημα, και θα περάσει το αρχικό τεστ, την πρώτη μυρωδιά που λέμε“. είπε χαρακτηριστικά.
