Το OpenAI τερματίζει λογαριασμούς επιβεβαιωμένων κακών παραγόντων που συνδέονται με το κράτος

Το OpenAI το επιβεβαίωσε

κακοί παράγοντες που συνδέονται με το κράτος χρησιμοποιούν την τεχνολογία της εταιρείας

για κακόβουλους σκοπούς, μια επικύρωση αυτού που πολλοί φοβούνται μετά την ανάδειξη της εταιρείας στην κούρσα της γενε

τι

κής τεχνητής νοημοσύνης.

Η ανακάλυψη έρχεται ως μέρος μιας συνεργασίας με

Microsoft Threat Intelligence

μια κοινότητα χιλιάδων ειδικών σε θέματα ασφάλειας, ερευνητών και κυνηγών απειλών που αναλύουν και εντοπίζουν απειλές στον κυβερνοχώρο.

Χρησιμοποιώντας τη συλλογή πληροφοριών του δικτύου, η OpenAI ανακάλυψε τουλάχιστον πέντε επιβεβαιωμένους κρατικούς φορείς που χρησιμοποιούσαν υπηρεσίες OpenAI για αναζήτηση πληροφοριών ανοιχτού κώδικα, μετάφραση, εύρεση σφαλμάτων κωδικοποίησης και εκτέλεση βασικών εργασιών κωδικοποίησης, εξήγησε η εταιρεία. Οι ηθοποιοί περιλάμβαναν δύο συνδεδεμένους με την Κίνα ηθοποιούς γνωστούς ως Charcoal Typhoon και Salmon Typhoon.

ένας

ηθοποιός που συνδέεται με το Ιράν, γνωστός ως Crimson Sandstorm. ένας ηθοποιός που συνδέεται με τη Βόρεια Κορέα, γνωστός ως Emerald Sleet. και ένας ηθοποιός που συνδέεται με τη Ρωσία, γνωστός ως Forest Blizzard.

Οι λογαριασμοί λέγεται ότι βασίζονται στις υπηρεσίες του OpenAI για την ενίσχυση πιθανών επιθέσεων στον κυβερνοχώρο, αλλά η Microsoft δεν εντόπισε καμία σημαντική χρήση των LLM με την υψηλότερη παρακολούθηση.

«Αυτά περιλαμβάνουν αναγνώριση, όπως η εκμάθηση για τις βιομηχανίες, τις τοποθεσίες και τις

σχέσεις

των πιθανών θυμάτων· βοήθεια με την κωδικοποίηση, συμπεριλαμβανομένης της βελτίωσης πραγμάτων όπως σενάρια λογισμικού και ανάπτυξη κακόβουλου λογισμικού· και βοήθεια με την εκμάθηση και τη χρήση μητρικών γλωσσών», εξήγησε η Microsoft. “Η γλωσσική υποστήριξη είναι ένα φυσικό

χαρακτηριστικό

των LLM και είναι ελκυστική για τους φορείς απειλών με συνεχή εστίαση στην κοινωνική μηχανική και σε άλλες τεχνικές που βασίζονται σε ψευδείς, παραπλανητικές επικοινωνίες προσαρμοσμένες στις δουλειές των στόχων τους, στα επαγγελματικά δίκτυα και σε άλλες σχέσεις.”

Η Microsoft διέκρινε αυτήν την ανακοίνωση ως μια προσπάθεια έγκαιρης ανίχνευσης, με σκοπό να αποκαλύψει “πρώιμες, σταδιακές κινήσεις που παρατηρούμε να επιχειρούν γνωστοί παράγοντες απειλών”.

Η συνεργασία ευθυγραμμίζεται με τις πρόσφατες κινήσεις από τον Λευκό Οίκο για την απαίτηση δοκιμών ασφαλείας και κυβερνητικής επίβλεψης για συστήματα τεχνητής νοημοσύνης που θα μπορούσαν να επηρεάσουν την εθνική και οικονομική ασφάλεια, τη δημόσια υγεία και τη γενική ασφάλεια. “Ενώ οι επιτιθέμενοι θα συνεχίσουν να ενδιαφέρονται για τις τρέχουσες δυνατότητες και τους ελέγχους ασφαλείας των τεχνολογιών τεχνητής νοημοσύνης και διερεύνησης, είναι σημαντικό να τηρούνται αυτοί οι κίνδυνοι στο πλαίσιο. Όπως πάντα, οι πρακτικές υγιεινής όπως π.χ.


έλεγχος ταυτότητας πολλαπλών παραγόντων (MFA


) και


Μηδενική εμπιστοσύνη


Η άμυνα είναι απαραίτητη επειδή οι επιτιθέμενοι μπορούν να χρησιμοποιήσουν εργαλεία που βασίζονται στην τεχνητή νοημοσύνη για να βελτιώσουν τις υπάρχουσες επιθέσεις στον κυβερνοχώρο που βασίζονται στην κοινωνική μηχανική και στην εύρεση μη ασφαλών συσκευών και λογαριασμών».

Ενώ το OpenAI παραδέχεται ότι τα τρέχοντα μοντέλα του είναι περιορισμένα στην ικανότητά τους να ανιχνεύουν επιθέσεις στον κυβερνοχώρο, η εταιρεία δεσμεύτηκε για μελλοντικές επενδύσεις ασφάλειας, συμπεριλαμβανομένων:

• Επενδύσεις σε
  
  τεχνολογία
  
  και ομάδες, συμπεριλαμβανομένων των ομάδων πληροφοριών και ερευνών και ασφάλειας, ασφάλειας και ακεραιότητας, για τον εντοπισμό απειλών.

• Συνεργασίες με συνεργάτες του κλάδου και άλλα ενδιαφερόμενα μέρη για την ανταλλαγή πληροφοριών σχετικά με κακόβουλες χρήσεις.

• Συνεχής δημόσια αναφορά απειλών και λύσεων για την ασφάλεια.

«Αν και εργαζόμαστε για να ελαχιστοποιήσουμε την πιθανή κακή χρήση από τέτοιους παράγοντες, δεν θα μπορέσουμε να σταματήσουμε κάθε περίπτωση», έγραψε το OpenAI. «Όμως, συνεχίζοντας να καινοτομούμε, να ερευνούμε, να συνεργαζόμαστε και να μοιραζόμαστε, κάνουμε πιο δύσκολο για τους κακόβουλους παράγοντες να παραμείνουν απαρατήρητοι σε όλο το ψηφιακό οικοσύστημα και βελτιώνουμε την εμπειρία για όλους τους άλλους».