Τα νέα εργαλεία ασφαλείας της Microsoft: Η νέα γενιά για τα συστήματα τεχνητής νοημοσύνης

Η Microsoft

παρουσίασε ένα νέο εργαλείο ασφαλείας που στοχεύει να διατηρεί ασφαλή και ασφαλή στη χρήση τα εργαλεία παραγωγής

τεχν

ητής νοημοσύνης.

PyRIT

συντομογραφία του Python Risk Identification Toolkit for Generative AI, θα βοηθήσει τους προγραμματιστές να ανταποκριθούν στις αυξανόμενες απειλές που αντιμετωπίζουν επιχειρήσεις κάθε μεγέθους από εγκληματίες που θέλουν να επωφεληθούν από νέες τακτικές.

Όπως οι περισσότεροι από εσάς ήδη γνωρίζετε, τα εργαλεία δημιουργίας τεχνητής νοημοσύνης όπως το ChatGPT χρησιμοποιούνται από εγκληματίες του κυβερνοχώρου για τη γρήγορη δημιουργία κώδικα για

κακόβουλο λογισμικό

, τη δημιουργία (και τη διόρθωση) μηνυμάτων ηλεκτρονικού ψαρέματος και πολλά άλλα.

Χρειάζεται ακόμα χειρωνακτική εργασία

Οι προγραμματιστές ανταποκρίθηκαν αλλάζοντας τον τρόπο με τον οποίο ανταποκρίνεται το εργαλείο σε διαφορετικές προτροπές και περιορίζοντας κάπως τις δυνατότητές του, και η Microsoft αποφάσισε τώρα να το κάνει ένα βήμα παραπέρα.

Κατά τη διάρκεια του περασμένου έτους, η εταιρεία red συγκέντρωσε «αρκετά συστήματα παραγωγής τεχνητής νοημοσύνης υψηλής αξίας» προτού βγουν στην αγορά, και κατά τη διάρκεια αυτής της περιόδου, άρχισε να δημιουργεί μεμονωμένα σενάρια. «Καθώς συνεργάζαμε διαφορετικές ποικιλίες συστημάτων τεχνητής νοημοσύνης που δημιουργούνται και ερευνούσαμε για διαφορετικούς κινδύνους, προσθέσαμε λειτουργίες που βρήκαμε χρήσιμες», εξήγησε η Microsoft. “Σήμερα, το PyRIT είναι ένα αξιόπιστο εργαλείο στο οπλοστάσιο της

Microsoft AI

Red Team.”

Ο γίγαντας λογισμικού Redmond τονίζει επίσης ότι το PyRIT δεν αντικαθιστά σε καμία περίπτωση τη χειροκίνητη κόκκινη ομαδοποίηση των παραγωγικών συστημάτων AI. Αντίθετα, η εταιρεία ελπίζει ότι άλλες ομάδες red teaming μπορούν να χρησιμοποιήσουν το εργαλείο για να εξαλείψουν κουραστικές εργασίες και να επιταχύνουν τα πράγματα.

«Το PyRIT φωτίζει τα καυτά σημεία όπου θα μπορούσε να είναι ο

κίνδυνος

, τον οποίο ο επαγγελματίας ασφαλείας μπορεί να εξερευνήσει με έντονο τρόπο», εξηγεί περαιτέρω η Microsoft. «Ο επαγγελματίας ασφαλείας έχει πάντα τον έλεγχο της στρατηγικής και της εκτέλεσης της λειτουργίας της κόκκινης ομάδας AI και το PyRIT παρέχει τον κώδικα αυτοματισμού για να λάβει το αρχικό σύνολο δεδομένων επιβλαβών μηνυμάτων που παρέχονται από τον επαγγελματία ασφαλείας και στη συνέχεια χρησιμοποιεί το τελικό σημείο LLM για να δημιουργήσει περισσότερα επιβλαβή μηνύματα .»

Το εργαλείο είναι επίσης προσαρμόσιμο, τονίζει η Microsoft, καθώς είναι σε θέση να αλλάζει τις τακτικές του ανάλογα με την απόκριση του συστήματος παραγωγής τεχνητής νοημοσύνης σε προηγούμενα ερωτήματα. Στη συνέχεια δημιουργεί την επόμενη είσοδο και συνεχίζει τον βρόχο έως ότου τα μέλη της κόκκινης ομάδας είναι ευχαριστημένα με τα αποτελέσματα.