Microsoft Counterfit – Το νέο εργαλείο για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης

Η


Microsoft


κυκλοφόρησε ένα αυτοματοποιημένο



εργαλείο

γραμμής εντολών για την αξιολόγηση της ασφάλειας των συστημάτων

τεχνητής νοημοσύνης

. Το

Counterfit

, που προσφέρεται με

άδεια

open source, σας επιτρέπει να επαληθεύσετε την ευρωστία και την αξιοπιστία των αλγορίθμων μηχανικής μάθησης.

Η

χρήση

συστημάτων τεχνητής νοημοσύνης αυξάνεται σε διάφορους τομείς, όπως η

υγεία

, τα οικονομικά και η

άμυνα

. Είναι επομένως απαραίτητο να διασφαλιστεί η μέγιστη



προστασία

από τυχόν



κυβερνοεπιθέσεις

. Η

αξιολόγηση ασφάλειας

για

συστήματα

AI δεν είναι μία απλή



εργασία

. Με βάση τα αποτελέσματα της έρευνας που διενήργησε η

Microsoft

, η πλειοψηφία των οργανισμών που ερωτήθηκαν (25 στους 28) απάντησε ότι δεν είχε συγκεκριμένα εργαλεία.

Το

Counterfit

αναπτύχθηκε από την



εταιρεία

Redmond για τα

συστήματα

AI ως προληπτικό



εργαλείο

. Οι



επιθέσεις

εναντίον μεμονωμένων μοντέλων AI προσομοιώθηκαν μέσω μιας σειράς σεναρίων ονόματι Python. Αργότερα το



εργαλείο

αυτοματοποιήθηκε για να επιτεθεί σε πολλαπλά



μοντέλα

AI μεγάλης κλίμακας. Το Counterfit μπορεί επίσης να χρησιμοποιηθεί για τον εντοπισμό

τρωτών σημείων

εκ των προτέρων.

Το



εργαλείο

είναι εντελώς “

αγνωστικό

“, οπότε λειτουργεί με οποιοδήποτε περιβάλλον (cloud, on-premises, edge), μοντέλο AI και τύπο δεδομένων (κείμενο,



εικόνες

, γενικό input). Εκτός από τον εντοπισμό τρωτών σημείων, το Counterfit μπορεί να χρησιμοποιηθεί και ως

τεστ διείσδυσης

για καταγραφή επιθέσεων και

χρήση

τηλεμετρίας για τη βελτίωση της ασφάλειας των συστημάτων AI. Πλήρεις λεπτομέρειες σχετικά με την εγκατάσταση, τη διαμόρφωση και τη

χρήση

θα σας τις γνωστοποιήσουμε σύντομα.