Η Google επεκτείνει το πρόγραμμα επιβράβευσης σφαλμάτων για να στοχεύσει επιθέσεις τεχνητής νοημοσύνης

Με ανησυχίες σχε

τι

κά με τη δημιουργία τεχνητής νοημοσύνης πάντα παρόντες,

Η Google ανακοίνωσε την επέκταση του προγράμματος επιβράβευσης ευπάθειας (VRP)

επικεντρώθηκε σε επιθέσεις ειδικά για την τεχνητή νοημοσύνη και ευκαιρίες για κακοήθεια. Ως εκ τούτου, η εταιρεία κυκλοφόρησε ενημερωμένες οδηγίες που περιγράφουν λεπτομερώς ποιες ανακαλύψεις πληρούν τις προϋποθέσεις για ανταμοιβές και ποιες δεν εμπίπτουν στο πεδίο

εφαρμογή

ς. Για παράδειγμα, η ανακάλυψη εξ

αγωγή

ς δεδομένων

εκπαίδευση

ς που διαρρέουν ιδιωτικές, ευαίσθητες πληροφορίες εμπίπτει στο πεδίο εφαρμογής, αλλά εάν εμφανίζει μόνο δημόσια, μη ευαίσθητα δεδομένα, τότε δεν θα πληροί τις προϋποθέσεις για ανταμοιβή. Πέρυσι, η Google έδωσε σε ερευνητές ασφαλείας 12 εκατομμύρια δολάρια για ανακαλύψεις σφαλμάτων.

Η Google εξήγησε ότι η τεχνητή νοημοσύνη παρουσιάζει διαφορετικά ζητήματα ασφάλειας από την άλλη τεχνολογία της – όπως η χειραγώγηση μοντέλων και η άδικη προκατάληψη – που απαιτούν νέα καθ

οδήγηση

για να αντικατοπτριστεί αυτό. «Πιστεύουμε ότι η επέκταση του VRP θα δώσει κίνητρο για έρευνα γύρω από την ασφάλεια και την ασφάλεια της τεχνητής νοημοσύνης και θα φέρει στο φως πιθανά ζητήματα που θα κάνουν τελικά την τεχνητή νοημοσύνη ασφαλέστερη για όλους», ανέφερε η εταιρεία σε δήλωση. “Επεκτείνουμε επίσης το έργο μας για την ασφάλεια ανοιχτού κώδικα για να καταστήσουμε τις πληροφορίες σχετικά με την ασφάλεια της εφοδιαστικής αλυσίδας τεχνητής νοημοσύνης παγκοσμίως ανιχνεύσιμες και επαληθεύσιμες.”

Εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της Google, συγκεντρώθηκαν στον Λευκό Οίκο νωρίτερα φέτος, δεσμευόμενες για μεγαλύτερη ανακάλυψη και επίγνωση των τρωτών σημείων της τεχνητής νοημοσύνης. Η επέκταση του VRP της εταιρείας έρχεται επίσης πριν από μια «σαρωτική» εκτελεστική εντολή του Προέδρου Μπάιντεν που φέρεται να έχει προγραμματιστεί για τη Δευτέρα 30 Οκτωβρίου, η οποία θα δημιουργούσε αυστηρές αξιολογήσεις και απαιτήσεις για μοντέλα AI πριν από οποιαδήποτε χρήση από κυβερνητικούς φορείς.