Το «AI Cyber ​​Challenge» του Λευκού Οίκου στοχεύει στη συγκέντρωση λύσεων εθνικής ασφάλειας

Τα συστήματα διακυβέρνησής μας σε τοπικό και κρατικό επίπεδο παραβιάζονται και θεωρούνται ως λύτρα με αποκαρδιωτική τακτική. Στο συνέδριο Black Hat USA στο Λας Βέγκας την Τετάρτη, η κυβέρνηση Μπάιντεν αποκάλυψε τα σχέδιά της για την καλύτερη υπεράσπιση της κρίσιμης ψηφιακής υποδομής του έθνους: Ξεκινά έναν διαγωνισμό πρόκλησης υπό την ηγεσία της DARPA για την κατασκευή συστημάτων AI ικανών να εντοπίζουν και να διορθώνουν προληπτικά τρωτά σημεία λογισμικού. Σωστά, κάνουμε hackathon!

Το «AI Cyber ​​Challenge» (AIxCC) είναι ένα διετές πρόγραμμα ανάπτυξης ανοιχτό σε ανταγωνιστές σε όλες τις ΗΠΑ. Φιλοξενείται από την DARPA σε συνεργασία με την Anthropic, την

Google

, τη

Microsoft

και την

OpenAI

. Αυτές οι εταιρείες παρέχουν τόσο την τεχνογνωσία τους στον τομέα όσο και πρόσβαση στις τεχνολογίες τεχνητής νοημοσύνης τους.

«Η πρόκληση είναι κρίσιμη για τη συνένωση της αιχμής στο αυτόματο λογισμικό, την ασφάλεια και την τεχνητή νοημοσύνη, που θα ενδυναμώσουν τις άμυνές μας στον κυβερνοχώρο, έχοντας τη δυνατότητα να εκμεταλλευτούμε και να διορθώσουμε γρήγορα τα τρωτά σημεία του λογισμικού», Anne Neuberger, Αναπληρώτρια Σύμβουλος Εθνικής Ασφάλειας για τον Κυβερνοχώρο και την Αναδυόμενη Τεχνολογία. , είπε κατά τη διάρκεια συνέντευξης Τύπου την Τρίτη.

«Αυτός είναι ένας από τους τρόπους με τους οποίους ο δημόσιος και ο ιδιωτικός τομέας συνεργάζονται για να κάνουν μεγάλα πράγματα για να αλλάξουν τον τρόπο με τον οποίο εξελίσσεται το μέλλον», πρόσθεσε ο Arati Prabhakar, Διευθυντής του Γραφείου Επιστήμης και Τεχνολογικής Πολιτικής του Λευκού Οίκου. «Γι’ αυτό ο Λευκός Οίκος ζήτησε από την DARPA να ασχοληθεί με το κρίσιμο θέμα της τεχνητής νοημοσύνης για την ασφάλεια στον κυβερνοχώρο».

Οι αξιωματούχοι του Λευκού Οίκου παραδέχονται ότι η σωστή διασφάλιση των εκτεταμένων ομοσπονδιακών συστημάτων λογισμικού του έθνους από εισβολή είναι ένα τρομακτικό έργο. “Δεν έχουν τα εργαλεία ικανά για ασφάλεια σε αυτήν την κλίμακα”, δήλωσε ο Perri Adams, Διευθυντής Προγράμματος, Γραφείο Καινοτομίας Πληροφοριών, DARPA, κατά τη διάρκεια της κλήσης. «Έχουμε δει τα τελευταία χρόνια, χάκερ να εκμεταλλεύονται την κατάσταση των πραγμάτων, θέτοντας σοβαρό κίνδυνο για την εθνική ασφάλεια».

Παρά αυτά τα τρωτά σημεία, «νομίζω ότι πρέπει να μείνουμε ένα βήμα μπροστά και η τεχνητή νοημοσύνη προσφέρει μια πολλά υποσχόμενη προσέγγιση για αυτό», είπε ο Άνταμς. Υπάρχουν σχεδόν 20 εκατομμύρια δολάρια σε χρηματικό έπαθλο. Και για να διασφαλίσει ότι ο ανταγωνισμός δεν κυριαρχείται από τις ομάδες με τις βαθύτερες τσέπες, η DARPA διαθέτει 7 εκατομμύρια δολάρια σε μικρές επιχειρήσεις που θέλουν επίσης να ανταγωνιστούν.

Ο ερευνητικός οργανισμός θα πραγματοποιήσει μια ανοιχτή προκριματική εκδήλωση την επόμενη άνοιξη όπου οι ομάδες με την πρώτη βαθμολογία (μέχρι 20 μπορούν ενδεχομένως να προκριθούν) θα προσκληθούν στους ημιτελικούς στο DEF CON 24. Αυτή η κοόρτη θα περιοριστεί στις πέντε πρώτες ομάδες που θα κερδίσουν χρηματικά έπαθλα στο διαγωνισμό και κληθείτε να επιστρέψετε στο DEF CON 25 για τους τελικούς. Οι τρεις πρώτες ομάδες που θα σκοράρουν από το DC25 θα κερδίσουν ακόμη περισσότερα χρήματα. Φτάνετε στην πρώτη θέση, λαμβάνετε 4 εκατομμύρια δολάρια — αλλά για να το κάνετε αυτό, η τεχνητή νοημοσύνη σας θα ήταν καλύτερα σε θέση, «να υπερασπιστεί γρήγορα κρίσιμους κώδικες υποδομής από επίθεση», σύμφωνα με αξιωματούχους του Λευκού Οίκου. Στην ιδανική περίπτωση, το προκύπτον σύστημα θα σαρώσει τα δίκτυα που αναζητούν και επιδιορθώνουν αυτόνομα τυχόν σφάλματα ασφαλείας λογισμικού που εντοπίζει.

Η νικήτρια ομάδα θα ενθαρρυνθεί επίσης να δημιουργήσει ανοιχτό κώδικα το πρόγραμμα που θα προκύψει. Ο διαγωνισμός φέρνει το Open Source Security Foundation (OpenSSF), ένα έργο Linux Foundation, ως σύμβουλο στην πρόκληση. Η δουλειά τους είναι να βοηθήσουν να διασφαλίσουν ότι ο κώδικας θα χρησιμοποιηθεί αμέσως, «από όλους, από εθελοντές προγραμματιστές ανοιχτού κώδικα έως την εμπορική βιομηχανία», είπε ο Άνταμς. «Εάν τα καταφέρουμε, ελπίζω να δω το AIxCC όχι μόνο να παράγει την επόμενη γενιά εργαλείων κυβερνοασφάλειας σε αυτόν τον χώρο, αλλά να δείξει πώς η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για καλύτερη κοινωνία υπερασπίζοντας τα κρίσιμα θεμέλιά της».

«Ο πρόεδρος ήταν απολύτως σαφής ότι πρέπει να κάνουμε την τεχνητή νοημοσύνη σωστά για τον αμερικανικό λαό», είπε ο Prabhakar. Το περασμένο φθινόπωρο, ο Λευκός Οίκος Μπάιντεν παρουσίασε το Σχέδιό του για μια Διακήρυξη Δικαιωμάτων για την Τεχνητή Νοημοσύνη, η οποία καθόριζε τις βασικές αξίες και τους στόχους της κυβέρνησης για το θέμα. Οι προσπάθειες παρακολούθησης περιελάμβαναν πιέσεις για ένα

Πλαίσιο διαχείρισης κινδύνου AI

και επένδυση 140 εκατομμυρίων δολαρίων για την ίδρυση επτά νέων εθνικών ερευνητικών ιδρυμάτων για την τεχνητή νοημοσύνη και τη μηχανική μάθηση. Τον Ιούλιο, ο Λευκός Οίκος μάλωσε επίσης μια σειρά από κορυφαίες εταιρείες τεχνητής νοημοσύνης για να συμφωνήσουν σε (μη δεσμευτικούς) ισχυρισμούς ότι θα αναπτύξουν τα προϊόντα τους με υπευθυνότητα.