Η Kamala Harris ανακοινώνει το AI Safety Institute για την προστασία των Αμερικανών καταναλωτών

Λίγες μέρες αφότου ο Πρόεδρος

Τζο


Μπάιντεν

παρουσίασε ένα εκτελεστικό διάταγμα που αναλαμβάνει εκ νέου την ομοσπονδιακή κυβέρνηση όσον αφορά την ανάπτυξη της τεχνητής νοημοσύνης, η Αντιπρόεδρος Καμάλα Χάρις ανακοίνωσε στη Σύνοδο Κορυφής Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου την Τρίτη μισή ντουζίνα ακόμη πρωτοβουλίες μηχανικής

μάθηση

ς που αναλαμβάνει η κυβέρνηση. Ανάμεσα στα κυριότερα σημεία: η ίδρυση του Ινστιτούτου Ασφάλειας AI των Ηνωμένων Πολιτειών, η πρώτη έκδοση σχεδίου οδηγιών πολιτικής σχετικά με τη χρήση της τεχνητής νοημοσύνης από την ομοσπονδιακή κυβέρνηση και μια δήλωση σχετικά με τις υπεύθυνες στρατιωτικές εφαρμογές για την αναδυόμενη τεχνολογία.

«Ο Πρόεδρος Μπάιντεν και εγώ πιστεύουμε ότι όλοι οι ηγέτες, από την κυβέρνηση, την κοινωνία των πολιτών και τον ιδιωτικό τομέα έχουν ηθικό, ηθικό και κοινωνικό καθήκον να διασφαλίσουν ότι η τεχνητή νοημοσύνη υιοθετείται και προωθείται με τρόπο που προστατεύει το κοινό από πιθανή βλάβη και διασφαλίζει ότι ο καθένας μπορεί να απολαύσει τα οφέλη του», είπε η Χάρις στις έτοιμες παρατηρήσεις της.

«Όπως η τεχνητή νοημοσύνη έχει τη δυνατότητα να κάνει μεγάλο καλό, έχει επίσης τη δυνατότητα να προκαλέσει σοβαρή ζημιά, από κυβερνοεπιθέσεις με δυνατότητα τεχνητής νοημοσύνης σε κλίμακα που ξεπερνάει οτιδήποτε έχουμε δει στο παρελθόν έως βιοόπλα με τεχνητή νοημοσύνη που θα μπορούσαν να θέσουν σε κίνδυνο τις ζωές εκατομμυρίων ,” είπε. Οι υπαρξιακές απειλές που παρουσιάζουν τα συστήματα παραγωγής τεχνητής νοημοσύνης ήταν

κεντρικό θέμα της συνόδου κορυφής

.

«Για να ορίσουμε την ασφάλεια της τεχνητής νοημοσύνης πρέπει να εξετάσουμε και να αντιμετωπίσουμε όλο το φάσμα του κινδύνου της τεχνητής νοημοσύνης – απειλές για την ανθρωπότητα συνολικά, απειλές για άτομα, για τις κοινότητές μας και τους θεσμούς μας και απειλές για τους πιο ευάλωτους πληθυσμούς μας», συνέχισε. «Για να βεβαιωθούμε ότι η τεχνητή νοημοσύνη είναι ασφαλής, πρέπει να διαχειριστούμε όλους αυτούς τους κινδύνους».

Για το σκοπό αυτό, ο Χάρις ανακοίνωσε την Τετάρτη ότι ο Λευκός Οίκος, σε συνεργασία με το Υπουργείο Εμπορίου, ιδρύει το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης των Ηνωμένων Πολιτειών (US AISI) εντός του

NIST

. Θα είναι υπεύθυνο για τη δημιουργία και τη δημοσίευση όλων των κατευθυντήριων γραμμών, των δοκιμών αναφοράς, των βέλτιστων πρακτικών και άλλων για τη δοκιμή και την αξιολόγηση δυνητικά επικίνδυνων συστημάτων τεχνητής νοημοσύνης.

Αυτές οι δοκιμές θα μπορούσαν να περιλαμβάνουν τις ασκήσεις της κόκκινης ομάδας που είχε αναφέρει ο Πρόεδρος Μπάιντεν στον ΕΟ του. Η AISI θα είναι επίσης επιφορτισμένη με την παροχή τεχνικής καθοδήγησης στους νομοθέτες και τις αρχές επιβολής του νόμου σε ένα ευρύ φάσμα θεμάτων που σχετίζονται με την τεχνητή νοημοσύνη, συμπεριλαμβανομένου του εντοπισμού του παραγόμενου περιεχομένου, του ελέγχου ταυτότητας του ζωντανού ηχογραφημένου περιεχομένου, του μετριασμού των διακρίσεων λόγω τεχνητής νοημοσύνης και της διασφάλισης της διαφάνειας στη χρήση του.

Επιπλέον, το Γραφείο Διαχείρισης και Προϋπολογισμού (OMB) πρόκειται να δημοσιεύσει για δημόσιο σχολιασμό το πρώτο προσχέδιο πολιτικής καθοδήγησης της διοίκησης σχετικά με τη χρήση της κυβερνητικής τεχνητής νοημοσύνης αργότερα αυτή την εβδομάδα. Όπως το προσχέδιο για μια Διακήρυξη Δικαιωμάτων AI που βασίζεται, το σχέδιο καθοδήγησης πολιτικής περιγράφει τα βήματα που μπορεί να λάβει η εθνική κυβέρνηση για να «προωθήσει την υπεύθυνη καινοτομία τεχνητής νοημοσύνης» διατηρώντας παράλληλα τη διαφάνεια και προστατεύοντας τους ομοσπονδιακούς εργαζομένους από αυξημένη επιτήρηση και εκτόπιση θέσεων εργασίας. Αυτό το σχέδιο καθοδήγησης θα χρησιμοποιηθεί τελικά για τη θέσπιση διασφαλίσεων για τη χρήση της τεχνητής νοημοσύνης σε ένα ευρύ φάσμα εφαρμογών του δημόσιου τομέα, συμπεριλαμβανομένων των μεταφορών, της μετανάστευσης, της υγείας και της εκπαίδευσης, ώστε να διατίθεται για δημόσιο σχολιασμό στο

ai.gov/input

.

Η Χάρις ανακοίνωσε επίσης κατά τη διάρκεια των παρατηρήσεών της ότι η

Πολιτική Διακήρυξη για την Υπεύθυνη Χρήση Τεχνητής Νοημοσύνης και Αυτονομία

οι ΗΠΑ που εκδόθηκαν τον Φεβρουάριο έχουν συγκεντρώσει 30 υπογράφοντες μέχρι

σήμερα

, όλοι από τους οποίους έχουν συμφωνήσει σε ένα σύνολο κανόνων για την υπεύθυνη ανάπτυξη και ανάπτυξη στρατιωτικών συστημάτων τεχνητής νοημοσύνης. Απομένουν μόλις 165 έθνη! Η διοίκηση εγκαινιάζει επίσης ένα εικονικό hackathon σε προσπάθειες να αμβλύνει τη ζημιά που μπορούν να προκαλέσουν οι απατεώνες τηλεφώνων και διαδικτύου που υποστηρίζονται από τεχνητή νοημοσύνη. Οι συμμετέχοντες στο Hackathon θα εργαστούν για τη δημιουργία μοντέλων τεχνητής νοημοσύνης που μπορούν να αντιμετωπίσουν τις ρομποτικές κλήσεις και τα ρομποτικά κείμενα, ειδικά εκείνα που στοχεύουν ηλικιωμένους με δημιουργούμενες φωνητικές απάτες.

Ο έλεγχος ταυτότητας περιεχομένου είναι ένα αυξανόμενο επίκεντρο της κυβέρνησης Μπάιντεν-Χάρις. Ο EO του Προέδρου Μπάιντεν εξήγησε ότι το Υπουργείο Εμπορίου θα ηγηθεί των προσπαθειών για την επικύρωση του περιεχομένου που παράγεται από τον Λευκό Οίκο μέσω μιας συνεργασίας με το C2PA και άλλες ομάδες υπεράσπισης του κλάδου. Θα εργαστούν για να θεσπίσουν πρότυπα του κλάδου, όπως π.χ

τις εθελοντικές δεσμεύσεις που είχαν προηγουμένως εξαχθεί από 15 από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στη Silicon Valley

. Στις παρατηρήσεις της, η Χάρις επέκτεινε αυτό το κάλεσμα διεθνώς, ζητώντας υποστήριξη από όλα τα έθνη για την ανάπτυξη παγκόσμιων προτύπων για τον έλεγχο ταυτότητας περιεχομένου που παράγεται από την κυβέρνηση.

«Αυτά τα εθελοντικά [company] Οι δεσμεύσεις είναι ένα αρχικό βήμα προς ένα ασφαλέστερο

μέλλον

τεχνητής νοημοσύνης, με περισσότερα να έρθουν», είπε. την ασφάλεια των κοινοτήτων μας· και τη σταθερότητα των δημοκρατιών μας».

“Ένας σημαντικός τρόπος για να αντιμετωπίσουμε αυτές τις προκλήσεις – εκτός από το έργο που έχουμε ήδη κάνει – είναι μέσω νομοθεσίας – νομοθεσία που ενισχύει την ασφάλεια της τεχνητής νοημοσύνης χωρίς να καταπνίγει την καινοτομία”, συνέχισε ο Χάρις.