Κορυφαίες εταιρείες τεχνητής νοημοσύνης επισκέπτονται τον Λευκό Οίκο για να αναλάβουν «εθελοντικές» δεσμεύσεις ασφάλειας

Ενώ η ουσιαστική νομοθεσία για την τεχνητή νοημοσύνη μπορεί να απέχει ακόμη χρόνια, η βιομηχανία κινείται με ταχύτητα φωτός και πολλοί – συμπεριλαμβανομένου του Λευκού Οίκου – ανησυχούν ότι μπορεί να παρασυρθεί. Έτσι, η κυβέρνηση Μπάιντεν έχει συγκεντρώσει «εθελοντικές δεσμεύσεις» από 7 από τους μεγαλύτερους προγραμματιστές τεχνητής νοημοσύνης για την επιδίωξη κοινών στόχων ασφάλειας και διαφάνειας πριν από ένα προγραμματισμένο Εκτελεστικό Διάταγμα.

Οι

OpenAI

, Anthropic,

Google

, Inflection,

Microsoft

,

Meta

και

Amazon

είναι οι εταιρείες που συμμετέχουν σε αυτή τη μη δεσμευτική συμφωνία και θα στείλουν εκπροσώπους στον Λευκό Οίκο για να συναντηθούν με τον Πρόεδρο Μπάιντεν σήμερα.

Για να είμαστε σαφείς, δεν προτείνεται κανένας κανόνας ή επιβολή — οι πρακτικές που συμφωνήθηκαν είναι καθαρά εθελοντικές. Όμως, παρόλο που κανένας κυβερνητικός οργανισμός δεν θα λογοδοτήσει μια εταιρεία εάν αποφύγει μερικούς, πιθανότατα θα είναι επίσης θέμα δημόσιου αρχείου.

Ακολουθεί η λίστα με τους συμμετέχοντες στη συναυλία του Λευκού Οίκου:

• Μπραντ Σμιθ, Πρόεδρος της Microsoft
  
  
  
  
• Kent Walker, Πρόεδρος, Google
  
  
  
  
• Dario Amodei, Διευθύνων Σύμβουλος, Anthropic
  
  
  
  
• Mustafa Suleyman, Διευθύνων Σύμβουλος, Inflection AI
  
  
  
  
• Nick Clegg, Πρόεδρος, Meta
  
  
  
  
• Greg Brockman, Πρόεδρος, OpenAI
  
  
  
  
• Adam Selipsky, Διευθύνων Σύμβουλος, Amazon Web Services

Ούτε υποκείμενοι, αλλά ούτε δισεκατομμυριούχοι. (Και όχι γυναίκες.)

Οι επτά εταιρείες (και πιθανώς άλλες που δεν έτυχαν της θεραπείας στο κόκκινο χαλί, αλλά θα θέλουν να οδηγήσουν μαζί) έχουν δεσμευτεί για τα εξής:

• Εσωτερικές και εξωτερικές δοκιμές ασφάλειας συστημάτων τεχνητής νοημοσύνης πριν από την κυκλοφορία, συμπεριλαμβανομένων των αντιπάλων
  
  «κόκκινη ομάδα»
  
  από ειδικούς εκτός της εταιρείας.
• Μοιραστείτε πληροφορίες σε όλη την κυβέρνηση, την ακαδημαϊκή κοινότητα και την «κοινωνία των πολιτών» σχετικά με τους κινδύνους της τεχνητής νοημοσύνης και τις τεχνικές μετριασμού (όπως η πρόληψη του «jailbreaking»).
• Επενδύστε στην ασφάλεια στον κυβερνοχώρο και στις «εσωτερικές διασφαλίσεις απειλών» για να προστατεύσετε δεδομένα ιδιωτικών μοντέλων, όπως τα βάρη. Αυτό είναι σημαντικό όχι μόνο για την προστασία της IP, αλλά επειδή η πρόωρη ευρεία απελευθέρωση θα μπορούσε να αποτελεί ευκαιρία για κακόβουλους παράγοντες.
• Διευκολύνετε την ανακάλυψη και την αναφορά τρωτών σημείων από τρίτους, π.χ. ένα πρόγραμμα επιβράβευσης σφαλμάτων ή ανάλυση ειδικών τομέα.
• Αναπτύξτε ισχυρή υδατοσήμανση ή κάποιον άλλο τρόπο επισήμανσης περιεχομένου που δημιουργείται από AI.
• Αναφέρετε τις «δυνατότητες, τους περιορισμούς και τους τομείς κατάλληλης και ακατάλληλης χρήσης» των συστημάτων AI. Καλή τύχη να λάβετε μια ευθεία απάντηση σε αυτό.
• Δώστε προτεραιότητα στην έρευνα για κοινωνικούς κινδύνους, όπως συστηματική προκατάληψη ή ζητήματα ιδιωτικότητας.
• Αναπτύξτε και αναπτύξτε την τεχνητή νοημοσύνη «για να βοηθήσετε στην αντιμετώπιση των μεγαλύτερων προκλήσεων της κοινωνίας», όπως η πρόληψη του καρκίνου και η κλιματική αλλαγή. (Αν και σε μια συνέντευξη Τύπου σημειώθηκε ότι το αποτύπωμα άνθρακα των μοντέλων τεχνητής νοημοσύνης δεν παρακολουθούνταν.)

Αν και τα παραπάνω είναι εθελοντικά, μπορεί κανείς εύκολα να φανταστεί ότι η απειλή ενός Εκτελεστικού Διατάγματος —που «αποκτούν αυτήν τη στιγμή» — υπάρχει για να ενθαρρύνει τη συμμόρφωση. Για παράδειγμα, εάν ορισμένες εταιρείες αποτύχουν να επιτρέψουν τον εξωτερικό έλεγχο ασφάλειας των μοντέλων τους πριν από την κυκλοφορία, ο ΕΟ μπορεί

αναπτύσσω

μια παράγραφος που καθοδηγεί την FTC να εξετάσει προσεκτικά τα προϊόντα τεχνητής νοημοσύνης που ισχυρίζονται ότι έχουν ισχυρή ασφάλεια. (Ένας ΕΟ είναι ήδη σε ισχύ και ζητά από τις υπηρεσίες να προσέχουν για μεροληψία στην ανάπτυξη και χρήση της τεχνητής νοημοσύνης.)

Ο Λευκός Οίκος είναι ξεκάθαρα πρόθυμος να βγει μπροστά από αυτό το επόμενο μεγάλο κύμα τεχνολογίας, αφού έχει πιαστεί κάπως πλατύποδα από τις ανατρεπτικές δυνατότητες των μέσων κοινωνικής δικτύωσης. Ο Πρόεδρος και ο Αντιπρόεδρος συναντήθηκαν με ηγέτες του κλάδου και ζήτησαν συμβουλές σχετικά με μια εθνική στρατηγική τεχνητής νοημοσύνης, καθώς επίσης αφιερώνουν αρκετή χρηματοδότηση σε νέα ερευνητικά κέντρα και προγράμματα τεχνητής νοημοσύνης. Φυσικά ο εθνικός μηχανισμός επιστήμης και έρευνας είναι πολύ μπροστά τους, καθώς αυτό το εξαιρετικά περιεκτικό (αν και αναγκαστικά λίγο ξεπερασμένο)

Η έκθεση ερευνητικών προκλήσεων και ευκαιριών από το DOE και τα National Labs δείχνει

.