Συνεργασία τεχνολογικών γιγάντων για την ασφάλεια της τεχνητής νοημοσύνης

Τα νέα ναυαρχίδα smartphone, όπως η πρόσφατη σειρά Galaxy S24 ή η σειρά Pixel 8, είναι ήδη γεμάτα με λειτουργίες AI. Ενώ η γενετική τεχνητή νοημοσύνη που μπορεί να δημιουργήσει κείμενο, φωτογραφίες και βίντεο με βάση προτροπές ανοιχτού τύπου, προκαλεί ενθουσιασμό, εγείρει επίσης ανησυχίες.

Κάποιοι ανησυχούν ότι θα μπορούσε να αντικαταστήσει θέσεις

εργασία

ς, να επηρεάσει τις εκλογές και ακόμη και να ξεπεράσει τις ανθρώπινες ικανότητες. Αυτός είναι ο λόγος για τον οποίο η υπουργός Εμπορίου των

ΗΠΑ

Τζίνα Ραϊμόντο παρουσίασε μια νέα πρωτοβουλία που ονομάζεται Κοινοπραξία Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης των ΗΠΑ (AISIC).

Σύμφωνα με


Reuters


περισσότερες από 200 εταιρείες, συμπεριλαμβανομένων μεγάλων τεχνολογικών ονομάτων όπως η

Apple

, η Amazon, η Google, η

Meta

, η Microsoft, η OpenAI, η Qualcomm και η Nvidia, εντάχθηκαν στην πρωτοβουλία AISIC κατόπιν αιτήματος του Λευκού Οίκου.

Η δουλειά της ομάδας είναι να επικεντρωθεί σε βασικά καθήκοντα που ορίζονται στο στέλεχος AI του Προέδρου Μπάιντεν τον Οκτώβριο


Σειρά


. Αυτό περιλαμβάνει τη δημιουργία κατευθυντήριων γραμμών για το red-teaming, την αξιολόγηση των δυνατοτήτων, τη διαχείριση κινδύνων, τη διασφάλιση της ασφάλειας και της ασφάλειας και την προσθήκη υδατογραφημάτων σε συνθετικό περιεχόμενο.

Πέρυσι, μεγάλες εταιρείες τεχνητής νοημοσύνης δεσμεύτηκαν να προσθέσουν υδατογραφήματα στο περιεχόμενο που δημιουργείται από AI ως μέτρο ασφαλείας. Σύμφωνα με αυτό, η Meta ετοιμάζεται να αρχίσει να επισημαίνει περιεχόμενο που δημιουργείται από AI στο Facebook, το Instagram και τα Threads.

Η κοινοπραξία, που είναι η πιο εκτεταμένη συγκέντρωση ομάδων δοκιμών και αξιολόγησης, στοχεύει να δημιουργήσει τις βάσεις για μια «νέα επιστήμη μετρήσεων στην ασφάλεια της τεχνητής νοημοσύνης». Η AISIC φαίνεται να είναι η πρώτη κίνηση προς την κάλυψη των περισσότερων απαιτήσεων της παραγγελίας. Δεν είναι ακόμη σαφές εάν υπάρχουν διαφορετικά επίπεδα συμμετοχής ή εάν υπάρχουν απαιτήσεις συμμετοχής για τους συμμετέχοντες.

Όλες οι εταιρείες τεχνολογίας που αναφέρθηκαν εργάζονται για τη δημιουργία τεχνητής νοημοσύνης με διαφορετικούς τρόπους. Η Google είναι ένας από τους ηγέτες στην καινοτομία τεχνητής νοημοσύνης (μόλις κυκλοφόρησε το νέο της chatbot, Gemini, για Android). Η Microsoft, σε συνεργασία με το OpenAI, έκανε το

ChatGPT

σημαντικό σημείο συζήτησης πέρυσι. Η Qualcomm, με το Snapdragon 8 Gen 3, άνοιξε την πόρτα για λειτουργίες που τροφοδοτούνται με AI σε smartphone. Η Apple φέρεται επίσης να εργάζεται για τη βελτίωση του Siri χρησιμοποιώντας τεχνολογία AI.