Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης συναντώνται με τον Μπάιντεν, δεσμεύονται να υδατογραφήσουν
Επτά από τις κορυφαίες εταιρείες τεχνολογίας στον κόσμο που εργάζονται στην τεχνητή νοημοσύνη συναντώνται σήμερα με την κυβέρνηση Μπάιντεν, όπου θα συμφωνήσουν σε μια σειρά νέων δεσμεύσεων που αποσκοπούν στη διαχείριση πιθανών κινδύνων που θέτει η τεχνητή νοημοσύνη.
Οι νέες εθελοντικές συμφωνίες περιλαμβάνουν δεσμεύσεις για εξωτερικές δοκιμές τρίτων πριν από την κυκλοφορία ενός προϊόντος τεχνητής νοημοσύνης και την ανάπτυξη συστημάτων υδατογράφησης για την ενημέρωση του κοινού όταν δημιουργήθηκε ένα κομμάτι υλικού ήχου ή βίντεο χρησιμοποιώντας συστήματα τεχνητής νοημοσύνης. Η κυβέρνηση Μπάιντεν είπε ότι αυτές οι εθελοντικές δεσμεύσεις, οι οποίες ουσιαστικά ισοδυναμούν με αυτο-αστυνόμευση από εταιρείες τεχνολογίας, αποτελούν μόνο το πρώτο από τα πολλά βήματα που απαιτούνται για τη σωστή διαχείριση του κινδύνου τεχνητής νοημοσύνης.
Αυτό είπε στο Gizmodo ένας αξιωματούχος του Λευκού Οίκου
Ο Πρόεδρος Μπάιντεν θα συναντηθεί με ηγέτες από τις
Amazon
, Anthropic,
Google
, Inflection,
Meta
,
Microsoft
και
OpenAI
για να συζητήσουν τις νέες δεσμεύσεις που βασίζονται σε τρεις βασικές αρχές ασφάλειας, ασφάλειας και εμπιστοσύνης. Από την πλευρά της ασφάλειας, οι εταιρείες θα συμφωνήσουν να εκτελέσουν τα μοντέλα τους μέσω εσωτερικών και εξωτερικών δοκιμών πριν από την κυκλοφορία τους. Οι εταιρείες θα συμφωνήσουν επίσης να μοιραστούν ευρήματα σχετικά με την ασφάλεια και τις προσπάθειες παράκαμψης των διασφαλίσεων στη βιομηχανία, την κυβέρνηση και την κοινωνία των πολιτών.
Για την ασφάλεια, οι εταιρείες δεσμεύονται να επενδύσουν σε πρόσθετες διασφαλίσεις για την ασφάλεια στον κυβερνοχώρο και τις εσωτερικές απειλές και συμφωνούν να υποστηρίζουν τρίτα μέρη στην ανακάλυψη και την αναφορά τρωτών σημείων στα συστήματά τους. Ισως
Το πιο ενδιαφέρον είναι ότι οι εταιρείες τεχνολογίας λένε ότι θα αναπτύξουν όλες τεχνικούς μηχανισμούς όπως υδατογραφήματα για να διασφαλίσουν ότι οι χρήστες γνωρίζουν πότε το περιεχόμενο δημιουργείται από AI. Ένας αξιωματούχος του Λευκού Οίκου μιλώντας στο τηλέφωνο είπε ότι αυτές οι δεσμεύσεις είχαν σκοπό να απωθήσουν την απειλή των deepfakes και να χτίσουν εμπιστοσύνη μεταξύ του κοινού. Ομοίως, οι κατασκευαστές AI έχουν
συμφωνηθεί εκ των προτέρων
να δώσουν προτεραιότητα στην έρευνα που δείχνει τους κινδύνους μεροληψίας, ιδιωτικότητας και διακρίσεων που μπορεί να ενέχουν τα προϊόντα τους.
Αν κάτι από αυτά ακούγεται γνωστό είναι επειδή αρκετές από αυτές τις εταιρείες εργάζονται ήδη προς τους ίδιους στόχους που περιγράφει αυτή η συμφωνία. OpenAI, για παράδειγμα, στο παρελθόν
έδωσε στους ερευνητές προηγμένες εκδόσεις του GTP-4
να «κοκκινίσει» τα μοντέλα και να προσπαθήσει να τα πιέσει
να κάνει επιβλαβείς δηλώσεις για να τις βελτιώσει. Η Microsoft έχει επίσης ήδη
δεσμευμένος
για να υδατογραφήσετε εικόνες και βίντεο που δημιουργούνται με τεχνητή νοημοσύνη. Δεν είναι σαφές εάν κάποια από αυτές τις εταιρείες θα μπορούσε να αντιμετωπίσει οποιοδήποτε είδος ποινής για παραίτηση από οποιαδήποτε από αυτές τις δεσμεύσεις.
Ο αξιωματούχος του Λευκού Οίκου, μιλώντας με το Gizmodo και άλλους δημοσιογράφους, είπε ότι οι δεσμεύσεις είχαν ως στόχο να ενώσουν καθεμία από αυτές τις επτά εταιρείες στο ίδιο σύνολο συμφωνιών. Και ενώ αυτό δεν επηρεάζει επίσημα τις εκατοντάδες άλλες μικρότερες εταιρείες που εργάζονται σε συστήματα τεχνητής νοημοσύνης, ο Λευκός Οίκος ελπίζει ότι η βασική γραμμή που ορίστηκε εδώ θα μπορούσε να ενθαρρύνει άλλους στον κλάδο να ακολουθήσουν παρόμοια πορεία.
Ο αξιωματούχος αποκάλυψε επίσης ότι η κυβέρνηση Μπάιντεν βρίσκεται στη διαδικασία ανάπτυξης εκτελεστικού διατάγματος για τη διασφάλιση ασφαλούς και ασφαλούς τεχνητής νοημοσύνης, αλλά δεν θα δώσει λεπτομέρειες για το τι ακριβώς θα συνεπάγεται αυτή η εντολή. Η κυβέρνηση του Μπάιντεν συνεργάζεται επίσης με το Κογκρέσο για να υποστηρίξει τη δικομματική νομοθεσία για την τεχνητή νοημοσύνη που ελπίζουν ότι θα μπορούσε να βρει μια ισορροπία μεταξύ της διαφύλαξης της τεχνητής νοημοσύνης και του αφήνοντας περιθώρια για καινοτομία.
«Αυτό είναι το επόμενο βήμα, αλλά σίγουρα όχι το τελευταίο βήμα», πρόσθεσε ο αξιωματούχος.
