Η κυβέρνηση του Ηνωμένου Βασιλείου θέλει οι εταιρείες να εξηγήσουν την εσωτερική λειτουργία των AI τους

Η κυβέρνηση του Ηνωμένου Βασιλείου πιέζει εταιρείες όπως η

OpenAI

, η Anthropic και η Google να εξηγήσουν την εσωτερική λειτουργία των αντίστοιχων μεγάλων γλωσσικών μοντέλων τους (LLM). Ενώ ο κώδικας για ορισμένα μοντέλα είναι δημόσια διαθέσιμος, μοντέλα όπως το GPT-3.5 και το GPT-4

δεν είναι

δημόσια και το OpenAI είναι πολύ απρόθυμο να μοιραστεί πολλές από

τι

ς λεπτομέρειες.

Το Ηνωμένο Βασίλειο ετοιμάζεται να φιλοξενήσει μια νέα παγκόσμια σύνοδο κορυφής τεχνητής νοημοσύνης που θα συγκεντρώσει κυβερνήσεις, εταιρείες και ερευνητές για να εξετάσουν τους κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη και να συζητήσουν τρόπους μετριασμού αυτών των κινδύνων.

Ένας από τους λόγους που οι εταιρείες διστάζουν να μοιραστούν τα εσωτερικά των LLM τους είναι επειδή η ενέργεια θα μπορούσε να αποκαλύψει ιδιοκτησιακές πληροφορίες για τα προϊόντα τους. Εάν οι κακόβουλοι παράγοντες γνωρίζουν περισσότερα για τα εσωτερικά, θα μπορούσε επίσης να κάνει τα μοντέλα AI ευάλωτα σε επιθέσεις στον

κυβερνοχώρο

.

Σύμφωνα με τους FT, ένα από τα πράγματα που η κυβέρνηση θα ήθελε να επιθεωρήσει είναι τα βάρη μοντέλων που καθορίζουν την ισχύ των συνδέσεων μεταξύ των νευρώνων σε διαφορετικά στρώματα των μοντέλων. Οι εταιρείες τεχνητής νοημοσύνης προς το παρόν δεν χρειάζεται να κοινοποιούν αυτές τις λεπτομέρειες, αλλά υπάρχουν ορισμένες εκκλήσεις για μεγαλύτερη διαφάνεια σχετικά με το θέμα.

Το Ηνωμένο Βασίλειο θα πραγματοποιήσει την πρώτη του σύνοδο κορυφής στο Bletchley Park τον Νοέμβριο. Το Bletchley Park κατέχει μια σημαντική θέση στην ιστορία των υπολογιστών, επειδή είναι το μέρος όπου απο

κρυπτο

γραφήθηκαν τα μηνύματα των Ναζί. Ο Άλαν Τούρινγκ, από τον οποίο πήρε το όνομά του το Τεστ Turing που σχετίζεται με την τεχνητή νοημοσύνη, εργάστηκε επίσης εκεί σπάζοντας κωδικούς.

Οι Financial Times επεσήμαναν ότι οι DeepMind, OpenAI και Anthropic της Google συμφώνησαν τον Ιούνιο να ανοίξουν τα μοντέλα τους στην κυβέρνηση του Ηνωμένου Βασιλείου για σκοπούς έρευνας και ασφάλειας. Δυστυχώς, εκείνη τη στιγμή, τα μέρη δεν κατέληξαν στην έκταση και τις τεχνικές λεπτομέρειες της πρόσβασης. Τώρα, η κυβέρνηση ζητά ένα αρκετά βαθύ επίπεδο πρόσβασης.

Τελικά, για να στεφθεί με επιτυχία η σύνοδος κορυφής, θα είναι σημαντικό για τους παρευρισκόμενους να κατανοήσουν αρκετά για το πώς λειτουργούν τα μοντέλα, ώστε οι κίνδυνοι να γίνουν καλύτερα κατανοητοί. Το αν έχουν αρκετή πρόσβαση για να κατανοήσουν τα μοντέλα είναι ένα άλλο ερώτημα.

Πηγή:

Financial Times