Το Ηνωμένο Βασίλειο θα φιλοξενήσει την πρώτη παγκόσμια σύνοδο κορυφής για να σταματήσει το Terminator AI

Η κυβέρνηση του Ηνωμένου Βασιλείου

έχει ανακοινώσει

ότι θα φιλοξενήσει το πρώτο παγκόσμιο συνέδριο για την ασφάλεια της τεχνητής νοημοσύνης αυτό το φθινόπωρο (φθινόπωρο). Στη σύνοδο κορυφής θα συναντηθούν βασικές χώρες, κορυφαίες εταιρείες τεχνολογίας και ερευνητές για να συζητήσουν μέτρα ασφαλείας για την αξιολόγηση και την παρακολούθηση των πιο σημαντικών κινδύνων που εγκυμονεί η τεχνητή νοημοσύνη.

«Η τεχνητή νοημοσύνη έχει απίστευτες δυνατότητες να μεταμορφώσει τη ζωή μας προς το καλύτερο», δήλωσε ο Ρίσι Σουνάκ, πρωθυπουργός του Ηνωμένου Βασιλείου. «Αλλά πρέπει να βεβαιωθούμε ότι αναπτύσσεται και χρησιμοποιείται με τρόπο που να είναι ασφαλής».

«Πολλές φορές σε όλη την ιστορία, έχουμε εφεύρει νέες τεχνολογίες που αλλάζουν το παράδειγμα και τις έχουμε αξιοποιήσει για το καλό της ανθρωπότητας. Αυτό πρέπει να κάνουμε ξανά».

«Καμία χώρα δεν μπορεί να το κάνει αυτό μόνη της. Αυτό θα απαιτήσει μια παγκόσμια προσπάθεια. Αλλά με την τεράστια τεχνογνωσία και τη δέσμευσή μας σε ένα ανοιχτό, δημοκρατικό διεθνές σύστημα, το Ηνωμένο Βασίλειο θα σταθεί μαζί με τους συμμάχους μας για να πρωτοστατήσουν».

Οι κίνδυνοι από την τεχνητή νοημοσύνη είναι πολύπλευροι από τον εγκόσμιο μέχρι την επιστημονική φαντασία. Ο πιο συνηθισμένος κίνδυνος από την τεχνητή νοημοσύνη αυτή τη στιγμή είναι ότι μπορεί να παράγει ψευδείς πληροφορίες που ονομάζονται παραισθήσεις.

Το

OpenAI

εργάζεται σε μια μέθοδο επεξεργασίας στα LLM του που επικυρώνει τη λογική σε κάθε στάδιο για τη μείωση των περιπτώσεων παραισθήσεων, αλλά αυτό το μοντέλο δεν έχει χρησιμοποιηθεί ακόμη για ευρεία χρήση. Εκτός από αυτό το πρόβλημα, το AI μπορεί να χρησιμοποιηθεί από κακόβουλους χάκερ για τη δημιουργία κώδικα κακόβουλου λογισμικού που θα μπορούσε να χρησιμοποιηθεί σε επιθέσεις.

Αν και δεν είναι πραγματικά ένα ζήτημα ασφάλειας της τεχνητής νοημοσύνης, η κατάσταση γύρω από την ανάληψη θέσεων εργασίας από την τεχνητή νοημοσύνη είναι κάτι άλλο με το οποίο θα πρέπει να αντιμετωπίσουν οι πολιτικοί. Η Neowin ανέφερε την περασμένη εβδομάδα, για παράδειγμα, για το γεγονός ότι ορισμένες εταιρείες έχουν ήδη αρχίσει να αντικαθιστούν άτομα με γενετική τεχνητή νοημοσύνη.

Πριν από την ανακοίνωση αυτής της συνόδου κορυφής, ο σύμβουλος του Rishi Sunak για την τεχνητή νοημοσύνη, Ματ Κλίφορντ, είπε ότι η τεχνητή νοημοσύνη θα μπορούσε να γίνει πολύ ισχυρή μέσα σε μόλις δύο χρόνια εάν αφεθεί χωρίς ρύθμιση, καθιστώντας προφανώς πολύ δύσκολο για τον άνθρωπο να τον ελέγξουν. Ενώ το σενάριο του

Terminator

AI μοιάζει με επιστημονική φαντασία αυτή τη στιγμή και πιθανότατα θα είναι για περισσότερα από δύο χρόνια, είναι καλή ιδέα οι κυβερνήσεις να εξετάσουν τους πιθανούς κινδύνους πριν να είναι πολύ αργά.