Ο Yann Lecun της Meta ενώνει 70 άλλους ζητώντας περισσότερο άνοιγμα στην ανάπτυξη της τεχνητής νοημοσύνης

Την ίδια μέρα, το Ηνωμένο Βασίλειο συγκέντρωσε ορισμένους από τους εταιρικούς και πολιτικούς ηγέτες του κόσμου στην ίδια αίθουσα στο Bletchley Park για τη Σύνοδο Κορυφής για την Ασφάλεια της AI, περισσότεροι από 70 υπογράφοντες έβαλαν το όνομά τους σε μια επιστολή που ζητούσαν μια πιο ανοιχτή προσέγγιση στην ανάπτυξη της τεχνητής νοημοσύνης.

«Βρισκόμαστε σε μια κρίσιμη καμπή στη διακυβέρνηση της τεχνητής νοημοσύνης», η επιστολή,

εκδόθηκε από τη Mozilla

, σημειώσεις. «Για να μετριαστούν οι τρέχουσες και μελλοντικές βλάβες από τα συστήματα τεχνητής νοημοσύνης, πρέπει να αγκαλιάσουμε το άνοιγμα, τη διαφάνεια και την ευρεία πρόσβαση. Αυτό πρέπει να είναι παγκόσμια προτεραιότητα».

Όπως ακριβώς συμβαίνει στην ευρύτερη σφαίρα λογισμικού τις τελευταίες δεκαετίες, ένα σημαντικό σκηνικό της ραγδαίας επανάστασης της τεχνητής νοημοσύνης ήταν ανοιχτό έναντι αποκλειστικής χρήσης — και τα πλεονεκτήματα και τα μειονεκτήματα του καθενός. Το Σαββατοκύριακο, ο επικεφαλής επιστήμονας τεχνητής νοημοσύνης του Meta, γονέας του Facebook, Yann Lecun

πήγε στο Χ

«Εάν οι εκστρατείες σας που προκαλούν φόβο πετύχουν, *αναπόφευκτα* θα καταλήξουν σε αυτό που εσείς και εγώ θα προσδιορίζαμε ως καταστροφή: ένας μικρός αριθμός εταιρειών θα ελέγχουν την τεχνητή νοημοσύνη», έγραψε ο Lecun.

Και αυτό είναι ένα θέμα που συνεχίζει να διαπερνά τις αυξανόμενες προσπάθειες διακυβέρνησης που προκύπτουν από το Εκτελεστικό Διάταγμα του Προέδρου Μπάιντεν και τη Σύνοδο Κορυφής για την Ασφάλεια της Τεχνητής Νοημοσύνης που διοργανώθηκε από το Ηνωμένο Βασίλειο αυτή την εβδομάδα. Από τη μία πλευρά, οι επικεφαλής μεγάλων εταιρειών τεχνητής νοημοσύνης προειδοποιούν για τις υπαρξιακές απειλές που θέτει η τεχνητή νοημοσύνη, υποστηρίζοντας ότι η τεχνητή νοημοσύνη ανοιχτού κώδικα μπορεί να χειραγωγηθεί από κακούς παράγοντες για να δημιουργήσει πιο εύκολα χημικά όπλα (για παράδειγμα), ενώ από την άλλη αντεπιχειρήματα προβάλλουν ότι μια τέτοια τρομοκρατία είναι απλώς για να βοηθήσει να συγκεντρωθεί ο έλεγχος στα χέρια λίγων προστατευτικών εταιρειών.

Ιδιοκτησιακός έλεγχος

Η αλήθεια είναι πιθανώς κάπως πιο λεπτή από αυτό, αλλά σε αυτό το πλαίσιο δεκάδες άνθρωποι έβαλαν το όνομά τους σε μια ανοιχτή επιστολή

σήμερα

, ζητώντας περισσότερη διαφάνεια.

«

Ναι

, τα ανοιχτά διαθέσιμα μοντέλα συνοδεύονται από κινδύνους και ευπάθειες – τα μοντέλα τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν κατάχρηση από κακόβουλους παράγοντες ή να αναπτυχθούν από ανεπαρκώς εξοπλισμένους

προγραμματιστές

», αναφέρει η επιστολή. «Ωστόσο, έχουμε δει επανειλημμένα ότι το ίδιο ισχύει για τις αποκλειστικές τεχνολογίες — και ότι η αυξανόμενη δημόσια πρόσβαση και έλεγχος καθιστά την τεχνολογία ασφαλέστερη, όχι πιο επικίνδυνη. Η ιδέα ότι ο αυστηρός και αποκλειστικός έλεγχος των θεμελιωδών μοντέλων τεχνητής νοημοσύνης είναι ο μόνος δρόμος για την προστασία μας από τη ζημιά σε κοινωνική κλίμακα είναι στην καλύτερη περίπτωση αφελής, στη χειρότερη επικίνδυνη.

Ο αξιότιμος ερευνητής τεχνητής νοημοσύνης Lecun — ο οποίος εντάχθηκε στη Meta πριν από 10 χρόνια — επισύναψε το όνομά του στην επιστολή, μαζί με πολλά άλλα αξιόλογα ονόματα, όπως ο συνιδρυτής της Google

Brain

και της Coursera, Andrew Ng. Ο συνιδρυτής και CTO του Hugging Face

Julien Chaumond

; και καταξιωμένος τεχνολόγος

Μπράιαν Μπέλεντορφ

από το Ίδρυμα Linux.

Συγκεκριμένα, η επιστολή προσδιορίζει τρεις κύριους τομείς στους οποίους η διαφάνεια μπορεί να βοηθήσει στην ασφαλή ανάπτυξη της τεχνητής νοημοσύνης, μεταξύ άλλων μέσω της διευκόλυνσης μεγαλύτερης ανεξάρτητης έρευνας και συνεργασίας. αύξηση του δημόσιου ελέγχου και της λογοδοσίας· και μείωση των φραγμών εισόδου για νεοεισερχόμενους στον χώρο της τεχνητής νοημοσύνης.

«Η ιστορία μας δείχνει ότι η γρήγορη βιασύνη προς το λάθος είδος ρύθμισης μπορεί να οδηγήσει σε συγκεντρώσεις εξουσίας με τρόπους που βλάπτουν τον ανταγωνισμό και την

καινοτομία

», σημειώνει η επιστολή. «Τα ανοιχτά μοντέλα μπορούν να βοηθήσουν σε μια ανοιχτή συζήτηση και να βελτιώσουν τη χάραξη πολιτικής. Εάν οι στόχοι μας είναι η ασφάλεια, η ασφάλεια και η λογοδοσία, τότε η διαφάνεια και η διαφάνεια είναι απαραίτητα συστατικά για να φτάσουμε εκεί».