Το ChatGPT, το Google Bard και το AI Biz έχουν πρόβλημα “Free Rider”.

Στις 22 Μαρτίου 2023, χιλιάδες ερευνητές και ηγέτες τεχνολογίας – συμπεριλαμβανομένου του Elon Musk και του συνιδρυτή της Apple, Steve Wozniak – δημοσίευσαν μια


ανοίγω γράμμα


καλώντας να επιβραδύνει τον αγώνα τεχνητής νοημοσύνης. Συγκεκριμένα, η επιστολή συνιστούσε στα εργαστήρια να σταματήσουν την εκπαίδευση για τεχνολογίες ισχυρότερες από το GPT-4 του OpenAI, το


η πιο εξελιγμένη γενιά


των σημερινών συστημάτων τεχνητής νοημοσύνης που δημιουργούν γλώσσα, για τουλάχιστον έξι μήνες.

Ηχεί ο συναγερμός


κινδύνους που θέτει η τεχνητή νοημοσύνη


δεν είναι κάτι καινούργιο – οι ακαδημαϊκοί έχουν εκδώσει προειδοποιήσεις σχετικά με τους κινδύνους


υπερέξυπνες μηχανές


εδώ και δεκαετίες. Δεν υπάρχει ακόμη συναίνεση για


την πιθανότητα δημιουργίας




τεχνητή γενική νοημοσύνη


αυτόνομα συστήματα AI που ταιριάζουν ή


υπερβαίνει τους ανθρώπους


το πολύ οικονομικά πολύτιμα καθήκοντα. Ωστόσο, είναι σαφές ότι τα τρέχοντα συστήματα τεχνητής νοημοσύνης θέτουν ήδη πολλούς κινδύνους, από τη φυλετική προκατάληψη


τεχνολογία αναγνώρισης προσώπου


στην αυξημένη απειλή παραπληροφόρησης και


εξαπάτηση μαθητή


.

Ενώ η επιστολή καλεί τη βιομηχανία και τους υπεύθυνους χάραξης πολιτικής να συνεργαστούν, προς το παρόν δεν υπάρχει μηχανισμός για την επιβολή μιας τέτοιας παύσης. Οπως και


ένας φιλόσοφος που μελετά την ηθική της τεχνολογίας


έχω παρατηρήσει ότι η έρευνα AI αποτελεί παράδειγμα του «


πρόβλημα ελεύθερου αναβάτη


.» Θα υποστήριζα ότι αυτό θα πρέπει να καθοδηγεί τον τρόπο με τον οποίο οι κοινωνίες ανταποκρίνονται στους κινδύνους τους – και ότι οι καλές προθέσεις δεν θα είναι αρκετές.

Ιππασία δωρεάν

Η δωρεάν ιππασία είναι μια κοινή συνέπεια αυτού που οι φιλόσοφοι αποκαλούν «προβλήματα συλλογικής δράσης». Πρόκειται για καταστάσεις στις οποίες, ως ομάδα, όλοι θα ωφελούνταν από μια συγκεκριμένη δράση, αλλά ως άτομα, κάθε μέλος θα ωφελούνταν


ωφεληθείτε από το να μην το κάνετε


.

Τέτοια προβλήματα αφορούν συχνότερα


δημόσια αγαθά


. Για παράδειγμα, ας υποθέσουμε ότι οι κάτοικοι μιας πόλης έχουν συλλογικό συμφέρον να χρηματοδοτήσουν ένα σύστημα μετρό, το οποίο θα απαιτούσε από τον καθένα από αυτούς να πληρώσει ένα μικρό ποσό μέσω φόρων ή ναύλων. Όλοι θα ωφεληθούν, ωστόσο είναι προς το συμφέρον του καθενός να εξοικονομήσει χρήματα και να αποφύγει να πληρώσει το δίκαιο μερίδιό του. Εξάλλου, θα εξακολουθούν να μπορούν να απολαμβάνουν το μετρό αν πληρώσουν οι περισσότεροι άλλοι.

Εξ ου και το ζήτημα του «ελεύθερου αναβάτη»: Μερικά άτομα δεν θα συνεισφέρουν το μερίδιο που τους αναλογεί, αλλά θα εξακολουθούν να έχουν μια «δωρεάν διαδρομή» – κυριολεκτικά, στην περίπτωση του μετρό. Ωστόσο, εάν κάθε άτομο δεν πληρώσει, κανείς δεν θα επωφεληθεί.

Οι φιλόσοφοι τείνουν να το υποστηρίζουν αυτό


είναι ανήθικο να «δωρεάν βόλτα


», δεδομένου ότι οι ελεύθεροι αναβάτες αποτυγχάνουν να ανταποδώσουν τους άλλους για να πληρώσουν το δίκαιο μερίδιό τους. Πολλοί φιλόσοφοι υποστηρίζουν επίσης ότι οι ελεύθεροι αναβάτες αποτυγχάνουν στις ευθύνες τους ως μέρος του


το κοινωνικό συμβόλαιο


, τις συλλογικά συμφωνημένες αρχές συνεργασίας που διέπουν μια κοινωνία. Με άλλα λόγια, αποτυγχάνουν να τηρήσουν το καθήκον τους να είναι συνεισφέροντα μέλη της κοινωνίας.

Κάντε παύση ή προχωρήστε;

Όπως το μετρό, η τεχνητή νοημοσύνη είναι ένα δημόσιο αγαθό, δεδομένης της δυνατότητας να ολοκληρώνει εργασίες πολύ πιο αποτελεσματικά από τους ανθρώπινους χειριστές: τα πάντα από


διάγνωση ασθενών


αναλύοντας ιατρικά δεδομένα μέχρι την ανάληψη


θέσεις εργασίας υψηλού κινδύνου στον στρατό


ή


βελτίωση της ασφάλειας εξόρυξης


.

Αλλά τόσο τα οφέλη όσο και οι κίνδυνοι του θα επηρεάσουν όλους, ακόμα και άτομα που δεν χρησιμοποιούν προσωπικά την τεχνητή νοημοσύνη. Να μειώσει


Οι κίνδυνοι της τεχνητής νοημοσύνης


, όλοι έχουν συμφέρον η έρευνα του κλάδου να διεξάγεται προσεκτικά, με ασφάλεια και με την κατάλληλη εποπτεία και διαφάνεια. Για παράδειγμα, η παραπληροφόρηση και οι ψεύτικες ειδήσεις αποτελούν ήδη σοβαρές απειλές για τις δημοκρατίες, αλλά η τεχνητή νοημοσύνη έχει τη δυνατότητα να


επιδεινώσει το πρόβλημα


διαδίδοντας «ψευδείς ειδήσεις» γρηγορότερα και πιο αποτελεσματικά από ό,τι μπορούν οι άνθρωποι.

Ωστόσο, ακόμη κι αν ορισμένες εταιρείες τεχνολογίας σταματούσαν οικειοθελώς τα πειράματά τους, άλλες εταιρείες θα είχαν χρηματικό συμφέρον να συνεχίσουν τη δική τους έρευνα τεχνητής νοημοσύνης, επιτρέποντάς τους να προχωρήσουν στην κούρσα εξοπλισμών τεχνητής νοημοσύνης. Επιπλέον, η οικειοθελής παύση των πειραμάτων τεχνητής νοημοσύνης θα επιτρέψει σε άλλες εταιρείες να έχουν μια δωρεάν διαδρομή αποκομίζοντας τελικά τα οφέλη της ασφαλέστερης, πιο διαφανούς ανάπτυξης τεχνητής νοημοσύνης, μαζί με την υπόλοιπη κοινωνία.

Ο Sam Altman, Διευθύνων Σύμβουλος της OpenAI, έχει αναγνωρίσει ότι η εταιρεία


φοβάται τους κινδύνους


που παρουσιάζεται από το σύστημα chatbot, ChatGPT. «Πρέπει να είμαστε προσεκτικοί εδώ», είπε σε συνέντευξή του στο ABC News, αναφέροντας την πιθανότητα η τεχνητή νοημοσύνη να παράγει παραπληροφόρηση. «Νομίζω ότι οι άνθρωποι πρέπει να είναι χαρούμενοι που φοβόμαστε λίγο αυτό».

Σε μια επιστολή που δημοσιεύτηκε στις 5 Απριλίου 2023, το OpenAI είπε ότι η εταιρεία πιστεύει ότι είναι ισχυρά συστήματα AI


χρειάζεται ρύθμιση


να διασφαλίσει διεξοδικές αξιολογήσεις ασφάλειας και ότι «θα συνεργαστεί ενεργά με τις κυβερνήσεις για την καλύτερη μορφή που θα μπορούσε να λάβει μια τέτοια ρύθμιση». Ωστόσο, το OpenAI συνεχίζει με το


σταδιακή διάθεση


του GPT-4, και ο υπόλοιπος κλάδος συνεχίζει επίσης να αναπτύσσει και να εκπαιδεύει προηγμένα AI.

Ώριμος για ρύθμιση

Δεκαετίες από


έρευνα κοινωνικών επιστημών


σχετικά με τα προβλήματα συλλογικής δράσης έχει δείξει ότι εκεί όπου η εμπιστοσύνη και η καλή θέληση είναι ανεπαρκείς


για να αποφύγετε τους ελεύθερους αναβάτες


, η ρύθμιση είναι συχνά η μόνη εναλλακτική λύση. Η εθελοντική συμμόρφωση είναι ο βασικός παράγοντας που δημιουργεί σενάρια free-rider – και


κυβερνητική δράση


είναι μερικές φορές ο τρόπος να το τσιμπήσετε στο μπουμπούκι.

Περαιτέρω,


τέτοιοι κανονισμοί πρέπει να είναι εκτελεστοί


. Σε τελική ανάλυση, οι επίδοξοι επιβάτες του μετρό μπορεί να είναι απίθανο να πληρώσουν το ναύλο εκτός και αν υπήρχε απειλή τιμωρίας.

Πάρτε ένα από τα πιο δραματικά προβλήματα ελεύθερου αναβάτη στον κόσμο σήμερα:


κλιματική αλλαγή


. Ως πλανήτης, όλοι έχουμε μεγάλο ενδιαφέρον για τη διατήρηση ενός κατοικήσιμου περιβάλλοντος. Ωστόσο, σε ένα σύστημα που επιτρέπει στους δωρεάν αναβάτες, τα κίνητρα για οποιαδήποτε χώρα να ακολουθήσει πραγματικά πιο πράσινες οδηγίες είναι ελάχιστα.

Συμφωνία του Παρισιού


, η οποία είναι επί του παρόντος η πιο περιεκτική παγκόσμια συμφωνία για την κλιματική αλλαγή, είναι εθελοντική και τα Ηνωμένα Έθνη δεν έχουν καμία δυνατότητα να την επιβάλουν. Ακόμη και αν η Ευρωπαϊκή Ένωση και η Κίνα περιόρισαν οικειοθελώς τις εκπομπές τους, για παράδειγμα, οι Ηνωμένες Πολιτείες και η Ινδία θα μπορούσαν να «απορρίψουν δωρεάν» τη μείωση του διοξειδίου του άνθρακα ενώ θα συνεχίσουν να εκπέμπουν.

Παγκόσμια πρόκληση

Ομοίως, το πρόβλημα του free-rider θεμελιώνει επιχειρήματα για τη ρύθμιση της ανάπτυξης AI. Στην πραγματικότητα,


κλιματική αλλαγή


είναι ιδιαίτερα στενός παραλληλισμός, καθώς ούτε οι κίνδυνοι που ενέχει η τεχνητή νοημοσύνη ούτε οι εκπομπές αερίων θερμοκηπίου περιορίζονται στη χώρα προέλευσης ενός προγράμματος.

Επιπλέον, ο αγώνας για την ανάπτυξη πιο προηγμένης τεχνητής νοημοσύνης είναι διεθνής. Ακόμα κι αν οι ΗΠΑ εισήγαγαν ομοσπονδιακό κανονισμό για την έρευνα και ανάπτυξη της τεχνητής νοημοσύνης, η Κίνα και η Ιαπωνία θα μπορούσαν να οδηγούν ελεύθερα και να συνεχίσουν τη δική τους εγχώρια αγορά


Προγράμματα AI


.

Η αποτελεσματική ρύθμιση και επιβολή της τεχνητής νοημοσύνης θα απαιτούσε παγκόσμια συλλογική δράση και συνεργασία, όπως και στην κλιματική αλλαγή. Στις Η.Π.Α,


αυστηρή επιβολή


θα απαιτούσε ομοσπονδιακή επίβλεψη της έρευνας και τη δυνατότητα επιβολής βαρέων προστίμων ή τερματισμού μη συμμορφούμενων πειραμάτων τεχνητής νοημοσύνης για να διασφαλιστεί η υπεύθυνη ανάπτυξη – είτε μέσω ρυθμιστικών επιτροπών εποπτείας, προστασίας από καταγγέλλοντες ή, σε ακραίες περιπτώσεις, lockdown εργαστηρίων ή έρευνας και ποινικές διώξεις.

Χωρίς επιβολή, ωστόσο, θα υπάρχουν free riders – και οι free riders σημαίνουν ότι η απειλή της τεχνητής νοημοσύνης δεν θα υποχωρήσει σύντομα.

Θέλετε να μάθετε περισσότερα για την τεχνητή νοημοσύνη, τα chatbots και το μέλλον της μηχανικής μάθησης; Δείτε την πλήρη κάλυψή μας για



τεχνητή νοημοσύνη



ή περιηγηθείτε στους οδηγούς μας



Οι καλύτερες δωρεάν γεννήτριες τέχνης AI



και



Όλα όσα γνωρίζουμε για το ChatGPT του OpenAI



.

Ο Tim Juvshik είναι Επισκέπτης Επίκουρος Καθηγητής Φιλοσοφίας στο Πανεπιστήμιο Clemson. Αυτό το άρθρο αναδημοσιεύεται από




Η συζήτηση




με άδεια Creative Commons. Διαβάστε το




πρωτότυπο άρθρο




.