Προτάσεις πολιτικής για την αντιμετώπιση των ανησυχιών για την τεχνητή νοημοσύνη από την Amba Kak

Για να δώσει σ

τι

ς γυναίκες ακαδημαϊκές και σε άλλους που άξιζε —και καθυστερήσει— χρόνο στο προσκήνιο, το TechCrunch ξεκινά μια σειρά συνεντεύξεων που επικεντρώνονται σε αξιόλογες γυναίκες που έχουν συνεισφέρει στην επανάσταση της τεχνητής νοημοσύνης. Θα δημοσιεύσουμε πολλά κομμάτια καθ’ όλη τη διάρκεια

του

έτους καθώς η άνθηση της τεχνητής νοημοσύνης συνεχίζεται, επισημαίνοντας τη βασική δουλειά που συχνά δεν αναγνωρίζεται. Διαβάστε περισσότερα προφίλ εδώ.

Άμπα Κακ

είναι η εκτελεστική διευθύντρια του Ινστιτούτου AI Now, όπου βοηθά στη δημιουργία συστάσεων πολιτικής για την αντιμετώπιση ανησυχιών για την τεχνητή νοημοσύνη. Ήταν επίσης ανώτερη σύμβουλος τεχνητής νοημοσύνης στην Ομοσπονδιακή Επιτροπή Εμπορίου και προηγουμένως εργάστηκε ως σύμβουλος παγκόσμιας πολιτικής στη Mozilla και νομική σύμβουλος της ρυθμιστικής αρχής τηλεπικοινωνιών της Ινδίας σχετικά με το δίκτυο.

Εν συντομία, πώς ξεκινήσατε με την τεχνητή νοημοσύνη; Τι σας τράβηξε στο χώρο;

Δεν είναι μια απλή ερώτηση, επειδή το “AI” είναι ένας όρος που είναι στη μόδα για να περιγράψει πρακτικές και συστή

ματ

α που εξελίσσονται εδώ και πολύ καιρό. Ασχολούμαι με την πολιτική τεχνολογίας για πάνω από μια δεκαετία

και σε πολλά μέρη του κόσμου

και έγινε μάρτυρας όταν όλα αφορούσαν «μεγάλα δεδομένα» και μετά όλα έγιναν για «AI». Αλλά τα βασικά ζητήματα που μας απασχολούσαν — πώς οι τεχνολογίες και οι οικονομίες που βασίζονται στα δεδομένα επηρεάζουν την κοινωνία — παραμένουν τα ίδια.

Με τράβηξαν αυτά τα ερωτήματα νωρίς στη νομική σχολή στην Ινδία, όπου, μέσα σε μια θάλασσα δεκαετιών, μερικές φορές αιωνόβιο προηγούμενο, βρήκα κίνητρο να εργαστώ σε έναν τομέα όπου οι ερωτήσεις «προ-πολιτικής», οι κανονιστικές ερωτήσεις για το τι είναι ο κόσμος που θέλουμε; Τι ρόλο πρέπει να παίξει η τεχνολογία σε αυτό; Παραμείνετε ανοιχτοί και αμφισβητούμενοι. Σε παγκόσμιο επίπεδο, εκείνη την εποχή, η μεγάλη συζήτηση ήταν εάν το Διαδίκτυο θα μπορούσε να ρυθμιστεί καθόλου σε εθνικό επίπεδο (κάτι που τώρα φαίνεται πολύ προφανές, ναι!), και στην Ινδία, υπήρξαν έντονες συζητήσεις σχετικά με το εάν μια βάση δεδομένων βιομετρικών αναγνωριστικών ολόκληρος ο πληθυσμός δημιουργούσε έναν επικίνδυνο φορέα κοινωνικού ελέγχου. Εν όψει των αφηγήσεων αναπόφευκτου γύρω από την τεχνητή νοημοσύνη και την τεχνολογία, νομίζω ότι η ρύθμιση και η υπεράσπιση μπορούν να είναι ένα ισχυρό εργαλείο για τη διαμόρφωση των τροχιών της τεχνολογίας για την εξυπηρέτηση των δημοσίων συμφερόντων και όχι των συμφερόντων των εταιρειών ή απλώς των συμφερόντων εκείνων που κατέχουν την εξουσία στην κοινωνία . Φυσικά, με τα χρόνια, έμαθα επίσης ότι η ρύθμιση συχνά επιλέγεται εξ ολοκλήρου από αυτά τα συμφέροντα και μπορεί συχνά να λειτουργεί για να διατηρεί το status quo αντί να την αμφισβητεί. Αυτή είναι η δουλειά λοιπόν!

Για ποια δουλειά είστε περισσότερο περήφανοι (στον τομέα της τεχνητής νοημοσύνης);

Η έκθεσή μας AI Landscape για το 2023 κυκλοφόρησε τον Απρίλιο εν μέσω ενός κρεσέντο τεχνητής νοημοσύνης που τροφοδοτείται από chatGPT — ήταν εν μέρει η διάγνωση του τι θα έπρεπε να μας κρατάει ξύπνιους για την οικονομία της τεχνητής νοημοσύνης, εν μέρει μανιφέστο προσανατολισμένο στη δράση που στόχευε στην ευρύτερη κοινότητα της κοινωνίας των πολιτών . Συνάντησε τη στιγμή – μια στιγμή που τόσο η διάγνωση όσο και το τι να κάνουμε γι’ αυτήν έλειπαν πολύ και στη θέση της υπήρχαν αφηγήσεις για την παντογνωσία και το αναπόφευκτο της τεχνητής νοημοσύνης. Υπογραμμίσαμε ότι η έκρηξη της τεχνητής νοημοσύνης εδραίωσε περαιτέρω τη συγκέντρωση ισχύος σε ένα πολύ στενό τμήμα της τεχνολογικής βιομηχανίας και νομίζω ότι διαπεράσαμε με επιτυχία τη διαφημιστική εκστρατεία για να επαναπροσανατολίσουμε την προσοχή στις επιπτώσεις της τεχνητής νοημοσύνης στην κοινωνία και την οικονομία… και να μην υποθέσουμε καμία από τις αυτό ήταν αναπόφευκτο.

Αργότερα μέσα στο έτος, καταφέραμε να φέρουμε αυτό το επιχείρημα σε μια αίθουσα γεμάτη κυβερνητικούς ηγέτες και κορυφαία στελέχη τεχνητής νοημοσύνης στη Σύνοδο Κορυφής για την Ασφάλεια της ΤΝ στο Ηνωμένο Βασίλειο, όπου ήμουν μία από τις τρεις μόνο φωνές της κοινωνίας των πολιτών που εκπροσωπούσαν το δημόσιο συμφέρον. Ήταν ένα μάθημα για τη συνειδητοποίηση της δύναμης μιας συναρπαστικής αντι-αφήγησης που εστιάζει ξανά την προσοχή όταν είναι εύκολο να παρασυρθείς σε επιμελημένες και συχνά ιδιοτελείς αφηγήσεις από τον κλάδο της τεχνολογίας.

Πώς αντιμετωπίζετε τις προκλήσεις της ανδροκρατούμενης βιομηχανίας τεχνολογίας και, κατ’ επέκταση, της ανδροκρατούμενης βιομηχανίας τεχνητής νοημοσύνης;

Η βιομηχανία τεχνολογίας, και ειδικότερα η τεχνητή νοημοσύνη, παραμένει συντριπτικά λευκή και αρσενική και γεωγραφικά συγκεντρωμένη σε πολύ πλούσιες αστικές φούσκες. Αλλά μου αρέσει να απομακρυνθώ ξανά από το

πρόβλημα

των λευκών φίλων της τεχνητής νοημοσύνης, όχι μόνο επειδή είναι πλέον γνωστό αλλά και επειδή μερικές φορές μπορεί να δημιουργήσει την ψευδαίσθηση των γρήγορων επιδιορθώσεων ή του θεάτρου διαφορετικότητας που από μόνα τους δεν θα λύσουν τις δομικές ανισότητες και τις ανισορροπίες ισχύος που ενσωματώνονται στο πώς ο κλάδος της τεχνολογίας λειτουργεί επί του παρόντος. Δεν λύνει τον βαθιά ριζωμένο «σολυσιονισμό» που ευθύνεται για πολλές επιβλαβείς ή εκμεταλλευτικές χρήσεις της τεχνολογίας.

Το πραγματικό ζήτημα που πρέπει να αντιμετωπίσουμε είναι η δημιουργία μιας μικρής ομάδας εταιρειών και, μέσα σε αυτές — μια χούφτα ατόμων που έχουν συσσωρεύσει άνευ προηγουμένου πρόσβαση σε κεφάλαια, δίκτυα και δύναμη, αποκομίζοντας τους καρπούς του επιχειρηματικού μοντέλου επιτήρησης που τροφοδότησε την την τελευταία δεκαετία του Διαδικτύου. Και αυτή η συγκέντρωση ισχύος αναμένεται να γίνει πολύ, πολύ χειρότερη με την τεχνητή νοημοσύνη. Αυτά τα άτομα ενεργούν ατιμώρητα, ακόμη και όταν οι πλατφόρμες και οι υποδομές που ελέγχουν έχουν τεράστιες κοινωνικές και οικονομικές επιπτώσεις.

Πώς πλοηγούμαστε σε αυτό; Εκθέτοντας τη δυναμική ισχύος που η βιομηχανία της τεχνολογίας προσπαθεί πολύ σκληρά να κρύψει. Μιλάμε για τα κίνητρα, τις υποδομές, τις αγορές εργασίας και το περιβάλλον που τροφοδοτούν αυτά τα κύματα τεχνολογίας και διαμορφώνουν την κατεύθυνση που θα πάρει. Αυτό κάνουμε στο AI Now εδώ και σχεδόν μια δεκαετία, και όταν το κάνουμε αυτό καλά, δυσκολευόμαστε οι υπεύθυνοι χάραξης πολιτικής και το κοινό να κοιτάξουν μακριά — δημιουργώντας αντίθετες αφηγήσεις και εναλλακτικές φαντασίες για τον κατάλληλο ρόλο της τεχνολογίας μέσα στην κοινωνία.

Τι συμβουλή θα δίνατε στις γυναίκες που θέλουν να εισέλθουν στον τομέα της τεχνητής νοημοσύνης;

Για τις γυναίκες, αλλά και για άλλες μειοψηφικές ταυτότητες ή προοπτικές που επιδιώκουν να κάνουν κριτικές εκτός του κλάδου της τεχνητής νοημοσύνης, η καλύτερη συμβουλή που θα μπορούσα να δώσω είναι να σταθείτε στη θέση σας. Αυτό είναι ένα πεδίο που τακτικά και συστηματικά θα προσπαθήσει να δυσφημήσει την κριτική, ειδικά όταν προέρχεται από μη παραδοσιακά υπόβαθρα STEM – και είναι εύκολο να γίνει δεδομένου ότι η τεχνητή νοημοσύνη είναι μια τόσο αδιαφανής βιομηχανία που μπορεί να σας κάνει να νιώθετε ότι προσπαθείτε πάντα να πιέζετε πίσω από έξω. Ακόμη και όταν είστε στο χώρο για δεκαετίες όπως εγώ, ισχυρές φωνές στη βιομηχανία θα προσπαθήσουν να υπονομεύσουν εσάς και την έγκυρη κριτική σας απλώς και μόνο επειδή αμφισβητείτε το status quo.

Εσείς και εγώ έχουμε τόσο λόγο για το

μέλλον

της τεχνητής νοημοσύνης όσο ο Sam Altman, καθώς οι τεχνολογίες θα μας επηρεάσουν όλους και ενδεχομένως θα επηρεάσουν δυσανάλογα τους ανθρώπους με μειοψηφικές ταυτότητες με επιβλαβείς τρόπους. Αυτή τη στιγμή, βρισκόμαστε σε έναν αγώνα για το ποιος θα διεκδικήσει τεχνογνωσία και εξουσία σε θέματα τεχνολογίας εντός της κοινωνίας… επομένως πρέπει πραγματικά να διεκδικήσουμε αυτόν τον χώρο και να διατηρήσουμε τη θέση μας.