Η επιστήμη δεδομένων στην υπηρεσία της υπεύθυνης τεχνητής νοημοσύνης με την Francine Bennett

Για να δώσει στις γυναίκες ακαδημαϊκές και σε άλλους που άξιζε —και καθυστερήσει— χρόνο στο προσκήνιο, το TechCrunch ξεκινά μια σειρά συνεντεύξεων που επικεντρώνονται σε αξιόλογες γυναίκες που έχουν συνεισφέρει στην επανάσταση της

τεχν

ητής νοημοσύνης. Θα δημοσιεύσουμε πολλά κομ

μάτια

καθ’ όλη τη διάρκεια του έτους καθώς η άνθηση της τεχνητής νοημοσύνης συνεχίζεται, επισημαίνοντας τη βασική δουλειά που συχνά δεν αναγνωρίζεται. Διαβάστε περισσότερα προφίλ εδώ.

Φράνσιν Μπένετ

είναι ιδρυτικό μέλος του διοικητικού συμβουλίου στο Ada Lovelace Insitute και επί του παρόντος υπηρετεί ως προσωρινός διευθυντής του οργανισμού. Πριν από αυτό, εργαζόταν στη βιοτεχνολογία, χρησιμοποιώντας τεχνητή νοημοσύνη για να βρει ιατρικές θεραπείες για σπάνιες ασθένειες. Επίσης, συνίδρυσε μια εταιρεία συμβούλων επιστήμης δεδομένων και είναι ιδρυτική διαχειριστής της DataKind UK, η οποία βοηθά βρετανικές φιλανθρωπικές οργανώσεις με την υποστήριξη της επιστήμης δεδομένων.

Εν συντομία, πώς ξεκινήσατε με την τεχνητή νοημοσύνη; Τι σας τράβηξε στο χώρο;

Ξεκίνησα με καθαρά μαθηματικά και δεν ενδιαφερόμουν τόσο για τίποτα εφαρμοσμένο – μου άρεσε να ασχολούμαι με τους υπολογιστές, αλλά πίστευα ότι τα εφαρμοσμένα μαθηματικά ήταν απλώς υπολογισμοί και όχι πολύ διανοητικά ενδιαφέροντα. Ήρθα στην τεχνητή νοημοσύνη και τη μηχανική μάθηση αργότερα, όταν άρχισε να γίνεται προφανές σε μένα και σε όλους τους άλλους ότι επειδή τα δεδομένα γίνονταν πολύ πιο άφθονα σε πολλά περιβάλλοντα, αυτό άνοιξε συναρπαστικές δυνατότητες επίλυσης όλων των ειδών προβλημάτων με νέους τρόπους χρησιμοποιώντας την τεχνητή νοημοσύνη και η μηχανική μάθηση, και ήταν πολύ πιο ενδιαφέροντα από ό,τι είχα καταλάβει.

Για ποια δουλειά είστε περισσότερο περήφανοι (στον τομέα της τεχνητής νοημοσύνης);

Είμαι πολύ περήφανος για το έργο που δεν είναι το πιο περίπλοκο τεχνικά αλλά που ξεκλειδώνει κάποια πραγματική βελτίωση για τους ανθρώπους – για παράδειγμα, χρησιμοποιώντας ML για να προσπαθήσω να βρω προηγουμένως απαρατήρητα μοτίβα στις αναφορές περιστατικών ασφάλειας ασθενών σε ένα νοσοκομείο για να βοηθήσουν τους επαγγελματίες του ιατρικού τομέα να βελτιώσουν το μέλλον αποτελέσματα ασθενών. Και είμαι περήφανος που εκπροσωπώ τη σημασία του να τεθούν οι άνθρωποι και η κοινωνία και όχι η τεχνολογία στο επίκεντρο σε εκδηλώσεις όπως η φετινή σύνοδος κορυφής για την ασφάλεια της τεχνητής νοημοσύνης στο Ηνωμένο Βασίλειο. Νομίζω ότι είναι δυνατό να γίνει αυτό μόνο με εξουσία, επειδή είχα εμπειρία τόσο να δουλεύω με την τεχνολογία όσο και να ενθουσιάστηκα από αυτήν και να κατανοήσω πώς επηρεάζει πραγματικά τις ζωές των ανθρώπων στην πράξη.

Πώς αντιμετωπίζετε τις προκλήσεις της ανδροκρατούμενης βιομηχανίας τεχνολογίας και, κατ’ επέκταση, της ανδροκρατούμενης βιομηχανίας τεχνητής νοημοσύνης;

Κυρίως επιλέγοντας να εργαστώ σε μέρη και με άτομα που ενδιαφέρονται για το άτομο και τις δεξιότητές τους ως προς το

φύλο

και επιδιώκοντας να χρησιμοποιήσω την επιρροή που έχω για να το κάνω αυτό κανόνα. Επίσης, η εργασία σε διαφορετικές ομάδες όποτε μπορώ – το να είμαι σε μια ισορροπημένη ομάδα αντί να είμαι εξαιρετική «μειοψηφία» δημιουργεί μια πραγματικά διαφορετική ατμόσφαιρα και καθιστά πολύ πιο δυνατό για όλους να αξιοποιήσουν τις δυνατότητές τους. Γενικότερα, επειδή η τεχνητή νοημοσύνη είναι τόσο πολύπλευρη και είναι πιθανό να έχει αντίκτυπο σε τόσα κοινωνικά στρώματα, ειδικά σε περιθωριοποιημένες κοινότητες, είναι προφανές ότι άνθρωποι από όλα τα κοινωνικά στρώματα πρέπει να συμμετέχουν στην οικοδόμηση και τη διαμόρφωσή της, αν είναι θα λειτουργήσει καλά.

Τι συμβουλή θα δίνατε στις γυναίκες που θέλουν να εισέλθουν στον τομέα της τεχνητής νοημοσύνης;

Απόλαυσέ το! Αυτό είναι ένα τόσο ενδιαφέρον, διανοητικά προκλητικό και ατελείωτα μεταβαλλόμενο πεδίο – θα βρίσκετε πάντα κάτι χρήσιμο και εκτεταμένο να κάνετε, και υπάρχουν πολλές σημαντικές εφαρμογές που κανείς δεν έχει καν σκεφτεί ακόμα. Επίσης, μην αγχώνεστε πολύ για την ανάγκη να ξέρετε κάθε τεχνικό πράγμα (κυριολεκτικά κανείς δεν γνωρίζει κάθε τεχνικό πράγμα) – απλώς ξεκινήστε ξεκινώντας από κάτι που σας ενδιαφέρει και δουλέψτε από εκεί.

Ποια είναι μερικά από τα πιο πιεστικά ζητήματα που αντιμετωπίζει η τεχνητή νοημοσύνη καθώς εξελίσσεται;

Αυτή τη στιγμή, νομίζω ότι δεν υπάρχει ένα κοινό όραμα για το τι θέλουμε να κάνει η τεχνητή νοημοσύνη για εμάς και τι μπορεί και τι δεν μπορεί να κάνει για εμάς ως κοινωνία. Υπάρχει πολλή τεχνική πρόοδος σε εξέλιξη αυτή τη στιγμή, η οποία είναι πιθανό να έχει πολύ υψηλές περιβαλλοντικές, οικονομικές και κοινωνικές επιπτώσεις και πολύ ενθουσιασμό για την ανάπτυξη αυτών των νέων τεχνολογιών χωρίς τεκμηριωμένη κατανόηση των πιθανών κινδύνων ή των ακούσιων συνεπειών. Οι περισσότεροι από τους ανθρώπους που κατασκευάζουν την τεχνολογία και μιλούν για τους κινδύνους και τις συνέπειες προέρχονται από ένα αρκετά στενό δημογραφικό. Έχουμε ένα παράθυρο ευκαιρίας τώρα για να αποφασίσουμε τι θέλουμε να δούμε από την τεχνητή νοημοσύνη και να εργαστούμε για να το πραγματοποιήσουμε. Μπορούμε να σκεφτούμε άλλους τύπους τεχνολογίας και πώς χειριστήκαμε την εξέλιξή τους ή τι θα θέλαμε να κάναμε καλύτερα – ποια είναι τα ισοδύναμά μας για τα προϊόντα τεχνητής νοημοσύνης των νέων αυτοκινήτων που δοκιμάζουν σύγκρουση. να θεωρήσετε υπεύθυνο ένα εστιατόριο που κατά λάθος σας προκαλεί τροφική δηλητηρίαση. διαβούλευση με επηρεαζόμενους κατά τη διάρκεια της άδειας σχεδιασμού· προσφυγή σε μια απόφαση τεχνητής νοημοσύνης όπως θα μπορούσατε για μια ανθρώπινη γραφειοκρατία.

Ποια είναι ορισμένα ζητήματα που πρέπει να γνωρίζουν οι χρήστες τεχνητής νοημοσύνης;

Θα ήθελα οι άνθρωποι που χρησιμοποιούν τεχνολογίες τεχνητής νοημοσύνης να είναι σίγουροι για το ποια είναι τα εργαλεία και τι μπορούν να κάνουν και να μιλήσουν για το τι θέλουν από την τεχνητή νοημοσύνη. Είναι εύκολο να δούμε την τεχνητή νοημοσύνη ως κάτι άγνωστο και ανεξέλεγκτο, αλλά στην πραγματικότητα είναι απλώς ένα σύνολο εργαλείων – και θέλω οι άνθρωποι να αισθάνονται ικανοί να αναλαμβάνουν την ευθύνη για το τι κάνουν με αυτά τα εργαλεία. Αλλά δεν πρέπει να είναι μόνο ευθύνη των ανθρώπων που χρησιμοποιούν την τεχνολογία – η κυβέρνηση και η βιομηχανία θα πρέπει να δημιουργήσουν συνθήκες ώστε οι άνθρωποι που χρησιμοποιούν τεχνητή νοημοσύνη να έχουν αυτοπεποίθηση.

Ποιος είναι ο καλύτερος τρόπος για να δημιουργήσετε υπεύθυνα AI;

Κάνουμε αυτή την ερώτηση πολύ στο Ινστιτούτο Ada Lovelace, το οποίο στοχεύει να κάνει την τεχνητή νοημοσύνη δεδομένων να λειτουργεί για τους ανθρώπους και την κοινωνία. Είναι δύσκολο, και υπάρχουν εκατοντάδες γωνίες που θα μπορούσατε να πάρετε, αλλά υπάρχουν δύο πολύ μεγάλες από τη δική μου οπτική γωνία.

Το πρώτο είναι να είσαι πρόθυμος μερικές φορές να μην χτίζεις ή να σταματήσεις. Συνεχώς, βλέπουμε συστήματα τεχνητής νοημοσύνης με μεγάλη ορμή, όπου οι κατασκευαστές προσπαθούν να προσθέσουν «προστατευτικά κιγκλιδώματα» στη συνέχεια για να μετριάσουν τα προβλήματα και τις βλάβες, αλλά δεν τίθενται σε μια κατάσταση όπου η διακοπή είναι πιθανή.

Το δεύτερο, είναι να ασχοληθείτε πραγματικά και να προσπαθήσετε να καταλάβετε πώς θα βιώσουν όλα τα είδη των ανθρώπων αυτό που χτίζετε. Εάν μπορείτε πραγματικά να εμβαθύνετε στις εμπειρίες τους, τότε έχετε πολύ περισσότερες πιθανότητες για το θετικό είδος της υπεύθυνης τεχνητής νοημοσύνης – να δημιουργήσετε κάτι που πραγματικά λύνει ένα πρόβλημα για τους ανθρώπους, με βάση ένα κοινό όραμα για το τι θα ήταν καλό – καθώς και αποφεύγοντας τα αρνητικά – όχι κατά λάθος χειροτέρευση της ζωής κάποιου επειδή η καθημερινή του ύπαρξη είναι απλώς πολύ διαφορετική από τη δική σας.

Για παράδειγμα, το Ινστιτούτο Ada Lovelace συνεργάστηκε με το NHS για να αναπτύξει μια αλγοριθμική εκτίμηση επιπτώσεων την οποία οι προγραμματιστές πρέπει να κάνουν ως προϋπόθεση πρόσβασης σε δεδομένα υγειονομικής περίθαλψης. Αυτό απαιτεί από τους προγραμματιστές να αξιολογήσουν τις πιθανές κοινωνικές επιπτώσεις του συστήματος τεχνητής νοημοσύνης τους πριν από την

εφαρμογή

και να φέρουν τις βιωμένες εμπειρίες ανθρώπων και κοινοτήτων που θα μπορούσαν να επηρεαστούν.

Πώς μπορούν οι επενδυτές να πιέσουν καλύτερα για υπεύθυνη τεχνητή νοημοσύνη;

Κάνοντας ερωτήσεις σχετικά με τις

επενδύσεις

τους και τα πιθανά μελλοντικά τους μέλλοντα – για αυτό το σύστημα τεχνητής νοημοσύνης, πώς φαίνεται να λειτουργείς άψογα και να είσαι υπεύθυνος; Πού θα μπορούσαν να ξεφύγουν τα πράγματα; Ποιες είναι οι πιθανές αρνητικές επιπτώσεις για τους ανθρώπους και την κοινωνία; Πώς θα ξέραμε αν πρέπει να σταματήσουμε να χτίζουμε ή να αλλάξουμε σημαντικά πράγματα και τι θα κάναμε τότε; Δεν υπάρχει μια συνταγή που να ταιριάζει σε όλους, αλλά απλώς κάνοντας τις ερωτήσεις και υποδεικνύοντας ότι η ευθύνη είναι σημαντική, οι επενδυτές μπορούν να αλλάξουν το σημείο που οι εταιρείες τους δίνουν προσοχή και προσπάθεια.