Women in AI: Irene Solaiman, επικεφαλής της παγκόσμιας πολιτικής στο Hugging Face

Για να δώσει στις γυναίκες ακαδημαϊκές και σε άλλους που άξιζε —και καθυστερήσει— χρόνο στο προσκήνιο, το TechCrunch ξεκινά μια σειρά συνεντεύξεων που επικεντρώνονται σε αξιόλογες γυναίκες που έχουν συνεισφέρει στην

επανάσταση

της τεχνητής νοημοσύνης. Θα δημοσιεύσουμε πολλά κομμάτια καθ’ όλη τη διάρκεια του έτους καθώς η άνθηση της τεχνητής νοημοσύνης συνεχίζεται, επισημαίνοντας τη βασική δουλειά που συχνά δεν αναγνωρίζεται. Διαβάστε περισσότερα προφίλ εδώ.

Η Irene Solaiman ξεκίνησε την καριέρα της στην τεχνητή νοημοσύνη ως ερευνήτρια και υπεύθυνη δημόσιας πολιτικής στο

OpenAI

, όπου ηγήθηκε μιας νέας προσέγγισης στην κυκλοφορία του GPT-2, ενός προκατόχου του ChatGPT. Αφού υπηρέτησε ως υπεύθυνη πολιτικής AI στη Zillow για σχεδόν ένα χρόνο, εντάχθηκε στην Hugging Face ως επικεφαλής της παγκόσμιας πολιτικής. Οι αρμοδιότητές της εκεί κυμαίνονται από την οικοδόμηση και την κορυφαία εταιρική πολιτική τεχνητής νοημοσύνης παγκοσμίως έως τη διεξαγωγή κοινωνικο-τεχνικής έρευνας.

Ο Solaiman συμβουλεύει επίσης το Institute of Electrical and Electronics Engineers (IEEE), την επαγγελματική ένωση ηλεκτρονικών μηχανικών, σε θέματα τεχνητής νοημοσύνης και είναι αναγνωρισμένος εμπειρογνώμονας AI στον Διακυβερνητικό Οργανισμό Οικονομικής Συνεργασίας και Ανάπτυξης (ΟΟΣΑ).

Irene Solaiman, επικεφαλής της παγκόσμιας πολιτικής στο Hugging Face

Εν συντομία, πώς ξεκινήσατε με την τεχνητή νοημοσύνη; Τι σας τράβηξε στο χώρο;

Μια εντελώς μη γραμμική πορεία σταδιοδρομίας είναι συνηθισμένη στην τεχνητή νοημοσύνη. Το ενδιαφέρον μου ξεκίνησε με τον ίδιο τρόπο που πολλοί έφηβοι με άβολες κοινωνικές δεξιότητες βρίσκουν τα πάθη τους: μέσω των μέσων

επιστημονικής φαντασίας

. Αρχικά σπούδασα πολιτική για τα ανθρώπινα δικαιώματα και στη συνέχεια παρακολούθησα μαθήματα πληροφορικής, καθώς θεωρούσα την τεχνητή νοημοσύνη ως μέσο εργασίας για τα ανθρώπινα δικαιώματα και την οικοδόμηση ενός καλύτερου μέλλοντος. Το να είμαι σε θέση να κάνω τεχνική έρευνα και να ηγούμαι πολιτικής σε έναν τομέα με τόσα αναπάντητα ερωτήματα και μονοπάτια που δεν έχουν ακολουθηθεί, κρατά τη δουλειά μου συναρπαστική.

Για ποια δουλειά είστε περισσότερο περήφανοι (στον τομέα της τεχνητής νοημοσύνης);

Είμαι πολύ περήφανος για το όταν η τεχνογνωσία μου έχει απήχηση σε ανθρώπους σε όλο τον τομέα της τεχνητής νοημοσύνης, ειδικά για το γράψιμό μου σχετικά με τις εκδόσεις στο περίπλοκο τοπίο των εκδόσεων συστημάτων τεχνητής νοημοσύνης και του ανοιχτού χαρακτήρα. Βλέποντας το χαρτί μου σε ένα

Τεχνική ανάπτυξη πλαισίου AI Release Gradient

Οι άμεσες συζητήσεις μεταξύ των επιστημόνων και που χρησιμοποιούνται στις κυβερνητικές εκθέσεις είναι επιβεβαιωτικές — και ένα καλό σημάδι ότι εργάζομαι προς τη σωστή κατεύθυνση! Προσωπικά, μερικές από τις εργασίες που με παρακινούν περισσότερο είναι η ευθυγράμμιση πολιτιστικών αξιών, η οποία είναι αφιερωμένη στη διασφάλιση ότι τα συστήματα λειτουργούν καλύτερα για τους πολιτισμούς στους οποίους αναπτύσσονται. Με την απίστευτη συν-συγγραφέα και πλέον αγαπητή μου φίλη, Christy Dennison, να εργάζεται σε ένα

Διαδικασία προσαρμογής γλωσσικών μοντέλων στην κοινωνία

ήταν ένα ολοκληρωμένο έργο (και πολλές ώρες εντοπισμού σφαλμάτων) που έχει διαμορφώσει τις εργασίες ασφάλειας και ευθυγράμμισης σήμερα.

Πώς αντιμετωπίζετε τις προκλήσεις της ανδροκρατούμενης βιομηχανίας τεχνολογίας και, κατ’ επέκταση, της ανδροκρατούμενης βιομηχανίας τεχνητής νοημοσύνης;

Βρήκα, και εξακολουθώ να βρίσκω, τους ανθρώπους μου — από τη συνεργασία με απίστευτα ηγετικά στελέχη της εταιρείας που ενδιαφέρονται βαθιά για τα ίδια ζητήματα που δίνω προτεραιότητα μέχρι σπουδαίους συν-συγγραφείς ερευνητές με τους οποίους μπορώ να ξεκινήσω κάθε συνεδρία εργασίας με μια συνεδρία μίνι θεραπείας. Οι

ομάδες

συνάφειας είναι εξαιρετικά χρήσιμες στη δημιουργία κοινότητας και στην κοινή χρήση συμβουλών. Η διατομεακότητα είναι σημαντικό να τονιστεί εδώ. Οι κοινότητες μου μουσουλμάνων και ερευνητών BIPOC εμπνέουν συνεχώς.

Τι συμβουλή θα δίνατε στις γυναίκες που θέλουν να εισέλθουν στον τομέα της τεχνητής νοημοσύνης;

Έχετε μια ομάδα υποστήριξης της οποίας η επιτυχία είναι η επιτυχία σας. Σε νεανικούς όρους, πιστεύω ότι αυτό είναι ένα «κορίτσι κοριτσιού». Οι ίδιες γυναίκες και σύμμαχοι με τους οποίους μπήκα σε αυτόν τον τομέα είναι τα αγαπημένα μου ραντεβού για καφέ και οι τηλεφωνήματα πανικού αργά το βράδυ πριν από μια προθεσμία. Μια από τις καλύτερες συμβουλές σταδιοδρομίας που έχω διαβάσει ήταν από τον Arvind Narayan στην πλατφόρμα που ήταν παλαιότερα γνωστή ως Twitter που καθιέρωσε την «Αρχή Liam Neeson» να μην είσαι ο πιο έξυπνος από όλους, αλλά να έχεις ένα συγκεκριμένο σύνολο δεξιοτήτων.

Ποια είναι μερικά από τα πιο πιεστικά ζητήματα που αντιμετωπίζει η τεχνητή νοημοσύνη καθώς εξελίσσεται;

Τα πιο πιεστικά ζητήματα εξελίσσονται από μόνα τους, οπότε η μετα-απάντηση είναι: Διεθνής συντονισμός για ασφαλέστερα συστήματα για όλους τους λαούς. Οι άνθρωποι που χρησιμοποιούν και επηρεάζονται από συστήματα, ακόμη και στην ίδια χώρα, έχουν διαφορετικές προτιμήσεις και ιδέες για το τι είναι πιο ασφαλές για τους εαυτούς τους. Και τα ζητήματα που θα προκύψουν θα εξαρτηθούν όχι μόνο από το πώς εξελίσσεται η τεχνητή νοημοσύνη, αλλά από το περιβάλλον στο οποίο αναπτύσσονται. οι προτεραιότητες ασφάλειας και οι ορισμοί μας για τις ικανότητες διαφέρουν σε περιφερειακό επίπεδο, όπως η υψηλότερη απειλή κυβερνοεπιθέσεων σε υποδομές ζωτικής σημασίας σε πιο ψηφιοποιημένες οικονομίες.

Ποια είναι ορισμένα ζητήματα που πρέπει να γνωρίζουν οι χρήστες τεχνητής νοημοσύνης;

Οι τεχνικές λύσεις σπάνια, έως ποτέ, αντιμετωπίζουν ολιστικά τους κινδύνους και τις βλάβες. Αν και υπάρχουν βήματα που μπορούν να κάνουν οι χρήστες για να αυξήσουν τον αλφαβητισμό τους στην τεχνητή νοημοσύνη, είναι σημαντικό να επενδύσουν σε μια πληθώρα διασφαλίσεων για τους κινδύνους καθώς αυτοί εξελίσσονται. Για παράδειγμα, είμαι ενθουσιασμένος για περισσότερη έρευνα σχετικά με την υδατοσήμανση ως τεχνικό εργαλείο και χρειαζόμαστε επίσης συντονισμένη καθ

οδήγηση

από τους υπεύθυνους χάραξης πολιτικής σχετικά με τη διανομή περιεχομένου που δημιουργείται, ειδικά σε πλατφόρμες μέσων κοινωνικής δικτύωσης.

Ποιος είναι ο καλύτερος τρόπος για να δημιουργήσετε υπεύθυνα AI;

Με τους πληθυσμούς που επηρεάζονται και συνεχώς επαναξιολογούμε τις μεθόδους μας για την αξιολόγηση και την εφαρμογή τεχνικών ασφάλειας. Τόσο οι ευεργετικές εφαρμογές όσο και οι πιθανές βλάβες εξελίσσονται συνεχώς και απαιτούν επαναληπτική ανατροφοδότηση. Τα μέσα με τα οποία βελτιώνουμε την ασφάλεια της τεχνητής νοημοσύνης θα πρέπει να εξεταστούν συλλογικά ως πεδίο. Οι πιο δημοφιλείς αξιολογήσεις για μοντέλα το 2024 είναι πολύ πιο ισχυρές από εκείνες που έτρεχα το 2019. Σήμερα, είμαι πολύ πιο θετικός με τις τεχνικές αξιολογήσεις παρά με την κόκκινη ομάδα. Θεωρώ ότι οι ανθρώπινες αξιολογήσεις είναι εξαιρετικά χρήσιμες, αλλά καθώς προκύπτουν περισσότερα στοιχεία για το ψυχικό φορτίο και το ετερόκλητο κόστος της ανθρώπινης ανατροφοδότησης, είμαι ολοένα και πιο ενθουσιώδης για την τυποποίηση των αξιολογήσεων.

Πώς μπορούν οι επενδυτές να πιέσουν καλύτερα για υπεύθυνη τεχνητή νοημοσύνη;

Είναι ήδη! Χαίρομαι που βλέπω πολλούς επενδυτές και εταιρείες επιχειρηματικών κεφαλαίων να συμμετέχουν ενεργά σε συζητήσεις για την ασφάλεια και την πολιτική, μεταξύ άλλων μέσω ανοιχτών επιστολών και μαρτυριών του Κογκρέσου. Ανυπομονώ να ακούσω περισσότερα από την τεχνογνωσία των επενδυτών σχετικά με το τι τονώνει τις μικρές επιχειρήσεις σε όλους τους τομείς, ειδικά καθώς βλέπουμε περισσότερη χρήση τεχνητής νοημοσύνης από τομείς εκτός των βασικών βιομηχανιών τεχνολογίας.