Τέσσερις επενδυτές εξηγούν γιατί η ηθική της τεχνητής νοημοσύνης δεν μπορεί να είναι μια δεύτερη σκέψη

Δισεκατομμύρια δολάρια

πλημμυρίζουν την τεχνητή νοημοσύνη. Ωστόσο, τα μοντέλα τεχνητής νοημοσύνης επηρεάζονται ήδη από προκαταλήψεις, όπως αποδεικνύεται από τις διακρίσεις υποθηκών προς τους μαύρους υποψήφιους ιδιοκτήτες κατοικιών.

Είναι λογικό να αναρωτηθούμε τι ρόλο παίζει η ηθική στην οικοδόμηση αυτής της τεχνολογίας και, ίσως το πιο σημαντικό, πού ταιριάζουν οι επενδυτές καθώς σπεύδουν να τη χρηματοδοτήσουν.

Ένας ιδρυτής είπε πρόσφατα στο TechCrunch+ ότι είναι δύσκολο να σκεφτεί κανείς την ηθική όταν η καινοτομία είναι τόσο γρήγορη: Οι άνθρωποι χτίζουν συστήματα, στη συνέχεια τα σπάνε και στη συνέχεια επεξεργάζονται. Έτσι, κάποιο βάρος πέφτει στους επενδυτές για να βεβαιωθούν ότι αυτές οι νέες τεχνολογίες χτίζονται από ιδρυτές με γνώμονα την ηθική.

Για να δει αν συμβαίνει αυτό, το TechCrunch+ μίλησε με τέσσερις ενεργούς επενδυτές στο χώρο για το πώς σκέφτονται για την ηθική στην τεχνητή νοημοσύνη και πώς οι ιδρυτές μπορούν να ενθαρρυνθούν να σκεφτούν περισσότερο τις προκαταλήψεις και να κάνουν το σωστό.

Διευρύνουμε τον φακό μας, αναζητώντας περισσότερους επενδυτές για να συμμετάσχουν στις έρευνες TechCrunch, όπου κάνουμε δημοσκοπήσεις σε κορυφαίους επαγγελματίες σχετικά με τις προκλήσεις στον κλάδο τους.

Εάν είστε επενδυτής και θέλετε να συμμετάσχετε σε μελλοντικές έρευνες, συμπληρώστε

αυτή η φόρμα

.

Ορισμένοι επενδυτές δήλωσαν ότι αντιμετωπίζουν αυτό το πρόβλημα κάνοντας τη δέουσα επιμέλεια σχετικά με την ηθική ενός ιδρυτή για να καθορίσουν εάν θα συνεχίσουν να λαμβάνουν αποφάσεις που μπορεί να υποστηρίξει η εταιρεία.

«Η ενσυναίσθηση των ιδρυτών είναι μια τεράστια πράσινη σημαία για εμάς», δήλωσε ο Alexis Alston, διευθυντής της Lightship Capital. «Αυτοί οι άνθρωποι καταλαβαίνουν ότι ενώ ψάχνουμε για αποδόσεις στην αγορά, επιδιώκουμε επίσης οι επενδύσεις μας να μην προκαλέσουν αρνητικό αντίκτυπο στον κόσμο».

Άλλοι επενδυτές πιστεύουν ότι η υποβολή δύσκολων ερωτήσεων μπορεί να βοηθήσει στο διαχωρισμό του σιταριού από το άχυρο. “Οποιαδήποτε τεχνολογία φέρνει μαζί της ακούσιες συνέπειες, είτε πρόκειται για προκατάληψη, μειωμένη ανθρώπινη παρέμβαση, παραβιάσεις της ιδιωτικής ζωής ή κάτι άλλο”, δήλωσε ο Deep Nishar, διευθύνων σύμβουλος της General Catalyst. «Η επενδυτική μας διαδικασία επικεντρώνεται στον εντοπισμό τέτοιων ακούσιων συνεπειών, στη συζήτησή τους με ιδρυτικές ομάδες και στην αξιολόγηση του κατά πόσον υπάρχουν ή θα υπάρξουν διασφαλίσεις για τον μετριασμό τους».

Οι κυβερνητικές πολιτικές στοχεύουν επίσης στην τεχνητή νοημοσύνη: η ΕΕ έχει περάσει

Νόμοι μηχανικής μάθησης

, και οι ΗΠΑ έχουν εισαγάγει

σχέδια για μια ειδική ομάδα τεχνητής νοημοσύνης

για να αρχίσετε να εξετάζετε τους κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη. Αυτό είναι επιπλέον του

Διακήρυξη δικαιωμάτων AI

που εισήχθη πέρυσι. Και με πολλές κορυφαίες εταιρείες VC να διοχετεύουν χρήματα σε

Προσπάθειες τεχνητής νοημοσύνης στην Κίνα

, είναι σημαντικό να αναρωτηθούμε πώς η παγκόσμια δεοντολογία στο πλαίσιο της τεχνητής νοημοσύνης μπορεί να επιβληθεί και σε διασυνοριακό επίπεδο.

Διαβάστε παρακάτω για να μάθετε πώς προσεγγίζουν οι επενδυτές τη δέουσα επιμέλεια, τις πράσινες σημαίες που αναζητούν και τις προσδοκίες τους από τους κανονισμούς στην τεχνητή νοημοσύνη.

Μιλήσαμε με:

Alexis Alston, διευθυντής, Lightship Capital

Όταν επενδύετε σε μια εταιρεία AI, πόση δέουσα επιμέλεια κάνετε σχετικά με τον τρόπο με τον οποίο το μοντέλο AI ισχυρίζεται ή χειρίζεται την προκατάληψη;

Για εμάς, είναι σημαντικό να κατανοήσουμε ακριβώς ποια δεδομένα λαμβάνει το μοντέλο, από πού προέρχονται τα δεδομένα και πώς τα καθαρίζουν. Κάνουμε αρκετή τεχνική επιμέλεια με τον GP μας που εστιάζει στην τεχνητή νοημοσύνη για να βεβαιωθούμε ότι τα μοντέλα μας μπορούν να εκπαιδευτούν για να μετριάσουν ή να εξαλείψουν την προκατάληψη.

Όλοι θυμόμαστε ότι δεν μπορούσαμε να ανοίξουμε αυτόματα τις βρύσες για να πλύνουμε τα πιο σκούρα χέρια μας και τις φορές που η αναζήτηση εικόνων Google “κατά λάθος” εξίσωνε το μαύρο δέρμα με τα πρωτεύοντα. Θα κάνω ό,τι περνάει από το χέρι μου για να βεβαιωθώ ότι δεν θα καταλήξουμε με τέτοια μοντέλα στο χαρτοφυλάκιό μας.

Πώς θα επηρέαζαν οι ΗΠΑ νόμους μηχανικής μάθησης παρόμοιους με αυτούς της ΕΕ τον ρυθμό καινοτομίας που βλέπει η χώρα σε αυτόν τον τομέα;

Δεδομένης της έλλειψης τεχνικών γνώσεων και πολυπλοκότητας στην κυβέρνησή μας, έχω πολύ λίγη πίστη στην ικανότητα των ΗΠΑ να περάσουν εφαρμόσιμη και ακριβή νομοθεσία γύρω από τη μηχανική μάθηση. Έχουμε τόσο μεγάλη ουρά όσον αφορά την έγκαιρη νομοθεσία και τη συμμετοχή τεχνικών εμπειρογνωμόνων στις ειδικές ομάδες για την ενημέρωση των νομοθετών μας.

Στην πραγματικότητα δεν βλέπω τη νομοθεσία να κάνει σημαντικές αλλαγές στο ρυθμό ανάπτυξης της ML, δεδομένου του τρόπου με τον οποίο συνήθως είναι δομημένοι οι νόμοι μας. Ομοίως με τον αγώνα προς τα κάτω για τη νομοθεσία γύρω από τα ναρκωτικά σχεδιαστών στις ΗΠΑ πριν από μια δεκαετία, η νομοθεσία δεν μπόρεσε ποτέ να συμβαδίσει.