Το OpenAI στοιχηματίζει στη νέα ομάδα Superalignment για να σταματήσει η τεχνητή νοημοσύνη να είναι αδίστακτη
Η
OpenAI
ανακοίνωσε ότι δημιουργεί μια νέα ομάδα στην εταιρεία που θα αποτελείται από τους κορυφαίους ερευνητές και μηχανικούς μηχανικής μάθησης. Ο στόχος της ομάδας θα είναι η ανάπτυξη κλιμακούμενων μεθόδων εκπαίδευσης που διασφαλίζουν ότι η υπερέξυπνη τεχνητή νοημοσύνη δεν θα παραπλανηθεί.
Στην ανακοίνωση, το OpenAI είπε ότι η υπερευφυΐα θα είναι η «με τη μεγαλύτερη επιρροή τεχνολογία» που δημιουργήθηκε ποτέ από τον άνθρωπο και ότι θα βοηθήσει στην επίλυση πολλών από τα προβλήματα του κόσμου. Δυστυχώς, το OpenAI πιστεύει ότι η υπερέξυπνη τεχνητή νοημοσύνη θα μπορούσε να είναι πολύ επικίνδυνη και θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπου.
Η εταιρεία είπε ότι δεν έχει τρόπο να κατευθύνει ή να ελέγξει την υπερέξυπνη τεχνητή νοημοσύνη προς το παρόν. Για τα τρέχοντα μοντέλα τεχνητής νοημοσύνης, το OpenAI χρησιμοποιεί ενισχυτική μάθηση και ανθρώπινη ανατροφοδότηση, τα οποία και τα δύο βασίζονται σε ανθρώπους που επιβλέπουν την τεχνητή νοημοσύνη.
Τελικά, το OpenAI δεν πιστεύει ότι οι άνθρωποι θα μπορούν να επιβλέπουν αξιόπιστα συστήματα τεχνητής νοημοσύνης που είναι πολύ πιο έξυπνα από εμάς, γεγονός που θα κάνει περιττές τις τρέχουσες τεχνικές ευθυγράμμισης. Για να αντιμετωπίσει αυτήν την πρόκληση, συγκεντρώνει μια νέα ομάδα Superalignment με τα ακόλουθα
στόχοι
:
- Αναπτύξτε μια κλιμακούμενη μέθοδο εκπαίδευσης.
- Επικυρώστε το μοντέλο που προκύπτει.
- Δοκιμή καταπόνησης ολόκληρος ο αγωγός ευθυγράμμισης.
Όντας ένα τόσο σημαντικό ζήτημα για το OpenAI, η νέα ομάδα θα έχει πρόσβαση στο 20% της υπολογιστικής ισχύος που έχει εξασφαλιστεί μέχρι στιγμής. Θα έχουν στη διάθεσή τους τα επόμενα τέσσερα χρόνια για να λύσουν το πρόβλημα της ευθυγράμμισης της υπερνοημοσύνης.
Η νέα ομάδα είναι το «αρχικό στοίχημα» της εταιρείας για την επίλυση του ζητήματος της ευθυγράμμισης της υπερκατασκοπίας, αλλά η εταιρεία εξακολουθεί να αναμένει από πολλές άλλες ομάδες να συμβάλουν στην επίλυση του ζητήματος.
Είναι πολύ σημαντικό να σημειωθεί ότι μια υπερευφυΐα δεν πρόκειται απαραίτητα να είναι κακόβουλη, αλλά θα μπορούσε να είναι, και αυτό είναι που ανησυχεί το OpenAI. Πιστεύει ότι η υπερευφυΐα θα μπορούσε να επιτευχθεί αυτή τη δεκαετία και λέει ότι θα μπορούσε να αποτύχει στον στόχο της να την κατευθύνει, αν και παραμένει αισιόδοξη.
Καθώς δημιουργεί την ομάδα Superalignment, το OpenAI επιδιώκει να προσελκύσει ανθρώπους που έχουν σημειώσει επιτυχία στη μηχανική μάθηση. Αναζητά άτομα για να καλύψουν ρόλους όπως π.χ
ερευνητής μηχανικός
,
ερευνητικός επιστήμονας
και
διευθυντής έρευνας
.
