Το OpenAI σχηματίζει μια ομάδα για να χαλιναγωγήσει την υπερέξυπνη τεχνητή νοημοσύνη

Το

OpenAI

είναι

σχηματίζοντας μια αφοσιωμένη ομάδα

για τη διαχείριση των κινδύνων της υπερευφυούς τεχνητής νοημοσύνης. Η υπερευφυΐα είναι ένα υποθετικό μοντέλο τεχνητής νοημοσύνης που είναι πιο έξυπνο ακόμη και από τον πιο προικισμένο και έξυπνο άνθρωπο και υπερέχει σε πολλούς τομείς εξειδίκευσης αντί για έναν τομέα όπως ορισμένα μοντέλα προηγούμενης γενιάς. Η OpenAI πιστεύει ότι ένα τέτοιο μοντέλο θα μπορούσε να φτάσει πριν από το τέλος της δεκαετίας. «Η υπερευφυΐα θα είναι η πιο εντυπωσιακή τεχνολογία που έχει εφεύρει ποτέ η ανθρωπότητα και θα μπορούσε να μας βοηθήσει να λύσουμε πολλά από τα πιο σημαντικά προβλήματα του κόσμου», ανέφερε η μη κερδοσκοπική οργάνωση. «Αλλά η τεράστια δύναμη της υπερνοημοσύνης θα μπορούσε επίσης να είναι πολύ επικίνδυνη και θα μπορούσε να οδηγήσει στην αποδυνάμωση της ανθρωπότητας ή ακόμα και στην ανθρώπινη εξαφάνιση».

Της νέας ομάδας θα ηγούνται από κοινού ο επικεφαλής επιστήμονας του OpenAI Ilya Sutskever και ο Jan Leike, επικεφαλής ευθυγράμμισης του ερευνητικού εργαστηρίου. Επιπλέον, το OpenAI είπε ότι θα αφιερώσει το 20% της τρέχουσας ασφαλούς υπολογιστικής του ισχύος στην πρωτοβουλία, με στόχο την ανάπτυξη ενός


. Ένα τέτοιο σύστημα θεωρητικά θα βοηθούσε το OpenAI να διασφαλίσει ότι μια υπερευφυΐα είναι ασφαλής στη χρήση και ευθυγραμμισμένη με τις ανθρώπινες αξίες. «Αν και αυτός είναι ένας απίστευτα φιλόδοξος στόχος και δεν είμαστε εγγυημένοι ότι θα πετύχουμε, είμαστε αισιόδοξοι ότι μια εστιασμένη, συντονισμένη προσπάθεια μπορεί να λύσει αυτό το πρόβλημα», δήλωσε η OpenAI. «Υπάρχουν πολλές ιδέες που έχουν υποσχεθεί σε προκαταρκτικά πειράματα, έχουμε όλο και πιο χρήσιμες μετρήσεις για την πρόοδο και μπορούμε να χρησιμοποιήσουμε τα σημερινά μοντέλα για να μελετήσουμε εμπειρικά πολλά από αυτά τα προβλήματα». Το εργαστήριο πρόσθεσε ότι θα μοιράζεται έναν οδικό χάρτη στο μέλλον.

Η ανακοίνωση της Τετάρτης έρχεται καθώς οι κυβερνήσεις σε όλο τον κόσμο εξετάζουν πώς να ρυθμίσουν τον εκκολαπτόμενο κλάδο της τεχνητής νοημοσύνης. Στις ΗΠΑ, ο Sam Altman, ο διευθύνων σύμβουλος της OpenAI, έχει


τους τελευταίους μήνες. Δημόσια, ο Altman είπε ότι η ρύθμιση της τεχνητής νοημοσύνης είναι «ουσιώδης» και ότι το OpenAI είναι «πρόθυμο» να συνεργαστεί με τους υπεύθυνους χάραξης πολιτικής. Αλλά θα πρέπει να είμαστε δύσπιστοι για τέτοιες διακηρύξεις, και μάλιστα προσπάθειες όπως η ομάδα Superalignment του OpenAI. Εστιάζοντας την προσοχή του κοινού σε υποθετικούς κινδύνους που μπορεί να μην υλοποιηθούν ποτέ, οργανισμοί όπως το OpenAI μεταφέρουν το βάρος της ρύθμισης στον ορίζοντα αντί στο εδώ και τώρα. Υπάρχουν πολύ πιο άμεσα ζητήματα γύρω από την αλληλεπίδραση μεταξύ της τεχνητής νοημοσύνης και της τεχνητής νοημοσύνης και οι υπεύθυνοι χάραξης πολιτικής πρέπει να αντιμετωπίσουν σήμερα, όχι αύριο.