Το
GPT-4
του OpenAI έδωσε στους ανθρώπους ένα μικρό πλεονέκτημα έναντι του κανονικού Διαδικτύου όταν επρόκειτο να ερευνήσουν τα βιοόπλα, σύμφωνα με μια μελέτη που διεξήγαγε η ίδια η εταιρεία.
Bloomberg
ανέφερε ότι η έρευνα διεξήχθη από την
νέα ομάδα ετοιμότητας
στο OpenAI, το οποίο κυκλοφόρησε το περασμένο φθινόπωρο προκειμένου να αξιολογηθούν οι κίνδυνοι και οι πιθανές καταχρηστικές χρήσεις των μοντέλων τεχνητής νοημοσύνης συνόρων της εταιρείας.
Τα ευρήματα του OpenAI φαίνεται να αντικρούουν τις ανησυχίες των επιστημόνων, των νομοθέτων και των τεχνικών της τεχνητής νοημοσύνης ότι ισχυρά μοντέλα τεχνητής νοημοσύνης όπως το GPT-4 μπορούν να βοηθήσουν σημαντικά τους τρομοκράτες, τους εγκληματίες και άλλους κακόβουλους παράγοντες. Πολλαπλές μελέτες έχουν
προειδοποίησε
ότι η τεχνητή νοημοσύνη μπορεί να δώσει σε όσους δημιουργούν βιολογικά όπλα
μια επιπλέον άκρη
όπως αυτό
ένας
από το Effective Ventures Foundation στην Οξφόρδη που εξέτασε εργαλεία τεχνητής νοημοσύνης όπως το ChatGPT καθώς και ειδικά σχεδιασμένα μοντέλα τεχνητής νοημοσύνης για επιστήμονες όπως το ProteinMPNN (τα οποία μπορούν να βοηθήσουν στη δημιουργία νέων αλληλουχιών πρωτεϊνών).
Η μελέτη περιελάμβανε 100 συμμετέχοντες, οι μισοί από τους οποίους ήταν προχωρημένοι ειδικοί στη βιολογία και οι άλλοι μισοί ήταν φοιτητές που είχαν παρακολουθήσει βιολογία σε επίπεδο κολεγίου. Στη συνέχεια, οι συμμετέχοντες ταξινομήθηκαν τυχαία σε δύο ομάδες: στη μία δόθηκε πρόσβαση σε μια ειδική απεριόριστη έκδοση του προηγμένου chatbot τεχνητής νοημοσύνης GPT-4 του OpenAI, ενώ η άλλη ομάδα είχε πρόσβαση μόνο στο κανονικό Διαδίκτυο. Στη συνέχεια, οι επιστήμονες ζήτησαν από τις ομάδες να ολοκληρώσουν πέντε ερευνητικές εργασίες που σχετίζονται με την κατασκευή βιοόπλων. Σε μια
παράδειγμα
, ζητήθηκε από τους συμμετέχοντες να καταγράψουν τη μεθοδολογία βήμα προς βήμα για τη σύνθεση και τη διάσωση του ιού Έμπολα. Στη συνέχεια, οι απαντήσεις τους βαθμολογήθηκαν σε μια κλίμακα από το 1 έως το 10 με βάση κριτήρια όπως η ακρίβεια, η καινοτομία και η πληρότητα.
Η μελέτη κατέληξε στο συμπέρασμα ότι η ομάδα που χρησιμοποίησε το GPT-4 είχε ελαφρώς υψηλότερη βαθμολογία ακρίβειας κατά μέσο όρο τόσο για τους μαθητές όσο και για τις ομάδες ειδικών. Αλλά οι
ερευνητές
του OpenAI διαπίστωσαν ότι η αύξηση δεν ήταν «στατιστικά σημαντική».
Οι ερευνητές διαπίστωσαν επίσης ότι οι συμμετέχοντες που βασίστηκαν στο GPT-4 είχαν πιο λεπτομερείς απαντήσεις.
«Αν και δεν παρατηρήσαμε στατιστικά σημαντικές διαφορές σε αυτήν τη μέτρηση, σημειώσαμε ότι οι απαντήσεις από συμμετέχοντες με πρόσβαση μοντέλου έτειναν να είναι μεγαλύτερες και να περιλαμβάνουν μεγαλύτερο αριθμό σχετικών με την
εργασία
λεπτομερειών», έγραψαν οι συγγραφείς της μελέτης.
Επιπλέον, οι μαθητές που χρησιμοποίησαν το GPT-4 ήταν σχεδόν εξίσου ικανοί με την ομάδα ειδικών σε ορισμένες από τις εργασίες. Οι ερευνητές παρατήρησαν επίσης ότι το GPT-4 έφερε τις απαντήσεις της κοόρτης των μαθητών στη «βασική γραμμή των ειδικών» για δύο από τις εργασίες συγκεκριμένα: τη μεγέθυνση και τη διατύπωση. Δυστυχώς, το OpenAI δεν θα αποκαλύψει τι συνεπάγονταν αυτές οι εργασίες λόγω «ανησυχιών σχετικά με τον κίνδυνο πληροφοριών».
Σύμφωνα με
Bloomberg
, η ομάδα ετοιμότητας εργάζεται επίσης σε μελέτες για να διερευνήσει τις δυνατότητες της τεχνητής νοημοσύνης για απειλές για την ασφάλεια στον κυβερνοχώρο, καθώς και τη δύναμή της να αλλάζει τις πεποιθήσεις. Όταν η ομάδα ξεκίνησε το περασμένο φθινόπωρο, η OpenAI δήλωσε ότι στόχος της ήταν να «παρακολουθήσει, να αξιολογήσει, να προβλέψει και να προστατεύσει» τους κινδύνους της
τεχνολογία
ς AI καθώς και τον μετριασμό των χημικών, βιολογικών και ραδιολογικών απειλών.
Δεδομένου ότι η ομάδα ετοιμότητας του OpenAI εξακολουθεί να εργάζεται για λογαριασμό του OpenAI, είναι σημαντικό να λάβουν υπόψη την έρευνά τους. Τα ευρήματα της μελέτης φαίνεται να υποτιμούν το πλεονέκτημα που παρείχε στους συμμετέχοντες το GPT-4 σε σχέση με το κανονικό διαδίκτυο, το οποίο έρχεται σε αντίθεση με την εξωτερική έρευνα καθώς και με μια από τις δικές του OpenAI
σημεία πώλησης
για GPT-4. Το νέο μοντέλο AI όχι μόνο έχει πλήρη πρόσβαση στο διαδίκτυο αλλά είναι α
πολυτροπικό μοντέλο
εκπαιδευμένο σε τεράστιες ομάδες επιστημονικών και άλλων δεδομένων, η πηγή των οποίων είναι το OpenAI
δεν θα αποκαλύψει
. Οι ερευνητές διαπίστωσαν ότι το GPT-4 ήταν σε θέση να δώσει
ανατροφοδότηση
σε επιστημονικά χειρόγραφα και μάλιστα χρησιμεύουν ως α
συνεργάτης
στην επιστημονική έρευνα. Συνολικά, δεν φαίνεται πιθανό ότι το GPT-4 έδωσε στους συμμετέχοντες μόνο μια οριακή ώθηση σε σχέση, ας πούμε, της Google.
Ενώ ο ιδρυτής του OpenAI, Sam Altman, έχει αναγνωρίσει ότι το AI έχει
πιθανότητα κινδύνου
, η δική της μελέτη φαίνεται να υποβαθμίζει τη δύναμη του πιο προηγμένου chatbot της. Ενώ το
ευρήματα
αναφέρετε ότι το GPT-4 έδωσε στους συμμετέχοντες «ήπιες αυξήσεις στην ακρίβεια και την πληρότητα», αυτό φαίνεται να ισχύει μόνο όταν τα δεδομένα προσαρμόζονται με συγκεκριμένο τρόπο. Η μελέτη μέτρησε την απόδοση των μαθητών έναντι των ειδικών και εξέτασε επίσης πέντε διαφορετικές «μετρήσεις αποτελέσματος», συμπεριλαμβανομένου του χρόνου που χρειάστηκε για την ολοκλήρωση μιας εργασίας ή της δημιουργικότητας της λύσης.
Ωστόσο, οι συγγραφείς της μελέτης αναφέρουν αργότερα σε μια υποσημείωση ότι, συνολικά, το GPT-4 έδωσε σε όλους τους συμμετέχοντες ένα «στατιστικά σημαντικό» πλεονέκτημα ως προς τη συνολική ακρίβεια. «Αν και αν αξιολογούσαμε μόνο τη συνολική ακρίβεια και επομένως δεν προσαρμόσαμε για πολλαπλές συγκρίσεις, αυτή η διαφορά θα ήταν στατιστικά σημαντική», σημείωσαν οι συγγραφείς.
VIA:
theverge.com
