Το ChatGPT έχει έναν τρομακτικό κίνδυνο ασφάλειας μετά τη νέα ενημέρωση. Έχουν πρόβλημα τα δεδομένα σας;

Χάρη σ

τι

ς νέες ενημερώσεις ChatGPT, όπως ο Διερμηνέας Κώδικα, η δημοφιλής παραγωγική τεχνητή νοημοσύνη του OpenAI είναι γεμάτη περισσότερες ανησυχίες για την ασφάλεια. Σύμφωνα με έρευνα από τον ειδικό σε θέματα ασφάλειας Johann Rehberger (και

επακόλουθη εργασία από την Tom’s Hardware

)


το ChatGPT έχει κραυγαλέα ελαττώματα ασφαλείας που προέρχονται από τη νέα του δυνατότητα μεταφόρτωσης αρχείων.

Το tweet μπορεί να έχει διαγραφεί

Η πρόσφατη

ενημέρωση

του OpenAI στο ChatGPT Plus πρόσθεσε μια μυριάδα νέων λειτουργιών, συμπεριλαμβανομένης της δημιουργίας εικόνων DALL-E και του Code Interpreter, που επιτρέπει την εκτέλεση κώδικα Python και την ανάλυση αρχείων. Ο κώδικας δημιουργείται και εκτελείται σε περιβάλλον sandbox που δυστυχώς είναι ευάλωτο σε επιθέσεις έγχυσης.

Μια γνωστή ευπάθεια στο ChatGPT εδώ και αρκετό καιρό, η επίθεση περιλαμβάνει την εξαπάτηση του ChatGPT για να εκτελέσει οδηγίες από μια διεύθυνση URL τρίτου μέρους, με αποτέλεσμα να κωδικοποιεί τα μεταφορτωμένα αρχεία σε μια συμβολοσειρά φιλική προς τη διεύθυνση URL και να στέλνει αυτά τα δεδομένα σε έναν κακόβουλο ιστότοπο. Ενώ η πιθανότητα μιας τέτοιας επίθεσης απαιτεί συγκεκριμένες συνθήκες (π.χ. ο χρήστης πρέπει να επικολλήσει ενεργά μια κακόβουλη διεύθυνση URL στο ChatGPT), ο κίνδυνος παραμένει ανησυχητικός. Αυτή η απειλή για την ασφάλεια θα μπορούσε να πραγματοποιηθεί μέσω διαφόρων σεναρίων, συμπεριλαμβανομένου ενός αξιόπιστου ιστότοπου που διακυβεύεται από κακόβουλο

μήνυμα

— ή μέσω τακτικών κοινωνικής μηχανικής.

Το Tom’s

Hardware

έκανε μερικές εντυπωσιακές δοκιμές για το πόσο ευάλωτοι μπορεί να είναι οι χρήστες σε αυτήν την επίθεση. Το exploit δοκιμάστηκε δημιουργώντας ένα ψεύτικο αρχείο μεταβλητών περιβάλλοντος και χρησιμοποιώντας το ChatGPT για την επεξεργασία και την ακούσια αποστολή αυτών των δεδομένων σε έναν εξωτερικό διακομιστή. Αν και η αποτελεσματικότητα του exploit διέφερε μεταξύ των συνεδριών (π.χ., το ChatGPT μερικές φορές αρνιόταν να φορτώσει εξωτερικές σελίδες ή να μεταδώσει δεδομένα αρχείων), εγείρει σημαντικές ανησυχίες για την ασφάλεια, ειδικά δεδομένης της ικανότητας του AI να διαβάζει και να εκτελεί εντολές Linux και να χειρίζεται αρχεία που ανέβηκαν από χρήστες σε Linux- βασισμένο εικονικό περιβάλλον.

Όπως αναφέρει η Tom’s Hardware στα ευρήματά της, παρά το γεγονός ότι φαίνεται απίθανη, η ύπαρξη αυτού του κενού ασφαλείας είναι σημαντική. Το ChatGPT θα έπρεπε ιδανικά

δεν

εκτελεί οδηγίες από εξωτερικές ιστοσελίδες, αλλά το κάνει. Mashable


επικοινώνησε με το OpenAI για σχολιασμό, αλλά δεν απάντησε αμέσως στο αίτημά μας.