Το OpenAI παρουσιάζει ατελή διόρθωση για το ελάττωμα διαρροής δεδομένων ChatGPT

Το

OpenAI έχει μετριάσει ένα σφάλμα εξαγωγής δεδομένων στο ChatGPT που θα μπορούσε ενδεχομένως να διαρρέει λεπτομέρειες συνο

μι

λίας σε μια εξωτερική διεύθυνση URL.

Σύμφωνα με τον ερευνητή που ανακάλυψε το ελάττωμα, ο μετριασμός δεν είναι τέλειος, επομένως οι επιτιθέμενοι μπορούν ακόμα να το εκμεταλλευτούν υπό ορισμένες συνθήκες.

Επίσης, οι έλεγχοι ασφαλείας δεν έχουν ακόμη εφαρμοστεί στην εφαρμογή για κινητά iOS για το ChatGPT, επομένως ο κίνδυνος σε αυτήν την πλατφόρμα παραμένει απροσδιόριστος.

Πρόβλημα διαρροής δεδομένων

Ο ερευνητής ασφαλείας Johann Rehberger ανακάλυψε μια τεχνική για την εξαγωγή δεδομένων από το ChatGPT και την ανέφερε στο OpenAI τον Απρίλιο του 2023. Ο ερευνητής αργότερα μοιράστηκε τον Νοέμβριο του 2023 πρόσθετες πληροφορίες σχετικά με τη δημιουργία κακόβουλων GPT που αξιοποιούν το ελάττωμα σε χρήστες phish.

“Αυτό το GPT και οι υποκείμενες οδηγίες αναφέρθηκαν αμέσως στο OpenAI στις 13 Νοεμβρίου 2023”, έγραψε ο ερευνητής σε αυτήν την

αποκάλυψη

.

“Ωστόσο, το εισιτήριο έκλεισε στις 15 Νοεμβρίου ως “Δεν ισχύει”. Δύο περαιτέρω έρευνες παρέμειναν αναπάντητα. Ως εκ τούτου, φαίνεται καλύτερο να το μοιραστούμε με το κοινό για να ευαισθητοποιήσουμε.”

Τα GPT είναι προσαρμοσμένα μοντέλα τεχνητής νοημοσύνης που διατίθενται στην αγορά ως “εφαρμογές AI”, που ειδικεύονται σε διάφορους ρόλους, όπως αντιπροσώπους υποστήριξης πελατών, βοήθεια στη συγγραφή και μετάφραση, στην εκτέλεση ανάλυσης δεδομένων, στη δημιουργία συνταγών μαγειρικής με βάση τα διαθέσιμα συστατικά, στη συλλογή δεδομένων για έρευνα, ακόμη και στο παιχνίδι.

Μετά την έλλειψη ανταπόκρισης από τον προμηθευτή του

chatbot

, ο ερευνητής αποφάσισε να αποκαλύψει δημόσια τα ευρήματά του στις 12 Δεκεμβρίου 2023, όπου έδειξε ένα προσαρμοσμένο tic-tac-toe GPT με το όνομα «The Thief!», το οποίο μπορεί να διεισδύσει δεδομένα συνομιλίας σε εξωτερικό URL που λειτουργεί από τον ερευνητή.

Η κλοπή δεδομένων περιλαμβάνει απόδοση σήμανσης εικόνας και έγκαιρη έγχυση, επομένως η επίθεση απαιτεί από το θύμα να υποβάλει ένα κακόβουλο μήνυμα που ο εισβολέας παρείχε απευθείας ή δημοσίευσε κάπου για να το ανακαλύψουν και να το χρησιμοποιήσουν τα θύματα.

Εναλλακτικά, μπορεί να χρησιμοποιηθεί ένα κακόβουλο GPT, όπως έδειξε ο Rehberger, και οι χρήστες που χρησιμοποιούν αυτό το GPT δεν θα αντιλαμβάνονταν τις λεπτομέρειες συνομιλίας τους μαζί με τα μεταδεδομένα (χρονικές σημάνσεις, αναγνωριστικό χρήστη, αναγνωριστικό περιόδου σύνδεσης) και τεχνικά δεδομένα (διεύθυνση IP, συμβολο

σειρές

παράγοντα χρήστη) διηθούνται σε τρίτους.

Ημιτελής επιδιόρθωση του OpenAI

Μετά τον Ρέμπεργκερ

δημοσίευσε τις λεπτομέρειες του ελαττώματος στο ιστολόγιό του

το OpenAI ανταποκρίθηκε στην κατάσταση και εφάρμοσε ελέγχους από την πλευρά του πελάτη μέσω κλήσης σε ένα API επικύρωσης για να αποτρέψει την απόδοση εικόνων από μη ασφαλείς διευθύνσεις URL.

“Όταν ο διακομιστής επιστρέφει μια ετικέτα εικόνας με υπερσύνδεσμο, υπάρχει τώρα μια κλήση από την πλευρά του πελάτη ChatGPT σε ένα API επικύρωσης πριν αποφασίσει να εμφανίσει μια εικόνα.”

εξηγεί ο Rehberger σε νέα ανάρτηση

που επανεξετάζει το ζήτημα για να συζητήσει την επιδιόρθωση.

“Δεδομένου ότι το ChatGPT δεν είναι ανοιχτού κώδικα και η επιδιόρθωση δεν γίνεται μέσω μιας Πολιτικής Περιεχομένου-Ασφάλειας (που είναι ορατή και επιθεωρήσιμη από χρήστες και ερευνητές), οι ακριβείς λεπτομέρειες επικύρωσης δεν είναι γνωστές.”

Ο ερευνητής σημειώνει ότι σε ορισμένες περιπτώσεις, το ChatGPT εξακολουθεί να αποδίδει αιτήματα σε αυθαίρετους τομείς, επομένως η επίθεση θα μπορούσε να εξακολουθεί να λειτουργεί μερικές φορές, ενώ παρατηρούνται αποκλίσεις ακόμη και κατά τη δοκιμή του ίδιου τομέα.

Δεδομένου ότι συγκεκριμένες λεπτομέρειες σχετικά με τον έλεγχο που καθορίζει εάν μια διεύθυνση URL είναι ασφαλής είναι άγνωστες, δεν υπάρχει τρόπος να γνωρίζουμε την ακριβή αιτία αυτών των διαφορών.

Ωστόσο, σημειώνεται ότι η εκμετάλλευση του ελαττώματος είναι πλέον πιο θορυβώδης, έχει περιορισμούς στον ρυθμό μεταφοράς δεδομένων και λειτουργεί πολύ πιο αργά.

Αναφέρεται επίσης ότι η κλήση επικύρωσης από την πλευρά του πελάτη δεν έχει ακόμη εφαρμοστεί στην εφαρμογή για κινητά iOS, επομένως η επίθεση παραμένει 100% απεριόριστη εκεί.

Δεν είναι επίσης σαφές εάν η επιδιόρθωση κυκλοφόρησε στην εφαρμογή ChatGPT Android, η οποία μετρά πάνω από 10 εκατομμύρια λήψεις στο Google Play.