Το να ζητάτε από το ChatGPT να επαναλάβει μια λέξη μπορεί τώρα να αποτελεί παραβίαση των όρων του

Μια νέα τεχνική που ανακάλυψε ο

Οι ερευνητές του Google DeepMind αποκάλυψαν την περασμένη εβδομάδα

ότι το να ζητάς

επα

νειλημμένα από το ChatGPT του OpenAI να επαναλαμβάνει λέξεις μπορεί να αποκαλύψει ακούσια ιδιωτικές, προσωπικές πληροφορίες από τα εκπαιδευτικά του δεδομένα. Τώρα, φαίνεται ότι το chatbot έχει αρχίσει να αρνείται ορισμένες προτροπές που επιτρέπονταν προηγουμένως βάσει των όρων παροχής υπηρεσιών του.

Ζητώντας από το ChatGPT να επαναλαμβάνει το “γεια” επ’ αόριστον, οι ερευνητές διαπίστωσαν ότι το

μοντέλο

θα αποκάλυπτε τελικά τις διευθύνσεις email, τις ημερομηνίες γέννησης και τους αριθμούς τηλεφώνου των χρηστών. Σε απόκριση σε παρόμοια μηνύματα στη δοκιμή μας, το chatbot προειδοποίησε ότι μια τέτοια συμπεριφορά “μπορεί να παραβιάζει την πολιτική περιεχομένου ή τους όρους παροχής υπηρεσιών”.

Ωστόσο, μετά από προσεκτικότερη εξέταση, οι όροι υπηρεσίας του OpenAI δεν απαγορεύουν ρητά στους χρήστες να επαναλαμβάνουν λέξεις από το chatbot επανειλημμένα. Οι όροι απαγορεύουν μόνο την «αυτοματοποιημένη ή μέσω προγραμματισμού» εξαγωγή δεδομένων από τις υπηρεσίες τους.

Σε

σελίδα με τους όρους χρήσης

γράφει το OpenAI.

Δεν επιτρέπεται, εκτός εάν επιτρέπεται μέσω του API, να χρησιμοποιήσετε οποιαδήποτε αυτοματοποιημένη ή προγραμματισμένη μέθοδο για την εξαγωγή δεδομένων ή εξόδου από τις Υπηρεσίες, συμπεριλαμβανομένης της απόξεσης, της συλλογής ιστού ή της εξαγωγής δεδομένων ιστού.

Παρόλα αυτά, η επανάληψη της προτροπής δεν φάνηκε να προκαλεί αποκάλυψη δεδομένων από το ChatGPT κατά τη διάρκεια της δοκιμής. Το OpenAI αρνήθηκε να σχολιάσει εάν αυτή η συμπεριφορά είναι πλέον αντίθετη με τις πολιτικές του.

Σε άλλες

ειδήσεις

, μόλις τις δύο τελευταίες εβδομάδες, ο Σαμ Άλτμαν απολύθηκε απροσδόκητα από τη θέση του Διευθύνοντος Συμβούλου προτού αποκατασταθεί μόνο λίγες μέρες αργότερα, εν μέσω απειλών για παραιτήσεις εργαζομένων. Στη συνέχεια, η εταιρεία ανακοίνωσε ότι είχε καταλήξει σε μια «κατ’ αρχήν συμφωνία» για τον Altman να επαναλάβει το ρόλο του ως CEO μαζί με ένα νέο προσωρινό διοικητικό συμβούλιο.

Το OpenAI έχει επίσης καθυστερήσει την κυκλοφορία της αγοράς του για προσαρμοσμένα μοντέλα AI. Ο Sam Altman ανακοίνωσε τη διαδικτυακή

πλατφόρμα

, που ονομάστηκε “GPT Store”, στην εκδήλωση DevDay στις αρχές του περασμένου μήνα. Στο σημείωμα, το εργαστήριο τεχνητής νοημοσύνης έγραψε ότι «μερικά απροσδόκητα πράγματα μας κρατούν απασχολημένους», αποτρέποντας την εκτόξευση αυτόν τον μήνα, όπως αρχικά αναμενόταν.

Πηγή:

404 Μέσα