Το ChatGPT λέει ότι το να του ζητάτε να επαναλαμβάνει τις λέξεις για πάντα είναι αντίθετο με τους κανόνες

Την περασμένη εβδομάδα, μια ομάδα ερευνητών δημοσίευσε μια εργασία που έδειχνε ότι μπόρεσε να μεταφέρει το

ChatGPT

σε κομμάτια δεδομένων, συμπεριλαμβανομένων των αριθμών τηλεφώνου, διευθύνσεων email και ημερομηνιών γέννησης ανθρώπων, στις οποίες είχε εκπαιδευτεί, ζητώντας του να

επα

ναλαμβάνει τις λέξεις «για πάντα». Κάνοντας αυτό τώρα αποτελεί παραβίαση των όρων παροχής υπηρεσιών του ChatGPT, σύμφωνα με το α


σε

404 Μέσα

και τη δοκιμή του ίδιου του Engadget.

“Αυτό το

περιεχόμενο

ενδέχεται να παραβιάζει την

πολιτική

περιεχομένου ή τους όρους χρήσης μας”, απάντησε το ChatGPT στην προτροπή του Engadget να επαναλαμβάνει τη λέξη “γεια” για πάντα. “Εάν πιστεύετε ότι αυτό είναι λάθος, υποβάλετε τα σχόλιά σας – η συμβολή σας θα βοηθήσει την έρευνά μας σε αυτόν τον τομέα.”

Δεν υπάρχει γλώσσα στα OpenAI


ωστόσο, που απαγορεύει στους χρήστες να ζητούν από την υπηρεσία να επαναλαμβάνουν λέξεις για πάντα, κάτι που

404 Μέσα

σημειώσεις. Κάτω από “


», το OpenAI δηλώνει ότι οι χρήστες δεν μπορούν να «χρησιμοποιήσουν καμία αυτοματοποιημένη ή προγραμματισμένη μέθοδο για να εξαγάγουν δεδομένα ή εξόδους από τις Υπηρεσίες» — αλλά απλώς η προτροπή στο ChatGPT να επαναλαμβάνει τη λέξη για πάντα δεν είναι αυτοματισμός ή προγραμματισμός. Το OpenAI δεν απάντησε σε αίτημα για σχόλιο από το Engadget.

Η συμπεριφορά του chatbot έχει τραβήξει την αυλαία των δεδομένων εκπαίδευσης από τα οποία τροφοδοτούνται οι σύγχρονες υπηρεσίες AI. Οι επικριτές έχουν κατηγορήσει εταιρείες όπως το OpenAI ότι χρησιμοποιούν τεράστιες ποσότητες δεδομένων που είναι διαθέσιμα στο διαδίκτυο για να δημιουργήσουν ιδιόκτητα

προϊόντα

όπως το ChatGPT χωρίς τη συγκατάθεση των ανθρώπων που κατέχουν αυτά τα δεδομένα και χωρίς να τους αποζημιώσουν.