Η FTC διερευνά το πρόβλημα ψευδαισθήσεων του ChatGPT

Η Ομοσπονδιακή Επιτροπή Εμπορίου ερευνά το

OpenAI

για να προσδιορίσει εάν είναι ή όχι


ChatGPT


Το chatbot AI και άλλα προϊόντα παραβιάζουν τους νόμους για την προστασία των καταναλωτών θέτοντας σε κίνδυνο την προσωπική φήμη και δεδομένα των ανθρώπων. Διευθύνων Σύμβουλος Sam Altman, ο οποίος μέχρι στιγμής το έχει καταφέρει

χαμογελάστε και γνέφετε

Ο δρόμος του να ξεπεράσει τα περισσότερα κυβερνητικά οδοφράγματα, μπορεί να αντιμετωπίσει την πρώτη του πραγματική αντίθεση από την ανοιχτά μαχητική υπηρεσία προστασίας των καταναλωτών.

Η FTC ζήτησε από την OpenAI να παραδώσει μια μακρά λίστα εγγράφων που χρονολογούνται από την 1η Ιουνίου 2020, συμπεριλαμβανομένων λεπτομερειών σχετικά με τον τρόπο αξιολόγησης των κινδύνων στα συστήματα τεχνητής νοημοσύνης της και πώς προστατεύει από την τεχνητή νοημοσύνη που κάνει ψευδείς δηλώσεις για πραγματικούς ανθρώπους,


Επιστολή 20 σελίδων


που έλαβε η Washington Post. Οι ερευνητές ζητούν μεγάλο εύρος πληροφοριών σχετικά με τον τρόπο με τον οποίο το OpenAI εκπαιδεύει τα μεγάλα γλωσσικά του μοντέλα, συμπεριλαμβανομένων των ακριβών τύπων δεδομένων στα οποία εκπαιδεύεται, του τρόπου με τον οποίο έλαβε αυτά τα δεδομένα και του βαθμού στον οποίο αυτά τα δεδομένα συλλέχθηκαν με απόξεση του ανοιχτού ιστού. Παρά το όνομα της εταιρείας, το OpenAI ήταν

σχολιάζει την ακριβή προέλευση των δεδομένων που χρησιμοποιούνται για την εκπαίδευση των μοντέλων της

.

Ομοίως, η επιστολή της FTC απαιτεί από την OpenAI να παρέχει μια περιγραφή των παραπόνων που έχει λάβει σε αυτό το σημείο του συστήματός της κάνοντας «ψευδείς, παραπλανητικές, απαξιωτικές ή επιβλαβείς» δηλώσεις για τους ανθρώπους. Ερευνητές και δημοσιογράφοι έχουν δείξει επανειλημμένα παραδείγματα ChatGPT και άλλων LLM που «παραισθάνονται» κατασκευασμένες πληροφορίες εναντίον ατόμων. Σε ένα παράδειγμα

αναφέρθηκε για πρώτη φορά από το Gizmodo

, Το ChatGPT φέρεται να εισήγαγε έναν παρουσιαστή τοκ σόου σε μια δικαστική υπόθεση υπεξαίρεσης με την οποία δεν είχε καμία σχέση. Αυτός ο ραδιοφωνικός παρουσιαστής τώρα μηνύει το OpenAI για συκοφαντική δυσφήμιση. Η FTC λέει ότι θέλει να μάθει τα βήματα που έλαβε το OpenAI για να φιλτράρει ή να ανωνυμοποιήσει τις προσωπικές πληροφορίες που περιλαμβάνονται στο σύνολο δεδομένων της και τα βήματα που έχει λάβει για να μειώσει την πιθανότητα τα μοντέλα της να δημιουργούν κατασκευασμένες δηλώσεις για ανθρώπους.

Η FTC θέλει επίσης να μάθει περισσότερα για τις πολιτικές και τις διαδικασίες του OpenAI για την αξιολόγηση της ασφάλειας και του κινδύνου πριν κυκλοφορήσει τα προϊόντα της στο κοινό. Εκτός από τα έγγραφα που περιγράφουν λεπτομερώς τα βήματα που έγιναν πριν από την κυκλοφορία των συστημάτων του, η υπηρεσία κάλεσε το OpenAI να παράσχει παραδείγματα περιπτώσεων κατά τις οποίες η εταιρεία επέλεξε

δεν

να ξεκινήσει ένα LLM για λόγους ασφαλείας. Ενώ τα περισσότερα από τα αιτήματα στην επιστολή της FTC ήταν ευρείας φύσης, ο οργανισμός αλίευσε συγκεκριμένα το α


Περιστατικό ασφαλείας Μαρτίου


όπου ένα σφάλμα στο σύστημά του επέτρεπε σε ορισμένους χρήστες να βλέπουν τα αρχεία καταγραφής συνομιλιών άλλων ατόμων και τις πληροφορίες που σχετίζονται με τις πληρωμές. Το OpenAI χρειάστηκε να βάλει το ChatGPT εκτός σύνδεσης για να αντιμετωπίσει αυτό το ζήτημα.

Το OpenAI δεν απάντησε αμέσως στο αίτημα του Gizmodo για σχολιασμό. Οι FT

Ο C αρνήθηκε να σχολιάσει.

Ομάδες επιτήρησης τεχνολογίας που ενδιαφέρονται για την ταχεία διάθεση μοντέλων του OpenAI, όπως το Tech Oversight Project, καλωσόρισαν την αυξημένη δράση της FTC. Σε μια δήλωση που εστάλη στο Gizmodo, ο Αναπληρωτής Εκτελεστικός Διευθυντής του Έργου Oversight, Kyle Morse, χαρακτήρισε την ιστορία του OpenAI να βγάζει νέα προϊόντα στο κοινό «απερίσκεπτη και ανεύθυνη».

«Μεγάλοι τεχνολογικοί κολοσσοί παίζουν να κρύβουν τη μπάλα στην τεχνητή νοημοσύνη με το Κογκρέσο και τον αμερικανικό λαό ζωγραφίζοντας ένα αποκαλυπτικό μέλλον, ενώ αυτή τη στιγμή κόβουν επιθετικά τον ανταγωνισμό, καταχρώνται το απόρρητο των ανθρώπων και αφήνουν τις απάτες να είναι αχαλίνωτες», είπε ο Μορς.

Η FTC θα μπορούσε να παρουσιάσει εμπόδιο στην επίθεση γοητείας του Sam Altman

Η έρευνα της FTC θα μπορούσε να σηματοδοτήσει τη μεγαλύτερη ρυθμιστική δοκιμή για το OpenAI στις ΗΠΑ μέχρι σήμερα. Σε αυτό το σημείο, ο Διευθύνων Σύμβουλος Άλτμαν κατάφερε να βγει μπροστά σε πολλούς από τους δικαιολογημένους και μερικές φορές εντυπωσιακούς φόβους γύρω από την τεχνητή νοημοσύνη που παπαγαλίζουν νομοθέτες και από τις δύο πλευρές του πολιτικού φάσματος. Άλτμαν

κατέθεσε ενώπιον της υποεπιτροπής Δικαιοσύνης της Γερουσίας

νωρίτερα φέτος και κυρίως έγνεψε καταφατικά και σε συμφωνία με τους νομοθέτες που εξέφραζαν ανησυχία για το σύστημά του. Ο Διευθύνων Σύμβουλος είπε ότι και αυτός ανησυχεί και χαιρέτισε την ιδέα νέων κανονισμών, φτάνοντας μάλιστα στο σημείο να υποστηρίξει τον καθορισμό νέων απαιτήσεων δοκιμών AI και αδειοδότησης για τους προγραμματιστές. Ο Άλτμαν απέρριψε ευγενικά ένα αίτημα ενός γερουσιαστή να ηγηθεί ενός νέου πράκτορα που θα επιβλέπει αυτά τα πρότυπα.

«Λατρεύω την τρέχουσα δουλειά μου», είπε ο Άλτμαν.

Ο Άλτμαν φέρεται να έχει αφήσει μόνιμη εντύπωση σε δεκάδες νομοθέτες


συνεδριάσεις κεκλεισμένων των θυρών


και ήταν μεταξύ πολλών συμμετεχόντων που


συναντήθηκε με την αντιπρόεδρο Kamala Harris στον Λευκό Οίκο


για να συζητήσουμε την υπεύθυνη τεχνητή νοημοσύνη. Εκτός Κογκρέσου, ο Άλτμαν έχει

υπογεγραμμένες προειδοποιητικές επιστολές

τρόπους με τους οποίους η μη ελεγχόμενη τεχνητή νοημοσύνη θα μπορούσε να απειλήσει την ανθρωπότητα.

Όλες αυτές οι προσπάθειες προβολής έχουν αναδείξει τον Altman και το OpenAI ως υπεύθυνους παράγοντες όπως ακριβώς οι νομοθέτες σκέφτονται να συντάξουν μια σειρά από νέα νομοσχέδια που προορίζονται να βασιλέψουν στην τεχνητή νοημοσύνη. Η FTC, από την άλλη πλευρά, φάνηκε λιγότερο δεκτική στην επίθεση του Altman. Τους τελευταίους μήνες, το πρακτορείο δημοσίευσε πολλές αναρτήσεις ιστολογίου


προειδοποιητικές εταιρείες


ενάντια στην υπερπροσπάθεια που αυξάνει τις ικανότητες του συστήματος AI τους και


προειδοποιώντας τους καταναλωτές


απατεώνων που χρησιμοποιούν τεχνητή νοημοσύνη για να διαπράξουν απάτη. Ούτε η πρόεδρος της FTC, Lina Khan, δεν μάσησε τα λόγια και μάλιστα δημοσίευσε ένα άρθρο στους

New York

Times με τον αμβλύ τίτλο “


Πρέπει να ρυθμίσουμε την τεχνητή νοημοσύνη τώρα


.»

«Αν και αυτά τα εργαλεία είναι νέα, δεν εξαιρούνται από τους υφιστάμενους κανόνες και η FTC θα επιβάλει σθεναρά τους νόμους που είμαστε επιφορτισμένοι να διαχειριζόμαστε, ακόμη και σε αυτή τη νέα αγορά», έγραψε ο Khan.