Λίγοι δικηγόροι θα ήταν αρκετά ανόητοι για να αφήσουν μια τεχνητή νοημοσύνη να διατυπώσει τα επιχειρήματά τους, αλλά ένας έχει ήδη κάνει, και ο δικαστής Brantley Starr λαμβάνει μέτρα για να διασφαλίσει ότι η καταστροφή δεν θα επαναληφθεί του αίθουσα δικαστήριου.
Ο ομοσπονδιακός δικαστής του Τέξας πρόσθεσε μια απαίτηση ότι οποιοσδήποτε δικηγόρος εμφανίζεται στο δικαστήριο του πρέπει να βεβαιώνει ότι «κανένα μέρος του φακέλου δεν συντάχθηκε από γενετική τεχνητή νοημοσύνη» ή αν ήταν, ότι ελέγχθηκε «από άνθρωπο».
Την περασμένη εβδομάδα, ο δικηγόρος Στίβεν Σβαρτς επέτρεψε στο ChatGPT να «συμπληρώσει» τη νομική του έρευνα σε μια πρόσφατη ομοσπονδιακή κατάθεση, παρέχοντάς του έξι υποθέσεις και σχετικό προηγούμενο — όλα αυτά είχαν εντελώς ψευδαισθήσεις από το γλωσσικό μοντέλο. Αυτός τώρα «Λυπάμαι πολύ» που το έκανε αυτόκαι ενώ η εθνική κάλυψη αυτής της γκάφας προκάλεσε πιθανώς οποιονδήποτε άλλο δικηγόρο σκέφτηκε να το ξανασκεφτεί, ο δικαστής Σταρ δεν ρισκάρει.
Στην ομοσπονδιακή τοποθεσία για τη Βόρεια Περιφέρεια του Τέξας, ο Starr έχει, όπως και άλλοι δικαστές, την ευκαιρία να θέσει συγκεκριμένους κανόνες για την αίθουσα του δικαστηρίου του. Και προστέθηκε πρόσφατα (αν και δεν είναι σαφές εάν αυτό ήταν ως απάντηση στην προαναφερθείσα κατάθεση) είναι το «Υποχρεωτική πιστοποίηση σχετικά με τη γενετική τεχνητή νοημοσύνη». Ευγένιος Βολόχ ανέφερε πρώτος την είδηση.
Όλοι οι δικηγόροι που εμφανίζονται ενώπιον του Δικαστηρίου πρέπει να καταθέσουν στο φάκελο πιστοποιητικό που να βεβαιώνει είτε ότι κανένα τμήμα του φακέλου δεν συντάχθηκε από γενετική τεχνητή νοημοσύνη (όπως ChatGPT, Harvey.AI ή Google Bard) είτε ότι οποιαδήποτε γλώσσα που συντάχθηκε από γενετική τεχνητή νοημοσύνη ήταν ελέγχεται για ακρίβεια, χρησιμοποιώντας έντυπους ρεπόρτερ ή παραδοσιακές νομικές βάσεις δεδομένων, από άνθρωπο.
Επισυνάπτεται ένα έντυπο για να υπογράψουν οι δικηγόροι, σημειώνοντας ότι «οι παραθέσεις, οι παραπομπές, οι παραφρασθέντες ισχυρισμοί και η νομική ανάλυση» καλύπτονται όλα από αυτήν την απαγόρευση. Δεδομένου ότι η περίληψη είναι ένα από τα δυνατά κουστούμια της τεχνητής νοημοσύνης και η εύρεση και η περίληψη προηγούμενων ή προηγούμενων υποθέσεων είναι κάτι που έχει διαφημιστεί ως δυνητικά χρήσιμο σε νομικές εργασίες, αυτό μπορεί να καταλήξει να παίζει πιο συχνά από το αναμενόμενο.
Όποιος συνέταξε το μνημόνιο για αυτό το θέμα στο γραφείο του δικαστή Starr έχει το δάχτυλό του στον παλμό. Η απαίτηση πιστοποίησης περιλαμβάνει μια αρκετά καλά ενημερωμένη και πειστική εξήγηση της αναγκαιότητάς της (προστίθενται διακοπές γραμμής για αναγνωσιμότητα):
Αυτές οι πλατφόρμες είναι απίστευτα ισχυρές και έχουν πολλές χρήσεις στον νόμο: διαζύγια, αιτήματα ανακάλυψης, προτεινόμενα λάθη σε έγγραφα, αναμενόμενες ερωτήσεις κατά την προφορική συζήτηση. Αλλά η νομική ενημέρωση δεν είναι ένα από αυτά. Να γιατί.
Αυτές οι πλατφόρμες στην τρέχουσα κατάστασή τους είναι επιρρεπείς σε παραισθήσεις και προκαταλήψεις. Στις παραισθήσεις, φτιάχνουν πράγματα —ακόμα και αποσπάσματα και παραπομπές. Ένα άλλο ζήτημα είναι η αξιοπιστία ή η προκατάληψη. Ενώ οι δικηγόροι ορκίζονται να παραμερίσουν τις προσωπικές τους προκαταλήψεις, προκαταλήψεις και πεποιθήσεις για να τηρούν πιστά το νόμο και να εκπροσωπούν τους πελάτες τους, η γενετική τεχνητή νοημοσύνη είναι προϊόν προγραμματισμού που επινοήθηκε από ανθρώπους που δεν χρειάστηκε να ορκιστούν τέτοιο όρκο.
Ως εκ τούτου, αυτά τα συστήματα δεν έχουν καμία πίστη σε κανέναν πελάτη, το κράτος δικαίου ή τους νόμους και το Σύνταγμα των Ηνωμένων Πολιτειών (ή, όπως αναφέρθηκε παραπάνω, την αλήθεια). Χωρίς να δεσμεύονται από οποιαδήποτε αίσθηση καθήκοντος, τιμής ή δικαιοσύνης, τέτοια προγράμματα ενεργούν σύμφωνα με κώδικα υπολογιστή και όχι με πεποίθηση, βασισμένα στον προγραμματισμό και όχι σε αρχές. Κάθε μέρος που πιστεύει ότι μια πλατφόρμα έχει την απαιτούμενη ακρίβεια και αξιοπιστία για νομική ενημέρωση μπορεί να ζητήσει άδεια και να εξηγήσει γιατί.
Με άλλα λόγια, να είστε έτοιμοι να δικαιολογήσετε τον εαυτό σας.
Αν και πρόκειται για έναν μόνο δικαστή σε ένα δικαστήριο, δεν θα ήταν περίεργο αν άλλοι θεωρούσαν αυτόν τον κανόνα ως δικό τους. Ενώ όπως λέει το δικαστήριο, αυτή είναι μια ισχυρή και δυνητικά χρήσιμη τεχνολογία, η χρήση της πρέπει τουλάχιστον να δηλώνεται σαφώς και να ελέγχεται για ακρίβεια.
