Η τρομακτική αλήθεια πίσω από την τεχνητή νοημοσύνη στην υγειονομική περίθαλψη – Τι δεν σας λένε οι αρχές!

Αυτό το άρθρο δημοσιεύθηκε αρχικά στις



KFF Health News



.

Οι νομοθέτες και οι ρυθμιστικές αρχές στην Ουάσιγκτον αρχίζουν να προβληματίζονται σχετικά με τον τρόπο ρύθμισης της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη – και ο κλάδος της τεχνητής νοημοσύνης πιστεύει ότι υπάρχει μια καλή πιθανότητα να το μπερδέψουν.

«Είναι ένα απίστευτα τρομακτικό πρόβλημα», δήλωσε ο Μπομπ Γουάχτερ, πρόεδρος του Τμήματος Ιατρικής στο Πανεπιστήμιο της Καλιφόρνια-

Σαν Φρανσίσκο

. «Υπάρχει κίνδυνος να έρθουμε με τα όπλα να φουντώνουν και να υπερρυθμίζουμε».

Ήδη, ο αντίκτυπος της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη είναι ευρέως διαδεδομένος. Ο Οργανισμός Τροφίμων και Φαρμάκων

έχει εγκρίνει

περίπου 692 προϊόντα τεχνητής νοημοσύνης. Οι αλγόριθμοι βοηθούν στον προγραμματισμό ασθενών, στον καθορισμό των επιπέδων στελέχωσης στα επείγοντα, ακόμη και στη μεταγραφή και σύνοψη των κλινικών επισκέψεων για εξοικονόμηση χρόνου των γιατρών. Αρχίζουν να βοηθούν τους ακτινολόγους να διαβάζουν μαγνητική τομογραφία και ακτινογραφίες. Ο Wachter είπε ότι μερικές φορές συμβουλεύεται ανεπίσημα μια έκδοση του GPT-4, ενός

μεγάλο

υ γλωσσικού μοντέλου από την εταιρεία OpenAI, για περίπλοκες περιπτώσεις.

Το εύρος του αντίκτυπου της τεχνητής νοημοσύνης – και η δυνατότητα για μελλοντικές αλλαγές – σημαίνει ότι η κυβέρνηση έχει ήδη καλύψει τη διαφορά.

«Οι υπεύθυνοι χάραξης πολιτικής είναι τρομερά πίσω από την εποχή», δήλωσε σε ένα email ο Michael Yang, ανώτερος διευθυντικός εταίρος στην OMERS Ventures, μια εταιρεία επιχειρηματικών κεφαλαίων. Οι συνομήλικοι του Yang έχουν κάνει τεράστιες επενδύσεις στον τομέα. Η Rock Health, μια εταιρεία επιχειρηματικών κεφαλαίων, λέει ότι οι χρηματοδότες έχουν διαθέσει σχεδόν 28 δισεκατομμύρια δολάρια σε εταιρείες ψηφιακής υγείας που ειδικεύονται στην τεχνητή νοημοσύνη.

Ένα ζήτημα με το οποίο αντιμετωπίζουν οι ρυθμιστικές αρχές, είπε ο Wachter, είναι ότι, σε αντίθεση με τα φάρμακα, τα οποία θα έχουν την ίδια

χημεία

σε πέντε χρόνια από τώρα όπως και σήμερα, η τεχνητή νοημοσύνη αλλάζει με την πάροδο του χρόνου. Ωστόσο, η διακυβέρνηση διαμορφώνεται, με τον Λευκό Οίκο και πολλές υπηρεσίες που εστιάζουν στην υγεία να αναπτύσσουν κανόνες για τη διασφάλιση της διαφάνειας και της ιδιωτικής ζωής. Το Κογκρέσο παρουσιάζει επίσης έντονο ενδιαφέρον. Η Επιτροπή Οικονομικών της Γερουσίας πραγματοποίησε ακρόαση στις 8 Φεβρουαρίου σχετικά με την τεχνητή νοημοσύνη στην υγειονομική περίθαλψη.

Μαζί με τους κανονισμούς και τη νομοθεσία έρχεται και η αυξημένη πίεση. CNBC

μέτρησε μια αύξηση 185%.

στον αριθμό των οργανισμών που αποκαλύπτουν δραστηριότητες lobbying AI το 2023. Ο

εμπ

ορικός όμιλος TechNet έχει ξεκινήσει μια πρωτοβουλία 25 εκατομμυρίων δολαρίων, συμπεριλαμβανομένων αγορών τηλεοπτικών διαφημίσεων, για να εκπαιδεύσει τους θεατές σχετικά με τα οφέλη της τεχνητής νοημοσύνης.

«Είναι πολύ δύσκολο να γνωρίζουμε πώς να ρυθμίζουμε έξυπνα την τεχνητή νοημοσύνη, καθώς βρισκόμαστε τόσο νωρίς στη φάση της εφεύρεσης της τεχνολογίας», δήλωσε σε ένα email ο Bob Kocher, συνεργάτης με την εταιρεία επιχειρηματικών κεφαλαίων Venrock που υπηρέτησε στο παρελθόν στην κυβέρνηση Ομπάμα.

Ο Kocher έχει μιλήσει σε γερουσιαστές σχετικά με τη ρύθμιση της τεχνητής νοημοσύνης. Τονίζει ορισμένες από τις δυσκολίες που θα αντιμετωπίσει το σύστημα υγείας στην υιοθέτηση των προϊόντων. Οι γιατροί – που αντιμετωπίζουν κινδύνους αμέλειας – μπορεί να είναι επιφυλακτικοί στη χρήση τεχνολογίας που δεν κατανοούν για τη λήψη κλινικών αποφάσεων.

Μια ανάλυση των δεδομένων του Census Bureau από τον Ιανουάριο από την εταιρεία συμβούλων Capital Economics διαπίστωσε ότι το 6,1% των επιχειρήσεων υγειονομικής περίθαλψης σχεδίαζαν να χρησιμοποιήσουν τεχνητή νοημοσύνη τους επόμενους έξι μήνες, περίπου στο μέσο των 14 τομέων που συμμετείχαν στην έρευνα.

Όπως κάθε ιατρικό προϊόν, τα συστήματα τεχνητής νοημοσύνης μπορούν να εγκυμονούν κινδύνους για τους ασθενείς, μερικές φορές με νέο τρόπο. Ένα παράδειγμα: Μπορεί να φτιάξουν πράγματα.

Ο Wachter θυμήθηκε έναν συνάδελφο, ως δοκιμή, που ανέθεσε στο GPT-3 του OpenAI να γράψει μια επιστολή προηγούμενης εξουσιοδότησης σε έναν ασφαλιστή για μια σκόπιμα «παράξενη» συνταγή: ένα αραιωτικό

αίμα

τος για τη θεραπεία της αϋπνίας ενός ασθενούς.

Αλλά το AI «έγραψε μια όμορφη σημείωση», είπε. Το σύστημα παρέθεσε τόσο πειστικά την «πρόσφατη βιβλιογραφία» που η συνάδελφος της Wachter αναρωτήθηκε για λίγο αν είχε χάσει μια νέα γραμμή έρευνας. Αποδείχθηκε ότι το chatbot το είχε φτιάξει.

Υπάρχει ήδη ο κίνδυνος μεγέθυνσης της προκατάληψης του AI στο σύστημα υγειονομικής περίθαλψης. Ιστορικά, οι έγχρωμοι άνθρωποι έχουν λάβει λιγότερη φροντίδα από τους λευκούς ασθενείς. Μελέτες δείχνουν, για παράδειγμα, ότι οι μαύροι ασθενείς με κατάγματα είναι λιγότερο πιθανό να λάβουν παυσίπονα από τους λευκούς. Αυτή η μεροληψία μπορεί να δημιουργηθεί όταν η τεχνητή νοημοσύνη εκπαιδεύεται σε αυτά τα δεδομένα και στη συνέχεια ενεργεί.

Έρευνα για την τεχνητή νοημοσύνη

που αναπτύσσονται από μεγάλες ασφαλιστικές εταιρείες

επιβεβαίωσε ότι συνέβη. Όμως το πρόβλημα είναι πιο διαδεδομένο. Ο Wachter είπε ότι η UCSF δοκίμασε ένα προϊόν για να προβλέψει μη εμφανίσεις για κλινικά ραντεβού. Οι ασθενείς που κρίνεται απίθανο να εμφανιστούν για επίσκεψη είναι πιο πιθανό να κάνουν διπλή κράτηση.

Το τεστ έδειξε ότι οι έγχρωμοι ήταν πιο πιθανό να μην εμφανιστούν. Είτε το εύρημα ήταν ακριβές είτε όχι, «η ηθική απάντηση είναι να ρωτήσετε γιατί συμβαίνει αυτό και υπάρχει κάτι που μπορείτε να κάνετε», είπε ο Wachter.

Πέρα από τη διαφημιστική εκστρατεία, αυτοί οι κίνδυνοι πιθανότατα θα συνεχίσουν να τραβούν την προσοχή με την πάροδο του χρόνου. Οι ειδικοί της τεχνητής νοημοσύνης και οι αξιωματούχοι του FDA έχουν τονίσει την ανάγκη για διαφανείς αλγόριθμους, οι οποίοι παρακολουθούνται μακροπρόθεσμα από ανθρώπινα όντα—ρυθμιστές και εξωτερικούς ερευνητές. Τα προϊόντα τεχνητής νοημοσύνης προσαρμόζονται και αλλάζουν καθώς ενσωματώνονται νέα δεδομένα. Και οι επιστήμονες θα αναπτύξουν νέα προϊόντα.

Οι υπεύθυνοι χάραξης πολιτικής θα πρέπει να επενδύσουν σε νέα συστήματα για την παρακολούθηση της τεχνητής νοημοσύνης με την πάροδο του χρόνου, δήλωσε η καθηγήτρια του Πανεπιστημίου του Σικάγο Katherine Baicker, η οποία κατέθεσε στην ακρόαση της Επιτροπής Οικονομικών. «Η μεγαλύτερη πρόοδος είναι κάτι που δεν έχουμε σκεφτεί ακόμη», είπε σε συνέντευξή της.

KFF Health News



είναι ένα εθνικό newsroom που παράγει εις βάθος δημοσιογραφία για θέματα υγείας και είναι ένα από τα βασικά προγράμματα λειτουργίας του KFF—μια ανεξάρτητη πηγή έρευνας, δημοσκοπήσεων και δημοσιογραφίας για την πολιτική υγείας. Μάθε περισσότερα για



KFF



.

Εγγραφείτε



στη δωρεάν πρωινή ενημέρωση του KFF Health News.