Προβλήματα με μια δημοφιλή πρόταση για τη ρύθμιση της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη

By | February 7, 2024

ΕΝΑΚαθώς οι ηγέτες των ομοσπονδιακών πρακτορείων πιέζουν γρήγορα τους κανονισμούς για την τεχνητή νοημοσύνη στην υγειονομική περίθαλψη, μια πρόταση φαίνεται τώρα πολύ μεγάλη για να αποτύχει.

Αυτή η πρόταση στοχεύει στην εφαρμογή εργαστηρίων διασφάλισης τεχνητής νοημοσύνης – μέρη όπου οι δημιουργοί μοντέλων τεχνητής νοημοσύνης μπορούν να αναπτύξουν και να δοκιμάσουν μοντέλα τεχνητής νοημοσύνης σύμφωνα με τυπικά κριτήρια που θα καθορίζονται από τις ρυθμιστικές αρχές.

Πολλά από τα μεγαλύτερα ονόματα και οργανισμούς στον τομέα της τεχνητής νοημοσύνης στον τομέα της υγείας έχουν υιοθετήσει την ιδέα, η οποία περιγράφηκε στη σκηνή στην ετήσια συνάντηση του Γραφείου του Εθνικού Συντονιστή για την Τεχνολογία Πληροφοριών Υγείας, που δημοσιεύτηκε σε μια μεγάλη ειδική ανακοίνωση της JAMA και παρουσιάστηκε σε μια αποκλειστική έκθεση από την STAT. Η πρόταση προωθείται από τους ηγέτες του Coalition for Healthcare AI (CHAI) με ισχυρή υποστήριξη από δύο κορυφαίες ρυθμιστικές αρχές – τον ​​Εθνικό Συντονιστή για την Υγεία IT και τον διευθυντή του Κέντρου Αριστείας στην Ψηφιακή Υγεία της Υπηρεσίας Τροφίμων και Φαρμάκων. Η πρόταση ανταποκρίνεται στο πρόσφατο εκτελεστικό διάταγμα του Προέδρου Μπάιντεν, το οποίο ζητά την ανάπτυξη υποδομών διασφάλισης τεχνητής νοημοσύνης. Η πρόταση στο JAMA τελειώνει με ένα αίτημα για χρηματοδότηση από «ένα μικρό αριθμό εργαστηρίων διασφάλισης που πειραματίζονται με αυτές τις διαφορετικές προσεγγίσεις και συγκεντρώνουν στοιχεία ότι η δημιουργία τέτοιων εργαστηρίων μπορεί να εκπληρώσει τους στόχους που ορίζονται στο Εκτελεστικό Διάταγμα».

Είναι λογικό ότι υπάρχει τόση ενέργεια πίσω από αυτή την ιδέα. Τα εργαστήρια διασφάλισης τεχνητής νοημοσύνης μπορούν να λύσουν ένα μικρό κομμάτι των προκλήσεων της τεχνητής νοημοσύνης που αντιμετωπίζουν οι πάροχοι υγειονομικής περίθαλψης. Το προτεινόμενο δίκτυο εργαστηρίων διασφάλισης τεχνητής νοημοσύνης θα μπορούσε να διαφοροποιήσει τα προϊόντα που έχουν καλή απόδοση σε διάφορες τοποθεσίες από εκείνα που δεν έχουν. Για παράδειγμα, το δίκτυο εργαστηρίων διασφάλισης θα μπορούσε να δοκιμάσει δεκάδες μοντέλα πρόβλεψης σήψης για να εντοπίσει αποτελεσματικά τα προϊόντα τεχνητής νοημοσύνης με την καλύτερη απόδοση σε διάφορες τοποθεσίες. Οι πάροχοι υγειονομικής περίθαλψης και οι ασθενείς θα μπορούσαν να επωφεληθούν από μεγαλύτερη διαφάνεια που εμποδίζει την υιοθέτηση ελαττωματικών προϊόντων τεχνητής νοημοσύνης.

Ωστόσο, η πρόταση αφήνει σημαντικά κενά και πιθανότατα θα επιδεινώσει το ψηφιακό χάσμα που εμποδίζει πολλά ιατρικά περιβάλλοντα με φτωχούς πόρους να χρησιμοποιούν την τεχνητή νοημοσύνη με ασφάλεια και αποτελεσματικότητα. Το λέμε αυτό ως ειδικοί τεχνητής νοημοσύνης με άμεση εμπειρία στην επαλήθευση και τη διαχείριση προϊόντων τεχνητής νοημοσύνης σε περιβάλλοντα με ένταση πόρων.

Για αρχή, η πρόταση των εργαστηρίων διασφάλισης AI δεν αντιμετωπίζει την άνιση κατανομή των δυνατοτήτων διακυβέρνησης AI. Η STAT ανέφερε ότι τα αρχικά εργαστήρια διασφάλισης τεχνητής νοημοσύνης θα βρίσκονται στο Duke, τη Mayo Clinic και το Stanford, όλα τα μεγάλα συστήματα υγείας και τα ακαδημαϊκά ιατρικά κέντρα που διαθέτουν ήδη σημαντική τεχνογνωσία στην τεχνητή νοημοσύνη. Ενώ τα πλούσια σε πόρους ιδρύματά μας μπορούν να επωφεληθούν από τη χρηματοδότηση εργαστηρίων διασφάλισης τεχνητής νοημοσύνης, αναγνωρίζουμε την ανάγκη να κατευθύνουμε την προσοχή και τους πόρους σε περιβάλλοντα διαφορετικά από το δικό μας που είναι λιγότερο ικανά να διεξάγουν αποτελεσματικά διασφάλιση τεχνητής νοημοσύνης. Εκτός από την επένδυση σε έναν μικρό αριθμό εργαστηρίων διασφάλισης τεχνητής νοημοσύνης, παροτρύνουμε τις ομοσπονδιακές ρυθμιστικές αρχές να επενδύσουν τολμηρά σε ικανότητες, υποδομές και τεχνική βοήθεια τεχνητής νοημοσύνης για την προώθηση της ασφαλούς, αποτελεσματικής και δίκαιης χρήσης της τεχνητής νοημοσύνης σε περιβάλλοντα με φτωχούς πόρους.

Η πρόταση προβάλλει ένα μη πειστικό επιχείρημα ότι οι ομοσπονδιακές επενδύσεις σε εργαστήρια διασφάλισης τεχνητής νοημοσύνης σε μέρη όπως το Duke, η Mayo Clinic και το Stanford προωθούν την ισότητα στην υγεία. Η ομάδα των συγγραφέων, συμπεριλαμβανομένων των εξέχων ρυθμιστικών αρχών, δηλώνει: «Μια εναλλακτική λύση θα ήταν να επιτραπεί στα συστήματα υγείας να δημιουργήσουν τα δικά τους τοπικά εργαστήρια διασφάλισης. Αν και είναι δυνατή για μεγάλα συστήματα υγείας και ακαδημαϊκά ιατρικά κέντρα, αυτή η εναλλακτική λύση δεν θα ήταν επεκτάσιμη… η ύπαρξη τέτοιων εργαστηρίων θα επιδείνωνε επίσης την ανισότητα σε επίπεδο συστήματος υγείας, με συστήματα με καλύτερους πόρους ικανά να παρέχουν ισχυρότερη προστασία». Σε μια χώρα που μαστίζεται από συστημικές ανισότητες στην υγεία, φαίνεται ανειλικρινές να προτείνουμε ότι η επένδυση σε έναν μικρό αριθμό ελίτ ιδρυμάτων υγειονομικής περίθαλψης βελτιώνει τη διασφάλιση της τεχνητής νοημοσύνης σε περιβάλλοντα με φτωχούς πόρους περισσότερο από την άμεση επένδυση στην οικοδόμηση δυνατοτήτων σε περιβάλλοντα με φτωχούς πόρους.

Η δική μας εργασία για τη συνεργατική διακυβέρνηση αποκαλύπτει ότι η άμεση λογοδοσία για τις επιπτώσεις της χρήσης συστημάτων τεχνητής νοημοσύνης θα παραμείνει στους παρόχους υγειονομικής περίθαλψης πρώτης γραμμής, είτε είναι πλούσιοι σε πόρους είτε με έλλειψη πόρων. Είναι τελικά υπεύθυνοι για την αξιολόγηση του «τελευταίου μιλίου» της τεχνητής νοημοσύνης. Οι ομοσπονδιακές ρυθμιστικές αρχές και οι εθνικοί συνεργάτες, όπως το CHAI και το HAIP, πρέπει να ανταποκριθούν στην πρόκληση της κλίμακας για να δημιουργήσουν προγράμματα που να εξουσιοδοτούν όλους τους παρόχους υγειονομικής περίθαλψης να εκτελούν αυτές τις κρίσιμες λειτουργίες.

Υπάρχουν επίσης δύο βασικά κενά στην πρόταση. Πρώτον, οι κανονισμοί και οι επενδύσεις πρέπει να λαμβάνουν υπόψη τις διαφορές μεταξύ των προτεραιοτήτων και των ανησυχιών των δημιουργών, των ρυθμιστών και των φορέων υλοποίησης προϊόντων τεχνητής νοημοσύνης. Στην πράξη, οι πιο περίπλοκες προκλήσεις που αντιμετωπίζουν οι πάροχοι υγειονομικής περίθαλψης βρίσκονται πέρα ​​από τους τομείς της συναίνεσης. Για παράδειγμα, σε συνεντεύξεις με σχεδόν 90 ενδιαφερόμενους φορείς σε 10 οργανισμούς υγειονομικής περίθαλψης, διαπιστώσαμε ότι οι περισσότεροι οργανισμοί προτιμούν να επικυρώνουν προϊόντα τεχνητής νοημοσύνης τοπικά πριν από την κλινική χρήση. Οι αναλύσεις που πραγματοποιήθηκαν στο Stanford, τη Mayo Clinic και το Duke δεν μπορούν να εξηγήσουν την τοπική διακύμανση στους πόρους, τους πληθυσμούς και τις λειτουργίες των περισσότερων από 6.000 νοσοκομείων στις Ηνωμένες Πολιτείες. Ακόμα κι αν ένας προμηθευτής τεχνητής νοημοσύνης προσφέρει σε έναν πάροχο υγειονομικής περίθαλψης δεδομένα επικύρωσης από εργαστήριο διασφάλισης τεχνητής νοημοσύνης, ο πάροχος υγειονομικής περίθαλψης θα θέλει να επιβεβαιώσει την ανάλυση τοπικά.

Διαπιστώσαμε επίσης ότι οι πάροχοι υγειονομικής περίθαλψης συχνά αξιολογούν προϊόντα τεχνητής νοημοσύνης με τρόπους που υπερβαίνουν τα όρια των κανονισμών του FDA και του Γραφείου του Εθνικού Συντονιστή για τις Τεχνολογίες Πληροφοριών Υγείας. Μέχρι σήμερα, εκπρόσωποι αυτών των δύο ομοσπονδιακών υπηρεσιών είναι οι πιο εξέχοντες υποστηρικτές των εργαστηρίων διασφάλισης AI . Για παράδειγμα, πολλοί πάροχοι υγειονομικής περίθαλψης αναπτύσσουν εσωτερικές διαδικασίες για την αξιολόγηση των επιπτώσεων των προϊόντων τεχνητής νοημοσύνης στις ανισότητες υγείας, ανταποκρινόμενοι στους γενικούς εισαγγελείς του κράτους και στα τοπικά γραφεία δημόσιας υγείας. Οι πάροχοι υγειονομικής περίθαλψης υπόκεινται σε ανταγωνιστικές πιέσεις από το κοινό, τους προγραμματιστές και τις ρυθμιστικές αρχές σε διαφορετικά επίπεδα και απαιτούν εξατομικευμένη υποστήριξη.

Ο δεύτερος λόγος για τον οποίο τα εργαστήρια διασφάλισης τεχνητής νοημοσύνης θα είχαν περιορισμένο αντίκτυπο στην πρώτη γραμμή της υγειονομικής περίθαλψης είναι ότι τα προϊόντα τεχνητής νοημοσύνης δεν μπορούν να αξιολογηθούν ουσιαστικά σε καλά ελεγχόμενα περιβάλλοντα πυριτίου. Στο διάσημο βιβλίο του «Deep Medicine», ο Eric Topol διέκρινε σε δοκιμές πυριτίου, όπως αυτές που θα γίνονταν στα προτεινόμενα εργαστήρια, από προοπτικές κλινικές μελέτες. Η Topol τόνισε ότι στις δοκιμές silico που περιλαμβάνουν «η ανάλυση ενός υπάρχοντος συνόλου δεδομένων είναι αρκετά διαφορετικές από τη συλλογή δεδομένων σε ένα πραγματικό κλινικό περιβάλλον». Τη στιγμή που μια τεχνολογία AI χρησιμοποιείται στην πρώτη γραμμή, γίνεται ένα κοινωνικο-τεχνικό σύστημα που αλλάζει τον τρόπο με τον οποίο συμπεριφέρονται και αλληλεπιδρούν οι άνθρωποι. Η απόδοση της λύσης AI εξαρτάται πολύ περισσότερο από τις συμπεριφορές των χρηστών και τις αλλαγές στο εργασιακό περιβάλλον παρά από ποσοτικά μέτρα που μπορούν να υπολογιστούν από ένα εργαστήριο διασφάλισης AI.

Πολλές μελέτες το έχουν αποδείξει αυτό: το μοντέλο Epic σήψης απέτυχε να ανταποκριθεί στους τεχνικούς στόχους απόδοσης της Michigan Medicine αλλά μείωσε τη θνησιμότητα σε μια προοπτική τυχαιοποιημένη δοκιμή στο Metro Health στο Οχάιο. εξειδικευμένα ευρετικά ενσωματώθηκαν σε ένα μοντέλο HIV για τη βελτίωση της εμπιστοσύνης μεταξύ των ιατρικών χρηστών, αν και η αλλαγή επιδείνωσε την ιδιαιτερότητα του μοντέλου. και η εργασία στο Duke για την εφαρμογή ενός μοντέλου περιφερικής αρτηριακής νόσου σχεδιάστηκε για να αντιμετωπίσει τις ανισότητες στην υγεία, ενώ απέτυχε να εντοπίσει τις δομικές προκλήσεις που διαιωνίζουν τις ανισότητες. Αυτές οι μελέτες απαιτούν συχνά την ενσωμάτωση κοινωνικών επιστημόνων σε κλινικά περιβάλλοντα όπου εφαρμόζεται η τεχνητή νοημοσύνη. Και είναι αδύνατο να επιτευχθούν αυτοί οι τύποι μάθησης χωρίς να εξουσιοδοτηθούν οι πάροχοι υγειονομικής περίθαλψης να εκτελούν οι ίδιοι δραστηριότητες διασφάλισης τεχνητής νοημοσύνης.

Ευτυχώς, υπάρχει μια πορεία προς τα εμπρός, χρησιμοποιώντας έναν συνδυασμό εργαστηρίων διασφάλισης τεχνητής νοημοσύνης με μεγάλες επενδύσεις σε τεχνική υποδομή και περιφερειακά κέντρα προσέγγισης για την παροχή επιτόπιας τεχνικής βοήθειας σε παρόχους υγειονομικής περίθαλψης που δεν διαθέτουν πόρους. Αυτή η προσέγγιση βασίζεται σε προηγούμενες επενδύσεις της ομοσπονδιακής κυβέρνησης το 2009 συνολικού ύψους άνω των 30 δισεκατομμυρίων δολαρίων για την υποστήριξη της εφαρμογής ηλεκτρονικών αρχείων υγείας σε όλους σχεδόν τους οργανισμούς υγειονομικής περίθαλψης. Ενώ υπάρχουν πολλές έγκυρες επικρίσεις για τα ΗΜΥ που δεν θέλουμε να επαναλάβουμε για την τεχνητή νοημοσύνη (π.χ. κακή σχεδίαση, επαχθή ροές εργασίας, περιορισμένες βελτιώσεις στα αποτελέσματα των ασθενών), υπήρχε ένα μεγάλο πράγμα που οι ομοσπονδιακές υπηρεσίες έκαναν σωστό: να επιτρέψουν την ταχεία εφαρμογή. Η χρηματοδότηση κάλυψε την αγορά της τεχνολογίας καθώς και ένα δίκτυο 62 περιφερειακών κέντρων προσέγγισης «για την παροχή επιτόπιας τεχνικής βοήθειας σε ιατρεία μεμονωμένων και μικρών παρόχων, ιατρικές πρακτικές χωρίς πόρους για την εφαρμογή και διατήρηση ΗΜΥ και εκείνων που παρέχουν πρωτοβάθμια φροντίδα σε δημόσια νοσοκομεία και κρίσιμα πρόσβαση σε νοσοκομεία, κοινοτικά κέντρα υγείας και άλλες εγκαταστάσεις που εξυπηρετούν κατά κύριο λόγο όσους δεν διαθέτουν κάλυψη ή επαρκή ιατρική περίθαλψη».

Πρέπει να προσεγγίσουμε τη διασφάλιση τεχνητής νοημοσύνης σήμερα με την ίδια φιλοδοξία και επείγουσα ανάγκη με την οποία προσεγγίσαμε τις εφαρμογές EHR πριν από 15 χρόνια. Οι ρυθμιστικές αρχές πρέπει να επενδύσουν σε ένα χαρτοφυλάκιο προγραμμάτων που υπερβαίνουν τις δοκιμές πυριτίου για να υποστηρίξουν τη χρήση της τεχνητής νοημοσύνης σε πραγματικούς, ποικίλους κλινικούς χώρους.

Ο Mark Sendak, MD, MPP, είναι επικεφαλής της υγείας του πληθυσμού και της επιστήμης δεδομένων στο Duke Institute for Health Innovation και συνεπικεφαλής της Health AI Partnership. Ο Nicholson Price, JD, Ph.D., είναι καθηγητής Νομικής στο Πανεπιστήμιο του Μίσιγκαν. Ο Karandeep Singh, MD, MPH, είναι διευθυντής AI στο Πανεπιστήμιο της Καλιφόρνια, στο San Diego Health. Ο Suresh Balu είναι διευθυντής του Duke Institute for Health Innovation και συνεπικεφαλής της Health AI Partnership.

Leave a Reply

Your email address will not be published. Required fields are marked *