Έντονη ανησυχία προκαλεί το γεγονός ότι πολλά νοσοκομεία με πρώτα αυτά στις ΗΠΑ βασίζονται σε εργαλεία τεχνητής νοημοσύνης που βοηθούν όχι μόνο στη διάγνωση αλλά και σε άλλες εργασίες, όπως να διαχωρίζουν τα κρίσιμα περιστατικά και να μεταγράφουν κλινικές σημειώσεις σε νοσοκομεία σε όλη τη χώρα.
Ωστόσο, η μέθοδος έγκρισης των ιατρικών προϊόντων AI δεν εξασφαλίζει την απόλυτη ασφάλεια και χρησιμότητά τους, υποστηρίζουν ερευνητές σε έκθεση που δημοσιεύθηκε στις 5 Ιουνίου στον ιστότοπο επιστημονικών ερευνών PLOS Digital Health, και την οποία αναδημοσίευσε το περιοδικό Nature.
Χωρίς την κατάλληλη εποπτεία, υπάρχει κίνδυνος οι ιατρικοί αλγόριθμοι να δίνουν παραπλανητικές συστάσεις και να θέτουν σε κίνδυνο τη φροντίδα των ασθενών. «Πρέπει να υπάρχουν διασφαλίσεις», λέει ο Λίο Άντονι Τσέλι, κλινικός ερευνητής στο Massachusetts Institute of Technology (MIT) στο Cambridge και συν-συγγραφέας της έκθεσης: «Και νομίζω ότι το να βασιζόμαστε στην FDA για να θεσπίσει όλες αυτές τις διασφαλίσεις δεν είναι ρεαλιστικό – είναι ίσως ακόμη και αδύνατο».
Τα κριτήρια που χρησιμοποιεί η FDA για την αξιολόγηση και την έγκριση των ιατρικών εργαλείων τεχνητής νοημοσύνης είναι συχνά λιγότερο αυστηρά από αυτά που ισχύουν για τα φάρμακα.
Παγκόσμιες επιπτώσεις
Δεδομένου ότι και πολλές άλλες χώρες βασίζονται στην FDA για να λάβουν τις δικές τους αποφάσεις, η προσέγγισή της θα μπορούσε να έχει παγκόσμιες επιπτώσεις.
Σύμφωνα με την FDA, μόνο τα εργαλεία που ενδέχεται να ενέχουν υψηλότερο κίνδυνο για τους ασθενείς υποχρεούνται να υποβληθούν σε κλινικές δοκιμές. Μια άλλη ανησυχία είναι ότι οι ιατρικοί αλγόριθμοι συχνά έχουν κακή απόδοση όταν εφαρμόζονται σε πληθυσμούς που διαφέρουν από αυτούς για τους οποίους έχουν εκπαιδευτεί. Λόγω αυτών των περιορισμών, η έγκριση από τις ρυθμιστικές αρχές δεν εγγυάται ότι ένα ιατρικό προϊόν τεχνητής νοημοσύνης είναι ευεργετικό για τους ανθρώπους που προορίζεται να βοηθήσει, τονίζει ο Τσέλι.
Ιδανικά, τα νοσοκομεία θα πρέπει να αξιολογούν την απόδοση των αλγορίθμων στους δικούς τους ασθενείς και να εκπαιδεύουν τους ιατρούς στο πώς να ερμηνεύουν τα αποτελέσματα και να ανταποκρίνονται κατάλληλα πριν υιοθετήσουν αυτές τις τεχνολογίες.
«Μία από τις μεγαλύτερες προκλήσεις είναι ότι η συντριπτική πλειονότητα των νοσοκομείων και των κλινικών δεν διαθέτει τους πόρους για να προσλάβει ομάδες τεχνητής νοημοσύνης για να πραγματοποιήσουν τέτοιες δοκιμές», λέει ο Τσέλι, προσθέτοντας ότι μια μελέτη που δημοσιεύθηκε φέτος διαπίστωσε ότι πολλά νοσοκομεία αγοράζουν εργαλεία τεχνητής νοημοσύνης «έτοιμα προς χρήση» και τα χρησιμοποιούν χωρίς τοπική – πολιτειακή επικύρωση. «Αυτό είναι συνταγή για καταστροφή», όπως λέει.
Στην έκθεσή τους, ο Τσέλι και οι συν-συγγραφείς του προτείνουν τα πανεπιστήμια να συνεργαστούν με ιδρύματα υγειονομικής περίθαλψης για να αξιολογήσουν την ποιότητα των ιατρικών συσκευών τεχνητής νοημοσύνης.
«Να βοηθήσουν το τμήμα πληροφορικής του νοσοκομείου, να προετοιμάσουν τα σύνολα δεδομένων, να εκτελέσουν τα μοντέλα, να αξιολογήσουν τους αλγόριθμους και να παρακολουθήσουν τον αντίκτυπό τους», λέει.
«Αυτό δεν έχει γίνει ποτέ στο παρελθόν, αλλά πιστεύουμε ότι οι παραδοσιακές δομές δεν θα αρκέσουν», δεδομένης της ταχύτητας με την οποία εξελίσσονται οι τεχνολογίες, προσθέτει.
Το «μπαλάκι» των ευθυνών αξιολόγησης
Η FDA δεν έχει την εξουσία να υποχρεώσει τα νοσοκομεία να πραγματοποιούν τέτοιες δοκιμές μετά την έγκριση. «Αυτό δεν εμπίπτει καθόλου στην αρμοδιότητά της», λέει η Μισέλ Μέλλο, ερευνήτρια στον τομέα του δικαίου της υγείας στο Πανεπιστήμιο του Στάνφορντ στην Καλιφόρνια. «Πάντα ήταν θέμα ποιος, εκτός από την FDA, θα εμπλέκεται και τι θα κάνει».
Ένας άλλος υποψήφιος «επίβλεψης» είναι τα Κέντρα για τις Υπηρεσίες Medicare & Medicaid (CMS), μια ομοσπονδιακή υπηρεσία των ΗΠΑ που διαχειρίζεται τη δημόσια ασφάλιση υγείας για ηλικιωμένους και άτομα με χαμηλό εισόδημα, μεταξύ άλλων, λέει η Μέλλο. Θα έχει την εξουσία να απαιτεί από τους οργανισμούς υγειονομικής περίθαλψης να υιοθετήσουν πιο αυστηρές αξιολογήσεις των εργαλείων τεχνητής νοημοσύνης ως προϋπόθεση για τη λήψη πληρωμών μέσω δημόσιων προγραμμάτων ασφάλισης, σημειώνει, προσθέτοντας ότι τα CMS έχουν μείνει σχετικά ανεπηρέαστα από τις πρόσφατες ομοσπονδιακές περικοπές.
Ο Ντέιβιντ Ούγιανγκ, καρδιολόγος στο Cedars–Sinai Medical Center στο Λος Άντζελες της Καλιφόρνια, τονίζει επίσης τον ρόλο που μπορούν να διαδραματίσουν οι εταιρείες ασφάλισης υγείας στην ενθάρρυνση της διεξαγωγής πιο διεξοδικών δοκιμών των εργαλείων τεχνητής νοημοσύνης. Λέει ότι ένας από τους λόγους για τους οποίους πολλά εργαλεία που έχουν εγκριθεί από την FDA δεν έχουν υιοθετηθεί ευρέως είναι ότι δεν καλύπτονται από την ασφάλιση.
Οι ασφαλιστικές εταιρείες, προσθέτει, μπορούν να απαιτήσουν πιο αυστηρή αξιολόγηση ως προϋπόθεση για την κάλυψη. «Το επίπεδο αποδεικτικών στοιχείων για την ασφάλιση είναι στην πραγματικότητα υψηλότερο από το επίπεδο της FDA», λέει. «Υπάρχουν λοιπόν και άλλα εμπόδια στη χρήση της τεχνητής νοημοσύνης», όπως υπογραμμίζει.