Die kürzlich vom Büro des Nationalen Koordinators für Gesundheits-IT (ONC) veröffentlichte endgültige Regelung zu Gesundheitsdaten, Technologie und Interoperabilität (HTI-1) hat bahnbrechende Transparenzanforderungen für künstliche Intelligenz (KI) und Vorhersagealgorithmen eingeführt, die in zertifizierten Gesundheits-IT-Systemen verwendet werden .
Da ONC-zertifizierte Gesundheits-IT die Versorgung von mehr als 96 % der Krankenhäuser und 78 % der niedergelassenen Ärzte unterstützt, wird dieser Regulierungsansatz weitreichende Auswirkungen auf die Gesundheitsbranche haben.
Während EHR/EMR-Anbieter versuchen, diese neuen Vorschriften einzuhalten, müssen sie Neuland und häufig verwirrendes Terrain beschreiten und sich den Herausforderungen stellen, die sich aus der Komplexität und Undurchsichtigkeit leistungsstarker KI-Tools, einschließlich Large Language Models (LLMs), ergeben.
Das Potenzial und die Herausforderungen von Large Language Models (LLMs)
LLMs sind eine Art KI, die große Datenmengen, wie zum Beispiel unstrukturierte klinische Notizen, analysieren kann, um Erkenntnisse und Empfehlungen zu generieren. Während LLMs das Potenzial haben, die prädiktive Entscheidungsunterstützung im Gesundheitswesen zu revolutionieren, ist es aufgrund ihrer inhärenten Komplexität und „Black-Box“-Natur schwierig zu verstehen, wie sie zu ihren Schlussfolgerungen gelangen. Diese Undurchsichtigkeit stellt EHR-Anbieter, die sich auf diese Modelle verlassen, um die Transparenzanforderungen der HTI-1 Final Rule zu erfüllen, vor erhebliche Herausforderungen.
Die FAVES-Kriterien verstehen
Die HTI-1 Final Rule führt die FAVES-Kriterien (Fairness, Angemessenheit, Gültigkeit, Wirksamkeit und Sicherheit) als Rahmen für die Bewertung der Transparenz und Verantwortlichkeit von KI und Vorhersagealgorithmen ein. EHR/EMR-Anbieter müssen sicherstellen, dass klinische Benutzer auf einen konsistenten Basissatz an Informationen über die Algorithmen zugreifen können, die sie zur Unterstützung der Entscheidungsfindung verwenden. Anbieter müssen nachweisen, dass ihre Systeme jedes dieser Kriterien erfüllen:
Fairness: Algorithmen müssen frei von Voreingenommenheit und Diskriminierung sein und eine gerechte Behandlung aller Patienten gewährleisten. Angemessenheit: Algorithmen müssen für ihre beabsichtigten Anwendungsfälle geeignet sein und die Privatsphäre und Autonomie des Patienten respektieren. Gültigkeit: Algorithmen müssen auf fundierten wissenschaftlichen Prinzipien basieren und mithilfe strenger Test- und Bewertungsmethoden validiert werden. Wirksamkeit: Algorithmen müssen eine tatsächliche Wirksamkeit bei der Verbesserung der Patientenergebnisse und der klinischen Entscheidungsfindung nachweisen. Sicherheit: Algorithmen müssen sicher in der Anwendung sein und von geeigneten Überwachungs-, Berichts- und Risikominderungsmaßnahmen begleitet sein.
Evidenzbasierte vs. prädiktive Entscheidungsunterstützung
Die HTI-1 Final Rule unterscheidet zwischen evidenzbasierten Entscheidungsunterstützungstools, wie z. B. Diagnoseaufforderungen und Laborwarnungen außerhalb des zulässigen Bereichs, und prädiktiven Entscheidungsunterstützungssystemen, die auf LLMs und anderen KI-Algorithmen basieren. Während evidenzbasierte Tools nicht im Vordergrund der neuen Vorschriften stehen, unterliegen prädiktive Entscheidungsunterstützungssysteme strengen Transparenzanforderungen, was ihr größeres Schadenspotenzial widerspiegelt, wenn sie nicht ordnungsgemäß validiert und überwacht werden.
Vorbereitung auf die ONC-Zertifizierungskriterien
Um die Zertifizierung aufrechtzuerhalten und die HTI-1 Final Rule einzuhalten, müssen EHR/EMR-Anbieter die Entwicklung der ONC-Zertifizierungskriterien, deren Veröffentlichung voraussichtlich bis Ende des Jahres erfolgen wird, genau überwachen. Anbieter sollten ihren aktuellen und geplanten Einsatz von LLMs und anderen Vorhersagealgorithmen proaktiv bewerten und sicherstellen, dass sie bereit sind, detaillierte Informationen zu Trainingsdaten, potenziellen Verzerrungen und Entscheidungsprozessen bereitzustellen. Die Nichteinhaltung dieser Anforderungen kann zum Verlust der Zertifizierung und des Marktanteils führen.
Die Bedeutung von Zusammenarbeit und Transparenz
Während sich die Gesundheitsbranche in dieser neuen Landschaft der algorithmischen Transparenz bewegt, wird die Zusammenarbeit zwischen EHR/EMR-Anbietern, Gesundheitsdienstleistern und Regulierungsbehörden von entscheidender Bedeutung sein. Durch die Zusammenarbeit bei der Etablierung von Best Practices, dem Wissensaustausch und der Bewältigung potenzieller Herausforderungen kann die Branche sicherstellen, dass die Vorteile von KI und LLMs im Gesundheitswesen ausgeschöpft werden und gleichzeitig die Sicherheit und das Vertrauen der Patienten an erster Stelle stehen. Auch Gesundheitsdienstleister spielen eine entscheidende Rolle bei der Bereitstellung von Feedback zur Genauigkeit und Nützlichkeit prädiktiver Entscheidungsunterstützungstools und tragen so dazu bei, diese Systeme im Laufe der Zeit zu verfeinern.
Die HTI-1 Final Rule stellt einen bedeutenden Schritt vorwärts dar, um den verantwortungsvollen und ethischen Einsatz von KI und prädiktiven Algorithmen im Gesundheitswesen sicherzustellen. Während sich die Branche weiterentwickelt, werden EHR/EMR-Anbieter, die Transparenz, Zusammenarbeit und patientenzentrierte Innovation in den Vordergrund stellen, gut auf die bevorstehenden Herausforderungen und Chancen vorbereitet sein. Durch die Nutzung algorithmischer Transparenz und die Zusammenarbeit bei der Etablierung von Best Practices kann die Gesundheitsgemeinschaft die Leistungsfähigkeit der KI nutzen, um die Patientenversorgung und -ergebnisse zu verbessern und gleichzeitig das Vertrauen von Patienten und Anbietern gleichermaßen aufrechtzuerhalten.
Foto: Metamorworks, Getty Images
Dr. Jay Anders ist Chief Medical Officer von Medicomp Systems. Dr. Anders unterstützt die Produktentwicklung und fungiert als Repräsentant und Sprachrohr für die Ärzte- und Gesundheitsgemeinschaft, der die Produkte von Medicomp dienen. Bevor er zu Medicomp kam, war Dr. Anders als Chief Medical Officer für McKesson Business Performance Services tätig, wo er für die Unterstützung der Entwicklung klinischer Informationssysteme für das Unternehmen verantwortlich war. Er war auch maßgeblich an der Leitung der ersten Integration der Quippe-Arztdokumentation von Medicomp in ein EHR beteiligt. Dr. Anders leitet den klinischen Beirat von Medicomp und arbeitet eng mit Ärzten und Krankenschwestern zusammen, um sicherzustellen, dass alle Medicomp-Produkte auf der Grundlage der Benutzerbedürfnisse und -präferenzen entwickelt werden, um die Benutzerfreundlichkeit zu verbessern.
