Mit der zunehmenden Verbreitung KI-gestützter medizinischer Geräte erleben wir einen erheblichen Wandel im Gesundheitswesen. Von der Verbesserung der Erkennung und Risikostratifizierung bis hin zur Arzneimittelentwicklung und der klinischen Arbeitsbelastung haben sie ein enormes Potenzial zur Verbesserung der gesundheitlichen Chancengleichheit.
Um diese Innovationen aufzubauen, sind hochwertige, reale medizinische Daten für das Training von KI-Modellen unerlässlich. Um diese Lösungen in die Hände von Ärzten zu bringen und letztendlich den Patienten zu helfen, ist eine strenge behördliche Aufsicht erforderlich. Dieser Prozess stellt sicher, dass die Technologie sicher, effektiv und für den klinischen Einsatz bereit ist.
Warum medizinische KI auf Daten angewiesen ist
Kleine, nicht repräsentative Trainingsdatensätze, die nicht aus der beabsichtigten Population stammen, behindern die KI-Leistung und führen zu einer Reihe von Problemen im Nachhinein, darunter die Verschärfung bestehender Verzerrungen, die Schaffung von Produkten, denen es an Generalisierbarkeit mangelt, und die Erzeugung ungenauer Ergebnisse.
Manchmal sind kleine Datensätze unvermeidbar, insbesondere bei seltenen Krankheiten. Ihre Verwendung über diesen Kontext hinaus führt jedoch zu einer Unterrepräsentation und verringert die Fähigkeit eines KI-Modells, über eine Population hinweg zu verallgemeinern.
Algorithmen, die auf eng begrenzten Populationsstichproben trainiert werden, weisen Einschränkungen bei der Vorhersage, Erkennung und Klassifizierung von Erkrankungen bei größeren Patientengruppen auf, was gesundheitliche Ungleichheiten verschärft und zu schlechteren Patientenergebnissen führt. Wenn Datensätze, die zum Trainieren und Testen eines Modells verwendet werden, nicht repräsentativ für die beabsichtigte Population sind, liefert das Modell möglicherweise keine genauen Ergebnisse, und keine weiteren Tests können die Ergebnisse ordnungsgemäß validieren. Das bedeutet, dass Modelle nicht über die Gruppen hinaus verallgemeinern können, für die sie trainiert wurden. Wenn zusätzliche Informationen (z. B. Kennzeichnung und klinische Berichte) nicht angezeigt werden oder Fehler enthalten, können Modelle, die anhand dieser Daten trainiert und getestet wurden, ebenfalls ungenaue Ergebnisse liefern.
Die Minimierung von Verzerrungen ist ein wesentlicher Aspekt der Trainings- und Testdaten für KI-gestützte Medizingeräte. Das Erkennen und Abmildern potenzieller Verzerrungen ist ebenfalls eine Schlüsselkomponente, auf die sich die Regulierungsbehörden konzentrieren. KI-Voreingenommenheit führt zu einer Vielzahl von Problemen, große und ausreichend unterschiedliche Trainingsdatensätze können jedoch dazu beitragen, diese zu mildern.
Während Trainingsdaten die erste Überlegung sind, müssen Testdaten auch repräsentativ für die beabsichtigte Population sein. Es sollte hochwertig, vielfältig und ausreichend groß sein, um die Genauigkeit und den praktischen Nutzen des Modells zu gewährleisten. Trainings- und Testdaten müssen außerdem angemessen unabhängig sein, um sicherzustellen, dass die Tests die Genauigkeit und Wirksamkeit des Algorithmus wirklich beurteilen und Belege für die Leistung in der Praxis liefern.
Diese Herausforderungen sind nicht nur technischer Natur; Sie wirken sich darauf aus, wie Regulierungsbehörden die Sicherheit und Wirksamkeit von KI-fähigen Geräten bewerten.
Warum ist dies für behördliche Einreichungen wichtig?
Für Kunden, die sich an uns wenden, ist die Vorbereitung auf den Zulassungsantrag ein wichtiger Faktor. Ein roter Faden, den wir sehen, ist die Notwendigkeit, ihre Geräte anhand von Daten aus verschiedenen Regionen, die sie eingeben, zu trainieren und zu testen. Regulierungsbehörden verlangen zunehmend detaillierte Informationen zur Repräsentativität der Daten für neue Medizinprodukte.
Behörden wie die US-amerikanische Food and Drug Administration geben Leitlinien zum Umgang mit dem Datenmanagement heraus, die sich insbesondere auf Schulungs- und Testdaten konzentrieren, die zur Gewährleistung der Wirksamkeit, Genauigkeit und Nützlichkeit medizinischer Geräte verwendet werden. Die Gewährleistung von Transparenz und einer verantwortungsvollen KI-Entwicklung ist der Schlüssel zur Herstellung effektiver Geräte, die den sich ständig weiterentwickelnden gesetzlichen Richtlinien entsprechen.
Oftmals benötigen Regulierungsbehörden eine gründliche Dokumentation und Aufzeichnungen darüber, wie Daten erfasst wurden, wie die Daten für Training und Tests aufgeteilt werden, wie sie verarbeitet, gespeichert und kommentiert werden und noch eine Vielzahl anderer Informationspunkte. Gute Datenpraktiken von Anfang an erleichtern es Entwicklern, die für die Einreichung von Zulassungsanträgen erforderlichen Informationen zusammenzustellen. Wenn Sie wissen, dass die Schulungs- und Testdaten ordnungsgemäß beschafft und verwaltet wurden und umfangreich und vielfältig sind, kann dies dazu beitragen, dass die Regulierungsbehörden keine weitere Validierung verlangen müssen, da sie sicher sein können, dass das Gerät in der vorgesehenen Population genau funktioniert.
Der langsame Zugriff auf die Breite und Vielfalt der benötigten Daten verlangsamt letztendlich die Einreichung von Zulassungsanträgen. Auch eine unzureichende Darstellung in den Trainings- und Testdaten kann ein Grund für die Ablehnung von Zulassungsanträgen sein.
Blick nach vorn
Im Wettlauf um den Einsatz von KI im Gesundheitswesen kommt es auf Geschwindigkeit an. Doch Geschwindigkeit ohne Struktur führt zu Rückschlägen. Medizinische KI-Entwickler, die Daten frühzeitig priorisieren, werden die regulatorische Ziellinie schneller und zuverlässiger überqueren.
Im aktuellen Umfeld geht es bei besseren Daten nicht nur um bessere Algorithmen. Dies ist der Schlüssel zu einer schnelleren Markteinführung, einer besseren klinischen Leistung und einem verbesserten Leben der Patienten.
Foto: Supatman, Getty Images
Joshua Miller ist CEO und Mitbegründer von Gradient Health und hat einen BS/BSE in Informatik und Elektrotechnik von der Duke University. Er hat seine Karriere damit verbracht, Unternehmen aufzubauen, indem er zunächst FarmShots gründete, ein von Y Combinator unterstütztes Startup, das zu einer internationalen Präsenz heranwuchs und 2018 von Syngenta übernommen wurde. Anschließend war er Vorstandsmitglied einer Reihe von Unternehmen und tätigte Angel-Investitionen in über 10 Unternehmen in den Bereichen Umwelttechnologie, Medizin und Fintech.
Dieser Beitrag erscheint über das MedCity Influencers-Programm. Über MedCity Influencer kann jeder seine Sicht auf Wirtschaft und Innovation im Gesundheitswesen auf MedCity News veröffentlichen. Klicken Sie hier, um herauszufinden, wie.
