Diese Woche traf sich FDA-Kommissar Robert Califf auf der HLTH-Konferenz in Las Vegas mit John Brownstein, Chief Innovation Officer am Boston Children’s Hospital, um den aktuellen Stand der KI im Gesundheitswesen sowie die Rolle seiner Behörde bei der Regulierung eines solch dynamischen Bereichs zu besprechen.
„Ich muss hier niemandem erzählen, dass das Feld explodiert ist. Es ist eine echte Herausforderung herauszufinden, wie man zu viel Regulierung in einem Bereich vermeiden kann, in dem viel Kreativität entsteht, die viel Gutes für die Menschheit bewirken kann – aber auch herauszufinden, wo Regulierung genutzt werden kann, um der Branche hoffentlich dabei zu helfen, sich tatsächlich in eine Richtung zu bewegen die Gesundheit der Patienten verbessern. Wir sind eine Regulierungsbehörde, aber wir sind auch eine öffentliche Gesundheitsbehörde“, erklärte Califf.
Im Folgenden sind einige seiner Hauptanliegen in Bezug auf KI im Gesundheitswesen aufgeführt.
Die FDA kann nicht alles im Auge behalten, was da draußen vor sich geht
Es gebe einige Missverständnisse hinsichtlich der Regulierungsstrategie der FDA, bemerkte Califf.
„In fast jeder Branche, die wir regulieren, sind die Leute der Meinung, dass die FDA quasi ständig da ist, um die Dinge zu regulieren. Nun ja, nein. Die Art und Weise, wie es wirklich funktioniert, besteht darin, dass wir Gesetze, Regeln und Richtlinien haben. Wir sind sozusagen der Schiedsrichter im System. Aber die erste Verteidigungslinie besteht darin, dass die Industrie das tut, was sie eigentlich tun soll“, erklärte er.
Im Bereich der KI im Gesundheitswesen müssen Branchenakteure – darunter Gesundheitssysteme, KI-Entwickler und Gesundheitsdatenunternehmen – zusammenkommen und sicherstellen, dass „der Lebenszyklus von Algorithmen ordnungsgemäß durchgeführt wird“, bemerkte Califf.
Die FDA könne dies nicht allein gewährleisten, betonte er.
„Wenn Sie sagen würden: ‚Nun, die FDA muss 100 % davon im Auge behalten‘, dann bräuchten wir eine FDA, die zwei- oder dreimal so groß ist wie derzeit“, sagte Califf.
Anbieter scheinen nicht in der Lage zu sein, eine kontinuierliche KI-Validierung durchzuführen
Nachdem ein KI-Modell bereitgestellt wurde, entwickelt es sich kontinuierlich weiter, bemerkte Califf.
„Es kann sich weiterentwickeln und schlimmer werden, oder es kann sich weiterentwickeln und besser werden“, erklärte er. „Ich liebe den Begriff lokale, wiederkehrende Validierung. Das bedeutet: Wenn Sie wissen möchten, dass Ihre KI tatsächlich das tut, was Sie erwartet haben, müssen Sie sie tatsächlich in der Situation validieren, in der sie verwendet wird. Ich würde nur sagen: Im Moment kenne ich kein einziges Gesundheitssystem in den USA, das in der Lage wäre, diese Validierung durchzuführen.“
Um dieses Problem anzugehen, müsse das Gesundheitswesen sein Datenblockierungsproblem beheben, erklärte Califf.
Um eine fortlaufende Validierungsforschung durchzuführen, müssen Anbieter in der Lage sein, den Gesundheitszustand ihrer Patienten zu verfolgen, unabhängig davon, wo sie behandelt werden oder wo ihre Aufzeichnungen letztendlich gespeichert werden, betonte er. Angesichts des aktuellen Stands der Interoperabilität im Gesundheitswesen sei dies für Anbieter unmöglich, sagte er.
Verschärft KI gesundheitliche Ungleichheiten?
Wenn es um die tief verwurzelten gesundheitlichen Ungleichheiten im US-amerikanischen Gesundheitssystem geht, ist Califf der Ansicht, dass KI „die Kluft noch weiter verstärkt“.
„Ich mache mir große Sorgen darüber, dass Gesundheitssysteme KI hauptsächlich dazu nutzen, Patienten in rentable und nicht profitable Patienten zu unterteilen. Scheint derzeit der größte Einsatz von KI im amerikanischen Gesundheitswesen zu sein. Was wir brauchen, ist, dass KI die Menschen erzieht, die derzeit benachteiligt sind. Und es ist so offensichtlich, dass das passieren könnte, aber man muss sich darauf konzentrieren“, erklärte er.
Die Grundversorgung ist in den USA eine „Katastrophe“.
Wenn man sich die einkommensstarken Länder der Welt ansieht, liegen die USA beim Gesundheitszustand auf dem letzten Platz, betonte Califf.
„Ich sehe bei einem Treffen wie diesem viel Glanz, aber unsere grundlegenden Probleme sind Blockieren und Anpacken. Es ist, als würden wir versuchen, den Touchdown zu machen, aber wir machen nicht einmal die grundlegenden Block- und Tackling-Übungen. Die Grundversorgung in diesem Land ist derzeit eine Katastrophe und daher bekommen die Menschen nicht die grundlegenden Dinge, die sie brauchen“, erklärte er.
Er sagte, er würde gerne mehr Technologie sehen, die den Amerikanern helfen soll, grundlegende Dinge zu tun, wie sich impfen zu lassen oder ihren Blutdruck zu kontrollieren.
„Es gibt einen Grund, warum die Costa-Ricaner fünf Jahre länger leben als die USA. In jedem Viertel gibt es Kliniken für die Grundversorgung. Stellen Sie sich vor, was wir tun könnten, wenn wir die Technologie auf solche Dinge anwenden würden“, bemerkte Califf.
Foto: HLTH
