Seit Jahren spekulieren führende Köpfe der Gesundheits- und Technologiebranche darüber, wie KI die Gesundheitsversorgung verändern kann. Zwar wurden bei klinischen Anwendungen – beispielsweise bei Diagnosetools – einige Fortschritte erzielt, doch Abarca sieht einen entscheidenden Anwendungsfall, der allen eine bessere Erfahrung bieten kann: die Generierung eines höheren Nutzens aus Gesundheitsdaten.
Aufgrund ihrer Beziehungen zu Kostenträgern, Anbietern und Verbrauchern sind PBMs in einzigartiger Weise in der Lage, KI zu nutzen, um Reibungsverluste bei den Apothekenleistungen zu vermeiden. Die Integration von KI und maschinellem Lernen ist jedoch nicht einfach. Spencer Ash, stellvertretender Direktor für Benutzererfahrung bei Abarca, und Simon Nyako, leitender Manager für versicherungsmathematische Dienste des Unternehmens, sprachen kürzlich mit MedCity News über die Chancen und Herausforderungen bei der Einführung von KI und maschinellem Lernen im Gesundheitswesen sowie über die Bedeutung der Beibehaltung einer menschlichen Note.
Hinweis: Dieses Interview wurde aus Gründen der Klarheit bearbeitet.
Wenn man bedenkt, wie die meisten Gesundheitsunternehmen ihre Daten verwalten und organisieren, wie schwierig wird es für sie sein, künstliche Intelligenz zu implementieren und ihre Nutzung auszuweiten?
Spencer Ash: Daten werden oft in unterschiedlichen Systemen erfasst und/oder auf unterschiedlichen Servern gespeichert, was es schwierig macht, all diese Informationen an einem Ort miteinander zu interagieren. Das ist eine große Herausforderung, insbesondere für generative KI, die viel Orientierung braucht, wo sie Daten herbekommt.
Eine weitere Herausforderung sind gesetzliche Vorschriften wie HIPAA, die geschützte Gesundheitsinformationen und andere sensible persönliche Daten abdecken. Daher ist es noch wichtiger, die Quelle der Daten zu kennen und zu berücksichtigen und sicherzustellen, dass sie angemessen verwaltet werden.
Es gibt eine Reihe weiterer potenzieller Hürden, darunter Interoperabilität – die branchenweit eine ständige Herausforderung darstellt – sowie Datenintegrität und -genauigkeit. Und auch die ethischen Aspekte einiger dieser potenziellen Datenanwendungen müssen berücksichtigt werden. Je nach Organisation könnten diese Faktoren die Implementierung von KI sehr schwierig machen. Aber diese Art von Arbeit bringt auch Vorteile, die über diese Technologie hinausgehen, und ich glaube, dass sie den Aufwand wert ist.
Was sind Ihrer Erfahrung als PBM zufolge die besten kurzfristigen Einsatzmöglichkeiten für diese Technologien?
Simon Nyako: Maschinelles Lernen wird überall dort hilfreich sein, wo es um Vorhersagen geht, da es dabei helfen kann, besser zu definieren, was mit einer Sache als Reaktion auf eine andere passieren wird – was bei PBMs häufig vorkommt. Beispiele hierfür sind die Optimierung von Rezepturen, die Netzwerkoptimierung und die Trendanalyse, bei denen eine Änderung viele damit verbundene Komponenten beeinflusst.
Was die generative KI betrifft, bin ich wirklich begeistert von dem Potenzial, Menschen dabei zu helfen, mit ihren Daten gesprächiger umzugehen, eine Frage in natürlicher Sprache einzugeben und eine Antwort zu erhalten. Dies kann Menschen dazu befähigen, bei ihren Analysen neugieriger zu sein und ihnen ermöglichen, zusätzliche Informationen abzurufen und zu untersuchen, ohne eine weitere Anfrage an ihr Datenteam senden zu müssen.
Ash: Ein konkretes Beispiel hierfür wäre die Automatisierung vorheriger Genehmigungen. Bei manueller Durchführung kann es zeitaufwändig sein, die Genehmigung des Kostenträgers einzuholen, selbst nachdem ein Medikament verschrieben wurde. Infolgedessen erhält der Patient seine Medikamente nicht sofort, was erhebliche Auswirkungen auf die Gesundheit haben könnte. Mithilfe von Algorithmen können jedoch Patientendaten, klinische Richtlinien und Richtlinien des Kostenträgers analysiert werden, um den Prozess zu rationalisieren, den Verwaltungsaufwand zu verringern und den Zugriff zu beschleunigen.
Ebenso kann diese Technologie eingesetzt werden, um ein weiteres hartnäckiges Problem im Gesundheitswesen anzugehen: die Einhaltung der Medikamenteneinnahme. Daten wie das Nachfüllverhalten und frühere Reaktionen auf Interventionen können genutzt werden, um zu verstehen und vorherzusagen, welche Mitglieder ihre Behandlung wahrscheinlich abbrechen werden, sodass Schritte unternommen werden können, um mögliche Auswirkungen auf ihre Gesundheit zu verringern.
Die Anwendungsfälle für KI sind nahezu endlos, aber diese Beispiele unterstreichen ihr Potenzial, die Gesundheitsversorgung für Verbraucher zugänglicher, effektiver und sicherer sowie für Kostenträger, Anbieter und andere Interessengruppen einfacher zu gestalten.
Wo hat Abarca KI und maschinelles Lernen implementiert?
Nyako: Abarca arbeitet an der Implementierung von maschinellem Lernen auf verschiedene Weise – unter anderem, um die Möglichkeiten der vorherigen Genehmigung und der Einhaltung von Medikamenten zu berücksichtigen, die wir zuvor angesprochen haben. Aber wir suchen ständig nach neuen Anwendungen dieser Technologie und nach Möglichkeiten, wie sie unsere Technologie und Dienstleistungen bereichern kann.
Wir haben es beispielsweise in unseren Betrugs-, Verschwendungs- und Missbrauchsprozess (FWA) integriert, um mögliche Fälle für eine Untersuchung effizienter zu identifizieren. Wir verfügen auch über ein Programm, das die Einhaltung der Medikamenteneinnahme verbessert, indem es maschinelles Lernen nutzt, um Patienten zu identifizieren und nach Risikofaktoren zu klassifizieren, die möglicherweise nicht mehr therapietreu sind. So ist eine frühere und effektivere Intervention möglich.
Weniger formell nutzen wir KI und maschinelles Lernen auch ad hoc für Analysen, um mehr Erkenntnisse und Nutzen aus unseren Daten zu ziehen. Das mag einfach erscheinen, aber diese Vorgehensweise hat einen Trickle-Down-Effekt, der nicht nur bei unseren Teamkollegen, sondern auch bei unseren Kunden und den Mitgliedern, die wir betreuen, zu einem besseren Verständnis und Innovationen führen kann.
Welche Erkenntnisse könnten Ihrer Meinung nach dazu beitragen, den Einsatz von KI und maschinellem Lernen im Gesundheitswesen zu beschleunigen?
Nyako: Überstürzen Sie die Datenerkundung nicht. Sie ist zwar nicht das Highlight des Prozesses, aber der wichtigste Teil: Sie müssen wissen, was Sie in das maschinelle Lernmodell einspeisen. Um ein starkes Modell zu entwickeln, müssen Sie unter anderem die Beziehung der Daten zum Ziel und den Wertebereich in den Daten verstehen.
Als Zweites möchte ich Sie auf die Bedeutung von Kommunikation und klaren Erwartungen hinweisen. In den meisten Fällen versteht ein Fachexperte, der die Anfrage an das Datenteam stellt, den erforderlichen Prozess nicht vollständig. Es kann überraschend sein, wie lange es dauert, bis wir die ersten Ergebnisse sehen oder wie viele Anpassungsrunden notwendig sind, um ein brauchbares Modell zu erhalten. Die Teammitglieder müssen auch verstehen, dass es keine Garantie dafür gibt, dass wir brauchbare Ergebnisse liefern können – manche Dinge sind einfach unvorhersehbar.
Ash: Es gibt viele typische Fallen, in die Einzelpersonen und Organisationen tappen können, wenn sie mit maschinellem Lernen und KI arbeiten. Eine davon ist, sich auf Technologie um der Technologie willen zu konzentrieren. Es ist wichtig, den Kontext wirklich zu verstehen, wie die Technologie eingesetzt wird, welche Ergebnisse man erreichen möchte und wie man die Lösung in die Welt hinausträgt. Man kann das Schiff nicht einfach von selbst segeln lassen. Man muss ihm unterwegs ein wenig Führung und Zuneigung geben.
Und das bringt mich zu einer weiteren wichtigen Lektion: Der Mensch muss im Mittelpunkt dieser Prozesse stehen. In vielen Fällen bedeutet das nicht nur, beim Entwickeln den Endbenutzer im Auge zu behalten, sondern ihn bei jedem Schritt zu unterstützen. Ein Designer kann beispielsweise ein Apothekentool erstellen, das alle Best Practices für UX befolgt, aber das bedeutet nicht, dass es Ergebnisse liefern kann, die für Apotheker ideal sind.
Die Technologie hat möglicherweise das Potenzial, das Gesundheitswesen grundlegend zu verändern, doch ohne die entsprechende Verwaltung ist eine sinnvolle Weiterentwicklung nicht möglich.
Welche Herausforderungen stellen KI-„Halluzinationen“ dar und welche Risiken bergen sie im Gesundheitswesen?
Ash: Halluzinationen treten auf, wenn KI-Systeme auf der Grundlage der Daten, mit denen sie gefüttert wurden, und der Prozesse, die sie zu befolgen gelernt haben, irreführende oder falsche Ergebnisse generieren. Wenn wir im Gesundheitswesen ein System mit Patientendaten, Medikamentendaten, klinischen Protokollen und dergleichen füttern, möchten wir nicht, dass es Vermutungen anstellt. Die Folgen dieses Problems im Gesundheitswesen können schwerwiegend sein – es kann zu Fehldiagnosen und Patientenschäden führen – und müssen um jeden Preis vermieden werden. Daher wird es entscheidend sein, dass wir proaktiv daran arbeiten, sicherzustellen, dass diese Systeme streng getestet, validiert und überwacht werden, um das Fehlerrisiko zu minimieren. Und wir müssen auch sicherstellen, dass wir keine Verzerrungen oder Ungenauigkeiten in die Daten einbringen.
Nyako: Die Halluzinationen sind meist das Ergebnis davon, dass die KI die Frage nicht versteht und nicht gut genug Bescheid weiß, um nachzufragen. In einem Geschäftskontext werden Sie Modelle entwickeln wollen, die speziell auf eine Aufgabe oder einen Bereich zugeschnitten sind, um die Voreingenommenheit zu beseitigen und sicherzustellen, dass die Fragen richtig interpretiert werden. Aber in vielen der Anwendungen, die ich sehe, wird zwischen der Antwort der KI und dem Endergebnis ein Fachmann stehen. Es geht also darum, sicherzustellen, dass die Leute verstehen, dass KI nicht unfehlbar ist und dass sie ihr professionelles Urteilsvermögen einsetzen müssen, um zu bewerten, was sie zurückgibt, und sicherzustellen, dass es vernünftig ist.
Ash: Menschliche Aufsicht ist von größter Bedeutung. Anbieter müssen beim Aufbau dieser Systeme mit Datenwissenschaftlern und KI-Ingenieuren zusammenarbeiten, um ein optimales Gleichgewicht zu erreichen und das Risiko zu minimieren. Unsere Mission bei Abarca ist es, positive Gesundheitsergebnisse zu beeinflussen und voranzutreiben und die Gesundheitsversorgung für alle nahtlos und personalisiert zu gestalten. Diese Tools können uns dabei helfen, dieses Ziel zu erreichen, aber wir müssen die Risiken erkennen und alles tun, was wir können, um sie zu minimieren.
Foto: Yuichiro Chino, Getty Images
