Täuschen Sie sich nicht: Der Hype um generative KI im Gesundheitswesen ist nach wie vor groß. Insgesamt ist die Branche begeistert vom Potenzial der Technologie, Burnout zu lindern, die betriebliche Effizienz zu steigern und die Behandlungsergebnisse für Patienten zu verbessern – aber die Verantwortlichen im Gesundheitswesen haben noch viel zu tun, wenn es darum geht, die entsprechenden Leitplanken für eine solch neuartige Form der Technologie zu setzen.
Als ich Jason Hill, den Innovationsbeauftragten von Ochsner Health, nach dem Stand der KI-Governance im Gesundheitswesen fragte, sagte er, dass ihn das Thema sehr beschäftigt.
„Ich schlafe die meisten Nächte ein und wache morgens meistens auf, weil ich mir über diese eine Sache Sorgen mache“, bemerkte er letzten Monat während eines Interviews am HLTH in Las Vegas.
Seiner Ansicht nach benötigen Anbieter und andere Gesundheitsorganisationen dringend standardisierte Rahmenwerke, die sie übernehmen können, um sicherzustellen, dass ihre KI-Tools sicher sind und langfristig eine gute Leistung erbringen.
„Wenn ich jetzt Millionen von Dollar hätte, um ein Startup zu gründen, würde ich ein Unternehmen gründen, das einen Qualitätssicherungsrahmen für KI bieten könnte. Meiner Meinung nach geht es nicht darum, ob es reguliert wird, sondern darum, wann und wie es reguliert wird. Das erste Unternehmen, das ein etabliertes System dafür auf den Markt bringt – wenn diese Regulierung in Kraft tritt, von der wir nicht wissen, wann sie kommt – wird der Gewinner sein“, erklärte Hill.
Er geht davon aus, dass künftige KI-Vorschriften zwei Kategorien umfassen werden: die Technologieseite und die Betriebsseite.
Was die Technologie angeht, geht Hill davon aus, dass sich die KI-Vorschriften darauf konzentrieren werden, ob generative KI-Modelle halluzinieren und ob diese Halluzinationen klinisch relevant sind. Auf der operativen Seite müssten die Gesundheitssysteme besser dafür sorgen, dass sie nicht mit dem „New-Shiny-Thing-Syndrom“ infiziert werden, sagte er.
„Wenn die Kardiologie zu mir kommt und sagt: ‚Hey, schauen Sie sich dieses coole Stethoskop an – es erkennt tatsächlich Klappenstenosen und hilft uns, Menschen zu Klappenplastiken zu bewegen.‘ Was ich dann zur Kardiologie sagen würde, ist: „Großartig.“ Sie müssen sich 50 davon ansehen, was diese KI pro Woche ausgibt, und dann müssen Sie ihre Wirksamkeit anhand einer Bewertungsskala von 1 bis 10 beurteilen.“ Dann wird das in den Vertrag eingebaut – und wenn ich diese Ergebnisse länger als vier Wochen nicht sehe, werden wir den Vertrag kündigen. Die Operational-Abteilung muss etwas mitmachen, wenn ihr Ding funktioniert“, erklärte er.
Aus Hill’s Sicht würde er sich wünschen, dass Krankenhausleiter „einen Teil des Hypes nutzen und ihn in eine Verpflichtung umwandeln“.
Er ist davon überzeugt, dass sich die KI-Governance nicht nur auf die Sicherheitsüberprüfungen bezieht, die durchgeführt werden, bevor ein Gesundheitssystem beschließt, ein Instrument in die Praxis umzusetzen. Ebenso wichtig ist ihm die laufende Qualitätssicherung.
Foto: SIphotography, Getty Images
