Im letzten Jahrzehnt haben Führungskräfte auf der ganzen Welt darüber debattiert, wie KI verantwortungsvoll in die klinische Versorgung integriert werden kann. Obwohl es viele Diskussionen zu diesem Thema gab, fehlt es im Gesundheitswesen immer noch an einem umfassenden, gemeinsamen Rahmen zur Steuerung der Entwicklung und des Einsatzes von KI. Da Gesundheitsorganisationen nun in den umfassenderen Hype um generative KI verwickelt sind, ist die Notwendigkeit dieses gemeinsamen Rahmenwerks dringender denn je.
Führungskräfte aus der gesamten Branche äußerten während der HIMSS24-Konferenz, die letzten Monat in Orlando stattfand, ihre Gedanken darüber, wie der Gesundheitssektor sicherstellen kann, dass der Einsatz von KI ethisch und verantwortungsvoll ist. Nachfolgend finden Sie einige der bemerkenswertesten Ideen, die sie geteilt haben.
Zusammenarbeit ist ein Muss
Während es in der Gesundheitsbranche an einer gemeinsamen Definition dafür mangelt, wie verantwortungsvoller KI-Einsatz aussieht, gibt es viele Gesundheitssysteme, Start-ups und andere Gesundheitsorganisationen, die ihre eigenen Regeln haben, um ihre ethische KI-Strategie zu leiten, betonte Brian Anderson, CEO von Coalition for Health AI (CHAI), in einem Interview.
Gesundheitsorganisationen aus allen Bereichen der Branche müssen zusammenkommen und diese Rahmenwerke auf den Tisch bringen, um zu einem gemeinsamen Konsens für die gesamte Branche zu gelangen, erklärte er.
Seiner Ansicht nach müssen Führungskräfte im Gesundheitswesen zusammenarbeiten, um der Branche Standardrichtlinien für Dinge wie die Messung der Genauigkeit eines großen Sprachmodells, die Bewertung der Voreingenommenheit eines KI-Tools oder die Bewertung des Trainingsdatensatzes eines KI-Produkts zur Verfügung zu stellen.
Beginnen Sie mit Anwendungsfällen mit geringen Risiken und hohem Nutzen
Derzeit gibt es noch viele Unbekannte, wenn es um einige der neuen großen Sprachmodelle geht, die auf den Markt kommen. „Deshalb ist es für Gesundheitsorganisationen unerlässlich, mit dem Einsatz generativer KI-Modelle in Bereichen zu beginnen, die geringe Risiken und hohe Chancen bergen“, betonte Aashima Gupta, Global Director für Gesundheitsstrategie und -lösungen bei Google Cloud.
Sie hob die Übergabe von Krankenschwestern als Beispiel für einen Anwendungsfall mit geringem Risiko hervor. Die Verwendung generativer KI zur Erstellung einer Zusammenfassung des Krankenhausaufenthalts und der Vorgeschichte eines Patienten sei nicht sehr riskant, könne den Pflegekräften aber viel Zeit sparen und sei daher ein wichtiges Instrument zur Bekämpfung von Burnout, erklärte Gupta.
Ein weiteres Beispiel sei der Einsatz generativer KI-Tools, die Klinikern bei der Suche in medizinischer Forschung helfen, fügte sie hinzu.
Vertrauen ist der Schlüssel
„Generative KI-Tools können im Gesundheitswesen nur dann erfolgreich sein, wenn ihre Nutzer ihnen vertrauen“, erklärte Shez Partovi, Chief Innovation and Strategy Officer bei Philips.
Aus diesem Grund sollten KI-Entwickler sicherstellen, dass ihre Tools Erklärbarkeit bieten, sagte er. Wenn ein Tool beispielsweise Patientenzusammenfassungen auf der Grundlage von Krankenakten und radiologischen Daten erstellt, sollten die Zusammenfassungen auf die Originaldokumente und Datenquellen verweisen. Auf diese Weise können Benutzer sehen, woher die Informationen stammen, erklärte Partovi.
KI ist kein Allheilmittel für die Probleme des Gesundheitswesens
David Vawdrey, Chief Data and Informatics Officer bei Geisinger, wies darauf hin, dass Führungskräfte im Gesundheitswesen „manchmal erwarten, dass die Technologie mehr leisten wird, als sie tatsächlich leisten kann“.
Um nicht in diese Falle zu tappen, stellt er sich KI gerne als etwas vor, das eine ergänzende oder verstärkende Funktion hat. KI kann ein Teil der Lösung für große Probleme wie klinisches Burnout oder Herausforderungen im Umsatzzyklus sein, aber es wäre unklug zu glauben, dass KI diese Probleme von selbst beseitigen wird, bemerkte Vawdrey.
Foto: chombosan, Getty Images
