Jeder, der in den letzten Jahren auf einer Gesundheitskonferenz war, weiß, dass KI viele Diskussionen dominiert. Die Technologie wird oft als erfolgreiche Lösung angepriesen, die den enormen Mangel an Ärzten in der Branche beheben kann – aber es scheint, dass KI-Tools bisher nicht wirklich in der Lage waren, dieses Problem zu lösen.
Tarun Kapoor, Chief Digital Transformation Officer bei New Jersey Virtua-Gesundheithob ein Rätsel hervor, das seiner Meinung nach der Grund dafür sein könnte, dass die KI etwas ins Stocken gerät.
„Viele Leute sagen derzeit: ‚Wir verwenden KI-Technologie, aber wir haben immer noch einen Kliniker auf dem Laufenden.‘ Das hat ein zweischneidiges Schwert“, erklärte er während eines Interviews am Sonntag im ViVE Konferenz in Los Angeles.
Wenn ein Arzt jedes Mal auf dem Laufenden bleiben muss, wenn ein Werkzeug verwendet wird, ist es zweifelhaft zu behaupten, dass das Werkzeug seinen Burnout lindert, erklärte Kapoor. Irgendwann müssten Krankenhäuser darüber nachdenken, „die Automatisierung fast vollständig durchzuziehen“ – andernfalls werde der Arbeitskräftemangel nicht gelöst, argumentierte er.
Dieses Problem werfe eine „viel größere, gesellschaftliche Frage“ ans Licht, betonte Kapoor.
Er betonte, dass es selbstfahrende Autos schon seit etwa 20 Jahren gibt, die meisten Menschen jedoch immer noch Angst davor haben, sie auf die Straße zu lassen. Das liegt daran, dass die Gesellschaft kein Interesse daran hat, dass diese selbstfahrenden Autos Fehler machen, erklärte er.
Kapoor wies darauf hin, dass die KI einige klinische Arbeitsabläufe vollständig automatisieren muss, damit Krankenhäuser den Ärztemangel mithilfe von Technologie beheben können – ohne dass ein Arzt auf dem Laufenden bleibt. Aber das führt zu einer schwierigen Frage: Was ist schlimmer – ein gefährlich großer Mangel an Klinikern oder die Risiken, die damit verbunden sind, dass KI klinische Entscheidungen ohne menschliche Aufsicht treffen kann?
„Diese Frage kann ich nicht beantworten. Die Gesellschaft muss diese Frage beantworten. Aber ich denke, das sind die Art von Gesprächen, die wir führen müssen“, bemerkte Kapoor.
Seiner Ansicht nach sollten Führungskräfte im Gesundheitswesen mehr über ihre KI-Risikotoleranz sprechen. Bei diesen Gesprächen sollten sie bedenken, dass nicht nur die KI in der Lage ist, Fehler zu machen – auch Kliniker seien anfällig für Ausrutscher, betonte Kapoor.
Vor der Pandemie seien medizinische Fehler von Ärzten die dritthäufigste Todesursache in den USA gewesen, betonte er. Vor diesem Hintergrund könnte KI tatsächlich das Potenzial haben, die Zahl klinischer Fehler im US-amerikanischen Gesundheitssystem zu reduzieren.
„Wenn wir diese Zahl von mehreren Hunderttausend pro Jahr auf die Hälfte reduzieren, Ihr Familienmitglied aber durch einen Algorithmus geschädigt wurde, werden Sie das dann tolerieren? Man kann Gerechtigkeit erlangen, wenn ein Mensch einen Fehler macht, aber wie schafft man das, wenn ein Algorithmus einen Fehler macht?“ fragte Kapoor.
Das ist die Art von Frage, auf deren Beantwortung sich die Verantwortlichen im Gesundheitswesen konzentrieren sollten, anstatt verschiedene Schlagworte auszutauschen, sagte er.
Foto: Metamorworks, Getty Images
