KI ist in der Gesundheitsbranche in aller Munde und erregt Begeisterung für ihr Potenzial zur Verbesserung der Patientenversorgung sowie Bedenken hinsichtlich der Notwendigkeit, sie ethisch umzusetzen. Aber hat die Technologie das Potenzial, gesundheitliche Ungleichheiten zu verringern?
Diese Frage wurde während einer Debatte auf der Reuters Total Health-Konferenz am Mittwoch in Chicago gestellt. Die Debatte fand zwischen Anil Saldanha, Chief Innovation Officer des Rush University System for Health, und Rebecca Kaul, PhD, Senior Vice President und Leiterin für digitale Innovation und Transformation bei Northwell Health, statt.
Saldanha sagte, er stehe dem Thema negativ gegenüber und erklärte, dass KI noch nicht dazu geeignet sei, gesundheitliche Ungleichheiten zu verringern.
„Meiner Meinung nach wird es sich noch einige Zeit verstärken“, argumentierte Saldanha. „Und ich habe keinen Zeitrahmen, wann es sich ausgleichen oder besser werden wird. Der Grund hat nichts mit KI zu tun. Generell haben wir aus Branchensicht immer noch Schwierigkeiten, bei allem, was wir im Gesundheitswesen tun, gesundheitliche Chancengleichheit in unsere Gemeinden zu bringen. Die Aufgabe ist also noch nicht abgeschlossen, und jetzt führen wir dieses neue Paradigma namens KI ein. Während KI zu Effizienzsteigerungen führen kann, ist KI beispielsweise nicht dazu da, Ihren Arzt zu ersetzen. Daher habe ich im Moment keineswegs das Gefühl, dass es dazu da ist, zur gesundheitlichen Chancengleichheit beizutragen.“
Kaul argumentierte unterdessen, dass es darauf ankomme, wie Menschen KI nutzen, und sie glaubt, dass die Menschen sie auf eine Weise nutzen werden, die ethisch vertretbar ist und Ungleichheiten beseitigen wird.
„Ich denke, dass wir im Grunde genommen medizinische Fachkräfte sind“, sagte sie. „Wir gehen an die Sache aus der Perspektive „keinen Schaden anrichten, Gutes tun“ heran. … Es kann die Lücken im Hinblick auf einen besseren Zugang zur Gesundheitsversorgung schließen, sei es durch die Bereitstellung von Informationen für Menschen, die möglicherweise keinen persönlichen Zugang zur Gesundheitsversorgung haben. Mithilfe von KI können sie beginnen, mehr über ihren Gesundheitszustand zu erfahren. Es kann Ärzten in ländlichen Gemeinden den Zugang zu Spezialisten ermöglichen.“
Sie fügte hinzu, dass die Technologie die Pflege personalisierter gestalten und Sprachbarrieren abbauen könne. Sie behauptete, dass KI in über 80 Sprachen übersetzen könne.
Saldanha widersprach und sagte, dass Datenintegrität eine große Herausforderung in der Gesundheitsbranche sei und dass KI „nur so gut ist wie die Daten, auf denen sie trainiert wird“. Wenn die KI nicht mit den richtigen Daten versorgt werde, könne die Industrie nicht damit rechnen, sie zur Lösung von Ungleichheiten zu nutzen, argumentierte er.
Kaul antwortete, dass das Wissen, dass Datensätze oft verzerrt sind, „es uns ermöglicht, die Modelle zu trainieren, die Modelle zu modifizieren, um diese Verzerrung zu beseitigen, und dann auch Datensätze zu finden, um sie zu füttern, um die Art von Diversität in die Daten für Trainingszwecke einzuführen.“ ”
In seinen abschließenden Argumenten betonte Saldanha, dass er nicht glaubt, dass KI bei den Ungleichheiten im Gesundheitswesen helfen wird. Als Beispiel nannte er ein in Chicago eingesetztes Programm namens ShotSpotter, das mithilfe von Sensoren Schüsse erkennt. Laut Block Club Chicago wurde das Programm kürzlich eingestellt, es gibt jedoch Bemühungen, es aufrechtzuerhalten.
„Die Kritik an diesem Programm besteht darin, dass es ausnahmslos in farbigen Gemeinschaften und Vierteln mit den größten Ungleichheiten eingesetzt wird“, sagte er. „Die Verfechter sagen, dass es bei der Bekämpfung und Prävention von Waffengewalt helfen kann. Die Jury steht noch nicht da.“
Kaul argumentierte, dass es nicht darum gehe, ob KI bereit sei, Ungleichheiten zu verringern, sondern ob Gesundheitsorganisationen bereit seien, die Technologie zu nutzen, um Lücken zu schließen.
„Alle Signale, die ich sowohl von meiner eigenen Organisation als auch vom Markt sehe, wären ein klares Ja“, sagte sie. „Es gibt viele Diskussionen über den ethischen Einsatz von KI. Bei vielen der vorgeschlagenen Anwendungsfälle geht es um den Ausgleich von Ungleichheiten. Wir sehen Governance-Modelle, die sicherstellen, dass in keinem der von den Leuten genannten Anwendungsfälle unbeabsichtigt schlechte Dinge passieren.“
Das Publikum schien Kaul größtenteils zuzustimmen. In einer am Ende der Debatte geteilten Umfrage gaben 47 % der Zuhörer an, dass sie glauben, dass KI das Potenzial hat, Ungleichheiten in gewissem Maße zu verringern, während 42 % sagten, dass dies erheblich der Fall sei. Weitere 11 % sagten „Nein, nicht wirklich.“
Foto: Sylverarts, Getty Images
