Auf der jüngsten HIMSS Global Health Conference & Exhibition in Orlando habe ich einen Vortrag gehalten, der sich auf den Schutz vor einigen Fallstricken künstlicher Intelligenz im Gesundheitswesen konzentrierte.
Ziel war es, medizinisches Fachpersonal zu ermutigen, tief über die Realität der KI-Transformation nachzudenken und ihnen gleichzeitig Beispiele aus der Praxis zu liefern, wie sie sicher und effektiv vorgehen können. Mein Ziel war es, dass jeder im Publikum gemeinsam mit mir den Hype durchbricht und sich auf ein reifes Verständnis dafür konzentriert, wie diese aufregende Zukunft aufgebaut werden kann.
Zum Glück kam meine Nachricht gut an. Die Teilnehmer schätzten das Potenzial, das entsteht, wenn wir über Spielereien und die Angst, etwas zu verpassen, hinausgehen. Es stellt eine höhere Führungsebene dar, bei der nachdenkliche Personen über verschiedene Funktionen hinweg zusammenarbeiten, um klare und umsetzbare Ziele zur Verbesserung der Ergebnisse festzulegen.
Der Appetit auf diesen Post-Hype-Ansatz zur KI war so groß, dass ich mich gezwungen fühlte, eine kurze Zusammenfassung meines Vortrags zu schreiben und sie den Lesern von Healthcare IT News umfassend mitzuteilen.
Ich werde kurz auf bereits explodierte KI-Zeitbomben eingehen, zehn Tipps geben, die Ihnen helfen, dieses Problem zu vermeiden, und zwei Beispiele von Organisationen nennen, mit denen ich zusammenarbeite und die KI richtig implementieren.
Was man nicht tun sollte
Sowohl innerhalb als auch außerhalb des Gesundheitssektors zeigen hastig gestartete KI-Initiativen bereits Anzeichen des Scheiterns.
Beispielsweise versprach der kundenorientierte Chatbot von Air Canada einem Passagier fälschlicherweise einen ermäßigten Flug. Anschließend versuchte das Unternehmen zu behaupten, es sei nicht ihre Schuld, und argumentierte, dass die KI eine eigenständige juristische Person sei, die „für ihre eigenen Handlungen verantwortlich“ sei. Es überrascht nicht, dass ein kanadisches Gericht die Einrede „Es waren nicht wir, es war die KI“ nicht akzeptierte, und nun ist die Fluggesellschaft verpflichtet, den fälschlicherweise versprochenen Rabatt einzulösen.
Im vergangenen Jahr beabsichtigte die National Eating Disorders Association, ihr äußerst erfahrenes Helpline-Personal durch Tessa zu ersetzen, einen Chatbot, der Menschen helfen soll, die Rat zu Essstörungen suchen. Nur wenige Tage vor Tessas geplantem Start wurde jedoch festgestellt, dass der Bot begann, problematische Ratschläge zu geben, darunter Empfehlungen zur Einschränkung der Kalorienaufnahme, häufiges Wiegen und Festlegen strenger Gewichtsverlustziele. Obwohl Tessa nie einsatzbereit war, unterstreicht dieser Vorfall die verheerenden Folgen, die ein überstürzter Einsatz von KI-Lösungen haben kann.
Ein kürzlich im JAMA Open Network veröffentlichtes Papier wirft Licht auf mehrere Fälle voreingenommener Algorithmen, die „rassische und ethnische Ungleichheiten im Gesundheits- und Gesundheitswesen“ aufrechterhalten. Die Autoren beschrieben mehrere Fälle von voreingenommenen und schädlichen Algorithmen, die entwickelt und eingesetzt wurden und sich negativ auf den „Zugang zu oder die Berechtigung für Interventionen und Dienste sowie die Zuweisung von Ressourcen“ auswirken.
Und es ist besonders besorgniserregend, weil viele dieser voreingenommenen Algorithmen immer noch in Betrieb sind.
Vereinfacht gesagt sind KI-Zeitbomben bereits explodiert und werden dies auch weiterhin tun, sofern keine proaktiven Maßnahmen ergriffen werden, um diese Probleme zu entschärfen.
Was zu tun
Um Führungskräften bei der Bewältigung der mit KI verbundenen Risiken zu helfen, habe ich zehn Tipps für einen sicheren und nachhaltigen Umgang mit der KI-Transformation entwickelt. Diese Tipps sollen sicherstellen, dass Führungskräfte im Gesundheitswesen den bestmöglichen Return on Investment erzielen:
Priorisieren Sie Transparenz und Erklärbarkeit. Wählen Sie KI-Systeme, die transparente Algorithmen und erklärbare Ergebnisse bieten.
Implementieren Sie eine robuste Datenverwaltung. Die Sicherstellung hochwertiger, vielfältiger und genau gekennzeichneter Daten ist von entscheidender Bedeutung.
Nehmen Sie frühzeitig Kontakt zu Ethik- und Regulierungsbehörden auf. Das frühzeitige Verstehen und Angleichen ethischer Richtlinien und behördlicher Anforderungen kann kostspielige Überarbeitungen verhindern und die Patientensicherheit gewährleisten.
Fördern Sie die interdisziplinäre Zusammenarbeit. Ein interdisziplinärer Ansatz stellt sicher, dass die entwickelten KI-Tools praktisch, ethisch und patientenzentriert sind.
Sorgen Sie für Skalierbarkeit und Interoperabilität. KI-Tools sollten so konzipiert sein, dass sie sich nahtlos in bestehende IT-Systeme im Gesundheitswesen integrieren lassen und über verschiedene Abteilungen oder sogar Institutionen hinweg skalierbar sind.
Investieren Sie in kontinuierliche Aus- und Weiterbildung. Investitionen in kontinuierliche Aus- und Weiterbildung stellen sicher, dass Mitarbeiter KI effektiv nutzen, ihre Ergebnisse interpretieren und fundierte Entscheidungen treffen können.
Entwickeln Sie einen patientenzentrierten Ansatz. Führen Sie KI-Praktiken ein, die die Patienteneinbindung verbessern, die Gesundheitsversorgung personalisieren und nicht unbeabsichtigt gesundheitliche Ungleichheiten verschärfen.
Überwachen Sie Leistung und Auswirkungen kontinuierlich. Entwickeln Sie Mechanismen für Mitarbeiter- und Patienten-Feedback, die eine kontinuierliche Weiterentwicklung der KI-Tools ermöglichen, um den Bedürfnissen der Interessengruppen besser gerecht zu werden.
Schaffen Sie klare Rechenschaftsrahmen. Definieren Sie klare Verantwortlichkeiten für Entscheidungen, die mithilfe von KI getroffen werden.
Fördern Sie eine ethische KI-Kultur. Fördern Sie Diskussionen über die Ethik der KI, fördern Sie den verantwortungsvollen Einsatz von KI und stellen Sie sicher, dass Entscheidungen unter Berücksichtigung des Wohlergehens aller Beteiligten getroffen werden.
Lassen Sie sich von diesen Tipps auf Ihrer KI-Reise begleiten. Nutzen Sie sie, um Prinzipien, Richtlinien, Verfahren und Protokolle zu entwickeln, um die KI gleich beim ersten Mal richtig zu machen und geschickt durch Situationen zu navigieren, in denen die Dinge nicht nach Plan laufen. Die proaktive Einbeziehung dieser Tipps zu Beginn der KI-Transformation wird Zeit, Geld und letztendlich Leben sparen.
Was andere tun
Die KI-Transformation erfordert das Zusammenspiel mehrerer grundlegender Komponenten. Wie ich in meinem HIMSS-Vortrag erwähnt habe: Wie bei einem Thanksgiving-Initiationsritus ist es an der Zeit, vom KI-Kindertisch – wo sich die Unterhaltung zwanghaft um ChatGPT dreht – zum Erwachsenentisch überzugehen, wo Führungskräfte aktiv Schritte unternehmen, um das zu schaffen Grundlage für eine ausgereifte KI-Transformation.
Zwei dieser wesentlichen Elemente, auf die ich mich in Zusammenarbeit mit großen Gesundheitsorganisationen konzentriert habe, sind die Einführung eines ganzheitlichen Ansatzes bei der Bereitstellung und die Investition in eine robuste, datengesteuerte Kultur.
In einem Gesundheitssystem haben wir einen Entwurf für die sichere Implementierung großer Sprachmodelle entwickelt. Dieser Entwurf deckt verschiedene zu berücksichtigende Wirkungsbereiche ab, beispielsweise die wirtschaftlichen und datenschutzrechtlichen Auswirkungen von LLMs, und enthält wichtige Fragen, die in jedem dieser Bereiche gestellt werden müssen.
Das Ziel bestand darin, jedem in der Führungsebene spezifische und miteinander verbundene Fragen zu den Risiken und Vorteilen zu stellen, die mit dem Einsatz von LLMs verbunden sind. Dieser Ansatz trägt dazu bei, Kompromisse hervorzuheben – wie Geschwindigkeit vs. Sicherheit oder Qualität vs. Kosten – und bietet dieser vielfältigen Gruppe von Führungskräften eine gemeinsame Sprache, um Chancen zu identifizieren und Risiken zu diskutieren.
In einem anderen Gesundheitssystem haben wir zehn wichtige Leistungsindikatoren entwickelt, um sicherzustellen, dass ihre Führungskräfte, Teams und Prozesse alle zu einer datengesteuerten, KI-fähigen Pflegekultur beitragen. Wir haben außerdem eine auf diesen KPIs basierende Umfrage erstellt, um ein grundlegendes Verständnis darüber zu erlangen, wo die Datenkultur herausragt und wo es Raum für Verbesserungen gibt.
Durch die Konzentration darauf, die Datenbedürfnisse ihrer Ärzte zu verstehen und ihnen bei Bedarf hochwertige und relevante Daten bereitzustellen, konnte das Unternehmen einen schnellen und beeindruckenden Anstieg der „guten Zahlen“ wie Mitarbeiterengagement und Patientenzufriedenheit verzeichnen.
Dies ist ein Paradebeispiel dafür, wie die KI-Transformation lange vor dem Aufkommen neuer Technologien und des Hypes beginnt. Durch die Konzentration auf die Grundlagen wie Daten können Führungskräfte schnelle Erfolge erzielen und gleichzeitig ihre Organisationen auf dauerhaften Erfolg vorbereiten.
Was kommt als nächstes
Die Zukunft des Gesundheitswesens erfordert eine „Führung zuerst, Technik zuletzt“-Denkweise. Führungskräfte müssen die Bedürfnisse ihrer Mitarbeiter sowie die mit ihren Prozessen verbundenen Herausforderungen und Chancen in den Vordergrund stellen.
Bei diesem Ansatz geht es darum, die Wissenschaft zu nutzen, um ihre Organisation auf systematische und vorhersehbare Weise zu verstehen, und sich auf hochwertige Daten zu verlassen, um genaue und zuverlässige Erkenntnisse für die Steuerung von Veränderungen zu gewinnen.
Die Übernahme einer „Leadership First“- und „Tech Last“-Denkweise bedeutet auch, dass Entscheidungsträger Wissenschaft und Daten mit ihrer hart erarbeiteten Erfahrung kombinieren, um fachmännisch Lösungen zu entwickeln, die auf ihren spezifischen Kontext zugeschnitten sind.
Aus diesem Grund definiert die American Medical Association KI als „erweiterte Intelligenz“ – und betont ihre Rolle bei der Verbesserung der menschlichen Intelligenz, anstatt sie zu ersetzen. Ihre Definition unterstreicht, wie wichtig es ist, unsere kognitiven und emotionalen Fähigkeiten im Vordergrund der Entscheidungsfindung zu halten, bevor wir uns der Technologie zuwenden.
Führungskräfte, die diese zeitlosen menschlichen Qualitäten annehmen, werden eine ausgereifte, KI-gestützte Zukunft fördern.
Brian R. Spisak, PhD, ist ein unabhängiger Berater mit Schwerpunkt auf der digitalen Transformation im Gesundheitswesen. Er ist außerdem wissenschaftlicher Mitarbeiter der National Preparedness Leadership Initiative an der Harvard TH Chan School of Public Health, Fakultätsmitglied am American College of Healthcare Executives und Autor des Buches „Computational Leadership“.
