Micky Tripathi, Leiter des Büros des Nationalen Koordinators für Gesundheitsinformationstechnologie (ONC), glaubt, dass die jüngste Regelung seines Büros zur Transparenz im Bereich KI einen guten Beitrag dazu leisten wird, sowohl Anbietern als auch Technologieentwicklern mehr Handlungsfreiheit zu lassen.
„Ich denke, es wird den Einsatz von KI-basierten Tools in der Gesundheitsversorgung vorantreiben und hoffentlich eine Art Mechanismus zur Förderung qualitativ hochwertigerer KI-basierter Tools schaffen“, erklärte er diesen Monat in einem Interview auf der Reuters Digital Health-Konferenz in San Diego.
Im Dezember verabschiedete das ONC eine neue Regelung, die Transparenzanforderungen für den Einsatz von KI im Gesundheitswesen festlegte. Sie verlangt von Entwicklern von KI im Gesundheitswesen, den Kunden mehr Daten über ihre Produkte zur Verfügung zu stellen, was den Anbietern dabei helfen könnte, die Risiken und die Wirksamkeit von KI-Tools zu bestimmen.
Nach der neuen Regelung müssen KI-Anbieter Informationen darüber teilen, wie ihre Software funktioniert und wie sie entwickelt wurde. Das bedeutet, dass sie Informationen darüber offenlegen müssen, wer die Entwicklung ihrer Produkte finanziert hat, welche Daten zum Trainieren des Modells verwendet wurden, welche Maßnahmen sie ergriffen haben, um Verzerrungen zu vermeiden, wie sie das Produkt validiert haben und für welche Anwendungsfälle das Tool entwickelt wurde.
Die Regelung gilt nicht nur für KI-Modelle, die explizit in die klinische Versorgung eingebunden sind – sie gilt auch für Tools, die die Patientenversorgung indirekt beeinflussen, etwa solche, die bei der Terminplanung oder dem Lieferkettenmanagement helfen. Sie soll am 1. Tag des Jahres 2025 in Kraft treten.
Viele Kliniker seien besorgt, neue KI-Modelle einzusetzen, betonte Tripathi. Manche Ärzte betrachten fortgeschrittene Formen der KI als Neuland und befürchten, dass diese Produkte schwerwiegende Fehler verursachen könnten.
Mit der Einführung dieser Regel möchte das ONC den Anbietern mehr Einblick in die ihnen zur Verfügung stehenden KI-Tools geben, damit sie fundierte Entscheidungen darüber treffen können, welche Lösungen am zuverlässigsten sind und welche sich am besten für ihre Arbeitsabläufe eignen, erklärte Tripathi.
Diese Informationen würden in der elektronischen Patientenakte angezeigt und stünden so Klinikern zur Verfügung, die sich über das Design, die Validierung und die Anwendungsfälle der ihnen zur Verfügung stehenden Tools informieren möchten, fügte er hinzu.
Tripathi wies auch darauf hin, dass die neue Regelung Entwicklern von KI im Gesundheitswesen die Möglichkeit gibt, sich von der Konkurrenz abzuheben.
Er sagte, er habe von Anbieterorganisationen gehört, die planen, die bevorstehenden Transparenzerklärungen der Entwickler in ihre umfassendere KI-Governance-Strategie zu integrieren. Einige dieser Anbieter hätten auch bereits damit begonnen, die gleichen Arten von Transparenzerklärungen von den Drittentwicklern zu verlangen, mit denen sie eine Partnerschaft in Erwägung ziehen, fügte er hinzu.
Foto: Natali_Mis, Getty Images
