Von KIM BELLARD
Stellen Sie sich meine Aufregung vor, als ich die Schlagzeile sah: „Roboterärzte im ersten KI-Krankenhaus der Welt können 3.000 Patienten pro Tag behandeln.“ Endlich, dachte ich – jetzt kommen wir voran. Ich muss zugeben, dass meine Begeisterung etwas gedämpft wurde, als ich herausfand, dass die Patienten virtuell waren. Aber trotzdem.
Der Artikel erschien in Interesting Engineering und deckte weitgehend die Originalgeschichte in Global Times ab, in der der Leiter des Forschungsteams Yang Liu interviewt wurde, ein Professor an der chinesischen Tsinghua-Universität, wo er Dekan des Institute for AI Industry Research (AIR) und stellvertretender Dekan der Fakultät für Informatik und Technologie ist. Der Professor und sein Team haben gerade ein Papier veröffentlicht, in dem sie ihre Bemühungen detailliert beschreiben.
In dem Artikel wird beschrieben, was sie getan haben: „Wir führen ein Krankenhaussimulakrum namens Agent Hospital ein, das den gesamten Prozess der Behandlung von Krankheiten simuliert. Alle Patienten, Krankenschwestern und Ärzte sind autonome Agenten, die von großen Sprachmodellen (LLMs) angetrieben werden.“ Sie stellen bescheiden fest: „Nach bestem Wissen und Gewissen ist dies das erste Krankenhaussimulakrum, das den gesamten medizinischen Prozess umfassend und mit hervorragender Skalierbarkeit widerspiegelt, was es zu einer wertvollen Plattform für das Studium medizinischer LLMs/Agenten macht.“
Im Wesentlichen erkranken „Resident Agents“ zufällig an einer Krankheit und suchen im Agent Hospital Hilfe auf, wo sie von Medical Professional Agents, darunter 14 Ärzte und 4 Krankenschwestern, untersucht und behandelt werden (daran erkennt man, dass es sich nur um ein Simulacrum handelt; in der realen Welt kann man froh sein, wenn man 4 Ärzte und 14 Krankenschwestern hat). Das Ziel „ist es, einem Arzt-Agenten zu ermöglichen, zu lernen, wie man Krankheiten innerhalb des Simulacrums behandelt.“
Das Agent Hospital wurde mit der KI-Stadt verglichen, die letztes Jahr in Stanford entwickelt wurde und in der 25 virtuelle Bewohner miteinander lebten und Kontakte pflegten. „Wir haben gezeigt, dass wir in der Lage sind, allgemeine Computeragenten zu erschaffen, die sich in einer offenen Umgebung wie Menschen verhalten können“, sagte Joon Sung Park, einer der Entwickler. Die Forscher aus Tsinghua haben eine „Krankenhausstadt“ erschaffen.
Meine Güte, ein Gesundheitssystem ohne menschliche Beteiligung. Es kann nicht schlimmer sein als das menschliche. Aber lassen Sie mich wissen, wann die Forscher KI-Agenten von Versicherungsunternehmen in das Simulakrum einbeziehen. Ich bin gespannt, was für ein Gezänk dann entsteht.
Wie Sie sich vielleicht denken können, besteht die Idee darin, dass die KI-Ärzte – ich bin mir nicht sicher, wo der „Roboter“ ins Spiel kommen soll – durch die Behandlung der virtuellen Patienten lernen. Wie in der Arbeit beschrieben: „Da das Simulacrum den Krankheitsbeginn und -verlauf auf der Grundlage von Wissensdatenbanken und LLMs simulieren kann, können Arztagenten weiterhin Erfahrungen aus erfolgreichen und erfolglosen Fällen sammeln.“
Die Forscher bestätigten, dass sich die Leistung der KI-Ärzte im Laufe der Zeit kontinuierlich verbesserte. „Interessanter noch“, erklären die Forscher, „ist, dass das Wissen, das die Arztagenten im Agent Hospital erworben haben, auf medizinische Benchmarks in der realen Welt anwendbar ist. Nach der Behandlung von rund zehntausend Patienten (in der realen Welt kann dies über zwei Jahre dauern) erreicht der weiterentwickelte Arztagent eine hochmoderne Genauigkeit von 93,06 % bei einer Teilmenge des MedQA-Datensatzes, der wichtige Atemwegserkrankungen abdeckt.“
Die Forscher bemerken die „Selbstentwicklung“ der Agenten, die ihrer Meinung nach „einen neuen Weg für die Entwicklung von Agenten in Simulationsumgebungen aufzeigt, in denen Agenten ihre Fähigkeiten ohne menschliches Eingreifen verbessern können.“ Im Gegensatz zu einigen LLMs sind dafür keine manuell gekennzeichneten Daten erforderlich. Daher sagen sie, dass das Design von Agent Hospital „umfangreiche Anpassungen und Anpassungen ermöglicht, sodass Forscher eine Vielzahl von Szenarien und Interaktionen im Gesundheitsbereich testen können.“
Zu den Zukunftsplänen der Forscher gehören die Ausweitung des Krankheitsspektrums, die Erweiterung des Agentenkrankenhauses um weitere Abteilungen und „Gesellschaftssimulationsaspekte von Agenten“ (ich hoffe nur, dass sie für diesen Teil des Modells nicht Grey’s Anatomy verwenden). Dr. Liu sagte gegenüber Global Times, dass das Agentenkrankenhaus in der zweiten Hälfte des Jahres 2024 für die praktische Anwendung bereit sein sollte.
Ein möglicher Einsatzzweck, so Dr. Liu gegenüber Global Times, sei die Ausbildung von Humanärzten:
…dieses innovative Konzept ermöglicht die Behandlung virtueller Patienten durch echte Ärzte und bietet Medizinstudenten so verbesserte Ausbildungsmöglichkeiten. Durch die Simulation einer Vielzahl von KI-Patienten können Medizinstudenten Behandlungspläne erstellen, ohne befürchten zu müssen, echten Patienten durch Entscheidungsfehler zu schaden.
Keine Praktikanten mehr, die mit echten Patienten herumhantieren und ihr Leben riskieren, um diese jungen Ärzte auszubilden. Zumindest ist das zu hoffen.
Ich bin voll und ganz dafür, solche KI-Modelle zur Ausbildung von medizinischem Fachpersonal einzusetzen, aber ich bin viel mehr daran interessiert, sie in der realen Gesundheitsversorgung einzusetzen. Ich möchte, dass diese KI-Ärzte unsere KI-Zwillinge bewerten und Hunderte oder Tausende von Optionen an ihnen ausprobieren, um die besten Empfehlungen für uns selbst zu erstellen. Ich möchte, dass diese KI-Ärzte sich echte Patienteninformationen ansehen und unseren echten Ärzten Empfehlungen geben, die ihre Skepsis überwinden und KI-Input nicht nur als glaubwürdig, sondern auch als wertvoll, ja sogar als unverzichtbar betrachten müssen.
Es gibt bereits Belege dafür, dass KI-gestützte Diagnosen mit denen menschlicher Ärzte sehr gut vergleichbar sind, und KI wird immer besser werden. Die schwierigere Frage ist vielleicht nicht, KI dafür bereit zu machen, sondern – Sie ahnen es schon! – die Ärzte dafür bereit zu machen. Jüngste Studien von Medscape und der AMA zeigen, dass die Mehrheit der Ärzte den potenziellen Wert von KI in der Patientenversorgung erkennt, aber selbst nicht bereit ist, sie einzusetzen.
Vielleicht brauchen wir ein Simulakrum menschlicher Ärzte, die den Umgang mit KI-Ärzten lernen.
In dem Interview mit Global Times betonten die Tsinghua-Forscher ausdrücklich, dass sie keine Zukunft ohne menschliche Beteiligung sehen, sondern vielmehr eine mit der Zusammenarbeit von KI und Mensch. Einer von ihnen ging sogar so weit, die Medizin als „eine Wissenschaft der Liebe und eine Kunst der Wärme“ zu loben, im Gegensatz zur „kalten“ KI-Gesundheitsversorgung.
Ja, diese Bedenken höre ich schon seit Jahren. Wir sagen, wir wollen, dass unsere Ärzte tröstend sind und Wärme und Empathie zeigen. Aber erstens ist KI zwar noch nicht wirklich empathisch, aber sie kann es vielleicht vortäuschen. Es gibt Studien, die darauf hindeuten, dass Patienten die Antworten von KI-Chatbots überwiegend empathischer fanden als die von echten Ärzten.
Zweitens möchten wir von unseren Ärzten vor allem, dass sie uns dabei helfen, gesund zu bleiben oder, wenn es uns nicht gut geht, wieder gesund zu werden. Wenn KI das besser kann als Menschen, dann sind die Arbeitsplätze von Ärzten genauso wenig gesichert wie alle anderen Arbeitsplätze im Zeitalter der KI.
Aber ich greife vor; lasst uns jetzt einfach das Agent Hospital-Simulacrum würdigen.
Kim ist eine ehemalige E-Marketing-Managerin bei einem großen Blues-Plan, Redakteurin des verstorbenen und betrauerten Tincture.io und jetzt regelmäßige THCB-Mitarbeiterin
