Die Geschichte folgt unter dem Zitat aus dem erweiterten Video unten
„Es gibt sehr wenig Bedarf, und das klingt zynisch, und ich bin nicht wirklich, ich hoffe nicht, ein sehr zynischer Mensch, aber es besteht wirklich kein Bedarf für viele manuelle Schnittstellen, wenn man das von KI erledigen lassen kann, außer in die Schleife. Zumindest vorerst ist es erforderlich, dass die Menschen auf dem Laufenden bleiben. Ich frage mich, warum das immer eine Voraussetzung ist, weil uns das menschliche Gehirn nicht erklärbar ist und wir davon ausgehen, dass wir die Dinge immer besser machen, was nicht der Fall ist.“
Thomas Senderovitz, Senior Vice President für Datenwissenschaft, Novo Nordisk
Die Einführung einer neuen Technologie kann disruptiv sein. Denken Sie an die Druckrevolution und daran, wie Schreiber schon bald darauf fast überflüssig wurden. Oder Schreibkräfte, bevor der persönliche Laptop Fuß fasste. Oder diese acht Arbeitsplätze, die in den letzten 50 Jahren verschwunden sind. In all diesen Fällen standen Menschen im Mittelpunkt des Kreislaufs, bis sie es nicht mehr waren.
Ein Life-Science-Manager stellte letzte Woche bei einer Veranstaltung des Beratungsunternehmens BCG während der JPM eine provokante Frage zu dieser zentralen Bedeutung des Menschen.
Künstliche Intelligenz wird für viele weitere große und kleine Aufgaben auf dem Vormarsch sein, aber ihre Bedrohung/ihr Potenzial ist umso beängstigender/aufregender, weil sie nicht nur darauf abzielt, eine körperliche Fähigkeit des Menschen zu ersetzen, sondern vielmehr die einzige Fähigkeit, die uns an die Spitze gebracht hat die Nahrungskette: unsere Fähigkeit zu denken und Entscheidungen zu treffen.
Im Bereich der Medizin geht das Aufkommen der KI daher mit beruhigenden Worten ihrer Entwickler einher – „sie erweitert, nicht ersetzt“, „es ist immer ein Arzt auf dem Laufenden“, „das wird Ihre Effizienz steigern“ und Permutationen und Kombinationen der oben genannten Gefühl.
Aber maschinelles Lernen schreitet rasant voran, und das neue Wort, das bei jeder Veranstaltung bei JPM im Umlauf war, war „Agentische KI“. Denken Sie an Chatbots, aber auf Steroiden, die mehr Handlungsspielraum haben und ohne menschliches Eingreifen eigenständig handeln können. Eine Art KI, die die Fähigkeit besitzt, menschliches Urteilsvermögen nachzuahmen und dadurch zu ersetzen.
Auf der BCG-Veranstaltung, bei der es darum ging, zu untersuchen, wie digitale Gesundheit und KI die Gesundheitsbranche verändern, sprach ein leitender Angestellter von Novo Nordisk – Thomas Senderovitz, Senior Vice President für Datenwissenschaft – über agentische KI im Zusammenhang mit den Bemühungen des Unternehmens beim Aufbau und der Automatisierung von a Infrastruktur für klinische Studien. Es heißt FounDATA und ist ein Repository, in dem alle Daten abgeschlossener klinischer Studien gebündelt und durch Anwendung verschiedener KI-Algorithmen für die Gewinnung von Erkenntnissen aufbereitet werden.
„Wir haben jetzt 20 Milliarden Datenpunkte und werden rund 1500 RCT- oder randomisierte Kontrollstudiendaten auf die Plattform übertragen“, sagte Senderovitz. „Wir fügen Bilder hinzu, Multi-Omics [data]werden wir Daten aus der realen Welt bis hin zu den Anspruchs- und Ergebnisdaten und dann vorgelagert zu den Forschungsdaten hinzufügen. Wir haben also … einen Ort für Echtzeitanalysen, die Einrichtung der gesamten Agenten-KI und das haben wir selbst durchgeführt.“
Das System ist auf der Azure Cloud von Microsoft eingerichtet und Novo arbeitet mit akademischen Institutionen oder anderen Unternehmen zusammen, um analytische Anwendungen bereitzustellen, mit denen Erkenntnisse aus diesem Datenpool gewonnen werden können. Das System ist auf Interoperabilität ausgelegt und Senderovitz erklärte, das Ziel bestehe darin, die gesamte Wertschöpfungskette „automatisiert und KI-gesteuert“ zu machen. Und dann sagte er etwas sehr Interessantes und zum Nachdenken Anregendes.
„Es besteht nur sehr wenig Bedarf, und das klingt zynisch, und ich bin eigentlich kein sehr zynischer Mensch, aber es besteht wirklich kein Bedarf an vielen manuellen Schnittstellen, wenn man das von der KI erledigen lassen kann, außer in der Schleife“, sagt As Zumindest vorerst ist es erforderlich, dass die Menschen auf dem Laufenden bleiben. Ich frage mich, warum das immer eine Voraussetzung ist, weil uns das menschliche Gehirn nicht erklärbar ist und wir davon ausgehen, dass wir die Dinge immer besser machen, was aber nicht der Fall ist.“ [bolded for emphasis]
Wo findet also die Automatisierung im Infrastruktur-Repository für klinische Studien von Novo statt?
„Also, ich denke, wir werden sehen [automation] vom wissenschaftlichen Entwurf des Protokolls bis zum Mittelpunkt des Protokolls; die elektronische Datenerfassung wird verschwinden, [we] ruft die Daten direkt für elektronische Gesundheitsakten ab. Es wird direkt in einen Fluss übergehen“, sagte Senderovitz. „Der statistische Analyseplan wird automatisiert, der Analysecode wird generiert, die Ergebnisse werden automatisch übernommen und bereits im Startbericht erfasst.“
Er stellte fest, dass Novo Starterberichte nicht mehr manuell schreibt.
„Letztendlich könnte das auch lauten: ‚Übermitteln Sie keine Berichte, sondern übermitteln Sie Ihre Daten und Ihren gesamten Code‘ und dann können sie repliziert werden“, spekulierte er über die Zukunft. „Diesen Prozess bauen wir also auf und er wird früher kommen, als wir glauben, einschließlich des Verfassens wissenschaftlicher Manuskripte.“
Er fügte hinzu, dass Novo GenAI-Manuskripte geschrieben habe, die er nicht von Menschen unterscheiden könne, obwohl Novo sie noch nicht eingereicht habe.
„Soweit ich weiß, würde nur das AI Journal des New England Journal of Medicine Gen AI akzeptieren [articles]aber es wird kommen“, sagte er. „Es ist nur unser Widerstand.“
Er fügte hinzu, dass Novo Nordisk intern einen Datenethikrat eingerichtet hat, um all diese KI-Automatisierung und die Generierung von Erkenntnissen ordnungsgemäß durchführen zu können, sodass diese Themen nicht nur „eine Ad-hoc-Diskussion“ sind. Novo verfügt außerdem über eine Data-Governance-Ebene zur Überwachung der Informationsübertragung.
„Daher muss jede einzelne KI, die im regulierten Bereich und/oder im Vergleich zu Patienten im wirklichen Leben eingesetzt wird, diese Governance zuvor durchlaufen [in order] rausgehen“, sagte er und wies darauf hin, dass es in einem solchen System eine ganze Reihe technischer, ethischer und mit der Einhaltung gesetzlicher Vorschriften verbundener Probleme gebe, die angegangen werden müssten.
Die Aufgabe ist – aus Vertrauenssicht – sogar noch größer, da in Zukunft immer weniger Menschen in den Kreislauf eingebunden sein werden.
„Es gibt einen neuen Bereich, den ich Erklärbarkeitswissenschaft oder Entscheidungswissenschaft nennen würde, weil nicht alle Modelle in der Lage wären, zu erklären. Aber wir müssen in der Lage sein, vollständig nachzuvollziehen, wie wir Entscheidungen treffen und wie Entscheidungen getroffen werden. Und je weniger wir Menschen auf dem Laufenden haben, je mehr Entscheidungen nicht von Menschen getroffen werden, desto mehr müssen wir diese Transparenz zumindest nachverfolgen und gewährleisten können.“
Aber Senderovitz erkannte auch eine Herausforderung an, da sich die KI-Technologie schnell verändert.
„Wissen Sie, vor einem Jahr haben wir nicht über Agenten-KI oder Infrastruktur nachgedacht. In einem halben Jahr wird die Agenten-KI bereits ein wenig veraltet sein. Es wird etwas anderes sein, oder? Wenn man sich in dem regulierten Raum befindet, in dem ich mich befinde, müssen wir zu einem bestimmten Zeitpunkt etwas abschließen und sagen: „Das ist es, was wir jetzt tun“ und das bestätigen [in such a way that] Regulierungsbehörden und Behörden können akzeptieren. Aber die Technologie entwickelt sich ständig weiter. Wie balancieren wir das? Und ich habe noch keine Antwort: Wie balancieren wir das? Einerseits entwickelt sich die Technologie so schnell weiter. Andererseits müssen wir sicherstellen, dass es vertrauenswürdig ist und wir uns für den Einsatz sicher genug fühlen.“
