Von MIKE MAGEE
Wie zufrieden sind die FDA und die medizinische Ethik-Gemeinschaft mit einer neuen leistungsstarken medizinischen Gesichtserkennungstechnologie (mFRT), die behauptet, sie könne „die frühen Stadien von Autismus bei Säuglingen im Alter von nur 12 Monaten identifizieren“? Dieser Test hat bereits einen Namen – den RightEye GeoPref Autism Test. Laut einem Konstrukteur der UC San Diego war die Genauigkeit bei der Untersuchung von 400 Säuglingen und Kleinkindern bei 86 %.
Oder wie wäre es mit Face2Gene, das behauptet, sein mFRT-Tool habe bereits die Hälfte der bekannten menschlichen genetischen Syndrome mit „Gesichtsmustern“ in Verbindung gebracht?
Oder wie wäre es, wenn Arbeitgeber mFRT-Gesichts- und Sprachmuster nutzen würden, um Mitarbeiter zu identifizieren, die in der Zukunft wahrscheinlich früh an Demenz erkranken werden, und um die Karrierewege dieser Personen anzupassen? Sind wir damit einverstanden?
Was ist, wenn Ihr Arzt das Video-mFRT von AiCure benötigt, um zu bestätigen, dass Sie wirklich die Medikamente einnehmen, von denen Sie sagen, dass Sie sie einnehmen? Werden Sie möglicherweise in Zukunft jeglichen Alkoholmissbrauch überwachen?
Und könnte es möglich sein, Sie selbst aus der Ferne anhand nur eines Fragments eines Gesichtsbilds zu identifizieren, selbst wenn der größte Teil Ihres Gesichts von einer Maske bedeckt ist?
Die Antwort auf diese letzte Frage versuchte DARPA, die Defense Advanced Research Projects Agency, im Frühjahr 2020 zu beantworten, als sie Forscher an der Universität Wuhan finanzierte. Wenn Ihnen das alles bekannt vorkommt, dann deshalb, weil dieselbe DARPA einige Jahre zuvor stillschweigend die umstrittene Virus-Reengineering-Forschung „Gain of Function“ durch in den USA ausgebildete chinesische Forscher an derselben Universität finanziert hatte.
Die pandemische Explosion einige Monate später führte dazu, dass die gesamte örtliche Bevölkerung zu 100 % Masken trug, was es zu einem idealen Labor machte, um zu testen, ob FRT zu dieser Zeit einen bestimmten Menschen nur anhand teilweiser periorbitaler Bilder identifizieren konnte. Sie konnten es nicht – zumindest nicht gut genug. Die Studien ergaben nur in 39,55 % der Fälle positive Ergebnisse, im Vergleich zu 99,77 % des Erfolgs bei Vollgesichtsbehandlungen.
Die Gesichtserkennungstechnologie (FRT) geht auf die Arbeit des amerikanischen Mathematikers und Informatikers Woodrow Wilson Bledsoe aus dem Jahr 1960 zurück. Seine mittlerweile primitiven Algorithmen maßen den Abstand zwischen Koordinaten im Gesicht, ergänzt durch Anpassungen für Lichteinfall, Neigung des Kopfes und drei -dimensionale Anpassungen. Dies löste ein unerwartet starkes kommerzielles Interesse an möglichen Anwendungen aus, vor allem bei Kunden aus den Bereichen Strafverfolgung, Sicherheit und Militär.
Die Welt der FRT war schon immer ein großes Geschäft, aber das Aufkommen großer Sprachmodelle und hochentwickelter neuronaler Netze (wie ChatGPT-4 und Genesis) hat ihr Publikum weit über die Sicherheit hinaus erweitert, wobei die Einbeziehung des Gesundheitswesens um personelle und finanzielle Ressourcen konkurriert.
Ob Sie sich dessen bewusst sind oder nicht, Sie waren das Ziel von FRT. Die USA haben mit 15,28 pro Kopf die größte Anzahl an Überwachungskameras weltweit. Im Durchschnitt wird jeder Amerikaner 238 Mal pro Woche von einer Überwachungskamera gefilmt, aber Experten sagen, das ist nichts im Vergleich zu dem, wo unsere „Überwachungs“-Gesellschaft in ein paar Jahren sein wird.
Sie sind überall – Sicherheit, E-Commerce, Kfz-Zulassung, Bankwesen, Einwanderung, Flughafensicherheit, Medien, Unterhaltung, Verkehrskameras – und jetzt auch das Gesundheitswesen mit diagnostischen, therapeutischen und logistischen Anwendungen an der Spitze. (Unten ist ein Foto eines mobilen Live-Gesichtserkennungsprojekts vor einem Fußballspiel in London im November 2023: Foto, Matthew Holt)
Maschinelles Lernen und KI haben es FRT ermöglicht, bald Spracherkennung, Iris-Scanning und Fingerabdrücke zu verdrängen. Ein Teil davon geht auf Covid zurück – und nicht nur auf die Wuhan-Experimente. FRT ermöglichte die „kontaktlose“ Identitätsbestätigung zu einer Zeit, als die globalen Gesellschaften verständlicherweise zögerten, sich auf einen persönlichen Kontakt einzulassen.
Der Bereich mFRT ist in Flammen. Emergen Research prognostiziert bis 2028 eine jährliche Investition von fast 14 Milliarden US-Dollar mit einer durchschnittlichen jährlichen Wachstumsrate von fast 16 %. Erkennung, Analyse und Erkennung sind potenzielle Gewinner. Mittlerweile gibt es 277 einzigartige organisatorische Investorengruppen, die „Durchbrüche“ im Bereich FRT bieten und im Durchschnitt über ein Jahrzehnt Erfahrung verfügen.
Firmennamen sind vielleicht noch nicht allen bekannt – wie Megvii, Clear Secure, Any Vision, Clarify, Sensory, Cognitec, iProov, TrueFace, CareCom, Kairos – aber bald werden sie es sein.
Die medizinische Forschungsgemeinschaft ist bereits weit über die „kontaktlose“ Patientenverifizierung hinausgewachsen. Laut HIMSS Media verwenden 86 % der Gesundheits- und Biowissenschaftsorganisationen irgendeine Version von KI, und KI erweitert FRT auf eine Weise „über die menschliche Intelligenz hinaus“, die nicht nur unglaublich, sondern auch beängstigend ist. Tiefe neuronale Netze dringen bereits in den Bereich der Ärzte vor, einschließlich „der Vorhersage von Patientenrisiken, der Erstellung genauer Diagnosen, der Auswahl von Medikamenten und der Priorisierung der Nutzung begrenzter Gesundheitsressourcen“.
Wie stehen wir zum Einsatz von mFRT zur Diagnose genetischer Krankheiten, Behinderungen, Depressionen oder Alzheimer und zur Verwendung von Systemen, die von der FDA nur schwach reguliert oder nicht reguliert werden?
Die plötzliche Explosion der Forschung zum Einsatz von mFRT zur „Diagnose genetischer, medizinischer und verhaltensbedingter Erkrankungen“ ist für Medizinethiker besonders beunruhigend, die dieses Abenteuer als „schon einmal erlebt“ und kein gutes Ende sehen.
Im Jahr 1872 begann alles ganz harmlos mit Charles Darwins Veröffentlichung „Der Ausdruck der Gefühle bei Mensch und Tier“. Er war der erste Wissenschaftler, der fotografische Bilder nutzte, um in einer Publikation „das Ausdrucksspektrum des Gesichts zu dokumentieren“. Die Typisierung von Personen anhand ihrer Bilder und ihres Aussehens „war für Kliniker eine bemerkenswerte Entwicklung.“
Darwins Cousin, Francis Galton, ein Statistiker, nahm die Daten seines Cousins und synthetisierte „Identitätsabweichung“ und „rückentwickelte“ das, was er für den „Idealtyp“ des Menschen hielt, „eine heimtückische Form der menschlichen Kontrolle“, die zur Eugenik werden sollte (von das griechische Wort „eugenes“ – was „gut geboren“ bedeutet). Die Ausbreitung in der gesamten akademischen Welt folgte rasch, und die Bestätigung durch unser Rechtssystem trug dazu bei, die Bewegung hin zu allen Arten von „Unvollkommenheit“ mit bereinigten menschlichen Bezeichnungen wie „geistige Behinderung“ und „moralische Kriminalität“ zu verbreiten und zu festigen. Gerechtigkeit und Vernunft haben zwar irgendwann aufgeholt, aber es hat Jahrzehnte gedauert, und das war vor KI und neuronalen Netzen. Was wäre, wenn Galton Gemini Ultra „explizit für die Gesichtserkennung entwickelt“ hätte?
Was unsere Zukunft noch komplizierter macht, sagen Experten, ist die Tatsache, dass die generative KI mit ihren „tiefen neuronalen Netzen derzeit eine sich selbst trainierende, undurchsichtige ‚Black Box‘ ist … unfähig, die Überlegungen zu erklären, die zu ihrer Schlussfolgerung geführt haben … Mit jeder Verbesserung wird sie autonomer.“ , werden die Algorithmen, nach denen die Technologie funktioniert, für Benutzer und sogar die Entwickler, die die Technologie ursprünglich programmiert haben, weniger verständlich.“
Das US-amerikanische National Science Advisory Board on Biosecurity empfahl kürzlich Einschränkungen für die „Gain of Function“-Forschung und räumte damit verspätet ein, dass wissenschaftliche und technologische Fortschritte, denen es an rationaler und wirksamer Aufsicht mangelt, mit Gefahren verbunden sind. Kritiker des „Wild-West-Ansatzes“, der möglicherweise zum Covid-Tod von mehr als 1,1 Millionen Amerikanern beigetragen hat, hissen nun erneut die „roten Fahnen“.
Laissez-faire als Sozialpolitik scheint an der Schnittstelle von Medizin und Technologie nicht gut zu funktionieren. Nützliche, sogar bahnbrechende Entdeckungen sind wahrscheinlich am Horizont. Aber gewinnorientierte mFRT-Unternehmer werden insgesamt wahrscheinlich zu höheren Kosten führen und gleichzeitig die bereits angeschlagene Beziehung zwischen Patient und Arzt weiter erschweren.
Mike Magee MD ist Medizinhistoriker und schreibt regelmäßig für THCB. Er ist der Autor von CODE BLUE: Inside America’s Medical Industrial Complex. (Grove/2020)
