Von MIKE MAGEE
Ob es um Gesundheit, Umwelt, Technologie oder Politik geht, der gemeinsame Nenner scheint heutzutage die Information zu sein. Und es überrascht nicht, dass die Einführung von KI es geschafft hat, unsere schlimmsten Befürchtungen vor Informationsüberflutung und Fehlinformationen zu verstärken. Geoffrey Hinton, der „Pate der KI“, gestand, als er Google verließ, nachdem er ein Jahrzehnt lang die KI-Bemühungen geleitet hatte: „Es ist schwer vorstellbar, wie man die schlechten Akteure davon abhalten kann, KI für schlechte Dinge einzusetzen.“
Hinton ist ein 75-jähriger britischer Expatriate, der die ganze Welt bereist hat. 1972 begann er mit neuronalen Netzen zu arbeiten, die heute die Grundlage der KI bilden. Damals war er Doktorand an der University of Edinburgh. Mathematik und Informatik waren sein Leben. aber sie existierten neben einem gut entwickelten sozialen Gewissen, was ihn dazu veranlasste, einen Posten in den 1980er-Jahren an der Carnegie Mellon aufzugeben, anstatt eine Finanzierung durch das Pentagon anzunehmen, mit einem möglichen Endpunkt, der „Robotersoldaten“ beinhaltete.
Vier Jahre später, im Jahr 2013, wurde er bequem an die Universität von Toronto umgesiedelt, wo es ihm gelang, ein computergestütztes neuronales Netzwerk zu schaffen, das sich die Bilderkennung durch die wiederholte Analyse von Daten selbst beibringen konnte. Das erregte die Aufmerksamkeit von Google und machte Hinton über Nacht um 44 Millionen Dollar reicher. Außerdem gewann Hinton 2018 den Turing Award, den „Nobelpreis für Informatik“. Doch am 1. Mai 2023 kündigte er wegen einer Reihe von Sicherheitsbedenken kurzerhand.
Er ging nicht leise. Damals übernahm Hinton die Führung und unterzeichnete eine öffentliche Erklärung von Wissenschaftlern, in der es hieß: „Wir glauben, dass die leistungsstärksten KI-Modelle bald ernsthafte Risiken bergen könnten, wie etwa einen erweiterten Zugang zu biologischen Waffen und Cyberangriffe auf kritische Infrastrukturen.“ Dies war Teil der Bemühungen, Gouverneur Newsom von Kalifornien zu ermutigen, SB 1047 zu unterzeichnen, das die kalifornische Legislative verabschiedete, um Vorschriften zu kodifizieren, zu deren Einhaltung sich die Branche bereits freiwillig verpflichtet hatte. Sie sind gescheitert, aber dazu gleich mehr.
Als Hinton von Google zurücktrat, mischte er keine Worte. In einem Interview mit der BBC beschrieb er die generative KI als „ziemlich beängstigend … Das ist nur eine Art Worst-Case-Szenario, eine Art Albtraumszenario.“
Hinton hat ein Händchen dafür, komplexe mathematische und Computerkonzepte in einfachen Worten zu erklären.
Wie er 2023 gegenüber der BBC sagte: „Ich bin zu dem Schluss gekommen, dass sich die Art von Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben.“ Wir sind biologische Systeme und das sind digitale Systeme. Und der große Unterschied besteht darin, dass man bei digitalen Systemen viele Kopien desselben Gewichtssatzes, desselben Weltmodells hat. Und alle diese Kopien können separat lernen, ihr Wissen aber sofort weitergeben. Es ist also so, als ob man 10.000 Leute hätte und wenn eine Person etwas lernte, wussten es automatisch alle. Und deshalb können diese Chatbots so viel mehr wissen als jeder einzelne Mensch.“
Hintons Zeugnis im Jahr 2023 stellte Menschen vor Maschinen, aber nicht viel. „Im Moment sehen wir Dinge wie GPT-4, die eine Person in puncto Allgemeinwissen in den Schatten stellen, und zwar bei weitem. In Bezug auf die Argumentation ist es nicht so gut, aber es ermöglicht bereits einfache Überlegungen. Und angesichts des Tempos des Fortschritts gehen wir davon aus, dass sich die Dinge recht schnell verbessern werden. Deshalb müssen wir uns darüber Sorgen machen.“
Diese Woche stellte sich Gouverneur Gavin Newsom auf die Seite von Risikokapitalgebern und Branchengrößen sowie gegen Hinton und seine Kollegen und lehnte es ab, das KI-Sicherheitsgesetz SB 1047 zu unterzeichnen. In seiner offiziellen Erklärung hieß es: „Ich glaube nicht, dass dies der beste Ansatz zum Schutz ist.“ öffentlich.“ Die meisten glauben, dass seine Hauptsorge darin bestand, die Unterstützung und Präsenz der Informationstechnologieunternehmen (32 der 50 größten KI-Unternehmen der Welt haben ihren Sitz in Kalifornien) an einen anderen Staat zu verlieren, falls das regulatorische Umfeld feindselig werden sollte.
Dennoch wissen Newsom und alle anderen, dass die Uhr tickt, da die generative KI von Tag zu Tag schlussfolgerungsfähiger und potenziell empfindungsfähiger wird. Leitplanken sind eine Selbstverständlichkeit und werden wahrscheinlich irgendwann dem KI-Gesetz der Europäischen Union mit seiner vorgeschriebenen Transparenzplattform ähneln.
Diese Betonung von Transparenz und Leitplanken hat inzwischen den Begriff „Silicon Curtain“ populär gemacht und die Aufmerksamkeit von Weltexperten für menschliche Kommunikation wie Yuval Noah Harari, Autor des Klassikers „Sapiens“ aus dem Jahr 2011, der 25 Millionen Mal verkauft wurde, auf sich gezogen. In seinem neuesten Buch „Nexus“ argumentiert Harari gut dafür, dass der wahre Unterschied zwischen der Demokratie von Biden/Harris und der Diktatur, die Trumps Ziel zu sein scheint, darin besteht, „wie sie mit Informationen umgehen“.
Laut Harari bevorzugt eine Form der Regierungsführung „transparente Informationsnetzwerke“ und selbstkorrigierende „Gespräche und Gegenseitigkeit“. Der andere konzentriert sich auf die „Kontrolle von Daten“ und untergräbt gleichzeitig ihren „Wahrheitswert“ und bevorzugt Subjekte, die „blinde, entrechtete Unterwürfigkeit“ an den Tag legen.
Und KI? Laut Harari behalten demokratische Gesellschaften die Fähigkeit, die dunkle Seite der KI zu kontrollieren, aber sie können nicht zulassen, dass Technologieunternehmen und Elite-Finanziers sich selbst kontrollieren. Harari sieht einen „Siliziumvorhang“, der sich schnell senkt, und eine nahe Zukunft, in der die Menschen von den Algorithmen, die wir erstellt und unwissentlich freigegeben haben, überholt und ausgeschlossen werden.
Mike Magee MD ist Medizinhistoriker und schreibt regelmäßig für THCB. Er ist der Autor von CODE BLUE: Inside America’s Medical Industrial Complex. (Grove/2020)
