In den sozialen Medien wimmelt es von Beispielen für Googles neues Produkt „AI Overview“, in dem seltsame Dinge gesagt werden, von der Aufforderung an die Benutzer, ihre Pizza mit Klebstoff zu bestreichen, bis hin zum Vorschlag, Steine zu essen. Die chaotische Einführung bedeutet, dass Google sich beeilt, AI Overviews für bestimmte Suchanfragen manuell zu deaktivieren, wenn verschiedene Memes gepostet werden, weshalb Benutzer feststellen, dass so viele davon kurz nach der Veröffentlichung in sozialen Netzwerken verschwinden.
Dies ist eine merkwürdige Situation, da Google AI Overviews bereits seit einem Jahr testet – die Funktion wurde im Mai 2023 als Betaversion unter dem Namen „Search Generative Experience“ eingeführt – und CEO Sundar Pichai sagte, das Unternehmen habe in dieser Zeit über eine Milliarde Anfragen bearbeitet.
Pichai sagte jedoch auch, dass Google die Kosten für die Bereitstellung von KI-Antworten im gleichen Zeitraum um 80 Prozent gesenkt habe, „angetrieben durch Hardware-, Ingenieurs- und technische Durchbrüche“. Es scheint, dass diese Art der Optimierung möglicherweise zu früh erfolgte, bevor die Technologie bereit war.
„Ein Unternehmen, das einst dafür bekannt war, auf dem neuesten Stand zu sein und qualitativ hochwertige Produkte zu liefern, ist heute für minderwertige Produkte bekannt, die zu Memes werden“, sagte ein KI-Gründer, der anonym bleiben wollte, gegenüber The Verge.
Google behauptet weiterhin, dass sein Produkt AI Overview den Nutzern größtenteils „hochwertige Informationen“ liefert. „Viele der Beispiele, die wir gesehen haben, waren ungewöhnliche Anfragen, und wir haben auch Beispiele gesehen, die manipuliert waren oder die wir nicht reproduzieren konnten“, sagte Google-Sprecherin Meghann Farnsworth in einer E-Mail an The Verge. Farnsworth bestätigte auch, dass das Unternehmen „schnell Maßnahmen ergreift“, um AI Overviews bei bestimmten Anfragen zu entfernen, „sofern dies gemäß unseren Inhaltsrichtlinien angemessen ist, und diese Beispiele nutzt, um umfassendere Verbesserungen an unseren Systemen zu entwickeln, von denen einige bereits eingeführt wurden.“
Gary Marcus, ein KI-Experte und emeritierter Professor für Neurowissenschaften an der New York University, sagte gegenüber The Verge, dass viele KI-Unternehmen „Träume verkaufen“, dass diese Technologie von 80 Prozent auf 100 Prozent Richtigkeit komme. Die ersten 80 Prozent zu erreichen, sei relativ einfach, da man dafür eine große Menge menschlicher Daten heranziehen müsse, sagte Marcus, aber die letzten 20 Prozent seien extrem anspruchsvoll. Tatsächlich glaubt Marcus, dass die letzten 20 Prozent das Schwierigste von allen sein könnten.
„Man muss tatsächlich einige Überlegungen anstellen, um zu entscheiden: Ist das plausibel? Ist diese Quelle legitim? Man muss Dinge tun, die ein menschlicher Faktenprüfer tun würde, und dafür könnte tatsächlich künstliche allgemeine Intelligenz erforderlich sein“, sagte Marcus. Und Marcus und Metas KI-Chef Yann LeCun sind sich einig, dass die großen Sprachmodelle, die aktuelle KI-Systeme wie Googles Gemini und OpenAIs GPT-4 antreiben, nicht das sein werden, was AGI schafft.
Schauen Sie, es ist eine schwierige Situation für Google. Bing hat mit Satya Nadellas berühmtem Zitat „We made them dance“ vor Google groß in die KI eingestiegen, OpenAI arbeitet angeblich an einer eigenen Suchmaschine, ein neues KI-Such-Startup ist bereits 1 Milliarde Dollar wert und eine jüngere Generation von Nutzern, die einfach nur das beste Erlebnis haben wollen, wechselt zu TikTok. Das Unternehmen spürt eindeutig den Wettbewerbsdruck, und Druck ist der Grund für chaotische KI-Veröffentlichungen. Marcus weist darauf hin, dass Meta 2022 ein KI-System namens Galactica herausgebracht hat, das kurz nach seiner Einführung wieder vom Netz genommen werden musste, weil es den Leuten unter anderem sagte, sie sollten Glas essen. Klingt bekannt.
Google hat große Pläne für AI Overviews – die Funktion in ihrer heutigen Form ist nur ein kleiner Ausschnitt dessen, was das Unternehmen letzte Woche angekündigt hat. Mehrstufige Argumentation für komplexe Abfragen, die Möglichkeit, eine KI-organisierte Ergebnisseite zu generieren, Videosuche in Google Lens – hier steckt viel Ehrgeiz. Aber im Moment hängt der Ruf des Unternehmens davon ab, nur die Grundlagen richtig zu machen, und da sieht es nicht gut aus.
„[These models] sind von Natur aus nicht in der Lage, ihre eigene Arbeit auf ihre Vernunft zu prüfen, und das ist es, was der Branche letztendlich zum Verhängnis wird“, sagte Marcus.
