Nachdem der 2023-Bericht der führenden Firma Boston Consulting Group feststellte, dass ihre IT-Berater durch die Nutzung des GPT-4-Tools von Open AI produktiver seien, erhielt das Unternehmen Gegenwind, man solle doch einfach kostenlos ChatGPT verwenden, anstatt dessen Dienste für Millionen von Dollar in Anspruch zu nehmen.
Ihre Begründung lautet: Die Berater erhalten ihre Antworten oder Ratschläge sowieso von ChatGPT, daher sollten sie den Drittanbieter meiden und direkt zu ChatGPT gehen.
Außerdem: KI ohne technische Kenntnisse beherrschen? Warum komplexe Systeme vielfältiges Lernen erfordern
Für alle, die KI-intensive Jobs anstellen oder anstellen möchten, sei es Entwickler, Berater oder Geschäftsanwender, ist dies eine wertvolle Lektion. Die Botschaft dieser Kritik lautet, dass jeder, selbst mit begrenzten oder unzureichenden Fähigkeiten, KI nutzen kann, um voranzukommen oder den Eindruck zu erwecken, er habe alles im Griff. Dadurch sind die Voraussetzungen für mehr Chancengleichheit geschaffen worden. Es werden Menschen benötigt, die den von der KI bereitgestellten Informationen und Ergebnissen eine Perspektive und kritisches Denken verleihen können.
Sogar erfahrene Wissenschaftler, Techniker und Fachexperten können in die Falle tappen, sich bei ihren Ergebnissen zu sehr auf die KI zu verlassen – und nicht auf ihr eigenes Fachwissen.
„KI-Lösungen können auch unsere kognitiven Einschränkungen ausnutzen und uns anfällig für Verständnisillusionen machen, in deren Folge wir glauben, mehr über die Welt zu verstehen, als es tatsächlich der Fall ist“, heißt es in einer in Nature veröffentlichten Studie zu diesem Thema.
Sogar Wissenschaftler, die darauf trainiert sind, Informationen kritisch zu prüfen, erliegen der Verlockung maschinengenerierter Erkenntnisse, warnen die Forscherinnen Lisa Messer von der Yale University und MJ Crockett von der Princeton University.
„Derartige Illusionen verdecken die Fähigkeit der wissenschaftlichen Gemeinschaft, die Entstehung wissenschaftlicher Monokulturen zu erkennen, in denen bestimmte Methoden, Fragen und Sichtweisen alternative Ansätze dominieren, wodurch die Wissenschaft weniger innovativ und fehleranfälliger wird“, heißt es in ihrer Forschung.
Messer und Crockett geben an, dass man sich über die Bedenken hinsichtlich der Ethik, Voreingenommenheit und Arbeitsplatzverluste im Zusammenhang mit KI hinaus auch die Risiken einer übermäßigen Abhängigkeit von KI als Quelle von Fachwissen gerade erst bewusst wird.
In herkömmlichen Geschäftsumgebungen hat die übermäßige Abhängigkeit der Benutzer von KI Konsequenzen, wie Produktivitätsverlust und fehlgeleitetes Vertrauen. Beispielsweise könnten Benutzer „ihre Aktionen ändern, anpassen und umstellen, um sie an die Empfehlungen der KI anzupassen“, stellen Samir Passi und Mihaela Vorvoreanu von Microsoft in einer Übersicht über Studien zu diesem Thema fest. Darüber hinaus wird es für Benutzer „schwierig, die Leistung der KI zu bewerten und zu verstehen, wie sich die KI auf ihre Entscheidungen auswirkt“.
Das ist auch die Ansicht von Kyall Mai, Chief Innovation Officer bei der Esquire Bank. Er sieht KI als entscheidendes Instrument zur Kundenbindung, warnt aber vor ihrem übermäßigen Einsatz als Ersatz für menschliche Erfahrung und kritisches Denken. Die Esquire Bank bietet spezialisierte Finanzierungen für Anwaltskanzleien und sucht nach Leuten, die das Geschäft verstehen und wissen, wie KI das Geschäft voranbringen kann. Ich habe Mai kürzlich auf der New Yorker Konferenz von Salesforce getroffen, wo er seine Erfahrungen und Ansichten zu KI mit uns teilte.
Mai, der selbst vom Programmierer zum vielseitigen CIO aufgestiegen ist, bestreitet nicht, dass KI vielleicht eines der wertvollsten produktivitätssteigernden Werkzeuge überhaupt ist. Aber er ist auch besorgt, dass ein zu starkes Vertrauen auf generative KI – sei es für Inhalte oder Code – die Qualität und Schärfe des menschlichen Denkens beeinträchtigen wird.
Außerdem: Mehr als nur Programmieren: KI bringt eine neue Generation von Berufsbildern hervor
„Wir wissen, dass fantastische Köpfe und Ergebnisse nicht unbedingt so gut sind wie jemand, der bereit ist, kritisch zu denken und seine eigene Perspektive dazu zu äußern, was KI und generative KI in Form von Empfehlungen zurückgibt“, sagt er. „Wir wollen Leute, die emotional und selbstbewusst genug sind, um zu sagen: ‚Hmm, das fühlt sich nicht ganz richtig an, ich bin mutig genug, mit jemandem darüber zu sprechen, um sicherzustellen, dass ein Mensch involviert ist.‘“
Esquire Bank nutzt Salesforce-Tools, um beide Seiten der KI zu nutzen – die generative und die prädiktive. Die prädiktive KI liefert den Entscheidungsträgern der Bank Einblicke darüber, „welche Anwälte ihre Website besuchen, und hilft dabei, die Dienstleistungen auf der Grundlage dieser Besuche zu personalisieren“, sagt Mai, dessen Rolle als CIO sowohl die Kundenbindung als auch die IT-Systeme umfasst.
Als rein virtuelle Bank setzt Esquire viele seiner KI-Systeme in seinen Marketingteams ein und kombiniert generative, KI-gestützte Inhalte mit prädiktiven KI-Algorithmen im Back-End.
„Jeder hat ein anderes Erlebnis“, sagt Mai. „Deshalb nutzen wir KI, um vorherzusagen, welche Inhalte ihnen als Nächstes bereitgestellt werden sollten. Sie basieren auf allen Analysen im System und darauf, was wir mit diesem bestimmten Interessenten machen können.“
Außerdem: Generative KI ist die Technologie, bei der die IT den größten Druck verspürt, sie zu nutzen
Bei seiner engen Zusammenarbeit mit KI entdeckte Mai eine interessante Wendung in der menschlichen Natur: Menschen neigen dazu, ihr eigenes Urteilsvermögen und ihre Sorgfalt zu missachten, wenn sie von diesen Systemen abhängig werden. „Wir haben zum Beispiel festgestellt, dass manche Menschen faul werden – sie geben etwas vor und entscheiden dann: ‚Ah, das klingt nach einer wirklich guten Antwort‘ und senden es weiter.“
Wenn Mai merkt, dass man sich zu sehr auf KI verlässt, „führe ich sie in mein Büro und sage: ‚Ich bezahle Sie für Ihre Perspektive, nicht für eine Aufforderung und eine Antwort in KI, die ich dann lesen muss.‘ Ich will nicht, dass Sie mir einfach die Ergebnisse geben, sondern dass Sie Ihre kritische Meinung hören.“
Dennoch ermutigt er die Mitglieder seines Technologieteams, alltägliche Entwicklungsaufgaben an generative KI-Tools und -Plattformen auszulagern und sich so Zeit zu verschaffen, um enger mit dem Unternehmen zusammenzuarbeiten. „Programmierer stellen fest, dass 60 Prozent der Zeit, die sie früher mit dem Schreiben von administrativem Code verbrachten, nicht unbedingt bahnbrechend ist. KI kann das für sie übernehmen, und zwar durch Sprachansagen.“
Außerdem: Wird KI den Arbeitnehmern schaden oder helfen? Es ist kompliziert
Als Ergebnis sieht er, dass „die Grenzen zwischen einem klassischen Programmierer und einem Business-Analysten immer mehr verschwimmen, weil der Programmierer nicht mehr so viel Zeit mit Dingen verbringt, die keinen echten Mehrwert bieten. Das bedeutet auch, dass Business-Analysten zu Softwareentwicklern werden können.“
„Es wird interessant, wenn ich vor einer Plattform sitzen und sagen kann: ‚Ich möchte ein System, das dies, dies, dies und dies macht‘ und es dann auch macht.“
