Mit KI denken ist wie mit dem Auto trainieren 🚗🧠

Martin hat einen Blogbeitrag veröffentlicht, in dem er versucht zu argumentieren, wie und warum ihm Künstliche Intelligenz beim Denken hilft. Ich kann mir viele Wege vorstellen, wie KI nützlich sein kann, um einem Menschen beim Denken zu helfen, aber ich nehme dieses Beispiel zum Anlass, weil es eine interessante, aber auch diskussionswürdige und kritikwürdige Haltung offenbart, die man als Mensch, meiner bescheidenen Meinung nach, nicht gehen und aktiv verhindern sollte. Natürlich kann jeder tun wie er will, wir sind alle unseres Glückes Schmiede und so weiter, aber der Punkt, den ich im Folgenden machen möchte, bleibt aufrecht: KI quasi als Sparringpartner nutzen, stets im Bewusstsein über die besondere Qualität generierter und synthetisierter Antworten, ist vollkommen in Ordnung. KI als Dialogpartner nutzen und ihr menschliche Attribute zuschreiben, was zur Verschiebung des Bewusstseins über die Qualität der Antworten führt, nicht.

Um meinen Punkt zu verdeutlichen, habe ich mir erlaubt, seinen Text heranzuziehen, ein paar seiner Worte auszutauschen und eine bewusst provokante Position einzunehmen. Martins Text gilt als Grundlage und als Inspiration, weil sie in seltener Klarheit einen Impetus vorlegt, der einer Diskussion würdig ist¹. Denn oft wird in einer wenig kritischen Betrachtung des Themas „KI zum Schreiben (oder Denken) nutzen“ das Denken aufseiten des Menschen mit dem Aufkommen von Einfällen verwechselt, das strukturierte Herangehen mit dem wirren Aufblitzen von Ideen, und die Auseinandersetzung mit, die Kritik an, und die Erarbeitung eines Themas mit einem Copy-Paste aus ChatGPT oder anderen KIs gleichgesetzt, denen am Ende mehr zugestanden wird als sie leisten können. Doch gehen wir die Sache Schritt für Schritt durch.

Ausformulierung und Ordnung

Im Text wird KI als Denkwerkzeug, sozusagen als „Hilfe beim Denken“, etabliert, weil sie den – ich überzeichne das ein wenig – nervigen, mühsamen und anstrengenden Prozess des Ausformulierens und Verschriftlichens von Gedanken stark verkürzen würde. Ein von ihm als notwendig bezeichneter Prozess, weil er in Gedanken unterzugehen droht. (Tun wir das nicht alle?) Implizit entfernt er aber die Tätigkeit des Ausformulierens von Gedanken (und die des Niederschreibens dieser Formulierungen) vom Prozess des Denkens selbst. Er argumentiert also für ein Denken, dem das Resultat – die Ausformulierung einer Idee zu einem durch Dritte nachvollziehbaren Gedanken – genommen und an eine Künstliche Intelligenz übergeben wird. Sie, die Künstliche Intelligenz (und nicht der Mensch) stellt somit das Resultat eines Denkprozesses erst her.

Wenn man diese Definition des Denkprozesses allerdings weiterführt, daraus ein Prinzip ableitet und es in einem anderen Kontext zur Anwendung bringt, entpuppt sich die „KI als Werkzeug zum Denken“ schnell als äußerst trügerische Vorstellung von Denken, die im Gegensatz zu tatsächlichem Denken steht. Dem Resultat dieses „Denkprozesses“ fehlt es an jedweder Form von Substanz, weil der Mensch einen wesentlichen Teil der eigentlichen Denkarbeit – den Prozess, nämlich, der in ihrem Naturzustand stets wirre und äußerst volatile Ideen und nicht unmittelbar zueinander in Abhängigkeit stehende Vorstellungen zu klaren Gedanken ausformuliert, die sich durch Nachvollziehbarkeit auszeichnen und so gegebenenfalls auch verschriftlicht werden können – an ein externes Werkzeug ausgelagert hat.

Das Denken, von dem ich spreche, ist ein Strukturierungs- und Ordnungsprozess, der dem Einfall, der Idee, und den in ihrem Urzustand natürlicher Weise immer etwas wirren und kaum nachvollziehbaren Gedanken nachfolgt, wenn er vom Menschen bewusst ausgelöst wird. Denken präzisiert Einfälle und Ideen, in dem es sie unter Anwendung von Sprache (oder eines anderen durch seine jeweiligen Grammatiken definierten Systems, das zur Kommunikation mit Dritten tauglich ist, wie zum Beispiel musische, bildnerische oder anderweitig künstlerische Kommunikationsformen) ausformuliert und so in einen Zustand überführt, der von der Sprunghaftigkeit des Vorgängerprodukts eines Gedankens (das sind eben die Einfälle, Eindrücke und Ideen) befreit ist. Die KI als Sparringpartner würde dabei helfen, die Sprunghaftigkeit auf ein Minimum zu beschränken; die Art und Weise wie sie aber genutzt wird, wenn sie als „kollaboratives Denkwerkzeug“ gebraucht und interpretiert wird, nicht. Denn so hilft sie nicht, die Beschränkung aufzuzeigen und überlässt es dem Menschen, sie vorzunehmen, sondern sie übernimmt die Beschränkung gleich selbst und bringt sich somit durch ihre ausformulierende Tätigkeit als Quasi-Individuum ein. Das Ausformulieren sehe ich aber nicht nur als einen nervigen und mühsamen Schritt vor der endgültigen Verschriftlichung eines Gedankens an, sondern als einen essentiellen Schritt in der Klarwerdung über einen Gedanken. In anderen Worten: Das Ausformulieren ist nicht Teil der Verschriftlichung, sondern essentieller, wenn nicht sogar der wesentlichste Teil des Denkprozesses an sich. Wer den also auslagert, denkt dieser Definition zufolge nicht.

Hier also eine Abwandlung eines Ausschnitts von Martins Beitrag, in dem ich jede Erwähnung des Einsatzes von KI als Werkzeug zum Denken mit dem Einsatz eines Autos mit Navigationsgerät als Werkzeug zum Training für einen Marathon ausgetauscht habe. Formulierung und Satzaufbau sind direkt von Martin übernommen.

KI Ein Auto mit Navigationsgerät ist auch ein Tool, dass mir sehr viel Zeit erspart beim Denken Trainieren für einen Marathon. Ich spreche einen Gedanken hinein ins Navigationsgerät die Zieladresse ein (weil es schneller geht) und entwickel im Dialog mit der KI trainiere meine Muskulatur den Gedanken, in dem ich den Anweisungen des Navigationsgeräts mit dem Auto folge. Sonst habe ich für solche Texte Tage Trainings Stunden gebraucht und am Ende gedacht, warum soll ich mir die Arbeit und Mühe machen. Mich kostet das Zeit, Kraft, Nerven. Also halte ich sie eher kurz oder sie sind mir zu persönlich anstrengend. […] An Gedanken hängen also lange Geschichten Am Trainieren für den Marathon hängt also enormer Zeitaufwand, aber mir macht es zu viel Mühe, sie alleine aufzudröseln das Training ohne Auto durchzuführen. […] Wenn aber meine Texte Trainingseinheiten zu kurz sind, sind sie missverständlich bringen sie nicht viel. Wie überhaupt meine Texte missverständlich Trainingseinheiten kurz sind, und mit KI dem Auto kann ich sie viel schneller verständlicher hinter mich bringen und ausführlicher machen noch mehr Kilometer zurücklegen und das Thema mich aufs Training fokussieren.

Nach Martin, „Denken, Texte, Länge, Arbeit„

Merkt ihr’s? Wie das Denken in dem Moment, in dem man die Sache anders bezeichnet und in anderen Kontext setzt, der grundsätzlichen Argumentation aber folgt, sich plötzlich als ein großes Nichts entpuppt, dem wir hinterher rennen in der Annahme, es wäre etwas? Denke, sozusagen, als eine Annahme ohne Substanz? Als ein gottähnliches Irgendwas irgendwo im Code einer KI? Worauf fokussiert sich jemand, der seine Trainingsstrecke für einen Marathon mit dem Auto fährt aufs Training, etwa? (Was ist dann dieses „Training“?) Da bleibt nicht viel übrig. Genauso wie sich der „Fokus aufs Training“ beim Autofahren zum tatsächlichen Training verhält, verhält sich das „Denken“ bei der Nutzung einer KI zur Ausformulierung der eigenen Gedanken zum tatsächlichen Denken, das sich genau dadurch definiert.

Dialog, aber mit wem womit?

Aber es gibt noch einen anderen Punkt in Martins Text, der mir ein wenig Unbehagen bereitet, weil er dem Endprodukt eines Computerprogramms, wenn auch eines nach außen hin intelligent wirkenden, gewissermaßen menschliche Attribute zuspricht und ihm so, über die Bande dieser Attribution, Validität und Gültigkeit zuspricht, es somit akzeptabel erscheinen lässt. Ich spreche über die Nutzung der dialogischen Form, die aus Martins Text als gewinnbringend, weil das Denken erleichternd, hervorgeht. Ich glaube aber trotzdem nicht, dass dieser Dialog, wie ihn Martin beschreibt, die Wertigkeit hat, die er haben müsste, um KI tatsächlich als „Werkzeug zum Denken“ bezeichnen zu können.

Wenn wir uns selbst kontinuierlich überzeugen müssen, mit einer KI in einem Dialog zu sein, reden wir uns zwar ein, das Steuer in einem Gespräch aktiv in der Hand zu halten, weil wir ja mit der KI interagieren und den initialen Prompt mit unseren eigenen Händen in den Chat eintippen oder mit unserem eigenen Mund einsprechen. In Wirklichkeit aber hat der Dialog bereits aufgehört, noch bevor er begonnen hat, sobald wir das Dialogfenster für den Chatbot geöffnet und die Erwartungshaltung eines Ergebnisses² eingenommen haben. Das, das möchte ich an dieser Stelle anmerken, ist für die allermeisten Dinge auch in Ordnung. Für Recherche (zumindest im Anfangsstadium, in dem man Ideen sammelt), fürs mühsame Suchen oder fürs Abarbeiten des Menschen unwürdiger Aufgaben; aber nicht, wenn die Person, die mittels Chatbot einen Text erstellt, behauptet, dieser Text wäre Resultat eines (echten) Dialogs oder gar Ergebnis ihres eigenen Denkprozesses in dialogischem Zusammenspiel mit einer KI.

Künstliche Intelligenzen denken nicht, auch wenn sie noch so menschlich wirken und wir ihnen aus dieser Wirkung heraus wenn schon nicht Menschlichkeit, dann zumindest eine Persönlichkeit zusprechen, die wiederum jegliche Interaktion wie einen Dialog erscheinen lässt. Die Imitation des Dialogs ist aber bereits ein Problem mit fatalen Auswirkungen, weil wir Menschen ein Problem mit der Abstraktion – ja, mit einer Loslösung, geradezu – von Funktion und zugehörigem Objekt haben. Wenn wir mit einer Intelligenz ohne Mensch dahinter konfrontiert sind, erfinden wir ihn einfach, um die „Intelligenz“ verarbeiten, um sie für uns vorstell- und damit akzeptierbar machen zu können. Wir imaginieren Persönlichkeit und Menschlichkeit, wo ein Computerprogramm Intelligenz imitiert.

Millions of daily users engage with AI chatbots as if they were talking to a consistent person—confiding secrets, seeking advice, and attributing fixed beliefs to what is actually a fluid idea-connection machine with no persistent self. This personhood illusion isn’t just philosophically troublesome—it can actively harm vulnerable individuals while obscuring a sense of accountability […] LLMs are intelligence without agency—what we might call “vox sine persona”: voice without person. Not the voice of someone, not even the collective voice of many someones, but a voice emanating from no one at all.

Ars Technica

Fatal, wenn man darauf aufbaut und die KI mit menschlichen Attributen ausstattet, ihr mehr Partnerschaft, Freundschaft oder andere Eigenschaften zuspricht, die zutiefst menschlich sind, und sie so in einen Status erhebt, der ihrem Output Legitimität zuspricht. Passiert das im konkreten Fall? Ist dies die logische Konsequenz einer solchen Argumentation? Ich glaube schon; vieles deutet darauf hin.

Ursprünglich gestoßen bin ich auf Martins Blog über einen Artikel übers „Denken, Schreiben, Unterhalten, KI„. Darin beschreibt er, dass er „kaum noch ohne KI“ schreibt und begründet das mit einem unkontrollierbar scheinenden Feuerwerk an Gedanken, das er nur mithilfe des Werkzeugs Künstliche Intelligenz im Zaum halten, ausformulieren und verschriftlichen kann. Er nennt den Dialog mit der KI „kollaboratives Denken“. KI, so Martin, sei sein Denkwerkzeug.

Mir geht es […] darum, zu formulieren, was ich wirklich denke. Was ich dann schreibe oder erzähle, im Internet oder in echt, ist das Ergebnis, über [sic!] nicht der eigentliche Denkprozess. Ich bin ein Denkprozess. Ich bin ein permanentes Denkfeuerwerk […] Dieses Denken braucht aber auch Dialoge, […] damit ich die sowieso schon überfülligen Gedanken verständlich zusammenbringe. Ich habe ja nicht zu wenige Gedanken, ich habe zu viele und mehr als genug. Was ich sagen will ist, dass ich nicht mehr ohne KI schreiben will. […] Anfangs habe ich noch auf den Stil der KI geachtet und versucht, hier Unterschiede zu finden, weshalb Menschen besser schreiben. Den Unterschied gibt es nicht mehr und beim Stil denke ich: so fucking what?! Das ist kollaboratives Denken. KI ist mein Denkwerkzeug.

Martin in „Denken, Schreiben, Unterhalten, KI„

Hier stellt sich die Frage, ob die KI in einem solchen Fall nur ein Werkzeug ist oder ob sie eine andere Funktion erfüllt. Könnte die beschriebene Erleichterung auch als eine Form der Kapitulation vor der Komplexität des eigenen Denkprozesses gesehen werden? Eine Haltung wie „So fucking what?!“ könnte man in diesem Kontext als Ausdruck einer gewissen Resignation interpretieren, bei der die Einfachheit der KI-Lösung über die Mühen des eigenen Formulierens gestellt wird. Die KI als (Denk-) Werkzeug zu etablieren, ist die Verlockung von Einfachheit zu akzeptieren und sie mit schönen, gesellschaftlich wohlwollend anerkannten Worten zu schmücken, die zweierlei Wirkung haben: einerseits deuten sie die Nutzung als Kollaboration, Fortschritt, Erweiterung, Beschleunigung, ja, ganz allgemein, Zukunft und führen sie damit in eine nur schwer zu kritisierende Sphäre; andererseits dienen sie als Ablenkung, um den eigentlichen Grund, den womöglich nicht ganz so produktiven, nicht ganz so effizienten, so gar nicht nach irgendeiner Zukunftstechnologie klingenden Weg zu gehen.

Ich stelle mir die Frage – und habe das auch öfter hier schon getan: Welche Tätigkeiten sind es wert, von uns selbst erledigt zu werden, auch wenn sie mühsam sind? Das eigenständige Denken und Formulieren gehört für viele zu den Kernkompetenzen des Menschseins. Die Entscheidung, diesen Prozess an eine externe, nicht-menschliche Instanz abzugeben – selbst wenn diese effizienter, schneller und zeitsparener ist -, ist daher mehr als nur eine technische Wahl. Es ist eine Entscheidung über den Wert, den man der eigenen geistigen Anstrengung beimisst. Für mich persönlich bleibt das Denken eine jener Aufgaben, deren Wert gerade in der eigenen Durchführung liegt und die ich daher nicht an eine Maschine delegieren möchte, unabhängig davon, wie leistungsfähig sie ist oder als wie leistungsfähig sie wahrgenommen wird.

Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.

Mehr Informationen

Inhalt entsperren Erforderlichen Service akzeptieren und Inhalte entsperren

Gegen Ende des Artikels gibt es einen Satz (genau genommen ist es der nächste, dem obigen Zitat folgende Satz), der alles bis dahin in seinem Beitrag Geschriebene mit nur sieben Worten zunichte macht und erkennen lässt, dass dieses „Denken“ aber so gar nicht im Dialog stattfindet, sondern wenn überhaupt, dann ein eher einseitiger Prozess ist, der den Geist in die Spurrinnen drängt, in die man ach so leicht hineingeraten kann, wenn man sich mit einer KI unterhält, weil es eben an dem, was man die authentische Intentionalität eines menschlichen Dialog- und Gesprächspartners nennt, fehlt. Alles, was die Künstliche Intelligenz als Antwort vorgibt, entbehrt jeglicher eigenständigen Wahrnehmung, Subjektivität, somit Authentizität und (Selbst-) Erfahrung, ist daher nur die aus einem Wahrscheinlichkeitsmodell gewonnene Ansammlung und Anordnung von Worten, die spektakulär plausible Sätze und Absätze generieren kann, welche wiederum nach außen hin den Eindruck von Intelligenz vermitteln können. Das ist eine der Antworten auf die provokante Frage „So fucking what?!“.

Das „wir“ in Künstliche Intelligenz

Wer solcherlei von einer KI generierten Antworten als Quelle für Inspiration nutzt, dem ist nichts vorzuwerfen. Sogar wer sich im Bewusstsein über diese, wenn auch wesentliche, Einschränkung über die Qualität eines mit KI generierten Textes mit den Antworten zufrieden gibt, auch dem ist nichts vorzuwerfen. Wer aber diese plausibel klingenden Textbausteine als von einer Intelligenz stammend wahrnimmt und ihr derart die Möglichkeit von Companionship und Menschlichkeit zuspricht, quasi über ihr äußeres Erscheinungsbild (das, generierten Texts, nämlich) die dahinterliegenden Algorithmen anthropomorphisiert und diesem nunmehrigen, als quasi-menschlich und intelligent wahrgenommenen „Gesprächspartner“ so die Möglichkeit größerer Plausibilität zuspricht oder gar im Dialog ein Gefühl von Vertrautheit gegenüber dieser Persönlichkeit aufkommen lässt, der sollte ganz besonders vorsichtig sein, nicht in die Falle zu tappen, in generiertem Inhalt nach Signalen zu suchen, die als Ergebnisse eines menschlich-geistigen Prozesses interpretiert werden könnten, um damit die Illusion von Intelligenz zu bestärken und den (wohl auch unbewussten) Wunsch nach Vorhandensein eines menschlichen, jedenfalls aber intelligenten Gesprächspartners zu erfüllen, somit die Antwort als Bestandteil eines echten Dialogs zweier sich ihrer Selbst bewusster Individuen wahrzunehmen³.

Wenn der (menschliche) Gesprächspartner dann auch noch der Aussage einer KI zustimmt und den Dialog dazu nutzt, den Denk- und Erkenntnisprozess abzukürzen, in dem er Formulierungen übernimmt, ihr sogar Gültigkeit durch menschliche Evaluierung und Verifizierung erteilt, so entsteht bei mir unweigerlich der Eindruck, der KI Überlegenheit oder zumindest Ebenbürtigkeit mit oder über den Menschen zuzugestehen. Diese Dynamik schafft eine wahrgenommene Stärke. Dadurch läuft die menschliche Leistung Gefahr, nicht mehr für sich allein bewertet zu werden, sondern ihren Wert erst durch die Assoziation mit der als überlegen empfundenen Technologie zu erhalten. Der Fokus verschiebt sich von der eigenen Leistung zur Leistung eines als solchen wahrgenommenen „Teams“. Hier ist also nicht nur eine Anthropomorphisierung am Werk, sondern auch ein ihr nachfolgender Effekt, nämlich die Sozialisierung mit der imaginierten, menschenähnlichen Existenz hinter dem Programmcode der KI. In anderen Worten: Das Individuum gründet sich sein Rudel, seine Gemeinschaft, die aus ihm selbst und der KI besteht. Dieses als „Wir“ wahrgenommene Etwas tritt nun gestärkt nach außen hin auf. So, in dieser Form, können „wir“ gewinnen.

Und wie ich darauf – für die einen wohl weit hergeholt, für andere wiederum klar und offensichtlich in diesem Beispiel sichtbar – komme? Die vorhin erwähnten sieben aufschlussreichen Worte, die mir sofort klar machen, das hinter dem Geschriebenen niemals ein echter Denkprozess, sehr wohl aber die Erhebung der KI in den Status eines Gesprächspartners, Menschen, Teammitglieds stattgefunden hat, somit die Imitation von Denken als eigenständiger Denkprozess ausgelegt und der KI rückwirkend eine Art Persönlichkeit zugesprochen wird, lauten:

Die KI bringt es auf den Punkt.

Martin in „Denken, Schreiben, Unterhalten, KI„

Wenn es die KI ist, die etwas auf den Punkt bringt, wenn der Schluss, den sie (und eben nicht der Mensch) aus den wirren Ideen und Gedanken vor der Ausformulierung zieht, von einer KI definiert werden muss bzw. die man in einer Formulierung einer KI als Resultat eines Prozesses erkennen will, dann ist das – zumindest in meinen Augen – das genaue Gegenteil von Denken. Wenn es um die eigenen Gedanken, um die eigene, intellektuelle Leistung geht, dann ist eine Formulierung wie „die KI bringt es auf den Punkt“ der Moment, in dem man nicht mehr gegensteuert und aufgibt, das Lenkrad gegen das Abdrängen des Fahrzeugs in die (von Algorithmen definierte) Spurrinne zu halten.

Spurrinnen, wieder einmal

Die ganze Sache wirkt wie eine Verkehrung. So nämlich, als ob die KI das Steuer nun in der Hand hätte⁴ und den Menschen in dem ihr durch ihre Trainingsdaten ermöglichten, argumentativen Universum steuert. Es wirkt aber nur so. Tatsächlich spiegelt die KI nur wieder, was von Anfang an gegolten hat: Sie tut nichts, was der Mensch ihr durch seinen Input nicht aufträgt. Sie unternimmt nichts, hat keine Agency, keine Persönlichkeit, keine Intentionalität, keinen Körper, keine eigenen Interessen, Erlebnisse oder gar sensorische Erfahrungen. Sie behält daher keine Konsistenz bei, wenn wir das nicht verlangen und wenn, dann nur in abstrahierter, dem vorgelagerten Dialog (sonst aber nichts) folgender Art. Sie „erinnert“ sich nicht, sie „hat nicht gelernt“, sie „weiß nicht bescheid“, sie versteht nicht. Bestenfalls wird sie mit einem sehr ausführlichen, den Kontext beschreibenden Input gefüttert, der all die Attribute so erscheinen lässt, als ob sie existieren würden. Tatsächlich aber: nein. Die ganze Sache ist Imagination. Die KI ist gänzlich von unseren Prompts abhängig und damit kein dem Menschen ähnliches Gegenüber in einem Dialog, sondern eine von allem abstrahierte Maschine ohne etwas, das dem, was wir Identität nennen, nahe kommen könnte. Also nein, es ist kein Dialog. KI ist der Fokus aufs Training, während wir mit dem Auto die Trainingsstrecke abfahren.

The user always steers the outputs. LLMs do “know” things, so to speak—the models can process the relationships between concepts. But the AI model’s neural network contains vast amounts of information, including many potentially contradictory ideas from cultures around the world. How you guide the relationships between those ideas through your prompts determines what emerges. […] We need to recognize that we have built an intellectual engine without a self, just like we built a mechanical engine without a horse. LLMs do seem to “understand” and “reason” to a degree within the limited scope of pattern-matching from a dataset […] The error is in assuming that thinking requires a thinker, that intelligence requires identity. We’ve created intellectual engines that have a form of reasoning power but no persistent self to take responsibility for it.

Ars Technica

Es darf also nicht lauten, die KI bringt es auf den Punkt. Vielmehr muss es in Zusammenhang mit der Auslagerung des Denkens an eine KI lauten: Die KI bringt uns dazu, ihren Punkt zu akzeptieren und – und hier kommt die soziale Konstruktion der imaginierten Menschlichkeit zum Tragen – ihn gegenüber Dritten und der Kritik an ihr zu verteidigen⁵.

Wenn wir dem synthetisierten Resultat von Trainingsdaten und Web-Suchen zustimmen und – das ist nicht unwichtig an dieser Stelle – der „Dialog“ keine simple Abfrage ist, sondern vom Menschen als Denkprozess wahrgenommen werden will, dann passen wir Menschen uns an die KI an und nicht sie sich an uns. Wir reden uns ein, „mit ihr“ gesprochen zu haben, wir geben ihr eine Persönlichkeit, wir statten sie mit für den Menschen notwendigen Eigenschaften aus, stellen uns vielleicht sogar ein Wesen vor, um akzeptieren zu können, dass wir uns angesprochen fühlen, auch wenn wir uns gewissermaßen selbst beim Denken zuhören. Das Konzept einer entmaterialisierten Intelligenz ist offenbar für uns nahezu denkunmöglich, ja geradezu unvorstellbar. Und hier setzt das Marketing der mit Milliarden an hierfür bestimmten Budget ausgestatteten Unternehmen an, das so kräftig wie nur möglich diesen Zustand bewahren will, bis sich auch der letzte geschlagen gibt („So fucking what?!“), dagegen zu argumentieren, Mensch bleiben zu wollen.

Schein von Dialog ist künstliche Intelligenz

Die Hersteller Künstlicher Intelligenzen wissen über die Schwierigkeiten im Verständnis und die de facto Unmöglichkeit der Vorstellung einer entmaterialisierten Intelligenz natürlich bescheid und haben die dialogische Form (den Chat) als Interface zu ihren Computerprogrammen nicht umsonst gewählt. Anfangs hätte man ja noch argumentieren können, dass die eine Website, die wie ein Chat aufgebaut war, gewissermaßen eine Notwendigkeit war, um den Zugriff auf die KI unter Kontrolle halten zu können, doch jetzt, wo KI auch in Browsern vorhanden ist, könnte man nachfragen, warum das Chat-Interface nach wie vor die primäre Kommunikationsform mit der KI darstellt.

Ich glaube, nein, ich bin mittlerweile davon überzeugt, dass der überwältigende Erfolg von ChatGPT weniger im „GPT“ als viel mehr im „Chat“ liegt. Die Wahl eines Chat-Interfaces ist ein genialer Trick, um uns von menschenähnlicher Intelligenz zu überzeugen, wo abstrakte, vom Menschen weit entfernte Prozesse nur so tun als ob. Das sehe nicht nur ich so, sondern auch Menschen, die sich andauernd mit KI – damit meine ich den Wirtschaftszweig dahinter, nicht die Technologie selbst – beschäftigen. Was passiert da also eigentlich, während wir mit der KI denken chatten?

The “chat” experience with an AI model is a clever hack: Within every AI chatbot interaction, there is an input and an output. The input is the “prompt,” and the output is often called a “prediction” because it attempts to complete the prompt with the best possible continuation. In between, there’s a neural network […] doing a processing task. The conversational back and forth isn’t built into the model; it’s a scripting trick that makes next-word-prediction text generation feel like a persistent dialogue. […] Each time you send a message to ChatGPT, Copilot, Grok, Claude, or Gemini, the system takes the entire conversation history—every message from both you and the bot—and feeds it back to the model as one long prompt, asking it to predict what comes next. The model intelligently reasons about what would logically continue the dialogue […] it’s re-reading the entire transcript each time and generating a response. This design exploits a vulnerability we’ve known about for decades. […] Even when users knew that the […] chatbot was just matching patterns and reflecting their statements back as questions, they still confided intimate details and reported feeling understood.

Ars Technica

Eine ernüchternde Antwort, die die imaginierte Seele der KI kühl ihrer Existenz enthebt. Die Frage bleibt jedoch offen, was es letztendlich ist, was (mit uns) passiert, wenn wir uns mit einer KI „unterhalten“? Ist das, was da beschrieben wird, ein Dialog? Mitnichten. Werden wir hier herausgefordert oder freuen wir uns in Wahrheit nur darüber, dass die Maschine so schöne Sätze ausgibt, die uns zu mühsam wären? Dass jemand sich um unser Team, um uns, gewissermaßen, kümmert? Erfüllt das Interface nicht viel mehr eine Erwartungshaltung, die uns positiv auf das reagieren lässt, was uns die verschiedenen KIs als „Information“, als das „Resultat eines Denkprozesses“, als „Antwort“ zurück- und damit vorgeben? Ist das Momentum des Erfolgs in der Wahrnehmung eines mit einer KI geführten „Dialogs“ nicht vielleicht mehr in der Akzeptanz maschinell generierter Wortfolgen angesiedelt und weniger in der Essenz eines echten Dialogs von Mensch zu Mensch, in der intellektuellen Stimulation, also, die das fruchtbringende Ergebnis des Austauschs voneinander abweichender, von einer tatsächlichen Intelligenz stammender Herausforderungen darstellt?

Wesensveränderung ist tatsächliche Intelligenz

Unsere Stärke, unseren Geist im Dialog mit anderen (Menschen) derart herauszufordern, dass es zu einer tiefgreifenden und nachhaltigen Veränderung sogar der materiellen Grundlage unseres Denkapparates kommt, unsere Fähigkeit, also, uns in einem Dialog auf einen den Intellekt derart stimulierenden Zustand so sehr einzulassen, dass wir – beide Gesprächspartner, nämlich – eine bis zu den biochemischen Grundlagen unseres Denkens durchgreifende Veränderung erfahren und als bessere Version unserer selbst aus den Wirren der Argumentation hervortreten, wird in einem „Dialog“ mit einem das Denken nur imitierenden Computerprogramm pervertiert. Nicht nur fehlt unserem Gegenüber die materielle Grundlage für die Möglichkeit von Veränderung, nein, es begeht nicht einmal den ersten Schritt, sich auf das Zwiegespräch überhaupt erst einzulassen. Es imitiert das Vorgeben von Denkfähigkeit, Erkenntnis und Dialogbereitschaft. Es lockt mit Einfachheit, Klarheit und mit der Illusion einer Beschleunigung des mühsamen und anstrengenden, die materiellen Grundlagen unseres Geistes verändernden Prozesses. Und das so gut, so vorhersehbar, dass wir in die Falle tappen und uns auch noch einreden, wir hätten aus dem „Dialog“ etwas gewonnen und hätten gedankliche Arbeit geleistet, während wir eine unserer wertvollsten Eigenschaften mehr und mehr unterdrückt haben; die, nämlich, durchs Denken zu lernen.

Auch wenn der Prozess an sich womöglich stattfindet, was ich angesichts der Geschwindigkeit, die ja als Hauptargument für die Nutzung künstlicher Intelligenzen oft angeführt wird, bezweifle, so ist das ein Lernen, das nicht im echten Dialog, sondern im Beobachten und Nachahmen einer imitierten Intelligenz entsteht. Wir chatten mit der KI und freuen uns, was wir nicht alles leisten können und was uns diese Technologie nicht alles an Zeit erspart. Wie Schülerinnen und Schüler, die nun den Einsatz von Taschenrechnern feiern und nicht bemerken, wie die ständige Nutzung dazu führt, dass ihre Fähigkeit zum Kopfrechnen nachlässt. Auch hier stellt sich die Frage: Welchen Wert hat die Fähigkeit an sich, verglichen mit der Effizienz des Werkzeugs?

Was wahrscheinlich ist

Es mag – und kann – sein, dass die vage Idee im Kopf eines Menschen tatsächlich vollständig mit der von einer KI generierten Textpassage übereinstimmt⁶. Es ist aber wahrscheinlicher, dass man sich der von einer KI generierten Textpassage gewissermaßen hingibt und, bei Wiederholung, gar nicht bemerkt, wie sie einem das tatsächliche, wahrhafte, anstrengende, mühsame und fordernde Denken mehr und mehr abgewöhnt. Für die Wiederholung sorgt das Interface, das die Nutzung der KI so niederschwellig und natürlich wirken lässt, dass es fast schon als widernatürlich erscheint, wenn man sie nicht nutzt.

Das Problem ist aber größer. Ein „das passt eigentlich schon so“ bei der Akzeptanz synthetisierter Vorschläge eliminiert die subtilen Feinheiten, die den Unterschied zwischen dem, was man im Kopf hat, und dem, was an fertigem Text da steht, ausmachen würden. Die Ergebnisse sind ja in den meisten Fällen auch wirklich gut, was aber weniger an der KI, sondern viel mehr an uns liegt, die wir uns von Kindheit an vor der Veröffentlichung unserer Leistung und somit der Möglichkeit von Kritik durch Dritte vielleicht nicht fürchten, ihr aber doch mit so viel Respekt entgegentreten, dass die Wahrnehmung eines überlegenen Mitglieds in einem Team, das unsere Arbeit mit Wert ausstattet, emotional wohl tut. Wir brauchen für die meisten Tätigkeiten, für die wir KI nutzen – und ich bin da ein wenig provokativ – kaum zu denken. Die meisten E-Mails und Gebrauchstexte arbeiten wir mechanisch ab. Das, ja das kann eine KI besser, schneller und effizienter für uns lösen. Go for it! Wer aber beispielsweise an einem Text arbeitet, der es wert sein soll, von Menschen gelesen zu werden, der sollte vielleicht doch mehr auf die menschliche Leistung, ist sie auch noch so subtil, setzen. Denn genau im Erarbeiten der subtilen Feinheiten steckt sie, die menschliche Leistung; also das, was es wert ist, als Denken bezeichnet zu werden.

Es kann aber natürlich auch sein, dass ich da in eine völlig falsche Richtung denke. Vielleicht hätte ich ChatGPT diesen Text schreiben lassen sollen. Die KI hätte womöglich besser formuliert, was ich wirklich denke.

1. Ab jetzt kommen noch einige Ausschnitte aus seinem Artikel vor, sind aber als Inputs für einen eigenständigen Gedanken, für eine Argumentation zu verstehen, die sich dem generellen Problem der Nutzung von KI widmet. ↩︎
2. Das ist ein problematischer Punkt: Im Dialog mit einem Menschen ist ein positiver, Erkenntnis bringender oder erfolgreicher Ausgang möglich, aber keinesfalls sicher. In einem simulierten Dialog mit einer KI ist ein positiver Ausgang immer sicher; wenn manchmal auch unbefriedigend. Durch die Art, wie eine KI Inputs verarbeitet, sorgt sie in jedem Fall dafür, dass die Erwartung einer Antwort immer befriedigt wird. Das ist für mich bereits Zeichen dafür, dass wir es nur mit einer Art von Dialog zu tun haben, die auf einen essentiellen Teil ihres möglichen Verlaufs verzichtet, in dem sie ihn ganz einfach ausschließt. Diese Form des Dialogs könnte man mit der durch Walt Disney angewendeten Befreiung von der Herausforderung vergleichen: Ein Dialog mit feststehendem Ergebnis ist kein echter Dialog mehr. ↩︎
3. Ich fürchte, dass der bewussten oder unbewussten Anthropomorphisierung der generativen Programmbausteine einer Künstlichen Intelligenz auch die (fälschlich) angenommene und auf Dritte übertragene Akzeptanz solcherart generierter Textbausteine entstammt. In anderen Worten: Wer selbst mit dem Output einer KI so umgeht wie wenn sie dem Schaffensprozess einer sentienten, also einer zu eigenständigem Bewusstsein fähigen Intelligenz entstammt, sieht auch kein Problem darin, eine KI im eigenen Namen mit Dritten kommunizieren zu lassen. Diese Wahrnehmung, die sehr zu meinem Erstaunen enorm verbreitet ist (und auch schnell zu emotionalen Diskussionen führt), sehe ich aber inhaltlich weniger als im Bereich einer erfolgreichen Täuschung durch Algorithmus und Programmcode verortet, sondern mehr als Ausdruck einer tiefen menschlichen Neigung zur Anthropomorphisierung. Dieser ohnehin vorhandene Mechanismus findet in einer Gesellschaft, die von einer zunehmenden Vereinsamungstendenz geprägt ist, möglicherweise einen besonders fruchtbaren Nährboden. ↩︎
4. Diese Verkehrung der Kontrolle, so kommt mir vor, wird in Bezug auf alles, was mit Künstlicher Intelligenz zu tun hat, immer weniger zur Ausnahme und schön langsam zur Regel. Auch der jüngst von OpenAI vorgestellte ChatGPT Atlas-Browser vollzieht so eine Verkehrung und nutzt de facto den Menschen, um Daten für die KI zu sammeln. ↩︎
5. Ich hoffe sehr, dass meine Interpretation dieser Dinge falsch ist und ich mich in ganz grundsätzlichen Punkten irre, bestenfalls bald schon eines Besseren belehrt werde. Aber bislang konnte ich meine These – oben in Kursivschrift – in noch keinem einzigen Beispiel falsifizieren, auch wenn ich mich noch so sehr darum bemüht habe. ↩︎
6. Oder auch nicht, was wiederum der Idee des Sparringpartners näher kommt, diesmal aber in einer verkehrten, dadurch aber produktiven Form: Der Mensch fängt erst mit dem Denken an, wenn das, was die KI ausformuliert, so gar nicht mit seinem Gedanken übereinstimmt. ↩︎