Wenn wir lesen, dass ChatGPT sagt, Claude meint oder Gemini behauptet, dann wirken solche Formulierungen auf den ersten Blick harmlos. Sie sind es aber nicht, denn sie stellen Software als Gegenüber dar, das etwas weiß, meint oder behauptet, und weisen ihr damit Eigenschaften zu, die ex natura menschlichen Gesprächspartnern zukommen und bei einer KI im eigentlichen Sinn nur imaginiert sein können. Wer die Ausgabe eines Sprachmodells als Aussage präsentiert oder sogar zitiert, erweckt den Eindruck eines quasi-menschlichen Gegenübers und erzeugt damit einen falschen Rahmen, der die weitere Argumentation prägt. Wer einmal damit beginnt, die KI sagen zu lassen, kann sich später von dieser Nähe kaum lösen.
Tatsächlich gibt es kein Gegenüber, das denkt oder etwas mitteilen will. Es gibt ein System, das Text generiert, indem es auf Grundlage seines Trainings und des bisherigen Kontexts wahrscheinliche Fortsetzungen berechnet. Zugegeben, das macht es wirklich gut und wir Menschen können uns des Eindrucks eines Gegenübers nur schwer erwehren. Das liegt aber nicht nur an dem, was das System ausgibt, sondern vor allem daran, wie es das tut. Und plötzlich sagen wir „Bitte“, wenn wir einem Computerprogramm Anweisungen geben. Wir verabschieden uns und schmunzeln, wenn uns vollautomatisierte Systeme unterhalten. Selbst wenn wir uns nicht wirklich einen Menschen vorstellen, behandeln wir Software plötzlich so, als hätte sie Absichten, Wissen und Urteile. Wie ein Gegenüber, eben, das wir bereits mit dem ersten Verb erzeugen, sobald wir Software etwas sagen, meinen oder behaupten lassen.
Ich habe bereits darüber geschrieben, was es bedeutet, wenn KI-Systeme sich entschuldigen, als Gegenüber inszeniert werden, angeblich beim Denken helfen, falsche Erwartungen erzeugen oder in Texten als Gegenüber auftreten. Bisher ging es vor allem um die Folgen dieser Vermenschlichung. Diesmal geht es um ihre sprachliche Grundlage. Emily Bender und Nanna Inie zeigen, dass Wörter, die bei der Beschreibung der Ausgabe eines Sprachmodells menschliche Fähigkeiten voraussetzen, auch dann nicht harmlos bleiben, wenn sie ausdrücklich als Metaphern gemeint sind. Das Als-ob erzeugt erst den Anschein von Verständnis. Für mich liegt genau darin die Gefahr, dass nämlich aus dem Als-ob ein So-ist-es wird.
Anthropomorphizing language influences how people perceive a system on multiple levels. […] Metaphors are helpful shortcuts, but they are also seductive, because they create an impression of understanding. […] We are […] anthropomorphizing automated systems when we describe them as participating in acts of communication. If you say you “asked” the system a question, it “told” you something or “lied”, this is overselling what actually happened. These words entail communicative ability and intent.
Emily M. Bender, Nanna Inie
Wenn diese Sprache so tief in unseren Gewohnheiten steckt, reicht es nicht, sie gelegentlich zu kritisieren. Wir müssen sie kontinuierlich erkennen und anhand konkreter Leitlinien durch präzisere Formulierungen ersetzen. Wer über KI schreibt und nicht dem Hype verfallen will, sollte sich daran halten, gerade in aufklärenden Beiträgen. Da trifft es sich doch gut, dass Emily Bender und Nanna Inie in einem Folgeartikel solche Leitlinien formuliert haben. Erst bei der Lektüre ihres Artikels wurde mir bewusst, wie sehr anthropomorphisierende Sprache bereits zur Gewohnheit geworden ist und wie schwierig es sein wird, sich von diesen Sprachgewohnheiten zu lösen.
These ways of speaking are deeply ingrained at this point, and it takes work [to] carve new conversational and writing habits. That work involves at least three steps: (1) Noticing which word choices are anthropomorphizing (2) Finding alternatives (3) Getting in the habit of using the alternatives […] De-anthropomorphizing language talks about computer systems in terms of their functionality (what people build and/or use them to do), assigns agency to people using systems and not systems, and avoids aggrandizing metaphors about cognition. […] Some of these rephrasings may feel a little clunky, and they can end up longer than the anthropomorphizing shorthand. This means it takes a little more dedication to use them, but also isn’t necessarily a bad thing.
Emily M. Bender, Nanna Inie
Und nun wird es interessant. Emily Bender und Nanna Inie gliedern anthropomorphisierende Formulierungen in sieben Gruppen und zeigen anhand konkreter Beispiele, wie sich diese vermeiden lassen. Ich gebe ihre Ersetzungsvorschläge hier in deutscher Übersetzung wieder. Im Kern folgen sie demselben Prinzip. Sie beschreiben Software über ihre Funktion und verlagern Fähigkeiten, Absichten und Verantwortung dorthin zurück, wo sie tatsächlich liegen, zu den Menschen, die Systeme entwickeln, einsetzen und ihre Ausgaben bewerten.
Sieben sprachliche Wege zur Vermenschlichung
1. Begriffe für geistige Fähigkeiten
Die erste und wichtigste Gruppe betrifft Wörter, die geistige Fähigkeiten in einem Algorithmus verorten. Schon „künstliche Intelligenz“ legt nahe, dass Software denkt. Als Bezeichnung eines Forschungs- und Anwendungsfeldes ist „künstliche Intelligenz“ etabliert. Problematisch wird der Ausdruck dort, wo er die Ausgabe einer konkreten Software als Ergebnis eines eigenen Denk- oder Erkenntnisprozesses erscheinen lässt. „Halluzination“ beschreibt eine Ausgabe so, als hätte das System etwas wahrgenommen und sich geirrt, und verstärkt damit die Vorstellung eines denkenden Gegenübers. Tatsächlich nimmt Software jedoch nichts wahr und kann sich deshalb auch nicht im menschlichen Sinn irren. Solche Ausgaben sind mögliche Ergebnisse probabilistischer Texterzeugung. Kein Irrtum des Systems, sondern Ergebnis einer Berechnung.
2. Emotionen
Ein emotionales Innenleben braucht offenbar nicht viel: Es reicht, wenn sich ChatGPT „abmüht“ oder wir es zu einer Ausgabe „überreden“. Solche Verben schreiben der Software emotionale Zustände zu, obwohl sie lediglich eine Ausgabe erzeugt. Aus dem denkenden wird nun auch ein fühlendes Gegenüber.
3. Kommunikation
Noch deutlicher wird die Vermenschlichung bei der angeblichen Kommunikation. KI-Produkte kommunizieren nicht im menschlichen Sinn. Sie sind keine Gesprächspartner. Wer von „Fragen“ und „Antworten“ spricht, macht aus einer Eingabe und einer Ausgabe einen Dialog mit einem imaginierten Gegenüber. Was wir geläufig ein „Gespräch“ nennen, ist im Kern eine Folge von Eingaben und Ausgaben.
4. Zuschreibung von Handlungsfähigkeit
Besonders problematisch wird vermenschlichende Sprache dort, wo sie der Software Interessen, Ziele oder Entscheidungen zuschreibt. Denn so verschwinden die Menschen, die ein System entwickeln, einsetzen und seine Ausgaben verantworten. Deshalb sollten wir genau darauf achten, wer etwas will, wer handelt und wem eine Ausgabe zuzurechnen ist. Der schmucke Marketingbegriff „Agent“ verleitet zum Gegenteil. Er (!) ist kein digitaler Kollege, sondern ein Softwaresystem, das ein Sprachmodell mit Werkzeugen und anderen Systemen verbindet, die Menschen für bestimmte Zwecke eingerichtet haben.
5. Analogie zu menschlichen Rollen
Auch menschliche Rollen verschieben die Perspektive. Ein Tutor oder „Co-Creator“ ist keine neutrale Bezeichnung, sondern schreibt der Software eine soziale Funktion zu. Präziser wäre eine Bezeichnung, die Software als Werkzeug für bestimmte Aufgaben beschreibt. Es würde ja auch niemand auf die Idee kommen zu schreiben: „Ich habe den Text zusammen mit Microsoft Word verfasst.“ Und doch schreiben wir genau so, wenn wir behaupten, Menschen hätten Texte gemeinsam mit einer probabilistischen, ungeprüften Software-Automatisierung verfasst, sobald sie ChatGPT, Gemini oder Claude verwendet haben. Oder die Software übernimmt diese Zuschreibung gleich selbst und trägt sich etwa auf GitHub als „Co-Creator“ ein.
6. Namen und Pronomen
Bei Namen können wir nur begrenzt gegensteuern. Wir können uns aber bewusst machen, dass menschliche Namen die Eigenheiten von Software überdecken. Wer sein OpenClaw „Fred“ nennt, tut im Grunde dasselbe wie Anthropic mit „Claude“: Aus einer Systembezeichnung wird ein scheinbarer Personenname und aus dem Personennamen eine imaginierte Persönlichkeit mit kommunikativen Fähigkeiten, Emotionen und eigener Handlungsfähigkeit. Ich frage mich, wie wir über Microsoft Word schreiben würden, wenn uns die Textverarbeitungssoftware beim ersten Start fragte, mit welchem Namen wir sie ansprechen wollen. Über Pronomen entscheiden wir dagegen selbst und verwenden trotzdem nicht „das System“, sondern „er“, „sie“ oder „du“, als hätten wir es mit einem Gegenüber zu tun. Warum? Weil wir für „ihn“ und seine Irrtümer mehr Verständnis aufbringen können als für „es“ und seine Fehler.
7. Biologie als Metapher
Die siebte und letzte Kategorie führt zurück an den Anfang: Schon der Ausdruck „neuronale Netzwerke“ lehnt sich an die Biologie an. Von dort ist es sprachlich nicht weit zu „lernen“, „Gedächtnis“, „denken“ und schließlich „Intelligenz“. Eine technische Analogie wird so zur scheinbaren Beschreibung menschlicher Fähigkeiten. Für ein Fachpublikum ist diese Analogie allerdings als Metapher erkennbar. Es weiß, dass damit keine biologischen Vorgänge und schon gar nicht menschliche Fähigkeiten beschrieben werden. Im allgemeinen Sprachgebrauch geht dieses Wissen jedoch verloren. Menschen ohne technisches Vorwissen nehmen die Metapher als Beschreibung der Wirklichkeit und nicht mehr als Vereinfachung wahr. So gibt eine sprachliche Analogie eine Denkrichtung vor und führt zu einem Verständnis der Software, das einer genaueren Betrachtung nicht standhält.
Wenig elegant, aber präziser
Die folgenden Beispiele fassen die sieben Kategorien noch einmal zusammen. Nicht alle Ersetzungen sind gleich elegant oder in jedem Zusammenhang vollständig deckungsgleich. Gerade das ist Teil des Problems: Präzision und Alltagstauglichkeit fallen hier oft auseinander.
| Kategorie | Anthropomorphisierende Bezeichnung | Präzisere Fassung |
|---|---|---|
| Geistige Fähigkeiten | künstliche Intelligenz | probabilistische Automatisierung |
| Halluzination | unerwünschte Ausgabe | |
| Das Modell zeigt Voreingenommenheit | Das Modell spiegelt Voreingenommenheit wider | |
| Modellfehler | fehlerhafte Modellausgabe | |
| Emotionen | ChatGPT müht sich ab | Das System erzeugt eine Ausgabe |
| Kommunikation | Prompt | Texteingabe |
| Antwort | Ausgabe | |
| Chatbot / Konversationsagent | Konversationssimulator | |
| Handlungsfähigkeit | ChatGPT unterstützte das Team | Das Team nutzte ChatGPT |
| Die Lösung enthüllen | Die Lösung anzeigen | |
| KI-Agent | probabilistisches, ungeprüftes Software-Steuerungssystem | |
| Menschliche Rollen | Tutor / Co-Creator | von Menschen genutztes Werkzeug |
| Namen und Pronomen | Hat Claude recht? | Ist die Maschinenausgabe korrekt? |
| Sie produzieren Ergebnisse | Das Team nutzt das System, um Ergebnisse zu produzieren | |
| Biologische Metaphern | neuronales Netzwerk | technische Netzwerkstruktur |
Die Tabelle zeigt, warum die präziseren Begriffe so unhandlich wirken. Sie lassen das scheinbare Gegenüber verschwinden und bringen stattdessen Software, Eingaben, Ausgaben und menschliche Verantwortung ins Spiel. Das klingt weniger elegant, aber es macht Verantwortung sichtbar. Genau darin liegt ihr Wert. Sprache kann Verantwortung, Handlungsfähigkeit und Willen sichtbar machen, wenn wir sie als präzises Instrument der Beschreibung einsetzen. Marketingsprech mit einem pseudowissenschaftlichen Nimbus auszustatten, leistet das natürlich nicht.
Machen wir uns doch den Spaß und setzen einen direkten Vergleich! Der Satz „ChatGPT unterstützt das Team dabei, die richtige Antwort zu finden“ dürfte gegenwärtig vielen ganz selbstverständlich erscheinen. Präziser klingt derselbe Satz allerdings so: „Das Team nutzt ein probabilistisches, ungeprüftes Software-Steuerungssystem, um eine Maschinenausgabe zu erzeugen, und prüft anschließend, ob diese korrekt ist.“ Überlegt euch gut, ob beide Sätze in euren Köpfen dieselbe Wirkung erzeugen.
Also, wie tun wir nun?
Jetzt habt ihr’s. Ihr müsst selbst entscheiden, ob ihr euch diese sprachliche Umstellung antut. Sie wird sich anfangs merkwürdig und umständlich anfühlen. So sehr steckt die Marketingsprache der großen KI-Anbieter bereits in unseren Köpfen. Das ist kein Argument gegen die präziseren Begriffe, sondern ein Hinweis darauf, wie tief die anthropomorphisierende Sprache bereits in unserem Denken sitzt.
Ist euch klar, was hier passiert und warum das ein erkenntnistheoretisches Problem ist? Wenn wir Begriffe für menschliche Fähigkeiten zur Beschreibung von KI verwenden, liegt unser Verstehen zunächst in ihrer menschlichen Bedeutung. Sobald wir sie auf KI anwenden, hält uns ihre Vertrautheit davon ab, die Übertragung selbst zu bemerken. Wir verstehen die Metapher, aber wir verstehen nicht, was sie in Bezug auf die Software tatsächlich erklären kann. Trotzdem sind wir überzeugt, verstanden zu haben, weil uns die Begriffe so vertraut sind. Das ist prekär, weil daraus eine gefährliche Illusion entsteht. Wir verstehen die Software nicht und halten doch den Anschein von Verständnis – das Als-ob – für Erkenntnis. Das bleibt nicht ohne Folgen. Wer Denken mit sprachlich überzeugender Imitation von Denken verwechselt, lernt am Ende womöglich genau diese Verwechslung als Denken zu begreifen.
Ich fürchte allerdings, dass wir diese Sprache nicht mehr loswerden. Ein bloßer Hinweis auf die Ungenauigkeit der im Alltag gebräuchlichen Formulierungen erzeugt in den Köpfen der Leserinnen und Leser vermutlich ebenso wenig ein neues Bild wie die nachgeschobene Phrase „Es gilt die Unschuldsvermutung!“. Zu sehr hat sich die Faszination dafür eingebrannt, einer der komplexesten Technologien überhaupt mit scheinbar menschlichen Begriffen habhaft zu werden. Zu mühsam, entlarvend und enttäuschend wäre es, sich einzugestehen, dass man die Funktionsweise dieser Systeme weit weniger versteht, als man dachte, und trotzdem nicht außen vor bleiben möchte.
Manchmal habe ich den Eindruck, dass über künstliche Intelligenz mit derselben Gewissheit gesprochen wird wie über pseudowissenschaftliche Erklärungen, die Verstehen nur simulieren. „Du musst es einfach nur manifestieren, Michael, denn alles ist Quantenphysik!“