Schau, schau, schau! Ein Team bestehend aus einem Wissenschaftler der Carnegie Mellon University und sechs Wissenschaftlern von Microsoft Research hat sich in einem Paper mit der Reduktion kritischen Denkens beschäftigt, die umso stärker eintritt, je mehr sich Menschen zur Erfüllung ihrer Tasks auf generative KI stützen.
We find that knowledge workers engage in critical thinking primarily to ensure the quality of their work, e.g. by verifying outputs against external sources. Moreover, while GenAI can improve worker efficiency, it can inhibit critical engagement with work and can potentially lead to long-term overreliance on the tool and diminished skill for independent problem-solving. Higher confidence in GenAI’s ability to perform a task is related to less critical thinking effort. When using GenAI tools, the effort invested in critical thinking shifts from information gathering to information verification; from problem-solving to AI response integration; and from task execution to task stewardship. […] To that end, our work suggests that GenAI tools need to be designed to support knowledge workers’ critical thinking by addressing their awareness, motivation, and ability barriers.
Hao-Ping (Hank) Lee and others, ‘The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers’ (ACM CHI 2025)
Und Emanuel Maiberg von 404 Media fragt sich nun, ob uns Technologien kognitiver Funktionen berauben bzw. was mit uns passiert, wenn wir Denk- und Merkleistungen an Maschinen übergeben, und liefert auch gleich ein (für mich) sehr gut nachvollziehbares Beispiel: Telefonnummern.
Does this mean AI is making us dumb, is inherently bad, and should be abolished to save humanity’s collective intelligence from being atrophied? […] Humanity has a long history of “offloading” cognitive tasks to new technologies as they emerge and that people are always worried these technologies will destroy human intelligence. […] I […] remember a time when I memorized the phone numbers of many friends and family members. The only number I remember now that all those contacts are saved on my phone is my own. […] I don’t feel particularly dumb for outsourcing my brain’s phonebook to a digital contacts list, but the same kind of outsourcing could be dangerous in a critical job where someone is overrelying on AI tools, stops using critical thinking, and incorporates bad outputs into their work.
404 Media
Gefunden habe ich den Verweis zum Paper von Microsoft Research bei Michael Veale auf Mastodon, der die Sache auch mit dem ihr angesichts der universitären bzw. wissenschaftlichen Affiliation der am Paper beteiligten Autoren, deren Institut von einem Unternehmen finanziert wird, das all seine Produkte mit Künstlicher Intelligenz ausstattet, mit dem diesem Umstand gebührenden Zynismus kommentiert:
Microsoft Research: GenAI can inhibit critical engagement with work and can potentially lead to long-term overreliance on the tool and diminished skill for independent problem-solving.
Microsoft: sells GenAI aggressively into the Education 365 packages
Michael Veale
Ich denke, das Resultat überrascht niemanden, denn wer auch immer bereits mit KI gearbeitet hat, wird, sofern er oder sie sich des Outputs sicher sein will, gleiches erlebt haben: Den Shift, nämlich, von der kreativen und lösungsorientierten Suche nach Wissen hin zur Überprüfung des Outputs der genutzten KI – und das nicht einmal gründlich, sondern eher probabilistisch. „Kurz drüberschauen, ob’s eh passt.“ Fatal.
Wir werden sozusagen Fact-Checker unseres als eigene Leistung wahrgenommenen Outputs einer Künstlichen Intelligenz. Das ist im Grunde genommen degradierend und ermöglicht, was ich schon in früheren Artikeln angedeutet habe: Dass sich, nämlich, wenig begabte, wenn nicht gar schlichtweg unfähige Menschen in Bereichen breitmachen und so den tatsächlich begabten, interessierten und dazu berufenen die Plätze wegnehmen, die sie bräuchten, um ihrer Arbeit nachgehen zu können. In anderen Worten: Mittelmaß wird durch Künstliche Intelligenz genügend gut kaschiert, um Exzellenz zu verhindern.
Eine von hunderten Telefonnummern nachsehen, kann am Handy jeder und jede. Das ist die eine Sache. Sich diese Nummern merken und ohne Verzögerung aus dem Gedächtnis abrufen, eine völlig andere. Und was hat das mit Gedächtnis zu tun? Nun, ich wähle Nummern nicht mehr. Ich tippe bzw. klicke sie (im Adressbuch, auf einer Website oder in einem E-Mail) an. Und dass ich die Nummer eines Schulfreundes oder einer Freundin aus Kindstagen gewählt habe, ist Jahre her. Aber dennoch kenne ich – und meine Schulzeit ist wirklich schon lange her – jede einzelne Nummer jedes einzelnen Freundes und jeder einzelnen Freundin von damals immer noch auswendig. Besser ☎️🧠 statt 📱😶🌫️.