Surfen auf der Welle der selbstgewählten Inkompetenz

Andreas Bulling, Professor für Mensch-Computer-Interaktion und Kognitive Systeme an der Universität Stuttgart, hat über die Nutzung von KI durch seine Studierenden und die daraus resultierenden Folgen geschrieben. Er warnt auf Mastodon vor einem Punkt, der „in der Berichterstattung und Diskussion […] zu wenig Beachtung findet“: Wir müssen uns darauf einstellen, von einer Welle der Inkompetenz überrollt zu werden. Sie wird durch jene Studierenden ausgelöst, die sich so sehr auf Künstliche Intelligenz verlassen, dass sie ohne sie nicht mehr können und nicht genügend eigenes Verständnis entwickeln, um die Antworten der KI beurteilen zu können.

Bei uns an der Uni sind vorlesungsbegleitende Übungen, Fachpraktika und Seminare effektiv tot. Ob Programmieraufgaben, Übungsblätter oder Textarbeit – der Anteil an KI-generierten Abgaben liegt (geschätzt, denn genau sagen kann man das nie) zwischen 90% und 100%. Studis lassen ganze Bachelor- und Master-Arbeiten von KI erstellen. Code und Ausarbeitung sowieso […] Wir hatten den ersten Studi, der im persönlichen Betreuungsgespräch (keine Prüfung!) nicht mal mehr selbst geantwortet hat. Der hatte währenddessen ChatGPT offen und hat unsere Fragen einfach weitergereicht und uns die Antworten vorgelesen. Ohne Scham. Stellt man diesen Studis nur eine Nachfrage, z.B. zu ihrem Code – keine Antwort/Ahnung.

Andreas Bulling

Das Problem daran ist nicht die Nutzung von KI an sich. Das Problem entsteht, wenn KI beim Aneignen von Wissen nicht mehr nur hilft, sondern diese Aneignung ersetzt. Und bei den Studierenden gleichzeitig auch noch der Eindruck entsteht, sie hätten etwas geleistet, obwohl sie nicht viel mehr getan haben, als Ein- und Ausgabemedium – quasi ein Meat Proxy – zu sein. Wer sich aber zum menschlichen Interface für die eigentliche Intelligenz macht, begibt sich in eine Art kognitive Schuld (ähnlich „technical debt“) mit verheerendem Zinssatz und andauernder Abhängigkeit. Das Bewusstsein darüber, dass das zum Problem werden kann, scheint zu fehlen.

Ich selbst bin gelegentlich lehrend tätig und sehe, was der Professor beschreibt, auch in deutlich kleinerem Rahmen. Gerade erst sind einige Lehrgänge zu Ende gegangen und die Ergebnisse von Abschlussarbeiten, Tests, Präsentationen und Prüfungen bestätigen seine düstere These. Ich kann sie sogar noch um einen fachlichen und einen ökonomischen Aspekt ergänzen.

1. Bei erschreckend vielen zählt, unabhängig von dem, was im Unterricht vorgetragen und diskutiert wird, was ChatGPT sagt. Nicht etwa, weil sie sich kritisch mit den Unterrichtsmaterialen auseinandergesetzt haben und auf Fehler oder Inkonsistenzen gestoßen sind, weil sie in Übungen eigene Erkenntnisse gewonnen haben oder in der Diskussion zusätzliches Wissen mit einfließen lassen wollen. Nein. Sondern schlichtweg, weil KI es zum Thema macht. Die lediglich auf Basis von Keywords, nicht aber von Konzepten und Zugängen geleiteten Prompts der Studierenden führen dazu, dass sie „lernen“, was die maschinelle Gewichtung des Sprachmodells vorgibt, nicht aber den spezifischen Zugang der im Curriculum kodierten Werteentscheidung.
2. Auch unter dem ökonomischen Blickwinkel auf die Ausbildung ist die ganze Sache für mich ein Paradoxon. Warum bewerben sich Menschen für eine relativ teure Ausbildung, machen den Aufnahmeprozess durch, bezahlen die Ausbildung und investieren nicht unerheblich viel Zeit¹, nur um dann am Ende den Leistungsnachweis mit ChatGPT abzuliefern? Wenn ich von den Eltern oder meinem schlechten Gewissen in eine Ausbildung gedrängt werde, dann kann ich den Vorzug des Sammelns von Abschlusszeugnissen gegenüber dem Erwerb von Wissen ja noch irgendwie verstehen. Wenn ich aber selbst dafür bezahle, nur um dann „nachzuweisen“, dass ChatGPT mein Fach versteht, worin liegt dann der Wert meines Investments?

Die Fähigkeit, die Studierende im Rahmen ihres Studiums erlangen sollten, besteht darin, aus Informationen und fremdem Denken eigenes entstehen zu lassen. Wenn ChatGPT das übernimmt, erlangen sie diese Fähigkeit nicht. Sie investieren Zeit und Geld – wenn es aber nur ums Zeugnis geht, dann hätten sie das auch weitaus billiger bekommen können.

Wir bilden […] gerade eine Generation von Studis aus […], die keine Kompetenz hat und nichts genuin kann, d.h. keine auf Wissen und Verständnis basierte Expertise, außer eine KI zu bedienen.

Die ersten dieser Studis gehen jetzt in den Arbeitsmarkt. Der oben genannte mit ChatGPT ist anscheinend bei der Deutschen Bank untergekommen. Die Leute arbeiten dort vermutlich genau so weiter, werden irgendwann auch Chef:in. Erwarten von ihren Mitarbeitenden dann auch nichts anderes. Das ist eine Katastrophe.

Andreas Bulling

Wenn Ausbildung in Jobangeboten gar nicht mehr angefragt wird, dann gilt das denjenigen, die ihre eigene geistige Leistung zur Gänze an KI delegieren, wohl als bester Beweis nicht nur für die Wertlosigkeit traditioneller Bildung, sondern mittlerweile offenbar auch für die Wertlosigkeit spezialisierter Ausbildung. Was folgt daraus? Eine ganze Gruppe von Menschen hat tatsächlich keine Ahnung davon, was sie eigentlich tut. Mir ist bewusst, dass das eine pauschalisierende Zuspitzung ist und dass ich viele Studierende, die legitime Gründe haben können, warum sie so handeln, in einen Topf werfe². Sie mögen mir verzeihen. Aber wenn ich mir die Prüfungs- und Testergebnisse der Lehrgänge des vergangenen Semesters ansehe und sie mit der Zeit vor der breiten Nutzung von KI vergleiche (nahezu idente Fragestellungen, nahezu idente Unterrichtsmaterialien, also vergleichbar), verliert diese Zuspitzung in schwindelerregendem Tempo ihren polemischen Charakter. Wenn gute Noten als Indikator fürs Verstehen von Gelehrtem gelten, wandelt sie sich gar zum Indiz: Die letztsemestrige Notenverteilung entsprach definitiv nicht der in den Fächern üblichen Glockenkurve, sondern einer ansteigenden Rampe.

…in die Abhängigkeit. OpenAI, Anthropic und Google freuen sich, denn für den Studierenden bei der Bank (er muss nun als Vertreter einer ganzen Gruppe herhalten), ist KI ab jetzt kein nice-to-have mehr, sondern ein unabdingbarer, fürs berufliche Überleben notwendiger Faktor mit existentieller Wirkung: KI ist nicht nur Infrastruktur zur Ausführung des Berufs im Sinne eines Werkzeugs geworden, sondern hat eine weitaus größere, nämlich eine lebenserhaltende Rolle in seiner beruflichen Existenz bekommen. Das Controlling, womöglich selbst bereits powered by ChatGPT, weiß das natürlich und auch, dass der Arbeitsplatz, den der ChatGPT-Studierende nun hält, ein Überbleibsel der unterschiedlichen Schrittgeschwindigkeiten von Technologie und betrieblicher Organisation ist. Die Stelle wird früher oder später der Optimierungslogik folgen und entweder drastisch modifiziert oder gleich zugunsten von Software aufgelöst.

Wird diese Entwicklung alle treffen? Sind alle von zukünftiger Bedeutungslosigkeit betroffen, die sich ausschließlich mithilfe von KI in Positionen gestemmt haben, die sie ohne Zutun von OpenAI, Anthropic oder Google nicht erreicht hätten? Fast alle, meint Andreas Bulling.

Nur […] eine Gruppe von Leuten [trifft es] nicht. Nämlich die, die jetzt diesem Trend entgegengehen und es schaffen, sich wirklich selbst Dinge zu erarbeiten, zu verstehen und zu durchdenken, und auf dieser Basis auch Neues zu erschaffen. […] Diese Leute werden in nicht allzu ferner Zukunft hart umworben werden, sich jeden Job aussuchen können und sehr gut bezahlt werden. Alle anderen, befürchte ich, werden mit ihren [sic!] selbstgewählten Inkompetenz in der Bedeutungslosigkeit verschwinden, wenn KI keine „ausgeklügelten“ Prompts mehr braucht.

Andreas Bulling

Wann genau dieser Moment kommt, diese Kurskorrektur, weiß niemand. Was andere als schwebende Bedrohung sehen, sieht der mit dem trainierten Sensorium als Chance. Er versteht, was das ChatGPT-Abonnement liefern kann, vor allem aber auch, was nicht. Und er weiß, dass er sich KI zunutze machen muss, indem er im Chat die treibende Kraft bleibt und nicht die folgende. Ohne die gewaltige Verarbeitungsleistung von Künstlicher Intelligenz wird es nicht gehen. Alles andere³ ist inzwischen eine Illusion.

Ab jetzt gibt es nur noch den gelernten Umgang mit der Technologie oder die Flucht nach vorne. Entscheidend ist letztlich, wer uns den Weg zeigt: Sind es TikTok und Instagram, OpenAI und Anthropic? Oder ist es ein über Jahrhunderte gewachsenes System menschlicher Wissensweitergabe, das sich bereits in unzähligen technologischen Umbrüchen bewährt hat? Meine Antwort darauf ist klar: Weder macht ein KI-Abonnement jemanden klüger, noch steigert es seine Urteilskraft. Es macht Inkompetenz lediglich schwerer erkennbar, weil es sie besser kaschiert. Und genau deshalb ermöglicht nicht KI an sich den langfristigen Erfolg, sondern der Mensch, der gelernt hat, selbst zu denken und sich die Technologie zunutze zu machen. Das Studium gibt genau dafür den Raum.

Also nehmt eure Ausbildung ernst. Nutzt KI, wenn sie euch hilft. Vertraut nur nicht darauf, dass ein ChatGPT-Abonnement die Prinzipien von ein paar tausend Jahren Menschheits- und Bildungsgeschichte außer Kraft setzt. Lernen bleibt Zumutung, Übung und Geduld. Es bleibt Arbeit am eigenen Körper und am eigenen Geist. Ist es das nicht, dann ist es kein Lernen. Wer diese Arbeit umgeht, gewinnt vielleicht Zeit, verliert aber genau das, wofür Ausbildung einmal gedacht war: die Fähigkeit, ohne Krücke zu stehen, selbst zu denken und sich Technologie klug zunutze zu machen. Und wer etwas anderes erzählt, will euch etwas verkaufen. Follow the money.

1. Die bei einzelnen aber auch daraus besteht, auf Instagram zu scrollen, weil sie den Inhalt nicht sofort verstehen. Das wäre eine eigene Anekdote hier, aber zusammengefasst ging es darum, dass eine Studierende meinte, wenn sie den Inhalt nicht „sofort beim ersten Mal“ verstehen würde, sie ihn „ohnehin nie“ verstehen würde, also könne sie gleich die Zeit – festhalten! – „sinnvoll“ auf Insta nutzen. ↩︎
2. In den gleichen Topf werfe ich übrigens auch die Lehre selbst. Setzt die lehrende Institution Fehlanreize oder reagieren die Leiterinnen und Leiter der Lehrveranstaltungen nicht auf die durch Künstliche Intelligenz veränderte Realität, dann ist das genauso ein Problem, wenn nicht sogar ein noch größeres. Die Kritik soll sich also ausdrücklich (und eigentlich noch viel schärfer) gegen diese Seite richten, denn im Gegensatz zu den Studierenden ist es der Job jener, die Kurse, Seminare und Lehreinheiten entwickeln, sich um diese Dinge zu kümmern. Und es ist ihr Job, solchen Fehlentwicklungen entgegenzuwirken, statt sie durch ungeeignete Lehr- und Prüfungsformen auch noch zu begünstigen. Sie ist aber nicht Thema dieses Artikels, darum habe ich sie in die Fußnote ausgelagert. ↩︎
3. Der einzige Hoffnungsschimmer für diejenigen, die von der Kurskorrektur betroffen sein werden, liegt in meinen Augen wenn überhaupt, dann in einer Art institutionellen Verschiebung des Begriffes Arbeit. Sie würde das Faktum menschlicher Interfaces anerkennen und ihre Routinen und Abläufe daraufhin optimieren. ↩︎