KI ermöglicht Verschleierung, wo keine sein dürfte

Jürgen Geuter (aka tante) hat einen – nennen wir es beim Namen – wütenden Beitrag über OpenClaw, das vibegecodete Open Source-Projekt von Peter Steinberger, verfasst. Kern seiner Kritik ist die Verantwortungsdiffusion, die der Herstellung von Software mithilfe Künstlicher Intelligenz innewohnt, also die fast schon zu leichte Möglichkeit, sich als Vibecoder der Verantwortung gegenüber Nutzerinnen und Nutzern einer Software zu entledigen. Dieser argumentative Kern ist umgeben von einer Schicht dicken Fruchtfleischs voller Vorwürfe gegenüber dem Autor der Software.

Und die Kritik geht so: Peter Steinberger nennt OpenClaw ein Open Source-Projekt, weist aber jegliche Verantwortung für dessen Qualität und Sicherheit von sich. Auf der Website des Projekts erweckt OpenClaw gleichzeitig aber den Eindruck, ein ausgereiftes Produkt zu sein. Auch wenn Peter Steinberger in einem Tweet darauf hinweist, dass OpenClaw ein Hobbyprojekt, unausgereift und nicht für Non-Techies gedacht sei, so kritisiert ihn tante trotzdem, weil das den Entwickler nicht aus der Verantwortung entlässt, sichere Software zu veröffentlichen. Vor allem, wenn sie mittels Vibecoding entsteht. Und vor allem, wenn die zugehörige Projektwebsite eben den Eindruck erweckt, den sie erweckt.

People had been criticizing him for releasing […] unchecked code and giving it to people to run. For allowing that code to interface with all kinds of relevant external services making purchases for people, posting as them, deleting their files and whatever. […] And here we see another kind of diffusion of responsibility that the “AI” wave is creating: People just releasing whatever software they generated into the wild for others to run. Often with huge promises […] Steinberger did not just generate some shit code for himself to do whatever. No: He needed to release it. And not for “inspiration” but for people to run it.

Jürgen Geuter

Und weiter, etwas weniger persönlich und mehr auf das strukturelle Problem bezogen, kritisiert tante den Vertrauensverlust in Open Source als Ganzes, der sich aus Beispielen wie OpenClaw ableiten lässt und Jahre des Aufbauens von Vertrauen in das Konzept zunichte macht. Sollte Vibecoding zur Norm werden, wird der Vertrauensverlust anwachsen und eine über lange Jahre aufgebaute Vertrauensbasis zerstören.

Das ist eine auch für mich nachvollziehbare Warnung, da ich davon ausgehe, dass Vibecoding zur Norm werden wird und nur wenige, sehr wenige Projekte es sich leisten werden können, von Menschen durchgeführte Code-Reviews oder ähnliche Qualitätsmaßnahmen durchzuführen. Allerdings war mir, das muss ich an dieser Stelle zugeben, nicht bewusst, dass es für diejenigen, die Open Source-Software veröffentlichen, eine Verpflichtung gab, wenn auch eine ideelle, ein Mindestmaß an Qualität zu gewährleisten. Immer, so dachte ich, würde sich die Qualität aus dem Interesse an einem Projekt und der daraus folgenden Zusammenarbeit mit mehreren Personen ergeben. Die Zusammenarbeit und die Einsicht in den Code würden die Qualität heben. Aber da habe ich Open Source wohl falsch verstanden.

tante schleift das Messer aber weiter und verlangt von denen, die Open Source-Projekte veröffentlichen, Verantwortung für ihren Code, besonders, wenn er mittels KI erstellt wird. Und dann dreht er die Sache ein wenig, weitet seine Kritik aus, und sieht die Verantwortungslosigkeit oder -diffusion, wie auch immer man es nun bezeichnen will, als Nebeneffekt, der zu einem bewusst gewählten Ziel des Vibecodings selbst erwächst; nicht als explizite Schuld von Peter Steinberger, sondern als ein Muster, das diejenigen etablieren, die KI-generierten Code breitwillig akzeptieren und ihn als unvermeidbar sehen (im Original lese ich das aus tantes “AI acceptance movement” heraus).

This is a pattern that the whole “AI” acceptance movement is establishing that preys on our experience of being able to rely on open source projects who take their product, their work and their users’ safety seriously and invalidates decades of hard work establishing that kind of trust. […] But now we have “AI” and everyone can generate some code. That might work. Or might mine some crypto or give your laptop an STI. […] What do we get? Slop. Slop generated by guys who – when called out for their irresponsible behavior – just start crying about how they only wanted to “share” or “inspire” or “educate” while handing out running chainsaws to kids.

Jürgen Geuter

Ich denke, wir werden uns mit dieser Art der Veröffentlichung und diesem Zugang zu Open Source wohl abfinden müssen. (Auch wenn ich daran kritisieren möchte, dass tante Userinnen und User hier so darstellt, als ob man sie vor sich selbst schützen müsste. Es ist ja nicht so, dass es nicht genug Kommentare, Tweets und sonstige Social Media-Posts gibt, die die Komplexität und Probleme bei der Installation von OpenClaw explizit zum Thema machen. So ganz einfach ist die Sache also doch nicht und wer OpenClaw installieren will und das durchzieht, merkt im Laufe der Installation schon, was da auf einen zukommt. Die Behauptung hauptsächlich auf dem äußeren Erscheinungsbild der Website und der dort erwähnten Installationsmethoden aufzuhängen, schwächelt an der Stelle.)

Eine Kritik wie die von Jürgen Geuter, jetzt noch verständlich und legitim, wird bald von der Realität überholt werden. Die ihr zugrunde liegenden Gegebenheiten ändern sich durch KI rapide und die Zustimmung zu von einer Community aufgestellten, ideellen und moralischen Verpflichtungen verliert ihre bindende Kraft. Nicht, weil die hehren Ziele nicht erstrebenswert wären oder einzelne aktiv dagegenarbeiten (wie es in tantes Kritik Peter Steinberger zu tun scheint), sondern weil Open Source selbst, so fürchte ich, an Attraktivität abnimmt, wenn der Zugang zu “freier” Software durch KI vereinfacht wird.

Ich denke außerdem, dass wir uns eher darauf fokussieren sollten, dass überhaupt noch jemand freien Code oder freie Software veröffentlicht, denn das gegenwärtig benevolente Handeln im Open Source-Bereich entspricht – natürlich! – dem menschlichen Bedürfnis, Geltung zu erlangen; zwar auf eine sehr respektvolle, verantwortungsvolle und allen dienliche Art, aber das Bedürfnis ist da und, wenn auch manchmal versteckt, ein das eigene Tun verstärkendes oder sogar begründendes Motiv. Niemand wird mich je überzeugen können, Menschen würden hier mitspielen, ohne auf ein wenig Ruhm zu hoffen. Das ist ein Gedanke, der mich seit den ersten Meldungen über mittels Vibecoding hergestellte Software in meinem Bekannten- und Kundenkreis erreicht hat.

Wenn sich der Gedanke durchsetzt, dass freie Software (im Sinne von Open Source-Projekten) unnötig sei, weil man sich ja ohnehin alles mittels KI vibecoden kann, wozu sich dann noch die Mühe antun, Software zu veröffentlichen? Und noch eine Watsche dafür kassieren, dass man es getan hat? (Lieber eine dafür, dass man schlechte, nicht wartbare, undokumentierte Software produziert.) Warum tante eben das dann so prächtig zelebriert und extra weit ausholt, verstehe ich nicht. Und im konkreten Fall dann doch auch wieder schon. Aber ein unangenehmer Beigeschmack bleibt.