Anil Dash hat einen lesenswerten Artikel über die dem offenen Web feindlichen Eigenschaften und Funktionen des von OpenAI veröffentlichten ChatGPT Atlas-Browsers veröffentlicht und strukturiert seine Kritik anhand dreier Punkte, die die Kategorisierung dieses als „Browser“ geführten Produkts in ihren Grundfesten infrage stellen: ChatGPT Atlas ist alles mögliche, aber kein Browser.
ChatGPT Atlas generiert Content, suggeriert aber, dieser Content wäre das offene Web. Damit enthebt der „Browser“ das Internet seiner ursprünglichen Funktion. Oder anders: Wenn ein Programm etwas, das nicht existiert, auf Basis von Fundstücken generiert, kann es das dann als etwas anderes, das Userinnen und User als bereits vorhanden kennen (Websites, nämlich) als das Web bezeichnen? Ein Browser ist da, um online vorhandene Websites anzuzeigen. Er ist nicht da, um Websites automatisiert auf Basis einer und für eine Anfrage im Chat zu generieren. (Und wenn schon, dann sollte er zumindest auf die Quellen verlinken.)
When I first got Atlas up and running […] I looked up „Taylor Swift showgirl“ to see if it would give me links to videos or playlists to watch or listen to the most popular music on the charts right now […] The results that came back looked like a web page, but they weren’t. […] The response mentioned some basic biographical information and had a few photos. […] And here’s what was most notable: there was no link to her website. I had typed „Taylor Swift“ in a browser, and the response had literally zero links to Taylor Swift’s actual website. If you stayed within what Atlas generated, you would have no way of knowing that Taylor Swift has a website at all.
Anil Dash
ChatGPT Atlas nötigt uns, ein textbasiertes Interface zu nutzen. Diese Art von Interface – Texteingaben im Chatfenster, nämlich – ist längst überkommen, und das aus gutem Grund. Ein grafisches Interface zeigt unmittelbar alle verfügbaren und im Kontext möglichen Optionen für Aktionen an; bei einem nicht-grafischen Interace, wie eben einem Chat, ist es ein Ratespiel, was möglich ist und was nicht. Zusätzlich erschwert wird das, weil die Interaktion mit dem, was der Browser darstellt, indirekt erfolgt. Jeder Befehl, jeder Prompt wird zuerst von einer KI interpretiert und die Aktion wird auf Basis dieser Interpretation ausgeführt.
People were thrilled to leave command-line interfaces behind back in the 1990s. The […] real gains in productivity and usability came precisely because nobody was having to guess what secret spell they had to type into their computer to get actual work done. […] In the new-era command-line interface of Atlas, though, we’re not just facing the challenges of an inscrutable command line. There’s the even larger problem that, even if you guess the right magic words, it might either simply get things wrong or completely make things up. Atlas throws away the discoverability, simplicity and directness of the web by encouraging you to navigate even through your own documents and search results with an undefined, unknowable syntax that produces unreliable results. It’s another way of being anti-web.
Anil Dash
Den interessantesten Punkt an Anil Dashs Browser-Kritik finde ich jedoch in der Umkehrung der Steuerungsqualität des Agent-Mode. Nicht der Mensch steuert den Browser, sondern – alles berücksichtigt – der Browser macht sich den Menschen zum Agenten. Diese Sichtweise ist sicherlich hart, aber nicht von der Hand zu weisen: Wenn ich freigebe, dass die KI aus meinem Verhalten lernen kann, um mir, beispielsweise, in Zukunft bessere Ergebnisse liefern zu können, dann benötigt die KI, um lernen zu können, den Kontext, in dem ich mich befinde. Sie muss also gezwungermaßen Zugriff auf alles, womit ich interagiere, erhalten, damit sie ihre Lernalgorithmen darauf anwenden und ein maschinelles Abbild meiner Person generieren kann. Anil Dash sieht darin den eigentlichen Schmäh, der die Person zum Agenten macht: Die bessere Antwort ist die Karotte, die vor uns an einem Stock baumelt; die KI Fahrer und Wagen, den wir ziehen.
OpenAI is clearly very motivated to gather all the data in the world into their model, regardless of whether or not they have consent to do so. […] By keeping the ChatGPT sidebar open while you browse, and giving it permission to look over your shoulder, OpenAI can suddenly access all kinds of things on the internet that they could never get to on their own. […] While ChatGPT is following you around, it can create a complete and comprehensive surveillance profile of you — your personality, your behaviors, your private documents, your unfinished thoughts, how long you lingered on that one page before hitting the back button — at a level that the search companies and social networks of the last generation couldn’t even dream of. We went from worrying about being tracked by cookies to letting an AI company control our web browser and watch everything we do. The amount of data they’re gathering is unfathomable.
Anil Dash
Und zum Schluss noch ein paar warnende Worte, die es in sich haben. Vor allem, wenn man bedenk, dass OpenAI bis heute noch kein ordentliches Geschäftsmodell aufgebaut hat und mehr als dringend und bald mit einem Modell aufwarten muss, dass die Milliarden, die das Unternehmen bisher verschlungen hat (und die Millionen, die es täglich benötigt, um fortzubestehen), wieder einzuspielen. Was könnte also ein Unternehmen, das seine Userinnen und User so gut kennt, wohl haben oder anbieten, das Dritte kaufen würden? Was könnte das wohl sein?
The most worrisome part is that Atlas looks so familiar, and feels so innocuous, that people will try it and mistake it for a familiar web browser just like the other tools that they’ve been using for years. But Atlas is a browser that actively fights against the web, and in doing so, it’s fighting against the very idea that you should have control over what you see, where you go, and what watches you while you’re there.
Anil Dash
Auch wenn der Anlassfall kein schöner ist, so leben wir doch in interessanten Zeiten, die uns zu Reflexionen darüber zwingen, ganz grundsätzlich zu hinterfragen, was „das Web“ eigentlich ist, wie wir es nutzen wollen, und wie sehr und wie oft wir es noch zulassen wollen, dass ein Unternehmen all die Benefits, mit denen dieses kollaborativ erstellte Wunder aufwarten kann, gewinnbringend für sich nutzt ohne etwas zurückzugeben.