Kyle Chayka stellt sich in einer Kolumne im New Yorker die Frage, was irgendjemanden überhaupt noch motivieren sollte, Daten und Informationen online zu stellen, wenn es keinerlei Motivation und Belohnung in Form von Traffic oder Reaktionen auf die Veröffentlichungen gibt, weil Google und andere AI-Unternehmen sich ihrer bemächtigen und ihren Userinnen und Usern die Informationen direkt und womöglich ohne relevanten Verweis auf die Quellen anzeigen?
If A.I. is to be our primary guide to the world’s information […] it must constantly be adding new information to its data sets. That information cannot be generated by A.I., because A.I. tools are not capable of even one iota of original thought or analysis, nor can they report live from the field. […] For a decade or more, social media was a great way to motivate billions of human beings to constantly upload new information to the Internet. Users were driven by the possibilities of fame and profit and mundane connection. Many media companies were motivated by the possibility of selling digital ads, often with Google itself as a middle man. In the A.I. era, in which Google can simply digest a segment of your post or video and serve it up to a viewer, perhaps not even acknowledging you as the original author, those incentives for creating and sharing disappear. In other words, Google and OpenAI seem poised to cause the erosion of the very ecosystem their tools depend on.
Kyle Chayka
In anderen Worten: Das, was uns als künstliche Intelligenz verkauft wird, de-incentiviert uns das zu produzieren, was eben jene künstliche Intelligenz für ihre Existenz benötigt: Neue Daten, neue Informationen, neue Beiträge, Artikel, Posts, Bücher, Fotos, Videos, Filme, Gemälde… – Die Produkte unseres Schaffens sind immer auch Kommunikation, die ein Gegenüber benötigt, auch wenn es anonym ist wie ein Mensch, der auf unserer Website, unserem Blog oder unserem Social Media-Kanal landet, nachdem er irgendetwas gegoogelt hat. Diese Kommunikationsebene entfällt, also wozu dann Beiträge, Fotos oder Filme schaffen, wenn sie von der KI abstrahiert, zusammengefasst und woanders angezeigt werden?
Kyle Chayka sieht Google und andere Anbieter von KI-Systemen vor dem Problem, an neue Informationen und Daten zu kommen, weil eben die Motivation, sie zu produzieren fehlt. Das ist allerdings verwunderlich, wie er in einem Thread auf X feststellt, denn es gibt Modelle, mit denen man die Motivation aufrecht erhalten könnte. Google selbst nutzt ein solches zB bei YouTube. Incentivierung durch geteilte Werbeeinnahmen. Das wäre ja mal immerhin ein Start.
Google and OpenAI have no plan for how or why people will generate new, correct information in the age of generative AI search […] search clickthroughs will plummet, ads will be sold on generated answers, and media licensing fees for AI models can’t sustain enough new journalism to fuel the tech companies‘ own products […] so where is the content going to come from? Only YouTube has really accepted that ad revenue has to be shared with creators, otherwise your platform is going to gradually peak and die. And now generative AI threatens to replace a lot of human authorship anyway […] If AI search and generative tools don’t create incentives for the „production of new content“ online, to put it grossly, then it’s not going to happen and what we’re faced with is circling the toilet of AI trained on itself […] you could say „everything should be like Reddit“ with people just posting about their own expert passions but only tech bros living on startup equity and extractive Silicon Valley wealth think that’s sustainable
Kyle Chayka
Ich finde es nach wie vor erstaunlich, wie sehr sich besonders Google in diesen Teufelskreislauf nach unten hat hineinreiten lassen. Die neuen Google-AI Overviews sind das neue Google Plus, der krampfhafte Versuch, also, auf einen Zug aufzuspringen, der in Wirklichkeit schon abgefahren ist.
The „AI Projects“ I was working on [at Google] were poorly motivated and driven by this panic that as long as it had „AI“ in it, it would be great. This myopia is NOT something driven by a user need. It is a stone cold panic that they are getting left behind. […] This exact thing happened 13 years ago with Google+ (I was there for that fiasco as well). That was a similar reaction but to Facebook. BTW, Apple is no different. They too are trying to create this AI lock-in with Siri. When the emperor, eventually, has no clothes, they’ll be lapped by someone thinking bigger. I’m not a luddite, there is some value to this new technology. It’s just not well motivated.
Scott Jensen
Wo stehen wir nun also, Ende Mai 2024? Wir sind mit einer Technologie konfrontiert, die nicht wirklich hält, was sie verspricht, von der niemand so genau weiß, wie und wo man sie zuverlässig einsetzen könnte, die uns zu großen Teilen abnehmen will, was uns Freude bereiten könnte, und die auch dem Versprechen, uns die Lästigkeiten abzunehmen nur dann getreu wird, wenn wir so tun als ob wir nicht nachprüfen müssten, ob das, was die KI produziert hat, auch stimmt. Die Technologie wird in verschiedenen Gebieten eingesetzt, führt zu einer allgemeinen Minderung der Qualität dessen, was wir online finden und wird nun sogar auch auf den Suchergebnisseiten der größten Suchmaschine der Welt genutzt, was für viel Häme sorgt.
Ich bin gespannt, wie die Tech-Unternehmen der Situation, die mir aus heutiger Sicht ohne relevanten, ja seismischen Shift im Zugang zur Nutzung von KI unauflösbar scheint, entkommen; eine Situation, in die sie sich selbst manövriert haben, und die ihnen früher oder später den Hahn, der ihnen bisher das Einkommen gesichert hat, mit dem sie die Technologie entwickeln konnten, zudrehen wird. Wird der Shift durch Druck von außen kommen, in dem Websites und Plattformen ihre Luken dicht machen, Pay- und Membership-Walls hochziehen und Suchmaschinen und künstliche Intelligenzen nicht mehr an ihre Inhalte heranlassen? Oder wird die Aushöhlung und Verwässerung der Informationen, die Kyle Chayka oben zeichnet, gar eine Zukunft bringen, die das Internet in Bereiche mit unterschiedlichen Zugriffsberechtigungen aufteilt und damit die ihm innewohnende Freiheit aus einem Selbstverschulden derer, die am meisten von der Freiheit profitiert haben, untermauern? Das klingt alles nicht so toll und mein Ausblick auf die nahe Zukunft des Internets ist gegenwärtig ein skeptischer.
Aber, um die Sache mit ein wenig Hoffnung abzuschließen, es wäre nicht das Internet, würde nicht irgendwer irgendetwas herausfinden, produzieren oder programmieren, was auch dieses Problem zumindest ein wenig hinauszögern würde. Der letzte Satz ist bewusst so formuliert, wie er hier zu lesen ist, denn früher oder später wird es eine unabdingbare finanzielle und technische Notwendigkeit werden, den Traffic auf unterschiedliche Ebenen – zumindest eine menschliche und eine für Bots – zu hieven, was der Grundidee eines allgemein zugänglichen, freien und offenen Datennetzes gänzlich widerspricht.
Und nun die alles entscheidende Frage: Wird uns die rapide Weiterentwicklung der Technologie da heraushelfen oder sollen wir uns gleich überlegen, wo wir uns da nun wieder hineingeritten haben?