Om Malik hat sich das Memo des Instagram-Chefs Adam Mosseri zum Jahresabschluss näher angesehen und erkennt darin eine Panik, die unausgesprochen bleibt, aber den Kern des Instagram-Erlebnisses bedroht: Der Kampf gegen die Überflutung von Streams, Feeds, ja, des gesamten Internets durch KI-generierte Inhalte ist verloren. Da Plattformen wie Instagram im Laufe der Zeit schlechter darin werden, KI-generierte Inhalte zu erkennen (weil diese besser werden), schlägt er vor, stattdessen authentische Inhalte zu kennzeichnen. Das ist leichter gesagt als getan.
Social media platforms are going to come under increasing pressure to identify and label AI-generated content as such. All the major platforms will do good work identifying AI content, but they will get worse at it over time as AI gets better at imitating reality. There is already a growing number of people who believe, as I do, that it will be more practical to fingerprint real media than fake media. […] Labeling content as authentic or AI-generated is only part of the solution though. We, as an industry, are going to need to surface much more context about not only the media on our platforms, but the accounts that are sharing it in order for people to be able to make informed decisions about what to believe. Where is the account? When was it created? What else have they posted?
Adam Mosseri
Für Instagram ist KI-generierter Content ein besonderes Problem, weil er die Illusion zerstört, die Bilder und Videos seien Abbilder des realen Lebens. Wir spüren bei mit KI erstelltem Content, dass etwas nicht stimmt. Das Gefühl ist subtil, wir messen ihm wenig Bedeutung zu. Stattdessen tun wir, was für Instagram zur existentiellen Bedrohung werden kann: Wir langweilen uns und gehen woanders hin.
Um das zu verhindern, will sich Instagram als glaubwürdiger Kurator „echter Erlebnisse“ positionieren. Irgendwie, man weiß nicht wie, will der Social Media-Dienst Kontext zu jedem Account vermitteln und Userinnen und Usern Auskunft darüber geben, ob es sich bei diesem Content um „Abbilder des realen Lebens“ handelt oder eben nicht.
Das wird aber ein Batzen Arbeit werden, meine ich, denn „Userinnen und Usern etwas vermitteln“ bedingt, dass sie bestimmten Regeln folgen und sich Feeds und Streams beispielsweise so ansehen, wie es von Instagram aus angedacht ist – das tun sie aber jetzt schon nicht. Die Interaktion findet nicht mehr im öffentlichen Feed statt, sondern in privaten, direkten Nachrichten. Das verunmöglicht Mosseris Plan und ist Gift für die kommerzielle Beziehung zu Werbekunden.
When Mosseri says “DMs are where people share now,” he admits something basic: people are talking and sharing in private, not in the public feed. […] The business reality is this: advertisers do not want fake people or fake stories. TikTok feels more authentic to the brands who want to spend money.
Om Malik
Die Situation entbehrt nicht einer gewissen Komik. Auf der einen Seite investiert Meta, Eigentümerin von Instagram, Milliarden in die KI-Entwicklung und versucht mit KI-Charakteren Leben in die tote Facebook-Plattform zu bringen. Gleichzeitig muss derselbe Konzern auf Instagram genau das Gegenteil tun. Dort muss Meta diese durch KI verursachte Verschmutzung der Illusion, Abbild echten Lebens zu sein, erkennen, kennzeichnen und bestenfalls reduzieren, um attraktiv zu bleiben.
Wenn alle KI so toll finden, frage ich mich, warum geht gerade Instagram, wohl noch einer der letzten erfolgreichen Plattformen, die Meta betreibt, einen Weg, der Authentizität belohnt? Warum nicht den Schritt nach vorne setzen und so dermaßen viel in KI investieren, dass KI selbst zum Abbild des echten Lebens wird?
Mosseri’s […] memos track Meta’s corporate arc. The company has moved from the social graph era, when you saw posts from people you knew, to the interest graph era, when you saw what algorithms though you will like. It is now entering a trust graph era, in which platforms arbitrate authenticity. […] AI is flooding the system, and feeds are filling with fakes. Visual cues are no longer reliable. Platforms will verify identities, trace media provenance, and rank by credibility and originality, not just engagement. […] Trust will shift from content to the people who post it.
Om Malik
Instagram weiß, dass es einen Kampf führt, den es nicht gewinnen kann: KI wird besser, schneller, billiger und löst die Illusion von Realität auf, von der die Plattform lebt. Ich bezweifle, ob es hilft, auf Authentizität zu setzen, um die Irrelevanz zu verhindern; nicht, weil die Idee falsch wäre, sondern weil Userinnen und User nicht daran gewöhnt sind, zu prüfen, wer was postet. Sie bleiben auf Instagram, solange der Content unterhält. Wirkt er langweilig oder fake, gehen sie zu TikTok oder sonstwo hin.
Ich teile Adam Mosseris Analyse, dass KI-generierte Inhalte – ich denke, ich kann ab jetzt nur noch von „generierten Inhalten“ sprechen und brauche „KI“ nicht mehr explizit zu erwähnen – jetzt schon ein Problem sind und über kurz oder lang zu massiven Bewegungen des menschlichen Publikums führen werden: Weg von Plattformen, Websites und Services, die generierten Inhalten keine Schranken setzen und hin zu solchen, die für Inhalte sorgen, die von Menschen für Menschen geschaffen wurden.
Vielleicht werden generierte Inhalte in Zukunft menschliche Reaktionen genauso gut auslösen können wie geschaffene, vielleicht sogar besser; aber noch ist es nicht soweit. Und in diesem „noch“ liegt die einzige Chance von Diensten wie Instagram, sich für eine Zukunft voll generierter Inhalte zu rüsten.
Schreibe einen Kommentar