Wer in Künstliche Intelligenz investiert hat, muss sie irgendwie verkaufen, damit sich die Investition lohnt. Egal, ob Userinnen und User die KI-Funktionen nun wollen oder nicht. Zwei Beispiele.
Adobe hat seinem PDF-Reader, einem Programm, das man öffnet, um Dokumente zu lesen, die Funktion verpasst, KI-generierte Zusammenfassungen zu generieren. Nicht nur das, diese Zusammenfassungen werden einem offenbar unter die Nase gerieben.
I downloaded a scientific paper of great interest to me. It is of typical length, about 15 pages in the PDF. I opened it in Acrobat, and got this message highlighted at the top of the page next to an AI sparkle icon: „This appears to be a long document. Save time by reading a summary.“ I cannot put into words how much this enrages me. First, this is not a long document. Have you met documents? Second, and more important, telling someone to not read a thing they want to read??! Fuck you, Adobe.
Annalee Newitz
Apropos Zusammenfassungen. Apple hadert ja mit allem, was mit Künstlicher Intelligenz zu tun hat. Und das zurecht, wie die miserable Zusammenfassung einer Nachricht zeigt. Ich selbst habe auch schon leicht schockiert auf zusammengefasste SMS reagiert; die Zusammenfassung hat noch nie gestimmt. Künstliche Intelligenz so tief in die Kommunikation eingreifen zu lassen, ist keine gute Idee, wenn sie nicht absolut – also zu 100%, nicht zu 90% oder 95%, nein zu 100%! – zuverlässig ist.
I just got a notification summary that ‘Dad had another stroke’ when he hadn’t (he’s had a stroke before so there was a small reference in the message). […] If Apple thinks these Apple Intelligence features are ready for actual, real life situations they are delusional. If there is even a chance of something like this happening they should not be releasing this feature.
Jonathan Reed
Ja, und dann gibt es noch Google. Der Konzern, der es vom Liebkind der ersten Internetgeneration zum Hassobjekt geschafft, aber immerhin noch Respekt für seine technische Leistung geerntet hat, geht nun auf YouTube einen ähnlichen Schritt, der ihn schon die Aussicht auf zukünftige Dominanz im Suchmaschinenmarkt gekostet hat, und verwässert die Videos noch mehr – und zu einem deutlich problematischeren Zeitpunkt – mit Werbung. Google wird Künstliche Intelligenz einsetzen, um Filme auf YouTube nicht mehr irgendwann, sondern unmittelbar nach emotionalen Momenten zu unterbrechen, um genau in dem Moment Werbung anzuzeigen.
„Emotionsbasiertes Targeting“. Dabei geht es darum, Werbung so zu legen, dass sie zu bestimmten Emotionen passt, die von den gerade gesehenen Inhalten ausgelöst werden […] derart platzierte Werbung [bleibt] länger im Gedächtnis. […] Gemini, eines von Googles hauseigenen KI-Modellen […] soll Youtube-Clips analysieren und dabei jene Momente finden, die […] den stärksten emotionalen Einfluss entfalten. Als Beispiel zeigt man einen Heiratsantrag vor Schneekulisse. Den dem „Ja“ folgenden Kuss hat die KI als den einflussreichsten Moment der Sequenz identifiziert und daher das Werbefenster für die Ausspielung von Anzeigen direkt dahinter angesiedelt.
derstandard.at
Das sind also die ersten weitläufigen Anwendungen von Künstlicher Intelligenz mit Auswirkungen auf unser alltägliches Dasein: Jemandem das Lesen madig machen, der lesen will. Jemandem auf Basis einer falschen Zusammenfassung einen Schreck einjagen. Und die emotionalen Momente von YouTube-Videos mit Werbung vernichten. Na das hat sich ja gelohnt.
Und damit beginnt sie, die Enshittification von oder eher mit KI. Hat ja nicht sehr lange gedauert! ;-)
Das größte Problem, das ich damit habe, ist: es war ja leider abzusehen. Und irgendwie kommt mir vor, dass das gerade in letzter Zeit bei fast allen Neuheiten abzusehen ist.