Ich öffne das Internet. Ich lese „People Are Using AI to Create Influencers With Down Syndrome Who Sell Nudes„. Ich schließe das Internet. – Und ganz generell bringt uns generative KI genau das, was wir ohnehin erwartet haben.
404 Media has written multiple stories on the rapidly growing practice of people stealing content from real human creators and using AI to replace their faces with AI-generated faces, posting that AI-modified content to Instagram, and funnelling viewers to adult content platforms where they can be monetized. […] Newer accounts […] have started catering to increasingly specific niches and fetishes, including accounts of AI-generated women with amputated limbs. The AI-generated Down syndrome accounts are the latest and newest low for Instagram, which allows the rampant content theft that enables this practice and is now fueling a non-consensual fetishization and monetization of (fake) people with disabilities. The biggest one of these accounts that I’ve seen is called Maria Dopari and has over 148,000 followers on Instagram. […] Almost none of the Instagram accounts I’ve seen self-identify as being AI-generated, and judging by the comments on the videos, it appears that a lot of people believe they are real.
404 Media
Das läuft auch gerade aus dem Ruder, oder?
Irgendwie ist ja ein Punkt erreicht, wo man gar nicht genug Mageninhalt hat, um ihn den Creatorn selbst, Zuckerberg mit seinem verfickten Instagram, der ganz genau weiss, was sich auf seinen Plattformen abspielt und man keinen Finger rührt und dem perversen Abschaum, der das konsumiert.
Ich mache ja da noch nicht mal Generative AI selbst den Vorwurf, sondern den am Wahnsinn Beteiligten.
Harte, aber wahre Worte. Profit geht über alles, selbst wenn es so dermaßen irres Zeug produziert und Menschen teilweise mehr als bedenkliche Neigungen ausleben lässt, nur, „weil’s möglich ist“.