Grundsätzliche Skepsis ist angebracht

Kate O’Neill bleibt skeptisch und spielt mit der Idee, dass die #10YearChallenge eine gezielte Aktion von Facebook sein könnte, um den Gesichtserkennungsalgorithmus auf das Thema „Altern“ hin zu trainieren. (Facebook streitet das ab.)

Imagine that you wanted to train a facial recognition algorithm on age-related characteristics and, more specifically, on age progression […] Ideally, you’d want a broad and rigorous dataset with lots of people’s pictures. It would help if you knew they were taken a fixed number of years apart—say, 10 years. […] Thanks to this meme, there’s now a very large dataset of carefully curated photos of people from roughly 10 years ago and now.

Facebook’s ’10 Year Challenge‘ is just a harmless meme – right? – Kate O’Neill

Die #10YearChallenge ist ein konkreter Anlassfall und ich bin zu eben solchen Anlässen John Grubers Meinung: We should all assume the worst with Facebook all the time now. – Und nicht nur dort. Kate O’Neill bringt in ihrem Artikel einige Beispiele, wie die Auswertung solcher massig vorhandenen Datensätze genutzt werden kann. Und da ist von wirklich guten, verständlichen und nützlichen Dingen die Rede…

Facial recognition technology, specifically age progression capability, could help with finding missing kids. Last year police in New Delhi reported tracking down nearly 3,000 missing kids in just four days using facial recognition technology. If the kids had been missing a while, they would likely look a little different from the last known photo of them, so a reliable age progression algorithm could be genuinely helpful here.

…aber eben auch von der Kehrseite der Medaille:

Age progression could someday factor into insurance assessment and health care. For example, if you seem to be aging faster than your cohorts, perhaps you’re not a very good insurance risk. You may pay more or be denied coverage.

Hierzu natürlich auch mein immerwährendes Warnen vor Kinderfotos im Netz und dergleichen. Es würde mich nicht wundern, wenn es Algorithmen gibt, die mein Vermögen auf Basis des Hintergrunds meiner Bilder errechnen, Versicherungen, die auf Basis meiner Essensbilder auf körperliche Eigenschaften zurückschließen oder irgendwelche anderen Akteure, die auf Basis von Personen, mit denen ich auf Bildern auftauche, auf was-weiß-ich-was. Das ist alles ziemlich krank und deshalb gefällt mir ja einer der Schlusssätze in O’Neills Artikel so gut:

Regardless of the origin or intent behind this meme, we must all become savvier about the data we create and share, the access we grant to it, and the implications for its use. If the context was a game that explicitly stated that it was collecting pairs of then-and-now photos for age progression research, you could choose to participate with an awareness of who was supposed to have access to the photos and for what purpose.

Word.