Befangenheit von Algorithmen

Zeynep Tufekci korrigiert in einem Essay die weitläufige Begründung für die Befangenheit von Facebooks Algorithmen. Sie widerspricht der Annahme, dass der Code selbst nicht neutral sei, und verweist auf (von Menschen gesetzte) Unternehmensziele, die Outcomes von Algorithmen prägen.

If […] algorithms are not scientifically computing answers to questions with objective right answers, what are they doing? Mostly, they “optimize” output to parameters the company chooses, crucially, under conditions also shaped by the company. […] Software giants would like us to believe their algorithms are objective and neutral, so they can avoid responsibility for their enormous power as gatekeepers while maintaining as large an audience as possible. […] The first step forward is for Facebook, and anyone who uses algorithms in subjective decision making, to drop the pretense that they are neutral. […] What we are shown is shaped by these algorithms, which are shaped by what the companies want from us, and there is nothing neutral about that.

In anderen Worten: Ein Unternehmen bestimmen Ziele. Programmierer entwickeln einen Algorithmus, der vorhandenes Material auf das Erreichen dieser Ziele hin optimiert. Dadurch ist, was mit den Inhalten, die die User veröffentlichen, geschieht, immer in Relation zu den Unternehmenszielen zu sehen. Und hier liegt das Moment der Befangenheit.