Empfehlungsalgorithmen sagen uns, wo es die beste Pizza gibt, welche Serie wir als nächstes schauen und wen wir daten sollten. Doch ihre Vorschläge sind mit Vorsicht zu genießen.
Die Musikindustrie ist eine Männerwelt. Nicht nur in der klassischen Musik, wo 98 Prozent des Repertoires von männlichen Komponisten stammen. Auch von den Popmusikern, die man auf Streamingdiensten wie Spotify hören kann, sind drei Viertel Männer. Entsprechend hören die User:innen vorwiegend Männermusik, und wenn das System ihnen neue Titel vorschlägt, sind diese Listen männerlastig. „Was empfohlen wird, wird konsumiert”, sagt Christine Bauer, eine österreichische Informatikerin, die an der Universität Utrecht lehrt. Die Empfehlungen zementieren also die herrschenden Verhältnisse. „Und wir wollten sehen, ob wir diesen Loop durchbrechen können.”
Dass Algorithmen gesellschaftliche Ungleichheit widerspiegeln oder gar verstärken können, ist in den letzten Jahren viel diskutiert worden. Dabei ging es vor allem um die Deep-Learning-Algorithmen, die Gesichter erkennen, Entscheidungen im Strafvollzug unterstützen oder Bewerber für einen Job aussortieren. Nun gerät aber eine andere Klasse von Software-Programmen ins Visier der Kritik: die Empfehlungsalgorithmen, die uns auf Schritt und Tritt begleiten …