Je l'avais déjà lu par ailleurs, mais je profite de cet article pour le partager : l'algo de Netflix personnalise les vignettes des films et séries en fonctions de ce que vous avez déjà regardé. Si vous avez principalement regardé des fictions avec un casting majoritairement noir, les acteurs présents sur la vignette seront noirs (même s'ils n’apparaissent que très peu au final, avec un gros risque de déception à la clé...) ; si vous avez regardé des romances, vous aurez une image "romantique", ou inversement, une image tendant vers l'horrible si vous êtes amateurice de sensations fortes (l'exemple des vignettes de Stranger things présenté dans l'article est très parlant).

Au final, comme pour l'exemple des personnes noires de l'article, le risque de biais est important :

Cet exemple montre en fait combien il peut parfois y avoir un énorme décalage entre l’intention derrière l’algorithme (ici, la recommandation personnalisée), et les biais inconscients que l’IA peut incorporer, et les problèmes qu’elle peut créer.

L’enjeu sous-jacent réside dans le manque de diversité des castings des films occidentaux : les longs-métrages et séries qui mettent en scène un casting majoritairement noir sont encore très rares — il n’y a qu’à voir le succès de Black Panther pour se rendre compte du besoin de telles représentations.