Comment se forment ces biais ?

Source de biaisExplicationExemple
Données d’entraînementSi l’IA apprend sur des contenus biaisés, elle reproduit ces biaisSi l’IA apprend le bénévolat via des images masculines, elle proposera peu de femmes
Algorithmes de recommandationIls favorisent les contenus déjà populaires, créant un cercle vicieuxLes contenus engagés ou complexes sont moins mis en avant
Optimisation par clicsLes algorithmes favorisent ce qui choque ou polariseMessages simplistes ou caricaturaux sont plus visibles
Manque de diversité dans la conceptionSi les développeurs manquent de diversité, les critères d’optimisation reflètent leurs propres biaisUne IA pensée par des urbains favorise des publics urbains