Est-ce que les algorithmes et les modèles utilisés dans l'intelligence artificielle (IA) peuvent refléter les préjugés et les biais des données sur lesquelles ils ont été formés ?

Réponse publiée sur Quora

Pas les algorithmes, eux sont “standard”, souvent publiés ou même en open source.

Mais qui dit IA dit essentiellement Apprentissage automatique , et, comme pour l’apprentissage humain d’ailleurs, ceci est fortement dépendant des données utilisées pour l’apprentissage et de leur valorisation : quelque chose doit faire l’équivalent du “bravo mon petit c’est juste, continue comme ça” pour augmenter les poids sur les neurones concernés ou du “non espèce d’idiot tu t’es encore trompé” qui les diminue. (voir Apprentissage par renforcement )

Le choix des données d’apprentissage et de la fonction de récompense sont critiques en effet.