Le comportement d’un système d’IA reflète la sélection des données, les étiquettes, les objectifs, la conception du modèle, les seuils, le déploiement, les institutions et les boucles de retour. Certaines disparités mesurables peuvent être réduites.
L’équité recouvre des définitions concurrentes et dépend des droits, de l’histoire, de la finalité et des personnes concernées. La gouvernance et les voies de recours comptent autant que les indicateurs.
Exemple
Historique de recrutement
L’entraînement sur des sélections passées peut reproduire des inégalités d’accès aux opportunités, même si les champs protégés sont retirés, parce que d’autres signaux servent de variables indirectes.
Limite importante
Aucune mesure unique de l’équité ne tranche la question de la justice
Les indicateurs peuvent entrer en conflit ; des moyennes égales peuvent masquer des préjudices pour des sous-groupes ou des personnes.
Modèle interactif
Distinguer avant de décider
Couche sélectionnéeBiais statistique
Erreur ou disparité systématique.
Lire l’alternative textuelle complète
Biais statistiqueErreur ou disparité systématique.
Équité socialeJugement normatif sur un traitement légitime.
Distinctions utiles
Séparez les questions avant de juger
Biais statistique
Erreur ou disparité systématique.
Équité sociale
Jugement normatif sur un traitement légitime.
Contrôle actif
Quelle évaluation de l’équité est la plus solide ?
inAi