Biais

Votre mouvement d’apprentissage

S’orienterClarifier un terme, une source, une personne ou un événement.

Pourquoi cette page existe

Les pages de référence soutiennent l’apprentissage sans vous obliger à abandonner votre question ou parcours.

Ce que vous en retirerez

Un biais est une tendance systématique dans les données, mesures, choix de conception, comportements du modèle ou institutions qui oriente les résultats.

Avant de commencer

Utilisez ces pages seules ou revenez à l’objet qui vous y a conduit.

Faites ceci maintenant

Trouvez le fait ou la relation nécessaire, puis revenez à votre objectif.

À faire maintenantClarifier ce conceptLe plan indique le résultat, le temps, les prérequis, l’action immédiate et la suite préparée.Autre parcours valableExaminer les SourcesVoir la provenance, la revue et les limites des preuves.

Compte

Glossaire connecté

Biais

Un biais est une tendance systématique dans les données, mesures, choix de conception, comportements du modèle ou institutions qui oriente les résultats.

Plan pour cette page

Comprendre un concept dans un langage simple et le relier à des idées voisines.

Vous repartirez avec: Certains biais sont des choix volontaires de modélisation ; d’autres créent inexactitude, exclusion ou inégalité. Ils entrent par la représentation, les étiquettes, l’objectif, le contexte d’usage et l’interprétation des décisions.
Temps: 3–8 min
Avant de commencer: Aucun prérequis. Gardez un exemple réel en tête.
Faites ceci maintenant: Lisez l’explication, puis comparez l’exemple à l’idée reçue.

Étape suivante préparéeÉtudier biais et équité en contexte

BiaisUn biais est une tendance systématique dans les données, mesures, choix de conception, comportements du modèle ou institutions qui oriente les résultats.

Jeu de données
Évaluation
Équité

Explication

Certains biais sont des choix volontaires de modélisation ; d’autres créent inexactitude, exclusion ou inégalité. Ils entrent par la représentation, les étiquettes, l’objectif, le contexte d’usage et l’interprétation des décisions.

Exemple

Un système vocal surtout entraîné sur un accent peut davantage se tromper pour d’autres accents.

Pourquoi cela compte

La performance moyenne cache parfois un dommage régulier. Examiner données, distribution des erreurs, groupes affectés, décision et recours est plus utile qu’une question binaire sur le biais.

Idée reçue

Idée reçue : le biais existe seulement si un développeur veut discriminer. Correction : des effets systématiques naissent sans intention par données, mesures, objectifs, déploiement et institutions.

Concepts liés

Suivez les relations, pas seulement l’alphabet

Jeu de donnéesUn jeu de données est une collection organisée d’exemples ou d’enregistrements utilisée pour l’entraînement, l’évaluation, l’analyse ou l’exploitation.ÉvaluationL’évaluation est la mesure et l’enquête structurées sur la performance d’un modèle ou système face à des questions, critères et contextes définis.ÉquitéL’équité est la qualité contextuelle d’un traitement des personnes ou groupes selon des critères, droits, besoins et procédures justifiés.

Étudier biais et équité en contexte

Sources et périmètre

Ce qui soutient cet objet

Artificial Intelligence Risk Management Framework (AI RMF 1.0)U.S. National Institute of Standards and Technology

Présente les biais préjudiciables comme un risque contextuel du cycle de vie impliquant des données, des modèles, des personnes et des institutions ; il ne prescrit pas une seule mesure d’équité.

Ouvrir la source

Loading page content...

…