Joy Buolamwini s’appuie sur des échecs répétés de systèmes d’analyse faciale pour rendre concret le biais algorithmique, puis retrace les effets nocifs des données d’entraînement et des équipes de développement jusqu’aux services de police, au crédit, au recrutement et à d’autres institutions. Cette intervention est historiquement importante ; ses statistiques et descriptions réglementaires restent datées de 2016.
Plan pour cette page
Regarder activement avec une préparation, des repères et un contrôle de compréhension.
Vous repartirez avec
Comment le biais peut entrer par les données, la conception, les équipes et les usages institutionnels, et pourquoi des erreurs à grande échelle peuvent devenir de l’exclusion ou de la discrimination.
Temps
9 min
Avant de commencer
Grand public, concepteurs et décideurs cherchant une entrée humaine dans les questions de biais et d’équité.
Faites ceci maintenant
Lisez les termes et les points d’attention avant de charger la vidéo.
Comment je combats les biais des algorithmesComment le biais peut entrer par les données, la conception, les équipes et les usages institutionnels, et pourquoi des erreurs à grande échelle peuvent devenir de l’exclusion ou de la discrimination.
00:00 · Le regard codé
00:45 · Le masque blanc rend le visage visible
01:15 · L’échec se répète
03:15 · Les exemples façonnent la reconnaissance
04:08 · De l’exclusion à la discrimination
Ce que cela enseigne
Comment le biais peut entrer par les données, la conception, les équipes et les usages institutionnels, et pourquoi des erreurs à grande échelle peuvent devenir de l’exclusion ou de la discrimination.
Grand public, concepteurs et décideurs cherchant une entrée humaine dans les questions de biais et d’équité.
À observer
Suivez le passage d’un échec individuel à un composant logiciel réutilisé dans plusieurs pays.
Distinguez un taux d’erreur technique de la conséquence institutionnelle qui résulte de l’utilisation de cette erreur.
Notez que la réponse proposée inclut les personnes, les processus, la finalité, l’audit et les données, non la seule précision du modèle.
Termes utiles
Avant de lancer la vidéo
biais algorithmiqueregard codéjeu d’entraînementanalyse facialeaudit
La vidéo externe est chargée uniquement à votre demande
Le lecteur utilise l’adresse officielle en mode de confidentialité renforcée. Les conditions du fournisseur s’appliquent.
Le biais peut entrer dans le cadrage du problème, les données, les étiquettes, le modèle, les seuils, l’interface, l’institution ou les boucles de retour, et non à une seule étape.
Une précision moyenne élevée peut masquer des erreurs concentrées et des conséquences inégales pour certains groupes.
L’équité exige des groupes, des résultats et des références clairement définis, ainsi que participation, audits, supervision, correction et voies de recours.
Contrôle actif
Pourquoi diversifier les données est-il utile mais insuffisant ?
Réserves
La conférence a été prononcée en 2016 ; ses chiffres sur la police, ses descriptions réglementaires, les sites, produits et contextes institutionnels ne doivent pas être considérés comme actuels sans vérification.
Les exemples centraux concernent la détection et l’analyse faciale ; d’autres systèmes produisent le biais autrement.
Des données plus représentatives peuvent réduire certains écarts mais aussi étendre la surveillance ; l’équité ne se résume pas à collecter plus de visages.
Accessibilité
Des pistes de sous-titres anglais et français fournies manuellement ainsi qu’une transcription anglaise officielle étaient disponibles. La démo faciale est importante visuellement, mais l’oratrice décrit le contraste ; applaudissements et réactions sont indiqués.
How I'm fighting bias in algorithms | Joy BuolamwiniTED / TEDxBeaconStreet
La vidéo exacte ayant fait l’objet de la revue, prononcée en novembre 2016 et publiée sur YouTube en mars 2017. Elle associe expérience personnelle, exemples institutionnels et plaidoyer.
inAi