Clarifier un terme, examiner des preuves ou situer une idée.
inAiLoading page content...
Profil · preuves publiques
Plan pour cette page
Buolamwini a associé audit empirique, communication publique et plaidoyer pour rendre visibles les disparités de l’analyse faciale automatisée et permettre d’agir sur elles.
Contributions
Elle a dirigé Gender Shades avec Timnit Gebru, constitué un jeu d’évaluation plus équilibré et mesuré des écarts intersectionnels dans la classification commerciale du genre.
Elle a fondé l’Algorithmic Justice League pour relier les résultats de la recherche, l’éducation du public, le plaidoyer et la responsabilité.
Elle a utilisé des formes artistiques et documentaires parallèlement au travail technique afin d’élargir le public capable de comprendre et de contester les préjudices algorithmiques.
Elle a contribué à établir l’audit algorithmique comme une pratique d’intérêt public, et non comme un simple exercice interne d’ingénierie.
Gender Shades comparait les taux d’erreur, selon les catégories de teinte de peau et les groupes de genre binaires, pour trois systèmes commerciaux. Les erreurs les plus élevées concernaient les femmes à la peau plus foncée dans le cadre étudié, montrant qu’une mesure globale de précision peut masquer de fortes disparités entre sous-groupes.
La pratique plus large de Buolamwini considère la communication et la participation des communautés concernées comme des éléments de responsabilité. Un résultat technique doit être compréhensible pour les personnes auxquelles le système s’applique et relié aux décisions d’achat, de déploiement, de recours ou de non-utilisation.
Contexte, limites et débats
Sources et périmètre
Étude principale menée par Joy Buolamwini avec Timnit Gebru, qui relève des écarts dans trois systèmes commerciaux de classification du genre en 2017 ; elle porte sur la classification binaire du genre et non sur toutes les formes de reconnaissance faciale.
Site du projet donnant accès à l’article, au contexte du jeu de données et aux résultats ; il s’agit d’une ressource de première main à lire avec les méthodes publiées.
Présentation officielle de la fondation de l’AJL par Buolamwini et de sa mission de plaidoyer ; toute affirmation sur un effet politique ou industriel doit être corroborée par les sources correspondantes.
