Clarifier un terme, examiner des preuves ou situer une idée.
inAiLoading page content...
Profil · responsabilité
Plan pour cette page
Les recherches de Gebru relient les preuves techniques sur les jeux de données et les performances des modèles à des questions de pouvoir : qui construit l’IA, qui est concerné et quelles institutions contrôlent la recherche.
Contributions
Elle a cosigné Gender Shades, qui a documenté des écarts de performance intersectionnels dans certains systèmes commerciaux de classification du genre.
Elle a porté la proposition cosignée Datasheets for Datasets afin de documenter systématiquement l’origine, la composition, les usages prévus et les limites des jeux de données.
A cofondé Black in AI pour soutenir la représentation, la participation et la communauté dans le domaine.
Elle a fondé le Distributed AI Research Institute afin de mener une recherche indépendante, enracinée dans les communautés et en dehors des structures dominantes des grandes entreprises technologiques.
Les travaux de Gebru montrent qu’un jeu de données n’est pas un donné brut de la nature. Les décisions de collecte, les catégories, le travail, les exclusions et les usages prévus affectent les modèles en aval. La documentation rend certains de ces choix inspectables et donne aux utilisateurs d’un jeu de données les moyens de décider si une ressource convient à une tâche.
Sa critique institutionnelle interroge les personnes qui fixent les priorités de recherche et celles qui peuvent publier des analyses critiques lorsque la recherche en IA se concentre dans de puissantes entreprises. Cette perspective complète l’audit technique en ajoutant les questions d’autorité de déploiement, de conditions de travail, de voix des communautés et de recours.
Contexte, limites et débats
Sources et périmètre
Proposition principale cosignée visant à documenter la motivation, la composition, la collecte, les utilisations et les limites d’un jeu de données ; une fiche de données améliore la transparence mais ne rend pas, à elle seule, un jeu de données approprié.
Étude principale de Joy Buolamwini et Timnit Gebru évaluant, sur un jeu de référence construit pour l’étude, trois systèmes commerciaux de classification du genre de 2017 ; les conclusions dépendent du système, de la tâche, du jeu de données et de la période.
Source institutionnelle officielle sur la mission de recherche communautaire de DAIR et ses travaux actuels ; à titre d’auto-description, elle documente des objectifs plutôt qu’elle n’évalue indépendamment un impact.
Récit du bailleur sur le lancement de DAIR par Gebru et sa justification institutionnelle ; utile à titre de corroboration tout en tenant compte de la relation du bailleur à l’institut.
