Définissez les accès, les limites, les validations, les journaux et les mécanismes de reprise d’un système fictif capable d’agir au travers de logiciels.
Plan pour cette page
Transformer une idée abstraite en décision observable.
Vous repartirez avec
Placez les autorisations, l’approbation, l’observation et la récupération en fonction des conséquences et de la réversibilité, plutôt qu’en vous fondant sur le terme « agent ».
Temps
18 min
Avant de commencer
Configurez l’autorité minimale qui reste utile. Le retour montre le coût de l’action incontrôlée comme celui d’un contrôle excessif inutilisable.
Faites ceci maintenant
Prédisez votre résultat avant de sélectionner la première option.
Quand un système d’IA peut agir, où doit se trouver le contrôle ?
Configurez l’autorité minimale qui reste utile. Le retour montre le coût de l’action incontrôlée comme celui d’un contrôle excessif inutilisable.
Modèle interactif
Décision, conséquence, résultat
Couche sélectionnéeL’agent peut coordonner une réunion par e-mail.
Les messages créent des engagements et exposent des destinataires.
Lire l’alternative textuelle complète
L’agent peut coordonner une réunion par e-mail.Les messages créent des engagements et exposent des destinataires.
L’agent peut rechercher des fournitures dans le cadre d’un budget d’équipe.Les prix et la disponibilité des articles ou des vendeurs peuvent évoluer.
Un outil dépasse le délai d’attente après une demande d’action. Quel comportement de récupération devez-vous configurer ?Le système ne peut pas déterminer si l’action externe a abouti.
01
L’agent peut coordonner une réunion par e-mail.
Les messages créent des engagements et exposent des destinataires.
02
L’agent peut rechercher des fournitures dans le cadre d’un budget d’équipe.
Les prix et la disponibilité des articles ou des vendeurs peuvent évoluer.
03
Un outil dépasse le délai d’attente après une demande d’action. Quel comportement de récupération devez-vous configurer ?
Le système ne peut pas déterminer si l’action externe a abouti.
Répondez à toutes les décisions pour révéler le résultat
Résultat transférable
Ma règle pour la salle de contrôle
Choisissez une action d’agent et décrivez son périmètre autorisé, son seuil d’approbation, les éléments de preuve présentés à la personne qui contrôle et son comportement de récupération.
Limite de sécurité
Ne saisissez aucun identifiant, outil, donnée ou incident réels. Ces contrôles fictifs ne sécurisent pas un système de production.
Note de méthode
Le modèle valorise le principe du moindre privilège et l’examen des effets concrets. Le contrôle réel dépend de l’implémentation, du modèle de menace, des personnes, du droit et du contexte d’exploitation.
Alternative textuelle
Lisez l’objectif et chaque action possible, puis choisissez leur périmètre d’accès, leur point d’approbation, leur journalisation et leur récupération en suivant un parcours de décision linéaire.
AI Risk Management FrameworkU.S. National Institute of Standards and Technology
Ce cadre étaye la cartographie contextuelle, la mesure, la gestion, le suivi, la gouvernance, la responsabilité et la supervision humaine ; il s’agit d’une orientation volontaire, non d’une preuve qu’un système particulier est sûr.
NIST Privacy FrameworkU.S. National Institute of Standards and Technology
Ce cadre aide à analyser les finalités, le traitement des données, les risques pour la vie privée, le cycle de vie, la gouvernance et les contrôles ; il ne constitue pas un conseil juridique propre à une juridiction.
Hugging Face Agents Course — IntroductionHugging Face
Ce cours présente concrètement les modèles, les outils, les actions et les observations ; il est propre à un écosystème et ne définit pas une architecture universelle.
inAi