agent-governance

Patterns for adding safety, trust, and policy enforcement to AI agent systems.

Governance patterns ensure AI agents operate within defined boundaries — controlling which tools they can call, what content they can process, how much they can do, and maintaining accountability through audit trails.

Define what an agent is allowed to do as a composable, serializable policy object.

Modèles et techniques pour ajouter des contrôles de gouvernance, de sécurité et de confiance aux systèmes d'agents d'IA. Utilisez cette compétence lorsque : - Construire des agents IA qui appellent des outils externes (API, bases de données, systèmes de fichiers) - Implémentation de contrôles d'accès basés sur des politiques pour l'utilisation des outils d'agent - Ajout d'une classification d'intention sémantique pour détecter les invites dangereuses - Création de systèmes de notation de confiance pour les workflows multi-agents - Construction de pistes d'audit pour les actions et décisions des agents - Application de limites de débit, de filtres de contenu ou de restrictions d'outils sur les agents - Travailler avec n'importe quel framework d'agent (PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen) Source : github/awesome-copilot.