agent-governance

Patterns for adding safety, trust, and policy enforcement to AI agent systems.

Governance patterns ensure AI agents operate within defined boundaries — controlling which tools they can call, what content they can process, how much they can do, and maintaining accountability through audit trails.

Define what an agent is allowed to do as a composable, serializable policy object.

Modelli e tecniche per aggiungere controlli di governance, sicurezza e affidabilità ai sistemi di agenti IA. Usa questa abilità quando: - Creazione di agenti AI che chiamano strumenti esterni (API, database, file system) - Implementazione di controlli di accesso basati su policy per l'utilizzo dello strumento agente - Aggiunta della classificazione semantica dell'intento per rilevare prompt pericolosi - Creazione di sistemi di punteggio di fiducia per flussi di lavoro multi-agente - Creazione di audit trail per le azioni e le decisioni degli agenti - Applicazione di limiti di velocità, filtri di contenuto o restrizioni sugli strumenti sugli agenti - Lavorare con qualsiasi framework di agenti (PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen) Fonte: github/awesome-copilot.