agent-governance

Patterns for adding safety, trust, and policy enforcement to AI agent systems.

Governance patterns ensure AI agents operate within defined boundaries — controlling which tools they can call, what content they can process, how much they can do, and maintaining accountability through audit trails.

Define what an agent is allowed to do as a composable, serializable policy object.

Patrones y técnicas para agregar controles de gobernanza, seguridad y confianza a los sistemas de agentes de IA. Utilice esta habilidad cuando: - Creación de agentes de IA que llamen a herramientas externas (API, bases de datos, sistemas de archivos) - Implementación de controles de acceso basados en políticas para el uso de herramientas del agente. - Agregar clasificación de intención semántica para detectar indicaciones peligrosas - Creación de sistemas de puntuación de confianza para flujos de trabajo de múltiples agentes. - Creación de pistas de auditoría para las acciones y decisiones de los agentes. - Hacer cumplir límites de tarifas, filtros de contenido o restricciones de herramientas a los agentes - Trabajar con cualquier marco de agente (PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen) Fuente: github/awesome-copilot.