agent-governance

Patterns for adding safety, trust, and policy enforcement to AI agent systems.

Governance patterns ensure AI agents operate within defined boundaries — controlling which tools they can call, what content they can process, how much they can do, and maintaining accountability through audit trails.

Define what an agent is allowed to do as a composable, serializable policy object.

Шаблоны и методы добавления управления, безопасности и контроля доверия к системам агентов ИИ. Используйте этот навык, когда: - Создание агентов ИИ, вызывающих внешние инструменты (API, базы данных, файловые системы) - Внедрение контроля доступа на основе политик для использования инструментов агента. - Добавление классификации семантических намерений для обнаружения опасных подсказок. - Создание систем оценки доверия для многоагентных рабочих процессов. - Построение контрольного журнала действий и решений агентов. - Обеспечение соблюдения ограничений скорости, фильтров контента или ограничений инструментов для агентов. - Работа с любыми агентами (PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen) Источник: github/awesome-copilot.