agent-governance

Patterns for adding safety, trust, and policy enforcement to AI agent systems.

Governance patterns ensure AI agents operate within defined boundaries — controlling which tools they can call, what content they can process, how much they can do, and maintaining accountability through audit trails.

Define what an agent is allowed to do as a composable, serializable policy object.

Muster und Techniken zum Hinzufügen von Governance-, Sicherheits- und Vertrauenskontrollen zu KI-Agentensystemen. Verwenden Sie diese Fähigkeit, wenn: - Erstellen von KI-Agenten, die externe Tools (APIs, Datenbanken, Dateisysteme) aufrufen - Implementierung richtlinienbasierter Zugriffskontrollen für die Nutzung von Agent-Tools – Hinzufügen einer semantischen Absichtsklassifizierung, um gefährliche Eingabeaufforderungen zu erkennen - Erstellen von Vertrauensbewertungssystemen für Multi-Agent-Workflows - Erstellen von Prüfpfaden für Agentenaktionen und -entscheidungen - Durchsetzung von Ratenbeschränkungen, Inhaltsfiltern oder Tool-Einschränkungen für Agenten - Arbeiten mit jedem Agenten-Framework (PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen) Quelle: github/awesome-copilot.