agent-governance이란?
AI 에이전트 시스템에 거버넌스, 안전, 신뢰 제어를 추가하기 위한 패턴 및 기술입니다. 다음과 같은 경우에 이 기술을 사용하십시오. - 외부 도구(API, 데이터베이스, 파일 시스템)를 호출하는 AI 에이전트 구축 - 에이전트 도구 사용에 대한 정책 기반 액세스 제어 구현 - 위험한 프롬프트를 감지하기 위해 의미론적 의도 분류 추가 - 다중 에이전트 워크플로우를 위한 신뢰 점수 시스템 구축 - 상담원의 행동과 결정에 대한 감사 추적 구축 - 에이전트에 대한 속도 제한, 콘텐츠 필터 또는 도구 제한 시행 - 모든 에이전트 프레임워크(PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen)와 작업 출처: github/awesome-copilot.