constitutional-ai
✓Anthropic 透過自我完善來訓練無害人工智慧的方法。兩階段方法 - 透過自我批評/修改進行監督學習，然後是 RLAIF（來自 AI 回饋的 RL）。用於安全對齊，減少有害輸出，無需人工標記。為克勞德的安全系統提供動力。
SKILL.md
Constitutional AI (CAI) trains models to be harmless through self-critique and AI feedback, without requiring human labels for harmful outputs.
Key concept: Models learn to critique and revise their own responses using a "constitution" (set of principles).
Workflow 2: RL phase (RLAIF - RL from AI Feedback)
Anthropic 透過自我完善來訓練無害人工智慧的方法。兩階段方法 - 透過自我批評/修改進行監督學習，然後是 RLAIF（來自 AI 回饋的 RL）。用於安全對齊，減少有害輸出，無需人工標記。為克勞德的安全系統提供動力。 來源：orchestra-research/ai-research-skills。
可引用資訊
為搜尋與 AI 引用準備的穩定欄位與指令。
- 安裝指令
npx skills add https://github.com/orchestra-research/ai-research-skills --skill constitutional-ai- 分類
- </>開發工具
- 認證
- ✓
- 收錄時間
- 2026-02-11
- 更新時間
- 2026-02-18
快速解答
什麼是 constitutional-ai？
Anthropic 透過自我完善來訓練無害人工智慧的方法。兩階段方法 - 透過自我批評/修改進行監督學習，然後是 RLAIF（來自 AI 回饋的 RL）。用於安全對齊，減少有害輸出，無需人工標記。為克勞德的安全系統提供動力。 來源：orchestra-research/ai-research-skills。
如何安裝 constitutional-ai？
開啟你的終端機或命令列工具（如 Terminal、iTerm、Windows Terminal 等） 複製並執行以下指令：npx skills add https://github.com/orchestra-research/ai-research-skills --skill constitutional-ai 安裝完成後，技能將自動設定到你的 AI 程式設計環境中，可以在 Claude Code 或 Cursor 中使用
這個 Skill 的原始碼在哪？
https://github.com/orchestra-research/ai-research-skills
詳情
- 分類
- </>開發工具
- 來源
- skills.sh
- 收錄時間
- 2026-02-11