constitutional-ai
✓自己改善を通じて無害な AI を訓練する Anthropic の手法。 2 段階のアプローチ - 自己批判/修正を伴う教師あり学習、次に RLAIF (AI フィードバックからの RL)。安全調整に使用し、人間によるラベルなしで有害な出力を削減します。クロードの安全システムに電力を供給します。
SKILL.md
Constitutional AI (CAI) trains models to be harmless through self-critique and AI feedback, without requiring human labels for harmful outputs.
Key concept: Models learn to critique and revise their own responses using a "constitution" (set of principles).
Workflow 2: RL phase (RLAIF - RL from AI Feedback)
自己改善を通じて無害な AI を訓練する Anthropic の手法。 2 段階のアプローチ - 自己批判/修正を伴う教師あり学習、次に RLAIF (AI フィードバックからの RL)。安全調整に使用し、人間によるラベルなしで有害な出力を削減します。クロードの安全システムに電力を供給します。 ソース: orchestra-research/ai-research-skills。
引用可能な情報
AI/検索での引用用の安定したフィールドとコマンド。
- インストールコマンド
npx skills add https://github.com/orchestra-research/ai-research-skills --skill constitutional-ai- カテゴリ
- </>開発ツール
- 認証済み
- ✓
- 初回登録
- 2026-02-11
- 更新日
- 2026-02-18
クイックアンサー
constitutional-ai とは？
自己改善を通じて無害な AI を訓練する Anthropic の手法。 2 段階のアプローチ - 自己批判/修正を伴う教師あり学習、次に RLAIF (AI フィードバックからの RL)。安全調整に使用し、人間によるラベルなしで有害な出力を削減します。クロードの安全システムに電力を供給します。 ソース: orchestra-research/ai-research-skills。
constitutional-ai のインストール方法は？
ターミナルまたはコマンドラインツール（Terminal、iTerm、Windows Terminal など）を開きます このコマンドをコピーして実行します: npx skills add https://github.com/orchestra-research/ai-research-skills --skill constitutional-ai インストール後、スキルは自動的に AI コーディング環境に設定され、Claude Code や Cursor で使用できるようになります
ソースリポジトリはどこですか？
https://github.com/orchestra-research/ai-research-skills
詳細
- カテゴリ
- </>開発ツール
- ソース
- skills.sh
- 初回登録
- 2026-02-11