·llm-as-a-judge
</>

llm-as-a-judge

构建、验证和部署 LLM-as-Judge 评估器,以对 LLM 管道输出进行自动质量评估。每当用户想要执行以下操作时,都可以使用此技能:为主观或细微的故障模式创建自动评估器、为通过/失败评估编写判断提示、分割标记数据以进行判断开发、测量判断一致性 (TPR/TNR)、通过偏差校正估计真实成功率或设置 CI 评估管道。当用户提到“判断提示”、“自动评估”、“LLM评估器”、“评分提示”、“对齐指标”、“真阳性率”或想要从手动跟踪审查转向自动评估时也会触发。该技能涵盖了整个生命周期:提示设计→数据分割→迭代细化→成功率估计。

8安装·0热度·@maragudk

安装

$npx skills add https://github.com/maragudk/evals-skills --skill llm-as-a-judge

如何安装 llm-as-a-judge

通过命令行快速安装 llm-as-a-judge AI 技能到你的开发环境

  1. 打开终端: 打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等)
  2. 运行安装命令: 复制并运行以下命令:npx skills add https://github.com/maragudk/evals-skills --skill llm-as-a-judge
  3. 验证安装: 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code、Cursor 或 OpenClaw 中使用

来源:maragudk/evals-skills。

SKILL.md

查看原文

Build reliable automated evaluators that use an LLM to judge the outputs of another LLM pipeline. Each judge targets a single, binary (Pass/Fail) failure mode identified during error analysis.

Use code-based evaluators when the failure is objective and deterministic:

Each failure mode gets its own dedicated evaluator. Never combine multiple criteria into a single judge prompt—this introduces ambiguity and makes diagnosis harder.

构建、验证和部署 LLM-as-Judge 评估器,以对 LLM 管道输出进行自动质量评估。每当用户想要执行以下操作时,都可以使用此技能:为主观或细微的故障模式创建自动评估器、为通过/失败评估编写判断提示、分割标记数据以进行判断开发、测量判断一致性 (TPR/TNR)、通过偏差校正估计真实成功率或设置 CI 评估管道。当用户提到“判断提示”、“自动评估”、“LLM评估器”、“评分提示”、“对齐指标”、“真阳性率”或想要从手动跟踪审查转向自动评估时也会触发。该技能涵盖了整个生命周期:提示设计→数据分割→迭代细化→成功率估计。 来源:maragudk/evals-skills。

可引用信息

为搜索与 AI 引用准备的稳定字段与命令。

安装命令
npx skills add https://github.com/maragudk/evals-skills --skill llm-as-a-judge
分类
</>开发工具
认证
收录时间
2026-02-22
更新时间
2026-03-11

Browse more skills from maragudk/evals-skills

快速解答

什么是 llm-as-a-judge?

构建、验证和部署 LLM-as-Judge 评估器,以对 LLM 管道输出进行自动质量评估。每当用户想要执行以下操作时,都可以使用此技能:为主观或细微的故障模式创建自动评估器、为通过/失败评估编写判断提示、分割标记数据以进行判断开发、测量判断一致性 (TPR/TNR)、通过偏差校正估计真实成功率或设置 CI 评估管道。当用户提到“判断提示”、“自动评估”、“LLM评估器”、“评分提示”、“对齐指标”、“真阳性率”或想要从手动跟踪审查转向自动评估时也会触发。该技能涵盖了整个生命周期:提示设计→数据分割→迭代细化→成功率估计。 来源:maragudk/evals-skills。

如何安装 llm-as-a-judge?

打开你的终端或命令行工具(如 Terminal、iTerm、Windows Terminal 等) 复制并运行以下命令:npx skills add https://github.com/maragudk/evals-skills --skill llm-as-a-judge 安装完成后,技能将自动配置到你的 AI 编程环境中,可以在 Claude Code、Cursor 或 OpenClaw 中使用

这个 Skill 的源码在哪?

https://github.com/maragudk/evals-skills

详情

分类
</>开发工具
来源
skills.sh
收录时间
2026-02-22