什么是 llm-as-a-judge?
构建、验证和部署 LLM-as-Judge 评估器,以对 LLM 管道输出进行自动质量评估。每当用户想要执行以下操作时,都可以使用此技能:为主观或细微的故障模式创建自动评估器、为通过/失败评估编写判断提示、分割标记数据以进行判断开发、测量判断一致性 (TPR/TNR)、通过偏差校正估计真实成功率或设置 CI 评估管道。当用户提到“判断提示”、“自动评估”、“LLM评估器”、“评分提示”、“对齐指标”、“真阳性率”或想要从手动跟踪审查转向自动评估时也会触发。该技能涵盖了整个生命周期:提示设计→数据分割→迭代细化→成功率估计。 来源:maragudk/evals-skills。