什麼是 llm-as-a-judge?
建置、驗證和部署 LLM-as-Judge 評估器,以對 LLM 管道輸出進行自動品質評估。每當使用者想要執行以下操作時,都可以使用此技能:為主觀或細微的故障模式建立自動評估器、為通過/失敗評估編寫判斷提示、分割標記資料以進行判斷開發、測量判斷一致性 (TPR/TNR)、透過偏差校正估計真實成功率或設定 CI 評估管道。當使用者提到「判斷提示」、「自動評估」、「LLM評估器」、「評分提示」、「對齊指標」、「真陽性率」或想要從手動追蹤審查轉向自動評估時也會觸發。此技能涵蓋了整個生命週期:提示設計→資料分割→迭代細化→成功率估計。 來源:maragudk/evals-skills。