EvalPort: ComputeAccuracy/ComputeSimilarity 结果的可移植交换
作者: adhabnr-ux创建于 2026年9月27日更新于 2026年9月27日
Hi LLaMA-Factory 团队 — 我维护了 EvalPort (https://GitHub.com/adhabnr-ux/evalport),这是一个开放的 JSON-Schema 规范,用于便携式 LLM eval 测试用例、评分器和结果集。`src/llamafactory/train/sft/metric.py`中的 `ComputeAccuracy` 和 `ComputeSimilarity` 数据类使用每个 `EvalPrediction`,并返回一个包含准确性/rouge-1/rouge-2/rouge-l/bleu-4 分数的 `score_dict` — 与 EvalPort 的 GraderResult 非常接近(每个指标运行一个评分器),并按 eval 运行聚合为一个结果集。由于 LLaMA-Factory 会在 100 多个模型上运行相同的 SFT eval 循环,将这些可调用函数的输出映射到 EvalPort 的 TestCase/GraderResult 规范,将使用户能够使用通用格式比较模型/数据集之间的 SFT eval 运行,而不需要解析每个运行的原始 Trainer 日志。只需标记 fit,不要求您优先考虑它。
内容来源: hiyouga/LlamaFactory