#6151·trl

在 DistillationTrainer 中支持基于路由器的多教师 (MOPD) 精炼

作者: mohanpb创建于 2026年6月23日更新于 2026年9月15日

功能请求 DistillationTrainer 目前支持使用单个教师进行师徒蒸馏。一个有用的扩展是基于路由的多教师蒸馏,其中每个示例根据数据集列(如 domaintaskdata_source)被路由到一个教师。

内容来源: huggingface/trl