在 DistillationTrainer 中支持基于路由器的多教师 (MOPD) 精炼
作者: mohanpb创建于 2026年6月23日更新于 2026年9月15日
功能请求 DistillationTrainer 目前支持使用单个教师进行师徒蒸馏。一个有用的扩展是基于路由的多教师蒸馏,其中每个示例根据数据集列(如 domain、task 或 data_source)被路由到一个教师。
内容来源: huggingface/trl