:robot: RL4LMs :rocket:
一个模块化的 RL 库,可根据人类偏好微调语言模型
我们提供了易于自定义的构建块,用于训练语言模型,包括 **在策略算法**、**奖励函数**、**指标**、**数据集** 和 **基于 LM 的行为-评价策略** 的实现
经过 **2000 多个实验** 的全面测试和基准测试:火(GRUE 基准:奖杯:)在以下领域:
所有这些构建块都可以自定义,允许用户使用 Transformer 训练基于 Transformer 的 LM,以优化任意奖励函数,并针对用户选择的任何数据集进行优化。