self-rag

开源

其中包括 Akari Asai、Zeqiu Wu、Yizhong Wang 所提出的 SELF-RAG: Learning to Retrieve, Generate and Critique through self-reflection 原始实现。

2.4K stars0 点赞0 次浏览

访问官网 GitHub

工具介绍

其中包括 Akari Asai、Zeqiu Wu、Yizhong Wang 所提出的 SELF-RAG: Learning to Retrieve, Generate and Critique through self-reflection 原始实现。

SELF-RAG: 通过自我反思学习检索、生成和批评

其中包括 Akari Asai、Zeqiu Wu、Yizhong Wang、Avirup Sil 和 Hannaneh Hajishirzi 所撰写的原创论文《[SELF-RAG: Learning to Retrieve, Generate and Critique through self-reflection]》(https://arxiv.org/abs/2310.11511)(ICLR 2024, 口头报告排名第一%)。网站 | 7B 模型 | 13B 模型 | 论文 | 训练数据 | Twitter 总结 | 更新 Self-RAG (右图) 是一个新的框架,可训练任意 LM 学习检索、生成和评论,从而提高生成的事实性和质量,而不会损害 LLMs 的通用性。

与广泛采用的检索增强生成 (RAG; 左图) 方法不同, Self-RAG 根据不同的查询需求进行检索 (例如,可以多次检索或完全跳过检索),并通过预测 反射标记 来从多个细粒度方面对其生成进行批评。我们进行了分段式的束搜索,以选择能够最大化满足多种偏好的输出。