如何修改停止词
作者: rainstorm12创建于 2025年2月19日更新于 2025年5月31日
我在 https://GitHub.com/BlinkDL/ChatRWKV/blob/main/API_DEMO_CHAT.py 上的推理代码中写了可以修改停止词：
if "\n\n" in tmp: # 如果生成的文本包含双换行符，表示模型的响应已结束（可以将 \n\n 改成其他停止词）
print(tmp, end="", flush=True) # 实时打印解码得到的文本
break # 结束本轮推理内容来源: BlinkDL/ChatRWKV