为什么我的微调模型在生成响应之前会重复给定的提示

作者: starrlee356创建于 2024年12月5日更新于 2026年3月7日

非常感谢您的出色工作!您能帮我解决这个问题吗? 在我微调 LLaMA 模型后,当我使用如下文本提示该模型时:"以下是一条说明,描述了一项任务,并配以一个提供了更多上下文的输入。请编写一个适当地完成请求的响应。\n ### 说明: {my_instruct} ### 输入: {my_input} ### 响应: ",模型不仅会输出我所期望的响应部分,还会输出上面的提示以及其响应。我的数据集如下所示:

内容来源: tatsu-lab/stanford_alpaca