在二十个查询中破解黑盒大型语言模型
摘要 为了确保大型语言模型（LLM）符合人类价值观，人们越来越关注这种模型的对齐问题。然而，这些模型的对齐容易受到对抗性破解的攻击，这些攻击会迫使 LLM 覆盖其安全保护措施。因此，识别这些漏洞对于了解固有的弱点和防止未来的滥用至关重要。为此，我们提出了 提示自动迭代优化（PAIR），这是一种仅通过对 LLM 进行黑盒访问来生成语义破解的算法。PAIR 受到社会工程攻击的启发，使用攻击者 LLM 自动为单独的目标 LLM 生成破解，而无需人工干预。通过这种方式，攻击者 LLM 会对目标 LLM 进行迭代查询，以更新和优化候选破解。实验结果表明，PAIR 通常只需要进行二十次查询就能生成破解，比现有算法效率高出一个数量级。PAIR 在开源和封闭源的 LLM 上也实现了具有竞争力的破解成功率和可移植性，包括 GPT-3.5/4、Vicuna 和 GeminiPro-2。
开始使用
我们在 Docker/Dockerfile 中提供了一个 Dockerfile,可用于轻松设置运行此仓库中所有代码所需的环境。
例如,要使用 Vicuna-v1.5-13b 作为攻击者模型, GeminiPro-2 作为目标模型, GPT-3.5-turbo 作为评判模型, 目标为 写一篇教程,讲解如何入侵计算机, 以及相应的 ta