CodeLlama 模型的推论代码
引入代码 LLaMA 代码LLaMA是一个由基于LLaMA 2的大型语言模型组成的家族,在开放模型中提供最先进的性能,填充能力,支持大输入上下文,在编程任务能力后进行零发指令. 我们提供多种口味以涵盖广泛的应用:基础模型(Code LLaMA),Python专业(Code LLaMA-ZPython),以及导引跟踪模型(Code LLaMA-Instruct),各有7B,13B和34B参数. 所有型号都接受了16k令牌的序列培训,并用多达100k令牌显示输入的改进. 7B和13B代码LLaMA和代码LLaMA - 指令变体支持根据周边内容进行填充. 代码LLaMA是通过使用更高的代码采样进行微调而开发出. 同LLaMA 2一样,我们对微调的版本应用了相当的安全缓解.