安全性

Llamafile 将推理代码与权重捆绑在一起,非常方便,但目前的形式相比使用不可信的 safetensors/gguf 权重 + 单独下载的(可信)模型实现,对用户的安全性要低。如果 llamafile 取得成功,用户将执行从 HF 由随机人生成的随机可执行文件,通过包括被植入的 LLaMA.cpp 实现等人,会导致安全漏洞。