对 Gemma 3 4B 和 Gemma 4 与 LLaMA-cpp-Python 的集成支持的请求
作者: LeConsulat2创建于 2026年5月25日更新于 2026年9月6日
大家好，团队，我希望为 Gemma 3 4B 和 Gemma 4 在 LLaMA-cpp-Python 中的集成请求官方支持和文档。对于以下内容的说明将会很有帮助： * 当前的兼容性状态 * 需要的 LLaMA.cpp / LLaMA-cpp-Python 版本 * 聊天模板处理要求 * 推荐的 GGUF 格式和量化 * 已知的限制或问题 * 推荐的稳定使用推理参数
内容来源: abetlen/llama-cpp-python