#1223·ggml

从 LLaMA.cpp 中上游加载 mmap 和分割加载程序

作者: danielzgtg创建于 2025年5月14日更新于 2026年9月14日

请将 LLaMA-mmap.cpp 和 LLaMA-model-loader.cpp 从 LLaMA.cpp 上游。我想在 Whisper.cpp (https://GitHub.com/ggml-org/whisper.cpp/issues/631, whisper-ggml-large-v3.bin = 3.1G) 和另一个第三方项目 (Dia.gguf = 6.7G) 中添加这些功能。当使用 ggml 作为子模块时,不需要将这两个 .cpp 文件提供给厂商是很方便的。