从 LLaMA.cpp 中上游加载 mmap 和分割加载程序
作者: danielzgtg创建于 2025年5月14日更新于 2026年9月14日
请将 LLaMA-mmap.cpp 和 LLaMA-model-loader.cpp 从 LLaMA.cpp 上游。我想在 Whisper.cpp (https://GitHub.com/ggml-org/whisper.cpp/issues/631, whisper-ggml-large-v3.bin = 3.1G) 和另一个第三方项目 (Dia.gguf = 6.7G) 中添加这些功能。当使用 ggml 作为子模块时,不需要将这两个 .cpp 文件提供给厂商是很方便的。
内容来源: ggml-org/ggml