ggml · Issues· 363 开放

为什么 ggml 不能分发 libggml-cpu-{arch}.so，而包含所有 CPU 架构？

ggml-cuda:在 ssm-scan.cu 中缺少 syncthreads ()

[功能请求] 使用稳定的 GGML CPU 线程池,而不是为每个请求重新创建

从 LLaMA.cpp 中上游加载 mmap 和分割加载程序

ggml-cuda: 缺少 <cuda/iterator>/<cuda/execution>/<cuda/stream_ref> 包,在使用 CCCL 3.1+ 时会中断构建 (argsort.cu, top-k.cu)

MUSA: flash-attn TILE GQA 路径 (ncols2>1) 当注意力窗口长度为 256 的倍数时,会输出所有 NaN 的 logits

vulkan: 在旧版 AMD 驱动程序中, vkGetDeviceQueue2 返回 VK_NULL_HANDLE, 首次调用 vkQueueSubmit 会中止

将 ggml 转换为 Rust

cpu: 支持使用静态链接的 GGML_CPU_ALL_VARIANTS

ggml-metal: 停滞的命令缓冲失败(例如 iOS 背景 GPU 拒绝)会永久地将整个后端锁定到错误状态

libggml 0.13.1 在 i915 (Intel comet lake) 上的 freebsd-16 系统中在 MUL_MAT_ID() 中发生故障

如果发生 Intel GPU 围栏超时，libggml 并不会抛出错误，但如果设置为 GGML_VK_PERF_LOGGER=1，则会抛出错误

在处理 ViT 样式的小 matmul 形状时,CUDA 后端在 SM 8.9 (RTX 4060 笔记本电脑) 上发生"非法内存访问"错误

关于 requirements.txt 依赖项的问题

由于 MLX 后端（未定义的符号，没有 Windows 构建标签），Windows 构建失败