tinygrad · Issues· 193 开放

NV eGPU (TinyGPU, RTX 4090): 默认情况下, tinygrad.LLM 解码速度约为 VRAM 带宽的 1%; JITBEAM=2 在 Q8_0 上可获得 9 倍性能提升,但一个 BEAM 候选项导致设备故障

v0.14.0 缺少 tinygrad/LLM/kernels — `Python -m tinygrad.LLM` 在 pip 安装时导入失败

M4 Max 36GB / 7900GRE (RDNA3) / ADT-UT3G

当 `GMMU=1` 时, hcq2 + chestnut 会发生断裂

IMAGE 模式更改整数 matmul dtype 并丢失精度

CPU:LVP float64-to-float16 类型转换时,超出半个中点的值会出现误差

QCOM 反解包含了封装芯片标识符,而不是解码器生成的标识符

image_dot 为右手向量索引了一个不存在的轴

BEAM=2 将 GPU 挂载在 gfx1201 (RDNA4) 上,使用 bf16 matmul,需要重置驱动程序

AMD RDNA4 通过 USB (ASM2464 栗色 + RX 9060 8GB): JIT 图形重放卡死;在减少上下文的情况下,页表断言失败

根据需求从磁盘上懒加载 GGUF MoE 专家

[macOS TinyGPU] RTX 5090 笔记本电脑 (10de:2c18) 通过 FEVM FNGT5 PRO 无法获取 BAR1 的 MAP_BAR

Q8_0 Qwen 27B 解码速度比孤立的 GEMV 带宽低 ~85 倍

我们能在线性化器内部建立这个吗?

在搭载 RTX 3060、内置 PCIe 插槽 (无 Thunderbolt) 的 Intel Mac Pro 2019 上的 NV 在 RPC 队列之前出现 GSP 停止，没有崩溃，而且 dext 将 DMA 限制为 32 个段