内存变得昂贵了,优化非常重要。
作者: ghost创建于 2026年8月9日更新于 2026年9月9日
标签stale
- https://www.ign.com/articles/ramageddon-continues-another-year-as-2027-memory-capacity-is-reportedly-sold-out"[A] 新报告表明,三家内存制造商 - Samsung、SK Hynix 和 Micron - 集体将 2027 年的内存制造能力出售给了 AI 公司。根据 Digitimes 的报告和 TweakTown 的发现,2027 年的所有 DRAM 和 HBM 容量都已售罄,没有计划进一步供应。(这些公司本身尚未证实此情况。)当然,这只意味着零售价格在不久的将来还会进一步上涨。如果明年所有容量都售罄,对消费者来说就已经够糟糕了,但问题在于,大部分购买这些容量的公司都是通过长期采购协议进行的,基本上是在五年期内预订尚未制造的内存。除非未来几年内出现更多容量,否则很难想象 RAM 会在不久的将来变得更加实惠和更加稀缺。"-----"这个仓库声称可以在大约 2 GB 的 RAM 上运行
Gemma 4 26B-A4B 推理: https://GitHub.com/drumih/turbo-fieldfare"IIUC whisper.cpp 没有经过优化 - 所以你能否进行优化,以便我可以在 9GB RAM + CPU 上运行 26B 模型?
内容来源: ggml-org/whisper.cpp