全部条目 AI 编程趋势榜开源项目技术资讯提交条目

Language登录

返回工具页/返回 Issues 列表

Language

runq.c 量化不对称

作者: hafezmg48创建于 2024年10月30日更新于 2024年10月30日

Hi, 我认为 quantize() 函数中没有移除偏置。这对于对激活值进行对称的 Q8_0 量化是必要的。是否不需要这样做？

内容来源: karpathy/llama2.c

查看 GitHub 原文在 GitHub 查看讨论