展示/问题:基于 ESP32-C3 的经过实践验证的离线语言运行时,以及这种设计是否指向了更极端的语言/运行时共同设计方式
Hi gemma.cpp 社区成员们,
我想分享一个小而不寻常的语言运行时项目,这个项目可能与这个仓库已经探索的那种语言/运行时共同设计边界有关。
我们构建了一个名为 Engram 的公开演示线,并将其部署在一块商品 ESP32-C3 上。
目前的公开数据:
主机端基准能力
LogiQA = 0.392523IFEval = 0.780037
已发布的板卡证明
LogiQA 642 = 249 / 642 = 0.3878504672897196host_full_match = 642 / 642- 运行时文件大小 =
1,380,771 字节
内容来源: google/gemma.cpp