[功能请求] 支持 NPU 硬件加速
作者: Flimsy-Fox创建于 2024年5月3日更新于 2024年6月4日
随着 Intel 和 AMD 都在其笔记本电脑 CPU 设计中推出搭载 NPU (神经处理单元) 的 CPU,NPU 成为 Orange Pi 设计的一部分,而 Raspberry Pi 项目也推出了官方的 NPU HAT,很显然,AI 空间正在大力采用硬件加速,即使是低功耗系统也如此。
内容来源: getumbrel/llama-gpt
随着 Intel 和 AMD 都在其笔记本电脑 CPU 设计中推出搭载 NPU (神经处理单元) 的 CPU,NPU 成为 Orange Pi 设计的一部分,而 Raspberry Pi 项目也推出了官方的 NPU HAT,很显然,AI 空间正在大力采用硬件加速,即使是低功耗系统也如此。
内容来源: getumbrel/llama-gpt