在应用中内置设备端 AI </div Foundry Local 是一套端到端的本地 AI 解决方案,可用于构建完全在设备上运行的应用程序。
在应用中内置设备端 AI </div Foundry Local 是一套端到端的本地 AI 解决方案,可用于构建完全在设备上运行的应用程序。
轻量级运行时 — 运行时负责模型获取、硬件加速、模型管理和推理(通过 ONNX 运行时)。
自动硬件加速 — Foundry Local 会检测用户设备上的可用硬件,并选择最佳执行提供商和设备(NPU、GPU 或 CPU)。
可选的本地服务器 — 一个与 OpenAI 兼容的 Web 服务器,用于向多个用户提供模型
暂无开放 Issues,或尚未同步最近议题。