全部条目趋势榜开源项目技术资讯提交条目

Language登录

< 返回工具列表Language

C

candle-vllm

开源

Efficent platform for inference and serving local LLMs including an OpenAI compatible API server.

708 stars0 点赞0 次浏览

访问官网 GitHub

工具介绍

Efficent platform for inference and serving local LLMs including an OpenAI compatible API server.

> 标签

Rust

暂无评论，来聊聊你的看法吧

> 工具信息

发布日期2026年8月1日

最后更新2026年8月1日

分类编程语言

定价开源

> 相关工具

JavaScript 的超集，为前端与全栈提供静态类型

通用编程语言，广泛用于 Web、数据与 AI

Google 推出的简洁高效系统语言