启用 `catalog.prompt()` 生成的系统提示对较小上下文窗口大小的支持

作者: howlowck创建于 2026年8月19日更新于 2026年8月19日

`catalog.prompt()` 生成的系统提示大约为 4,300 个令牌,对于包含 18 个组件的目录而言。这给小型语言模型和在浏览器、移动设备和其他边缘环境中运行的模型带来了问题。这些模型中大多数支持相对较小的上下文窗口(最多约 4k 个令牌)。单独的 4,300 个令牌的系统提示无法放入此上下文窗口中。目前,我们手动将系统提示缩小到约 2,000 个令牌,以便 json-render 能够在 SLM 上运行。

内容来源: vercel-labs/json-render