[自主托管] JSON/查询提取会将整个页面发送到模型;使用本地模型,指令会被默默地截断
作者: LurigeLars创建于 2026年9月16日更新于 2026年9月16日
描述问题
对于 formats: ["json"] (以及 query / summary),apps/api/src/scraper/scrapeURL/transformers/llmExtract.ts 中的 generateCompletions 会从完整的页面 Markdown 构建提示,而不会将其裁剪到模型的输入限制。在托管服务中,默认模型具有较大的上下文,因此这很少会产生问题。自主托管的用户使用本地模型(通过 OLLAMA_BASE_URL / OPENAI_BASE_URL + MODEL_NAME 来获取)通常具有 8k-32k 个上下文令牌。
内容来源: firecrawl/firecrawl