#565·KAG

0.7.1版本构建完知识库,使用自己部署的vllm Qwen3模型进行问答,检索知识库检索不出来chunk

Author: 5terranCreated May 29, 2025Updated Aug 16, 2026

Search before asking

  • I had searched in the issues and found no similar issues.

Operating system information

Linux

What happened

我在使用自己建立的知识库调用本地vLLm推理框架上的qwen3-30b模型的时候,发现vLLM没有接收到检索出的chunk内容,查看了日志以后发现没有检索出chunk。但是在知识探查里边是可以 检索出来的。奇怪的是,我换成了硅基流动,硅基流动上的qwen3-30b模型就能收到检索出的chunk内容。大家知道这个是什么原因造成的么

日志如下: qa(task_id=78, query=邓海龙, project_id=6, use_pipeline=default_pipeline, params={'usePipeline': 'default_pipeline'}) reporter is starting2025-05-29 11:01:50,345 [] [] [http-nio-8887-exec-7] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:50,345 [] [] [http-nio-8887-exec-7] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:50,345 [] [] [http-nio-8887-exec-7] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/] begin do_report: {'content': {'answer': '', 'metrics': {'think_cost': 0.0}, 'reference': [{'id': 'reference_ref_format', 'info': [], 'type': 'chunk'}], 'subgraph': [], 'think': ''}, 'status_enum': 'RUNNING', 'task_id': 78} ret={'result': True, 'success': True, 'remote': '172.18.0.3'}2025-05-29 11:01:51,378 [] [] [http-nio-8887-exec-6] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:51,379 [] [] [http-nio-8887-exec-6] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:51,379 [] [] [http-nio-8887-exec-6] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/] 2025-05-29 11:01:52,387 [] [] [http-nio-8887-exec-4] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:52,387 [] [] [http-nio-8887-exec-4] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:52,387 [] [] [http-nio-8887-exec-4] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/] 2025-05-29 11:01:53,395 [] [] [http-nio-8887-exec-3] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:53,396 [] [] [http-nio-8887-exec-3] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:53,396 [] [] [http-nio-8887-exec-3] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/] 2025-05-29 11:01:54,404 [] [] [http-nio-8887-exec-9] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:54,404 [] [] [http-nio-8887-exec-9] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:54,404 [] [] [http-nio-8887-exec-9] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/] 2025-05-29 11:01:55,411 [] [] [http-nio-8887-exec-10] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:55,411 [] [] [http-nio-8887-exec-10] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:55,411 [] [] [http-nio-8887-exec-10] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/] 2025-05-29 11:01:56,419 [] [] [http-nio-8887-exec-8] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {} 2025-05-29 11:01:56,420 [] [] [http-nio-8887-exec-8] INFO c.a.o.a.h.s.f.AclFilter - aclFilter.gotoUrl:/#/login 2025-05-29 11:01:56,420 [] [] [http-nio-8887-exec-8] INFO c.a.o.a.h.s.f.AclFilter - noNeedAuthCheck [/public/v1/reasoner/dialog/report/completions] match rule [/public/**] Input Query: 邓海龙

Tasks:

[{'task': {'query': '邓海龙'}, 'memory': {}, 'result': ['我是基于蚂蚁集团开源的专业领域知识服务框架KAG搭建的问答助手,我擅长逻辑推理、数值计算等任务,可以协助你解答相关问题、提供信息支持或进行数据分析。如果有具体需求,随时告诉我', '# 1. KAG 是什么\n\nKAG 是基于 OpenSPG 引擎和大型语言模型的逻辑推理问答框架,用于构建垂直领域知识库的逻辑推理问答解决方案。KAG 可以有效克服传统 RAG 向量相似度计算的歧义性和 OpenIE 引入的 GraphRAG 的噪声问题。KAG 支持逻辑推理、多跳事实问答等,并且明显优于目前的 SOTA 方法。\n\nKAG 的目标是在专业领域构建知识增强的 LLM 服务框架,支持逻辑推理、事实问答等。KAG 充分融合了 KG 的逻辑性和事实性特点,其核心功能包括:\n\n* 知识与 Chunk 互索引结构,以整合更丰富的上下文文本信息\n* 利用概念语义推理进行知识对齐,缓解 OpenIE 引入的噪音问题\n* 支持 Schema-Constraint 知识构建,支持领域专家知识的表示与构建\n* 逻辑符号引导的混合推理与检索,实现逻辑推理和多跳推理问答\n\n# 2. KAG 核心功能\n\n## 2.1 LLM 友好的语义化知识管理\n\n私域知识库场景,非结构化数据、结构化信息、业务专家经验 往往三者共存,KAG 提出了一种对大型语言模型(LLM)友好的知识表示框架,在 DIKW(数据、信息、知识和智慧)的层次结构基础上,将 SPG 升级为对 LLM 友好的版本,命名为 LLMFriSPG。\n\n这使得它能够在同一知识类型(如实体类型、事件类型)上兼容无 schema 约束的信息提取和有 schema 约束的专业知识构建,并支持图结构与原始文本块之间的互索引表示。\n\n这种互索引表示有助于基于图结构的倒排索引的构建,并促进了逻辑形式的统一表示、推理和检索。同时通过知识理解、语义对齐等进一步降低信息抽取的噪声,提升知识的准确率和一致性。\n\n\n## 2.2 逻辑符号引导的混合推理引擎\n\nKAG 提出了一种逻辑符号引导的混合求解和推理引擎。该引擎包括三种类型的运算符:规划、推理和检索,将自然语言问题转化为结合语言和符号的问题求解过程。\n\n在这个过程中,每一步都可以利用不同的运算符,如精确匹配检索、文本检索、数值计算或语义推理,从而实现四种不同问题求解过程的集成:图谱推理、逻辑计算、Chunk 检索和 LLM 推理。\n\n# 3. 版本发布\n\n## 3.1 最近更新\n\n* 2025.01.07 : 支持 领域知识注入、领域 schema 自定义、摘要生成类任务支持、可视化图分析查询、schema-constraint模式抽取等\n* 2024.11.21 : 支持 Word 文档上传、知识库删除、模型调用并发度设置、用户体验优化等\n* 2024.10.25 : KAG 首次发布\n\n## 3.2 后续计划\n\n* 逻辑推理 优化、对话式任务支持\n* kag-model 发布、事理图谱 和 医疗图谱的 kag 解决方案发布\n* kag 前端开源、分布式构建支持、数学推理 优化\n\n# 4. 快速开始\n\n## 4.1 基于产品(面向普通用户)\n\n### 4.1.1 引擎&依赖 镜像安装\n\n* 推荐系统版本:\n\n text\n macOS 用户:macOS Monterey 12.6 或更新版本\n Linux 用户:CentOS 7 / Ubuntu 20.04 或更新版本\n Windows 用户:Windows 10 LTSC 2021 或更新版本\n \n\n* 软件要求:\n\n text\n macOS / Linux 用户:Docker,Docker Compose\n Windows 用户:WSL 2 / Hyper-V,Docker,Docker Compose\n \n\n使用以下命令下载 docker-compose.yml 并用 Docker Compose 启动服务。\n\nbash\n# 设置 HOME 环境变量(仅 Windows 用户需要执行)\n# set HOME=%USERPROFILE%\n\ncurl -sSL https://raw.githubusercontent.com/OpenSPG/openspg/refs/heads/master/dev/release/docker-compose.yml -o docker-compose.yml\ndocker compose -f docker-compose.yml up -d\n\n\n### 4.1.2 使用\n\n具体使用请参考 KAG使用(产品模式)。\n\n## 4.2 基于工具包(面向开发者)\n\n### 4.2.1 引擎&依赖 镜像安装\n\n参考 4.1 部分完成引擎&依赖的镜像安装。\n\n### 4.2.2 KAG 安装\n\nmacOS / Linux 开发者\n\ntext\n# 安装 Python 虚拟环境:conda create -n kag-demo python=3.10 && conda activate kag-demo\n\n# 代码 clone:git clone https://github.com/OpenSPG/KAG.git\n\n# KAG 安装: cd KAG && pip install -e .\n\n\nWindows 开发者\n\n\n# 安装官方 Python 3.8.10 或更新版本,安装 Git。\n\n# 创建、激活 Python 虚拟环境:py -m venv kag-demo && kag-demo\\Scripts\\activate\n\n# 代码 clone:git clone https://github.com/OpenSPG/KAG.git\n\n# KAG 安装: cd KAG && pip install -e .\n\n\n### 4.2.3 使用\n\n开发者可以参考 KAG使用(开发者模式),基于 KAG 内置的各种组件,实现内置数据集的效果复现 + 新场景的落地。\n\n\n\n# 5. 技术架构\n\nKAG 框架包括 kg-builder、kg-solver、kag-model 三部分。本次发布只涉及前两部分,kag-model 将在后续逐步开源发布。\n\nkg-builder 实现了一种对大型语言模型(LLM)友好的知识表示,在 DIKW(数据、信息、知识和智慧)的层次结构基础上,升级 SPG 知识表示能力,在同一知识类型(如实体类型、事件类型)上兼容无 schema 约束的信息提取和有 schema 约束的专业知识构建,并支持图结构与原始文本块之间的互索引表示,为推理问答阶段的高效检索提供支持。\n\nkg-solver 采用逻辑形式引导的混合求解和推理引擎,该引擎包括三种类型的运算符:规划、推理和检索,将自然语言问题转化为结合语言和符号的问题求解过程。在这个过程中,每一步都可以利用不同的运算符,如精确匹配检索、文本检索、数值计算或语义推理,从而实现四种不同问题求解过程的集成:检索、知识图谱推理、语言推理和数值计算。\n\n# 6. 联系我们\n\nGitHub: https://github.com/OpenSPG/KAG\n\nOpenSPG: https://spg.openkg.cn/\n']}]

Final Answer: 好的,我现在需要处理用户的问题:“邓海龙”。根据提供的任务过程上下文信息,首先我要仔细查看其中的内容。

在任务过程上下文中,有一个包含步骤的数组,其中第一步是“0:邓海龙”,后面跟着一个thought字段,里面有很多关于KAG框架的详细信息。看起来用户可能是在询问关于邓海龙的信息,但上下文中的内容主要是关于KAG的介绍、功能、版本发布、快速开始、技术架构等,而邓海龙可能是指某个特定的内容或人?

不过,在thought字段里,邓海龙可能是一个示例或占位符,比如可能是某个用户的输入或者测试数据。但根据提供的上下文,没有其他关于邓海龙的额外信息,只有在步骤0中提到。因此,用户的问题可能需要根据现有信息来回答。

可能用户想问的是关于邓海龙的更多信息,但根据给定的上下文,可能没有足够的数据。不过,也有可能用户的问题有误,或者需要进一步澄清。但根据指示,必须基于给定的上下文回答问题,所以需要检查是否有遗漏的信息。

再仔细看一下任务过程上下文,发现thought字段中的内容实际上是关于KAG框架的详细说明,而“邓海龙”可能是在示例中的一个名字,比如可能是测试用的示例数据。但如果没有其他信息,可能需要指出根据现有信息无法提供关于邓海龙的更多细节。

不过,用户的问题可能只是想确认邓海龙是否在上下文中被提及,或者是否有其他相关内容。根据当前的信息,只有步骤0中提到了“邓海龙”,但后续内容都是关于KAG的,所以可能需要回答说没有更多关于邓海龙的信息,或者根据上下文中的内容进行回应。

可能用户的问题需要更明确,但根据现有信息,只能基于提供的上下文来回答。因此,正确的回应应该是说明在给定的上下文中没有关于邓海龙的更多信息,或者指出邓海龙可能是指KAG框架中的某个部分,但根据现有内容无法确定。

不过,也有可能用户的问题有误,或者需要进一步的信息。但根据指示,必须基于给定的上下文,所以需要给出相应的回答。

根据提供的上下文信息,"邓海龙"仅出现在任务过程的步骤描述中,但后续内容均为关于 KAG(Knowledge-Aware Generation)框架 的技术说明,未提及与“邓海龙”相关的具体信息或背景。因此,基于现有数据无法进一步说明“邓海龙”的具体指向或细节。

如果需要更准确的回答,可能需要补充更多上下文或明确问题内容。 2025-05-29 11:01:57,429 [] [] [http-nio-8887-exec-5] INFO c.a.o.a.h.s.f.AclFilter - HTTP Request - URL: /public/v1/reasoner/dialog/report/completions, Method: POST, Params: {}