功能请求: 令牌使用跟踪 (或模型元数据?) 支持
作者: g-jensen创建于 2026年5月29日更新于 2026年7月25日
与 #425、#263 相关,是否就实现 token 使用量跟踪达成共识? 最简单的方案可能是为 BaseLanguageModel 添加一个 get_usage() 方法,该方法返回该模型的累计 token 使用量。然后,对于支持的模型,就可以实现此方法,用户可以使用 factory.create_model 创建的模型调用此方法。 但是,也许更好的是为 BaseLanguageModel 定义一个更通用的 get_metadata() 方法,该方法返回支持的模型的使用量。 关于通用的元数据选项,输出可能类似于:
内容来源: google/langextract