#2654·smolagents

ENH: [Feature] (英语). 用于工具/代码执行的治理中间软件钩(PII屏蔽、成本上限、工具授权)

作者: nagasatish007创建于 2026年8月18日更新于 2026年9月16日
标签enhancement

问题

smolagents 目前没有内置的生产部署管理层。当 CodeAgent 生成并执行 Python 代码,或者 ToolCallingAgent 调用工具时,没有任何拦截点来:

  • 阻止 PII(社会安全号码、信用卡、电子邮件)流向 LLM 或出现在输出中
  • 执行成本预算(停止循环中消耗 API 信用额度的代理)
  • 授权工具调用(只允许执行合法工具,阻止危险工具)
  • exec() 之前扫描生成的代码以查找危险模式
  • 为遵从性(HIPAA、SOC2、PCI-DSS)生成结构化审计证据

内容来源: huggingface/smolagents