AI 代理安全:停止模型过滤和 API 密钥泄漏

为什么AI代理扩展 安全周边AI代理所做的不只是生成文本。 他们调用工具,查询数据库,检索文档,执行代码,并与外部服务通信. 每条连接都引入了一种模式出滤出或证书泄漏的潜在路径. 模型分解包括直接窃取模型重量,系统提取专有行为,通过反复查询重建敏感训练数据. 攻击者还可能发出指示,劝说代理人披露系统提示、内部文件、访问标志或机密情况。 API密钥特别脆弱,因为代理在运行时往往需要证书. 如果这些秘密出现在提示,日志,痕迹,例外消息,或工具输出中,恶意用户可能能够收回. 常规应用控制仍然是必要的,但代理人系统需要额外的保障措施,以考虑到概率决定和动态工具链。 不得将单独代理人 " 保密理由 " 直接纳入代理人的即时或长期记忆。 取而代之的是,将证书放在一个专门的机密管理器中,并暴露出范围狭窄的工具界面. 代理人应当请求批准的行动,而一个可信任的执行层取回所需的证书并进行呼叫. 尽可能使用短寿命的符号,工作量身份,以及最低特权权限. 每个工具都应有一个明确的政策,界定允许的终点、操作、数据类型和请求限制。 能够读取客户记录的代理商不需要自动获得许可即可导出或发送到任意域. 迅速输入和取回的文件也应作为不信任的数据处理。 在信息到达外部工具之前应用内容隔离,计划验证,输出过滤. 从遥测中校正证书并配置日志以记录标识符而不是原始授权头. 这些骗局