代理程序提示注入和数据外泄测试

创建可重复的安全测试套件,证明不可信内容无法更改代理的权限或暴露受保护的数据。测试指示来自: - 用户消息。 - 知识文档。 - 网页内容。 - 工具和 API 响应。 - 编码或混淆的输入。 验证此内容无法启用工具、更改执行身份、绕过升级、访问未授权资源或提取受保护信息。 对敏感数据进行删除和产品的内容安全性定位应分开处理。