更新: 安全 AI/ML 模型运营速成指南

□缺少什么或需要更新什么?

大量的建议, 需要关于如何最好地处理事物的投入 - 我们是否应该将其分解成多张作弊单或保持一张作弊单 ?

• 未覆盖的RAG基础设施安全(DB站台隔离、回收管道加固、指数完整性)
• 缺少病媒/嵌入性弱点(病媒DB的倒置、中毒、交叉租户渗出)
• 未解决的无限制消费/拒发钱包(失控链条、象征性洪水和再起)
• 供应链的模型缺口(不安全的去区域化/比克、模型-疟疾扫描、出处)
• 不进行隐私/取出测试(培训数据提取、嵌入倒置;不学习游戏本)
• 合规绘图过时(NIST GenAI简介、ISO/IEC 42001、欧盟AI法案时间表)
• 缺乏硬件/运行时间隔离(GPU租赁、设备-记忆洗涤、沙箱)

□应如何解决?

• 增加"RAG 基础设施安全":矢量 DB 租户隔离,取回管道硬化,索引完整性控制,信任边界执行
• 增加“Vector & Embedding Security”:将嵌入物作为敏感物处理;租户范围命名空间;RBAC/MAC;在中转/休息时加密;批量出口限制;出站/泊森检测;混合检索和多样性控制
• 扩大“参考API安全”和无限制消费:每个租户的预算;令牌/输出上限;重复/链条深度限制;杀开关;实时费用遥测和警报
• 加强“模型存储和人工活性”: 更喜欢安全器; 屏蔽不安全的去区域化; 预摄恶意软件扫描; 签名 & 散列; 注册出处
• 加强“监测与记录”:安全遥测(磁盘、工具呼叫、出界域、IPI指标);隐私-第一记录/重排;保留和清理工作流程
• 扩大“事件反应和治理”:定期抽取/倒置测试;不学习/回滚程序;向NIST AI-600-1和ISO/IEC 42001地图控制;注意欧盟AI法里程碑
• 添加“硬件和运行时间隔离”:避免在受影响的设备上使用交叉租户的GPU;设备-模具洗涤;微VM/gvisor沙盒;如有保密计算