Sécurité de l'agent AI : arrêter l'exfiltration du modèle et les fuites de clés API

Pourquoi les agents d'IA Expand les agents d'IA Perimeter de sécurité font plus que générer du texte. Ils appellent des outils, interrogent des bases de données, récupèrent des documents, exécutent du code et communiquent avec des services externes. Chaque connexion introduit un chemin potentiel pour l'exfiltration du modèle ou la fuite des justificatifs. L'exfiltration du modèle comprend le vol direct des poids du modèle, l'extraction systématique du comportement propriétaire et la reconstruction des données d'entraînement sensibles par des requêtes répétées. Les attaquants peuvent également injecter des instructions qui persuadent un agent de révéler des appels système, des fichiers internes, des jetons d'accès ou un contexte confidentiel. Les clés API sont particulièrement vulnérables car les agents ont souvent besoin d'identificateurs à l'exécution. Si ces secrets apparaissent dans des instructions, des journaux, des traces, des messages d'exception ou des sorties d'outils, un utilisateur malveillant peut être en mesure de les récupérer. Les contrôles d'application classiques demeurent nécessaires, mais les systèmes d'agents exigent des garanties supplémentaires qui tiennent compte des décisions probabilistes et des chaînes d'outils dynamiques. Agent séparé Raison des secrets Secrets ne devrait jamais être inclus directement dans un agent prompt ou à long terme mémoire. Au lieu de cela, placez les références dans un gestionnaire de secrets dédié et exposez des interfaces d'outils de portée étroite. L'agent doit demander une action approuvée, tandis qu'une couche d'exécution de confiance récupère le justificatif requis et effectue l'appel. Utilisez des jetons à courte durée de vie, des identités de charge de travail et des permissions moins privilégiées dans la mesure du possible. Chaque outil devrait avoir une politique explicite définissant les paramètres, les opérations, les types de données et les limites de demande autorisés. Un agent qui peut lire les dossiers clients n'a pas automatiquement besoin d'autorisation pour les exporter ou les envoyer dans un domaine arbitraire. Les entrées rapides et les documents récupérés devraient également être traités comme des données non fiables. Appliquer l'isolement du contenu, la validation du schéma et le filtrage de sortie avant que l'information atteigne un outil externe. Redact identifiants de la télémétrie et configurer les journaux pour enregistrer les identifiants plutôt que les en-têtes d'autorisation bruts. Ces