AI Agent Security: Stop Model Exfiltration und API Key Leaks

Warum KI-Agenten den Security Perimeter erweitern KI-Agenten tun mehr als Text zu generieren. Sie rufen Tools auf, fragen Datenbanken ab, rufen Dokumente ab, führen Code aus und kommunizieren mit externen Diensten. Jede Verbindung führt einen potenziellen Pfad für Modell-Exfiltration oder Credential Leckage. Die Modell-Exfiltration umfasst den direkten Diebstahl von Modellgewichten, die systematische Extraktion proprietären Verhaltens und die Rekonstruktion sensibler Trainingsdaten durch wiederholte Abfragen. Angreifer können auch Anweisungen einfügen, die einen Agenten dazu überreden, Systemaufforderungen, interne Dateien, Zugriffstoken oder vertraulichen Kontext offenzulegen. API-Schlüssel sind besonders anfällig, da Agenten oft zur Laufzeit Anmeldeinformationen benötigen. Wenn diese Geheimnisse in Aufforderungen, Protokollen, Spuren, Ausnahmemeldungen oder Tool-Ausgaben erscheinen, kann ein bösartiger Benutzer sie möglicherweise wiederherstellen. Herkömmliche Anwendungskontrollen bleiben notwendig, aber agentische Systeme erfordern zusätzliche Sicherheitsvorkehrungen, die probabilistische Entscheidungen und dynamische Werkzeugketten berücksichtigen. Separate Agent Reasoning From Secrets Secrets sollten niemals direkt in das prompte oder langfristige Gedächtnis eines Agenten aufgenommen werden. Platzieren Sie stattdessen Anmeldeinformationen in einem dedizierten Secrets-Manager und legen Sie engmaschige Tool-Schnittstellen offen. Der Agent sollte eine genehmigte Aktion anfordern, während eine vertrauenswürdige Ausführungsschicht die erforderlichen Anmeldeinformationen abruft und den Aufruf ausführt. Verwenden Sie kurzlebige Token, Workload-Identitäten und Berechtigungen mit den geringsten Privilegien, wo immer dies möglich ist. Jedes Tool sollte eine explizite Richtlinie haben, die erlaubte Endpunkte, Operationen, Datentypen und Anforderungslimits definiert. Ein Agent, der Kundendatensätze lesen kann, benötigt nicht automatisch die Erlaubnis, sie zu exportieren oder an eine beliebige Domain zu senden. Soforteingaben und abgerufene Dokumente sollten ebenfalls als nicht vertrauenswürdige Daten behandelt werden. Anwendung von Inhaltsisolierung, Schemavalidierung und Ausgabefilterung, bevor Informationen ein externes Tool erreichen. Redact Anmeldeinformationen aus der Telemetrie und konfigurieren Protokolle, um Identifikatoren anstatt rohe Autorisierungs-Header aufzuzeichnen. Diese con