关于大用户群体的令牌消耗和 TPM 可扩展性

Hi 团队，首先感谢你们发布这个演示 — — 这是在 Azure 上构建 RAG 解决方案的一个很好的参考。 我目前正在评估这种架构，以满足一个场景，其中应用需要扩展到 **数千个并发用户**，我对 **令牌消耗和 TPM 限制** 在对话增长过程中有了一些疑问和担忧。