页面缓存管理
作者: BL-GS创建于 2024年11月27日更新于 2024年11月27日
我注意到 FlexGen 通过 mmap 读写磁盘上的数据。大多数时候,操作系统会默认为它分配页面缓存,以加速磁盘操作。我想知道在本项目或论文中,是否将页面缓存视为 CPU 内存占用。我没有找到任何关于此问题的描述或讨论。
内容来源: FMInference/FlexLLMGen
我注意到 FlexGen 通过 mmap 读写磁盘上的数据。大多数时候,操作系统会默认为它分配页面缓存,以加速磁盘操作。我想知道在本项目或论文中,是否将页面缓存视为 CPU 内存占用。我没有找到任何关于此问题的描述或讨论。
内容来源: FMInference/FlexLLMGen