特点: 使用实验新颖性分数来减少重复搜索模式

你的功能请求是否与问题有关?请描述。 随着实验数量的增长,代理可能会重新访问搜索空间中的类似区域,尽管保留了之前运行的历史记录。 虽然重复验证有时是有用的,但它也会降低探索效率,因为会将计算资源用于仅仅是之前拒绝的实验的微小变化的想法。 ### 描述你希望的解决方案 介绍可选的实验新颖性分数。 在启动新实验之前,请将提议的修改与最近接受和拒绝的实验进行比较。 分数可以考虑: * 超参数相似性 * 架构相似性 * 优化策略相似性 低新颖性的实验可以在实验日志中标记,从而使用户更好地了解代理是否真正在探索新方向,还是重复搜索附近的解决方案。 ### 描述你已经考虑过的替代方案 用户可以手动检查实验历史记录,但随着运行规模扩大到数十个或数百个实验,这变得越来越困难。 ### 其他上下文 此功能不会改变 keep-or-revert 工作流程。 相反,它将在长时间的自动搜索运行期间提供对搜索多样性和探索行为的更多可见性。