[社区贡献] 使用 Accelerate 进行分布式推理的示例

inference/distributed 目录 包含了使用 accelerate 运行分布式推理的示例: * Phi2 用于语言生成 * Stable Diffusion 用于图像生成 这里采用的策略是将整个模型加载到每个 GPU 上,并一次性将批量的部分数据传输到每个 GPU 的模型副本中。 合成数据生成已经成为每个 ML 工程师的必备工具箱。因此,将这些示例扩展到包括更多用例将会很有帮助: * 图像描述 * 语音数据生成 有一些好处: * 将艺术品序列化与 此处 所做的一样 * 将艺术品序列化代码放在一个线程中,以免阻塞 GPU 执行 如何帮助我们? 你可以帮助我们为上述任何用例贡献示例,或者提出自己的示例。 请帮助我们让合成数据生成的艺术变得可扩展、简单和易于使用。