添加分布式推理

作者: rlippmann创建于 2024年4月3日更新于 2024年4月3日

你好, 我一直在寻找像这个项目一样的东西来自己写。 我一直在研究如何进行源代码转换, 但是分布式的。 看起来你已经完成了大部分的重大工作, 所以我觉得我应该参与这个项目, 而不是从头开始。 我看到这个项目与 litellm 有某些集成, 因此可以使用它来完成分布式部分。 我也写了一些代码来智能地拆分源文件, 可以与这个项目一起使用。 这个项目是否仍然活跃? 如果是, 我很乐意讨论更多关于参与的内容。

内容来源: joshpxyne/gpt-migrate