百科.dev
全部条目AI 编程趋势榜开源项目技术资讯提交条目
登录
返回工具页/返回 Issues 列表
#69·search_with_lepton

有几个问题! huggingface 需要代理。local 执行存在 bug。

作者: makelove创建于 2024年3月25日更新于 2024年4月4日

按照 https://www.lepton.ai/docs/overview/quickstart 执行 - huggingface 要代理 (.py3) play@mini ~ % lep photon create --name mygpt2 --model hf:gpt2 创建 photon 失败: (MaxRetryError("HTTPSConnectionPool(host='huggingface.co', port=443): Max retries exceeded with url: /api/models/gpt2 (Caused by NewConnectionError('<urllib3.connection.VerifiedHTTPSConnection object at 0x107463940>: Failed to establish a new connection: [Errno 60] Operation timed out')"), '(Request ID: b800e4d0-35dc-49e4-9ec0-ef41b721a4b6)') 打开代理软件后,执行成功 (.py3) play@mini ~ % lep photon create --name mygpt2 --model hf:gpt2 Photon mygpt2 created. 然后 local 执行有 bug (.py3) play@mini ~ % lep photon run --name mygpt2 --local 启动 photon 端口: 8080 2024-03-25 16:47:02.089 | INFO | leptonai.photon.hf.hf:pipeline:213 - Creating pipeline for text-generation(model=gpt2, revision=607a30d7). HuggingFace 下载可能需要一段时间,请耐心等待... 2024-03-25 16:47:02.089 | INFO | leptonai.photon.hf.hf:pipeline:218 - Note: HuggingFace 会将下载的模型缓存到 ~/.cache/huggingface/ (或 C:\Users\<username>\.cache\huggingface\ 在 Windows 上)。如果之前已经下载过模型,则下载速度应该会更快。如果磁盘空间不足,您可以删除缓存文件夹。 在加载和启动 photon 时,发现了一些模块未找到。详细信息:

内容来源: leptonai/search_with_lepton

查看 GitHub 原文在 GitHub 查看讨论