最新 思锐云官网上线:五款自研产品与参考定价全面公开 了解详情 →

网络受限环境下稳定下载大模型权重:dlmodel 的多源回退设计

技术实践 作者:思锐云 4 次阅读

在内网或受限网络里下载几十 GB 的模型权重,难点不在“下载”本身,而在于中断之后怎么办。dlmodel 的设计围绕“任何一步失败都有退路”展开。

两层回退

  • 源之间:auto 源先探测 ModelScope(魔搭),失败再回落 Hugging Face 镜像(默认 hf-mirror.com),无需代理。
  • 源内部:aria2 多连接(默认每文件 16 连接)→ 单流 HTTP Range 断点续传 → 原生 SDK 兜底。aria2 不可用时自动降级,任务不会失败。

暂停是一等状态

暂停不是取消:它安全停止网络流,保留任务、进度、已下载文件、断点与日志,恢复后通过 aria2 控制文件、HTTP Range 或 SDK 临时文件续传。暂停 / 恢复 / 取消在排队与下载之间任意交错,都只会有一方生效。

重启不丢任务

停机时排队与下载中的任务统一停放落库,下次启动自动重新排队续传;磁盘满与权限拒绝这类“重试也没用”的错误不会自动重试,清理空间后对失败任务点“重试”即可从断点继续。

校验与落盘

下载完成后按仓库记录的 SHA-256 校验 LFS 文件,按 vLLM 布局落盘,可以直接交给 vLLM 或 Ollama 加载。

了解更多,请访问dlmodel 产品页。

相关文章