产品定位
私有化部署大模型的第一步,往往卡在“把权重下载下来”:大文件、网络受限、中途断线、多个模型排队。dlmodel 把这件事做成一个可靠、可视、可恢复的本机模型中心,下载完成后直接交给 vLLM 或 Ollama 加载。
产品截图
界面截图使用示例任务数据。
工作原理
- 下载器:source auto → ModelScope ⇁ HF 镜像;每个源内部 aria2 → HTTP Range → SDK 逐级回退。
- 队列:asyncio worker 池,状态机 queued → running → completed / failed / cancelled,暂停与恢复在任意时刻交错都只会有一方生效。
- 落盘:vLLM / HF 布局写入
{MODEL_ROOT}/hf/<org>/<repo>/,Ollama 写入{MODEL_ROOT}/ollama,与推理服务共享卷。
适用场景
内网 GPU 服务器
无需代理直连 hf-mirror.com 与魔搭,断线自动续传,大模型权重一次拉全
多模型批量准备
排队下载多个模型与版本,并发数可在运行中热调整,完成后推送到群
推理服务的模型中心
与 vLLM / Ollama 共享模型卷,模型库页查看占用、复制路径、生成启动命令
部署方式
git clone https://github.com/sreyun/dlmodel.git && cd dlmodel
cp .env.example .env # 设置足够长的随机 ADMIN_TOKEN
docker compose up -d # 打开 http://服务器IP:8080,粘贴 ADMIN_TOKEN 登录
docker compose --profile ollama up -d # 可选:一并启动 Ollama
docker compose --profile vllm up -d # 可选:启动 vLLM(需要 NVIDIA Container Toolkit)
默认镜像已走华为云 SWR 加速,国内环境无需代理即可拉取。
开源许可
dlmodel 以 MIT 许可开源。需要内网离线交付或推理服务部署联调,请查看参考定价。

