跳到正文
Chengshu
@skadai · 2026.09.30
文章
系列
标签
搜索
关于
RSS
Chengshu
/
标签
/
分布式
分布式
1 篇文章
2026年9月28日
走进 vLLM(四):从单卡到多机——MultiProcExecutor 与分布式服务
权重装不下一张卡之后怎么办:MultiProcExecutor 怎么用共享内存消息队列把 8 个 worker 进程编排起来;DP 复制、DPCoordinator 与 DP wave 又怎么把两个 8×H100 节点拼成一套服务;最后完整走一遍一条 curl 请求的生命周期。
vLLM
LLM 推理
推理引擎
分布式
术语科普
→