分布式

1 篇文章

2026年9月28日走进 vLLM（四）：从单卡到多机——MultiProcExecutor 与分布式服务权重装不下一张卡之后怎么办：MultiProcExecutor 怎么用共享内存消息队列把 8 个 worker 进程编排起来；DP 复制、DPCoordinator 与 DP wave 又怎么把两个 8×H100 节点拼成一套服务；最后完整走一遍一条 curl 请求的生命周期。vLLM LLM 推理推理引擎分布式术语科普