拒绝采样

1 篇文章

2026年10月21日用便宜的，逼近昂贵的：从拒绝采样到投机解码拒绝采样和投机解码隔了七十年，用的是同一条规则：东西太好但太贵，就找一个便宜的替身去逼近它。真正决定成败的是三件事——替身够不够像、贵的那个验起来便不便宜、猜错了兜不兜得住。附两个可交互演示，外加几个生活里的例子。LLM推理拒绝采样投机解码随笔