Chengshu@skadai · 2026.10.12
RSS

RLHF 书(Reinforcement Learning from Human Feedback)

Nathan Lambert 的 RLHF 全书中英对照:左栏原文,右栏译文

以 Nathan Lambert《Reinforcement Learning from Human Feedback》(rlhfbook.com)与其中文译本 around133/rlhf-book-zh(译者:晏一夫)为底稿的中英对照全文。从 RLHF 的三个步骤、后训练全景与历史讲起,覆盖指令微调、奖励建模、策略梯度(PPO / GRPO / RLOO)、推理与推理时扩展、直接对齐算法(DPO 及其变体)、拒绝采样、偏好的本质与偏好数据、合成数据与蒸馏、工具使用、过度优化、正则化、评估,以及模型性格与产品的塑造。原文 53 张配图全部保留;每篇都是左右对照:左栏英文原文,右栏对应中文译文,公式、代码、图表标签与引用键保持原样。原文与译文均以 CC BY-NC-SA 4.0 许可发布,仅供学习交流。

目录

已更新 1 篇
  1. 第 1 章RLHF 书(1):引言
  2. 第 2 章RLHF 简史待更新
  3. 第 3 章训练总览待更新
  4. 第 4 章指令微调待更新
  5. 第 5 章奖励建模待更新
  6. 第 6 章强化学习待更新
  7. 第 7 章推理与推理时扩展待更新
  8. 第 8 章直接对齐算法待更新
  9. 第 9 章拒绝采样待更新
  10. 第 10 章偏好的本质待更新
  11. 第 11 章偏好数据待更新
  12. 第 12 章合成数据与蒸馏待更新
  13. 第 13 章工具使用与函数调用待更新
  14. 第 14 章过度优化待更新
  15. 第 15 章正则化待更新
  16. 第 16 章评估待更新
  17. 第 17 章塑造模型性格与产品待更新
  18. 附录 A定义待更新
  19. 附录 B超越「只是风格」待更新
  20. 附录 C实践问题待更新