RLHF 书(Reinforcement Learning from Human Feedback)
Nathan Lambert 的 RLHF 全书中英对照:左栏原文,右栏译文
以 Nathan Lambert《Reinforcement Learning from Human Feedback》(rlhfbook.com)与其中文译本 around133/rlhf-book-zh(译者:晏一夫)为底稿的中英对照全文。从 RLHF 的三个步骤、后训练全景与历史讲起,覆盖指令微调、奖励建模、策略梯度(PPO / GRPO / RLOO)、推理与推理时扩展、直接对齐算法(DPO 及其变体)、拒绝采样、偏好的本质与偏好数据、合成数据与蒸馏、工具使用、过度优化、正则化、评估,以及模型性格与产品的塑造。原文 53 张配图全部保留;每篇都是左右对照:左栏英文原文,右栏对应中文译文,公式、代码、图表标签与引用键保持原样。原文与译文均以 CC BY-NC-SA 4.0 许可发布,仅供学习交流。
目录
已更新 1 篇- 第 1 章RLHF 书(1):引言
- 第 2 章RLHF 简史待更新
- 第 3 章训练总览待更新
- 第 4 章指令微调待更新
- 第 5 章奖励建模待更新
- 第 6 章强化学习待更新
- 第 7 章推理与推理时扩展待更新
- 第 8 章直接对齐算法待更新
- 第 9 章拒绝采样待更新
- 第 10 章偏好的本质待更新
- 第 11 章偏好数据待更新
- 第 12 章合成数据与蒸馏待更新
- 第 13 章工具使用与函数调用待更新
- 第 14 章过度优化待更新
- 第 15 章正则化待更新
- 第 16 章评估待更新
- 第 17 章塑造模型性格与产品待更新
- 附录 A定义待更新
- 附录 B超越「只是风格」待更新
- 附录 C实践问题待更新