LLM/Post-Training - 标签 - vllbc02's blogs

LLM/Post-Training - 标签 - vllbc02's blogs https://blog.vllbc.top/tags/llm/post-training/ LLM/Post-Training - 标签 - vllbc02's blogs Hugo -- gohugo.iozh-CNThis work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.Mon, 03 Aug 2026 00:00:00 +0000 SFT、RL 与 OPD：从分布视角理解后训练 https://blog.vllbc.top/sftrl-%E4%B8%8E-opd%E5%88%86%E5%B8%83%E8%A7%86%E8%A7%92/ Mon, 03 Aug 2026 00:00:00 +0000 wh. https://blog.vllbc.top/sftrl-%E4%B8%8E-opd%E5%88%86%E5%B8%83%E8%A7%86%E8%A7%92/ SFT、RL 与 OPD：从分布视角理解后训练

[!info] TL;DR 核心思想：把语言模型看成序列分布，post-training 就是在重塑这个分布。SFT 追随固定的外部数据分布，RL 从当前策略采样并用奖励筛选，OPD 在学生自己的状态上匹配 teacher 分布。
]]>