REM'S LLM NOTES
LLM 学习笔记
欢迎来到雷姆哈滋邦德的频道!!! 这里收录了我平时学习LLM、RL与Post-Train的学习笔记。欢迎大家学习、指正!! (正文保留 Markdown 原稿，数学公式使用 LaTeX 编写)
快速入口¶
最新更新¶
PyTorch 训练底层与 CausalLM 手撕
从 Tensor、计算图和 AdamW 开始，串起 CausalLM 的前向传播、Loss、反向传播与参数更新。
直接阅读 →DPO 为什么只做偏好分类，却“自带” KL 约束？
从 KL-Regularized RL 出发，推导最优策略、Reward 表达与 DPO Loss 之间的关系。
直接阅读 →在分布视角下理解语言模型后训练
从序列分布与自回归概率树出发，在同一视角下理解 SFT、RL 与 OPD。
直接阅读 →下载入口¶
Markdown 原稿、数学公式和文章图片均保留在 GitHub 仓库中。