Post-Training
大语言模型后训练(Post-Training)的核心概念、常见方法(微调、增量训练、知识蒸馏等)及其在模型性能提升中的作用
Post-Training 训练流程
介绍后训练(Post-Training)的基本流程与方法
PEFT
介绍参数高效微调(PEFT)技术及其应用
RLHF
介绍基于人类反馈的强化学习(RLHF)技术
RLVR
介绍可验证奖励强化学习(Reinforcement Learning with Verifiable Rewards, RLVR)的基本原理及其在大规模语言模型训练中的应用方法
数据合成
介绍数据合成(Data Synthesis)的基本原理及其在大规模语言模型训练中的应用方法
Agentic RL
介绍 Agentic RL 的核心概念、与传统 RLHF/RLVR 的区别、三个不变量以及八个关键模块
后训练框架
介绍后训练阶段常用的框架和工具,包括 PEFT、TRL、VERL 等
Distillation
介绍模型蒸馏(Distillation)的基本原理及其在大规模语言模型推理中的应用方法
这篇文档有帮助吗?