AI Post Traning: On-Policy Distillation, OPD

导言

  • 在当前的大语言模型(LLM)对齐和后训练(Post-training)领域在线蒸馏(On-PolicyDistillation)正取代传统的离线蒸馏(Off-Policy Distillation/SFT),成为训练高性能小模型(SLM)或垂直领域模型的核心技术。
  • 且 OPD相对于 传统 RL有独特优势
Read more