Posted 2025-02-27Updated 2026-07-10Artificial Intelligencean hour read (About 7189 words)AI Post Traning: On-Policy Distillation, OPD 导言 在当前的大语言模型(LLM)对齐和后训练(Post-training)领域在线蒸馏(On-PolicyDistillation)正取代传统的离线蒸馏(Off-Policy Distillation/SFT),成为训练高性能小模型(SLM)或垂直领域模型的核心技术。 且 OPD相对于 传统 RL有独特优势 Read more
导言 在当前的大语言模型(LLM)对齐和后训练(Post-training)领域在线蒸馏(On-PolicyDistillation)正取代传统的离线蒸馏(Off-Policy Distillation/SFT),成为训练高性能小模型(SLM)或垂直领域模型的核心技术。 且 OPD相对于 传统 RL有独特优势
2027-03-15Building Large-Scale AI Systems on Ascend: Training, Inference, and Multimodal OptimizationOverview