Multimodal Generation Evaluation

导言

多模态生成 RL 的评测不能沿用 VLM 问答评测的一套逻辑。理解任务可以用正确答案、选项或短文本验证;生成任务还要评价 视觉质量、语义一致、运动时序、编辑边界、音频质量、音画同步和人类偏好

因此,评测方案要先回答一个问题:训练时 reward 优化的是哪一种生成能力,最终 benchmark 是否真的测了同一种能力。本文把 AISBench、VBench、VEFX-Bench、Flow-Factory 和 VeRL-Omni 放在一起,整理一个后续实验可执行的评测地图。

Read more

VLM RL Evaluation Datasets

导言

想用 AISBench 评测多模态 RL 后模型效果时,最容易误判的是把“多模态”当作一个整体类别。更精确的判断应该是:训练数据、奖励函数、输出格式和评测集必须在同一个能力域内闭合

本文围绕 verl 当前常见的 Geo3K 多模态 RL 样例,以及新增的 TinyLLaVA-Video-R1-NextQAmultimodal-open-r1-8k-verified 两类数据,比较它们的规模、文本长度、模态、任务类型和 AISBench 评测匹配关系。

Read more

Frontier Model RL

导言

这篇文章用于持续梳理前沿 LLM/VLM 模型的 RL recipe:它们在什么 RL 框架下训练,经历了哪几个 RL 阶段,每个阶段使用什么算法,以及这些设计到底想解决什么问题。

这里的核心原则是 evidence-first:只把官方博客、技术报告、模型卡、开源仓库中明确披露的内容写成结论;如果资料只披露能力提升而没有披露训练阶段,就标注为“未公开”,不反推、不补脑。

Read more

VLA VLM + DiT

导言

自动驾驶 VLA(Vision-Language-Action)模型中,VLM 和 DiT 是两个核心组件。但很多人会有一个常见误解:DiT 是用来生成图片的。实际上,在自动驾驶场景中,DiT 更多是作为动作/轨迹生成器,而非图像生成器

VLM 负责”看懂路况和指令”,DiT 负责”生成一段连续、平滑、多模态的驾驶动作/轨迹”。

Read more

Ideas around Vision-Language Models (VLMs) / Reasoning Models

导言

当前主流的多模态理解模型一般采用视觉编码器 + 模态对齐 + LLM的算法流程,充分复用已有视觉编码器的理解能力和LLM的基础能力。训练过程一般分为多个阶段,如先进行模态对齐的一阶段预训练,然后进行二阶段的参数微调。

排行榜:

Read more