首页 › 具身智能 › 06-策略抓取或抓取VLA › 01VLA相关总结综述

01VLA相关总结综述

1. 终极多模态机器人大模型 (VLA / VOA) 全景硬核对比表​

​

​
模型名称​
​
​
范式类别​
​
​
视觉基座 (Vision Backbone)​
​
​
语言/推理基座 (LLM / Reasoning)​
​
​
输出预测头 (Output Head)​
​
​
确切参数量​
​
​
是否有语言推理能力​
​
​
RT-1​
​
​
VLA​
​
​
EfficientNet-B3​
​
​
Universal Sentence Encoder (仅提取特征)​
​
​
离散化 Token (分类头,256分箱)​
​
​
35M​
​
​
弱 (仅指令匹配,无逻辑推理)​
​
​
RT-2​
​
​
VLA​
​
​
ViT-e (22B) 或 ViT-G (2B)​
​
​
PaLI-X (55B) 或 PaLM-E (12B)​
​
​
离散化 Token (复用 LLM 词表)​
​
​
12B、55B​
​
​
极强 (涌现出复杂常识与思维链)​
​
​
RT-X​
​
​
VLA/VA​
​
​
与 RT-1 或 RT-2 架构完全一致​
​
​
与 RT-1 或 RT-2 架构完全一致​
​
​
与 RT-1 或 RT-2 架构完全一致​
​
​
35M、12B、55B​
​
​
强 (跨界机器人的通用权重统称)​
​
​
Octo​
​
​
VA(VOA)​
​
​
ViT-Patch (切片处理)​
​
​
无 LLM (使用纯 Transformer 解码)​
​
​
扩散模型头 (Diffusion) 或连续值 L1​
​
​
27M、93M​
​
​
否 (纯动作控制,不支持语言对话)​
​
​
OpenVLA​
​
​
VLA​
​
​
DINOv2 (空间特征) + SigLIP (语义特征)​
​
​
Llama 2 (7B)​
​
​
离散化 Action Token (L1 损失预测)​
​
​
7B​
​
​
强 (开源泛化能力极强)​
​
​
RoboFlamingo​
​
​
VLA​
​
​
CLIP (ViT-Large-14)​
​
​
MPT 或 RedPajama​
​
​
显式策略头 (MLP、LSTM 或 Diffusion)​
​
​
3B、4B、9B​
​
​
强 (保留了历史多帧图文理解)​
​
​
SpatialVLA​
​
​
VLA​
​
​
SigLIP + Ego3D 空间位置编码​
​
​
PaLiGemma 2 (Gemma)​
​
​
自适应空间动作网格 (空间动作 Token)​
​
​
3B​
​
​
强 (具备真实 3D 空间结构感知)​
​
​
SmolVLA​
​
​
VLA​
​
​
SigLIP 视觉编码器​
​
​
SmolLM2 语言解码器​
​
​
Action Expert Transformer (动作专家)​
​
​
450M​
​
​
中 (主打极致轻量,基础指令理解)​
​
​
SwiftVLA​
​
​
VLA​
​
​
streamVGGT (4D特征) + SmolVLM视觉层​
​
​
SmolVLM (外挂可学习 Fusion Tokens)​
​
​
Diffusion Action Expert (动作专家)​
​
​
450M​
​
​
中 (聚焦时空动态轨迹预测,兼具指令理解)​
​
​
StarVLA​
​
​
VLA框架​
​
​
Qwen-VL 视觉提取器 (实例配置)​
​
​
Qwen 大语言模型 (实例配置)​
​
​
离散动作 Token​
​
​
7B (QwenGR00T)​
​
​
强 (基于大规模图文协同训练)​
​
​
GR00T N1.5​
​
​
VLA​
​
​
NVIDIA Eagle VLM (视觉分支)​
​
​
Eagle VLM 文本编码器 (冻结)​
​
​
连续动作流匹配 Transformer (16层)​
​
​
3B​
​
​
强 (跨具身基础语言理解与泛化)​
​
​
GR00T N1.6​
​
​
VLA​
​
​
SigLIP 2 + Cosmos Reason (原生分辨率)​
​
​
NVIDIA Cosmos Reason (2B 推理大模型)​
​
​
连续动作流匹配 Transformer (32层)​
​
​
3B​
​
​
极强 (多步物理常识逻辑与深层推理)​
​
​
​
​
​
​
​
​
​
​
​
​
​
​
​

​

2. 12 款核心模型一针见血的文字解析​

为了让读者或者合作者看懂,我们需要把这些冷冰冰的架构变成它们在学术界和工业界的“人设”。​

🏛️ 开山与奠基时代:Google 的霸权​

•

RT-1:开启 VLA 时代的探路者 它向全世界证明了一件事——不需要为机器人单独设计复杂的控制算法,直接把机械臂的动作映射成文字字典里的“单词”(离散 Token),扔进 Transformer 里硬算,机器人就能学会做事。​

•

RT-2:降维打击的涌现级巨无霸 解决了“机器人没有常识”的痛点。谷歌极其暴力地把拥有 550 亿参数的超大多模态语言模型直接接入机器人。这让机器人不仅能听懂指令,甚至涌现出了类似人类的“思维链”,比如它能听懂“把过期的食物扔掉”并自动从桌子上准确挑出腐烂的香蕉。​

•

RT-X:跨界数据的“世界大一统” 严格来说,它不是一个新架构,而是谷歌牵头联合全球顶级学术机构打造的“终极权重与数据集”。它解决了各家实验室只用自家数据训练导致机器人“换个机械臂就不会动”的痛点,实现了真正的跨具身(Cross-Embodiment)控制。​

🐙 开源爆发时代:学术界的狂欢​

•

Octo:最纯粹的 VOA 动作肌肉男 这是伯克利和斯坦福团队专门为不需要对话的机器人打造的。它没有任何臃肿的语言大模型包袱,依靠极致轻量的 Transformer 和扩散模型(Diffusion)直接看图做动作。在纯粹的动作模仿学习任务上,它是推理速度最快的开源基准。​

•

OpenVLA:开源社区的六边形战士 直接解决了 RT-2 闭源且太庞大的问题。它基于 7B 级别的 Llama 2 模型,融合了能理解语义和空间信息的混合视觉基座,是目前全世界绝大多数创业公司和科研实验室首选的“开箱即用”机器人大脑。​

•

RoboFlamingo:治好失忆症的多帧记忆大师 以往的模型都是“单帧输入”(看一眼图做一个动作),导致机器人做多步长线任务时经常忘记一开始的目的。它在网络末端外挂了专门的显式策略头,牢牢记住历史多帧画面,处理“打开抽屉拿苹果再关上”这种长线任务极其稳定。​

🚀 细分极致进化时代:解决具体绝症​

•

SpatialVLA:突破 2D 限制的 3D 空间主宰 解决了传统模型“看世界是扁平的”这一绝症。它强行给网络注入了 Ego3D 深度位置编码,并首创自适应空间动作网格。机器人在执行需要极高空间精度的插入、精密抓取任务时,成功率获得了史诗级跨越。​

•

SmolVLA:极致轻量的平民化大杀器 Hugging Face 专门为算力贫困户打造的奇迹。通过极其残暴的网络层跳跃和特征压缩,将参数量死死压制在 450M。它彻底解决了 VLA 模型必须依赖几十万服务器级显卡的痛点,让普通人在笔记本电脑上就能训练家用小型机械臂。​

•

SwiftVLA:引入时间的时空动态预测师 当目标物体在移动时(抛接球、抓取传送带物品),静态 VLA 就会彻底抓瞎。该模型创新性地引入了 4D streamVGGT 时空特征与掩码重建策略,在仅有 450M 的极小参数量下,让大模型学会了“预判”机械臂和物体在未来的相遇轨迹,动态场景适应力极强,且推理速度吊打大型模型。​

•

StarVLA:一统江湖的图文动作协同兵工厂 它提供了一套极其优雅的底层训练逻辑,让开发者能无缝将海量的互联网废话图文数据与昂贵的机器人本体动作数据放在同一个熔炉里协同训练(Co-training),大幅降低了研发通用机器人的工程门槛。​

🟢 工业收割时代:NVIDIA 的降维重塑​

•

GR00T N1.5:合成数据喂养的跨具身中坚力量 英伟达用来秀肌肉的工业级核武器。它最大的革新在于不再极度依赖人类遥控机械臂采集的真实数据,而是大量吸收由 NVIDIA Omniverse 和 GR00T-Dreams 在仿真引擎里自动生成的“合成数据”。后端挂载了极其平滑的 16 层流匹配(Flow Matching)Transformer,动作执行细腻且极其稳定。​

•

GR00T N1.6:具备深层物理逻辑的究极进化体 当前人形机器人领域的顶级天花板。它的语言基座直接换成了英伟达专为物理世界打造的 Cosmos Reason 推理大模型。这赋予了它类似人类的“System 2(慢思考)”能力——当给出极其模糊的指令时,它会在大脑里先进行带有物理常识的沙盘推演,再将动作意图交给足足翻倍到 32 层的动作预测头,最终转化为人形机器人的全身高难度协同动作。​

🏠 工业落地与基建时代:地平线 (Horizon Robotics) 的全栈突围​

HoloBrain-0:懂物理结构的具身“全能管家” 它精准解决了 VLA 模型在不同机器人硬件间难以迁移的“水土不服”绝症 。不同于其他模型让机器人死记硬背像素与动作的映射,它创新性地将机器人的“筋骨”(URDF 动力学描述)和“眼睛方位”(相机内外参)作为显式输入 。配合强大的“空间增强器”,它能直接在 3D 坐标系下进行规划,实现了极强的跨具身通用性 。​

更硬核的是其配套的 RoboOrchard(机器人果园) 基础设施 。通过一套“测试驱动”的闭环迭代数据策略,它不再盲目堆砌海量数据,而是针对失败案例进行精准“补课” 。这使得其 0.2B 的超轻量版本,仅需约 30 小时的真实数据,就能在百元级国产边缘芯片上流畅完成折衣服、叠纸盒等极具挑战的长程任务 。​