在三维空间理罢黜务中，让视觉说话模子（VLM）生成结构合理、物理一致的场景布局也曾一项挑战。以"请将这些产品合理摆放在房间中"为例，现存模子尽管大概识别图像中的物体，以至给出语义连贯的布局刻画，但渊博短少对三维空间结构的真确建模抖音风 裸舞，难以兴奋基本的物理料理与功能合感性。

为了处分这一问题，已有扣问尝试继承多智能体交互（multi-agent interaction）法度，通过多个说话模子或代理之间的迭代协商与考据优化布局扫尾。关联词，这类法度不仅诡计本钱高，而且在迭代过程中容易堕入死锁，导致无法料理至灵验解。

另一类方律例通过构建大鸿沟真确房间布局的刻画语料，集中监督微调（Supervised Fine-Tuning， SFT）对模子进行进修。这种方式不错在一定进度上耕作模子基础智力，但受到空间任务自己的适度：空间布局任务不存在独一的模范谜底。关于澌灭个输入，合理的三维布局不错有多种面貌，因此以单一 ground truth 为监督信号的 SFT 法度无法全面隐敝可能的合清楚空间，适度了模子的泛化智力与生成各种性。

针对这一挑战，西北大学诡计机系与基础模子与生成式 AI 中心的扣问东说念主员潘震宇 ( Zhenyu Pan ) 以过头导师刘晗 ( Han Liu ) 提倡了中枢问题：是否不错通过章程驱动的强化学习计谋，为视觉说话模子注入空间推明智力？

裸舞合集

三维布局任务具备强化学习适用的些许要津特点：

不存在模范解，看法是生成合乎料理的各种性解；

短少精准标注，导致监督信号稀缺；

存在可模范化检测的看法函数，如物体重迭、越界、功能逻辑合感性等。

强化学习（Reinforcement Learning）通过奖励函数（reward function）而非依赖东说念主工标注，联接模子在与环境交互中握住优化计谋。这使其自然适用于空间布局这类短少独一模范谜底、解空间复杂各种的任务。频年来，集中章程奖励机制的强化微调范式（Reinforcement Fine-Tuning， RFT）已在结构化任务中赢得权贵着力，如文本生成、数学推理、代码清楚等，典型代表包括 DeepSeek-R1 和 OpenAI o1。

关联词，在三维空间推理这一交融视觉、说话与结构清楚的多模态任务中，这一计谋仍未被充分探索。

为此，他们提倡了 MetaSpatial 框架。该法度初度将基于章程奖励的 RFT 计谋告捷搬动至视觉说话模子（VLMs）的空间布局场景中，在仅使用约 50 条无 ground truth 数据的要求下，即可权贵耕作模子的空间推明智力与布局生成质地。

具体而言，MetaSpatial 构建了一套可模范化评估的奖励函数，臆度布局结构是否合理、是否兴奋物理料理，以及是否合乎用户偏好。同期引入多轮布局 refinement 机制，联接模子在进修过程中徐徐优化空间有磋磨。借助这一计谋，模子无需依赖大鸿沟标注数据，即可学习到具备泛化智力与结构适合性的空间推理计谋。

实验扫尾透露，MetaSpatial 在多个空间生成磋磨上权贵优于传统 SFT 法度，充分考据了基于章程奖励的强化学习在三维空间智能建模中的灵验性与通用性。

MetaSpatial：引入 R1 毁坏 3D 空间推理壁垒

MetaSpatial 将进修 3D 空间推理过程建模为一个多轮有磋磨过程，其基本面貌是：给定一组多模态输入，模子通过一系列推理法度生成结构化布局输出，并基于可模范化评估的奖励信号进行计谋优化。

输入与输出面貌

在每一轮交互中，MetaSpatial 的输入包括：

场景图像或房间结构图；

房间的几何尺寸信息（长、宽、高）；

用户提供的偏好刻画（如功能用途、作风要求等）；

需要布局的看法物体列表（包含物体类型、景色等）。

模子输出为两个部分：

说话化的推理过程：记载模子在布局时的有磋磨意义；

结构化布局 JSON：每个物体的三维坐标位置（x， y， z）和称号等，动作布局扫尾。

The goal is to arrange the objects in a dinning room setting that includes a ，...， and respect the spatial constraints and user preferences. Here's how we can approach this:

1. **Kitchen Island**: Place it centrally ...2. **Hanging Pot Rack**: Hang it above ......Let's compute the positions:- **Kitchen Island**: ( 3， 2.5， 0.45 ) - **Hanging Pot Rack**: ( 3， 2.5， 0.65 ) ...Now， let's generate the JSON output.

[ {"new_object_id": "kitchen_island_1"， "x": 3.0， "y": 2.5， "z": 0.45}， ...... ]

该布局 JSON 文献既动作最终输出，也动作强化学习中的环境景色，用于评估和反馈。

奖励函数与刑事拖累机制想象

为了臆度布局扫尾的历害，MetaSpatial 构建了三级奖励信号，辨别从结构正当性、物理合感性和主不雅偏好三个维度评价模子输出：

1. 格局奖励（Format Reward）

查验输出的 JSON 是否完满；

通盘看法物体是否都被隐敝；

每个物体是否都包含完满的空间参数（x/y/z 坐标、尺寸、标的等）。

2. 物理奖励（Physics Reward）

哄骗输出中的几何信息重建场景；

诡计是否存在物体之间的重迭（collision）；

查验物体是否越界、浮空或违犯场景领域；

对不兴奋物理料理的比例部分施加刑事拖累。

3. 物理奖励（Physics Reward）

将输出布局通过剧本用 Blender渲染为三维场景图；

输入至 GPT-4o 进行审好意思评分；

概括评分其物理一致性、好意思学质地与用户偏好匹配度。

{'realism_and_3d_geometric_consistency': {'mean': 5.0， 'std': 0.0}， 'functionality_and_activity_based_alignment': {'mean': 6.0， 'std': 0.0}， 'layout_and_furniture': {'mean': 5.0， 'std': 0.0}， 'color_scheme_and_material_choices': {'mean': 4.0， 'std': 0.0}， 'overall_aesthetic_and_atmosphere': {'mean': 4.0， 'std': 0.0}}

最终奖励为三者的加权组合，提供一语气型反馈信号，以供强化学习优化使用。

Trajectory 生成与多轮布局优化

与传长入次性生成不同，MetaSpatial 在进修阶段继承multi-turn rollout计谋，允许模子对布局扫尾进行多轮 refinement：

驱动布局生成后，模子可梭巡我方生成的坐标结构与得分；

凭证奖励反馈进行布局更新并重复多轮；

每一轮的输入、输出、奖励组成一条布局轨迹（trajectory）；

多轮优化后登科最终布局动作面前 episode 的最终扫尾。

这种机制不仅提高了模子的布局智力，也为计谋进修提供了更多的高质地有磋磨旅途。

计谋优化：基于 GRPO 的强化学习进修

为完毕褂讪、高效的计谋更新，MetaSpatial 引入了Group Relative Policy Optimization（GRPO）。与惯例的计谋梯度法度不同，GRPO 不依赖于单条轨迹进行更新，而是哄骗澌灭输入样本生成的多条 trajectory动作一个 group 进行比较性学习。

具体过程如下：

关于每组输入，履行屡次 layout generation，得到些许个轨迹；

比较这些候选轨迹的奖励得分，诡计相对上风；

凭证组内得分排序扫尾，优化计谋收集，使高奖励轨迹的概率增多，低奖励轨迹的概率下落；

幸免了对某一"竣工最优"解的依赖，耕作了学习过程的褂讪性与计谋的泛化智力。

借助 GRPO，MetaSpatial 大概在样本少量（如仅 50 条无标注数据）的情况下，褂讪学得适合性强的空间有磋磨智力。

MetaSpatial 实验扫尾

1. Qwen2.5 的 7B 和 3B 两个视觉说话模子（VLM）都从 MetaSpatial 框架中受益，但其中 7B 模子的性能耕作愈加权贵。比拟之下，3B 模子仍然在输出格局的生成方面存在贫苦，比如无法长期保合手与输入一致的物体数目和称号，或是未能为通盘物体合手续褂讪地提供完满的三维坐标（x， y， z）。

2. 实验扫尾标明，MetaSpatial 大概灵验耕作 Qwen2.5-VL 的 3B 和 7B 模子的空间布局智力，但其中 7B 模子的耕作愈加彰着。具体推崇为：跟着进修的进行，7B 模子大概生成更长、更褂讪、结构更赫然的反馈，而 3B 模子的输出则推崇出较大的不一致性，其反馈长度波动较大，最小值和最大值之间渊博跳变，透长远在保合手输出格局一致性方面的贫苦（举例：物体数目正确、结构化空间坐标完满等）。比拟之下，7B 模子的反馈愈加褂讪，这也进一步印证了一个趋势：鸿沟更大的模子在强化学习驱动的空间推理任务中更具适合智力。

3. 在" RL-Before vs RL-After "的对比实验中，MetaSpatial 框架在耕作模子三维空间推明智力方面的效果得到了赫然体现。强化学习进修前，模子生成的物体布局大量狼藉词语、错位，且常出现物体飘摇、重迭或搁置在不合乎物理章程的位置等问题。进修后，生成的布局则变得愈加结构化、传神，何况在语义上愈加连贯，推崇出更强的空间感知智力、物体对王人智力以及功能合感性。

这些扫尾进一步强化了一个中枢论断：强化学习大概灵验优化视觉说话模子的空间推理计谋，使其具备更当然、更实用的三维场景生成智力，可等闲应用于如元天地、AR/VR 以及游戏成就等多种推行场景中。

记忆

总的来说，MetaSpatial 的孝顺主要有底下四部分：

提倡 MetaSpatial 框架：提倡了 MetaSpatial，第一个基于强化学习（RL）的三维空间推理框架，使视觉说话模子（VLMs）大概在无需复杂后处理的情况下平直生成结构合理的三维场景。

引入多轮布局优化机制与 GRPO 计谋：想象了一种多轮布局 refinement 机制，集中 Group Relative Policy Optimization（GRPO）法度，使模子能通过屡次调治与推理旅途，学习更具泛化性与适合性的空间推明智力。

构建三重奖励体系：想象了一套结构化评估体系，涵盖格局检测、物理合感性检测与基于渲染的视觉评价，为强化学习提供自适合、可扩张的奖励信号。

考据法度灵验性：在多种模子和空间场景上进行的实考据明，MetaSpatial 能权贵耕作模子在三维场景生成中的布局连贯性、物理一致性和举座质地。

当今，名目已全面开源，包含进修代码、评测经由、数据集生成剧本以及完满的数据集。

名目地址：  https://github.com/PzySeere/MetaSpatial

一键三连「点赞」「转发」「防御心」

原谅在驳斥区留住你的念念法！

—  完  —

学术投稿请于责任日发邮件到：

ai@qbitai.com

标题注明【投稿】，告诉咱们：

你是谁，从哪来，投稿实质‍

附上论文 / 名目主页流畅，以及联系方式哦

咱们会（尽量）实时回应你

� �   点亮星标 � �

科技前沿进展逐日见抖音风 裸舞