
这项由伊利诺伊大学厄巴纳-香槟分校(UIUC)联合斯坦福大学与哥伦比亚大学共同开展的生成研究,于2026年6月以预印本形式发布,理世理解论文编号为arXiv:2606.24256。界真记硬研究团队构建了一个名为TailOR的还死评测基准,旨在深度检验当下最先进的生成图像与视频生成模型:它们究竟是真正“懂得”物理世界的运作规律,还是理世理解仅仅在训练数据中见过的画面里拼凑重组,进行模式匹配式的界真记硬输出。
这不仅仅是还死一次技术测试,更触及了AI能力的生成本质。如今,理世理解AI工具被广泛用于生成图像和视频,界真记硬展现出惊人的还死创造力——从精美的场景构建到水流、火焰及物体碰撞的生成模拟。然而,理世理解当面临训练数据中极少出现的界真记硬“长尾场景”时,例如“用硬币拧松螺丝”或“用精装书砸开核桃”,模型是否还能保持逻辑自洽?这正是TailOR试图解答的核心命题。
现实世界中的物理互动并非均匀分布,而是呈现出明显的“头部-长尾”分布特征:
研究团队将前者定义为“头部场景”,后者定义为“长尾场景”。核心矛盾在于:模型在头部场景的高分,可能源于对训练数据的“死记硬背”,而非对物理规律的理解。这就像学生背熟了教材例题,却缺乏解题思维,一旦遇到新题型便束手无策。
尽管当前主流模型(如OpenAI的Sora-2)在MMGR等基准测试中表现优异(物理准确度86%,视觉真实感92%),但这些测试多聚焦于常见场景。因此,一个关键问题浮现:这些模型是真正理解了物体间的物理互动,还是仅仅在复现统计规律?
TailOR通过递进式的三层测试,层层剥离模型的“伪装”,揭示其真实能力:
为了进一步拆解能力,TailOR为每层场景设计了两种提示方式:
* 预测式生成:仅描述操作过程,让模型自行推断结果(测试内在物理推理能力)。
* 描述式生成:直接告知预期结果,要求模型忠实呈现(测试指令执行与状态还原能力)。
TailOR并非随机收集数据,而是经过严谨的自动化生成与人工审核流程:
最终规模:包含80个核心任务,每个任务含5个工具变体(1常规+2非常规+2不可能),每个变体生成4种提示(预测/描述 x 图像/视频),共计1600个评测提示。场景覆盖室内(61.3%)与室外(38.8%),具备高度多样性。
TailOR采用多维度互补的评估标准,结合人工与自动评测:
评估是否符合重力、接触力学、材料约束及因果关系。0分为明显违反,5分为完全一致。
评估视觉清晰度、渲染质量及视频帧间一致性。
评测执行:
* 人工评测:9名专家标注员独立评分,取平均值。
* 自动评测:使用Gemini-2.5-Pro作为评判模型,经验证,其排名与人工评测高度一致,证明自动评测的可靠性。
研究测试了4款图像模型(Z-Image, Qwen-Image, GPT-Image-1, Nano-Banana-2)和4款视频模型(HunyuanVideo-1.5, Wan-2.2, Sora-2, Veo-3.1),得出三大规律:
所有模型从常规到非常规,再到不可能场景,性能均显著下降。
* 图像模型:Nano-Banana-2在常规场景指令遵从度达69%,但在不可能场景降至42%。
* 视频模型:Sora-2在常规场景达66%,在不可能场景降至39%。
* 物理真实感:Sora-2从3.1分跌至2.2分。
这一趋势在所有模型和维度中同步出现,表明这是整个领域的普遍性瓶颈,而非个别缺陷。
视频生成需维持多帧间的一致性,错误易呈“级联式”爆发。视频模型尤其倾向于在不可能场景中产生“幻觉”,即无视工具物理属性的缺失,强行生成“成功”结果(如用干面条拧松螺丝),完全违背物理逻辑。
无论评测方式如何,Nano-Banana-2(图像)和Sora-2(视频)均被一致评为最优。这证实了TailOR自动评测体系的有效性,可用于大规模低成本评估。
实验揭示了一个反直觉现象:对于视频模型,描述式生成(告知结果)的得分往往低于预测式生成(自行推断)。
结论:当前生成模型的失败不仅是缺乏物理推理(导致预测失败),更是因为强烈的视觉模式偏好(导致指令执行失败)。两者共同限制了其作为“世界模拟器”的能力。
现有模型在训练时主要追求视觉逼真度,导致其将“工具-任务”配对作为整体模板记忆(如“锤子+钉子”模板),而非理解背后的物理逻辑(质量、硬度、力传导)。
TailOR不仅是一把尺子,更是一次诊断。它表明,尽管当前模型在“好看”和“流畅”上表现出色,但在“真正理解”物理世界方面存在显著缺口。
感兴趣者可访问 arXiv:2606.24256 查阅论文,或在 tailor-bench.github.io 获取项目详情。
Q1:TailOR基准测试和普通的AI生成模型评测有什么区别?
A:普通评测多聚焦于训练数据中高频出现的常见场景(如锤子钉钉子)。TailOR专门针对“长尾场景”,包括功能可行但不常见的替代工具(如硬币拧螺丝)以及物理上不可行的工具(如棉花糖砸核桃),以此区分模型是真正理解物理规律,还是仅依赖数据记忆。
Q2:为什么告诉AI视频模型最终结果应该是什么,它反而生成得更差?
A:视频模型对训练数据中的常见模式存在强烈的“惯性”。首帧确立物体后,模型倾向于沿最熟悉的轨迹(如核桃破碎)生成后续帧。这种“视觉模式偏好”强大到能抵抗明确指令,导致模型生成“熟悉但错误”的结果,从而拉低描述式生成的质量。
Q3:TailOR测试了哪些AI模型,哪个表现最好?
A:测试涵盖8款主流模型:
* 图像模型:Z-Image, Qwen-Image, GPT-Image-1, Nano-Banana-2(表现最佳)。
* 视频模型:HunyuanVideo-1.5, Wan-2.2, Sora-2(表现最佳), Veo-3.1。
尽管Sora-2和Nano-Banana-2相对领先,但所有模型在长尾场景下均出现显著性能下滑。