Anderson 视角
DALL-E 2 是否只是“把东西拼凑在一起”而不理解它们之间的关系？
将 Unite.AI 添加到您在 Google 上的首选来源
哈佛大学的一篇新研究论文表明，OpenAI 的头条新闻框架 DALL-E 2 在复制元素之间的关系方面存在显著困难，即使其输出非常复杂。
研究人员进行了一项涉及 169 名众包参与者的用户研究，参与者被呈现 DALL-E 2 图像和创建它们的文本提示。 当被问及图像和提示是否相关时，仅 22% 的图像被认为与其关联的提示相关，仅从非常简单的关系来看。
研究中进行的试验的截图。参与者被要求选择所有与提示匹配的图像。尽管界面底部有免责声明，但在所有情况下，图像都是从显示的关联提示生成的。来源：https://arxiv.org/pdf/2208.00005.pdf
结果还表明，DALL-E 的将不同元素连接起来的能力可能会随着这些元素在训练数据中出现的可能性而降低。
例如，”孩子触摸一个碗” 的提示获得了 87% 的同意率（即参与者点击了大多数与提示相关的图像），而 “猴子触摸一只鬣蜥” 的类似照片现实图像仅获得了 11% 的同意率：
DALL-E 难以描绘猴子触摸鬣蜥的不太可能事件，可能是因为它在训练集中不存在。
在第二个例子中，DALL-E 2 经常将比例和甚至物种搞错，可能是因为缺乏真实的图像来描绘这种事件。相比之下，人们可以合理地期望有大量的训练照片与儿童和食物有关，这个子域/类别已经发展得很好。
DALL-E 将不同图像元素拼凑在一起的困难表明，公众目前被该系统的照片现实和广泛的解释能力所迷惑，以至于没有对系统将一个元素简单地粘贴到另一个元素上时形成批判的眼光，如这些来自 DALL-E 2 官方网站的例子所示：
DALL-E 2 的官方示例中的剪切和粘贴合成。来源：https://openai.com/dall-e-2/
新论文指出*：
“关系理解是人类智力的基本组成部分，它在发展的早期就显现出来，并且在感知中快速自动计算。”
“DALL-E 2 的基本空间关系（如 in、on、under）困难表明，它还没有学习到允许人类灵活和强壮地构建世界的表示形式。”
“一个直接的解释是，像 DALL-E 2 这样的系统还没有关系组合性。”
作者建议，像 DALL-E 这样的文本引导图像生成系统可以通过利用机器人领域的算法来模拟身份和关系，同时考虑到代理需要与环境交互的需要。
一种这样的方法是 CLIPort，它使用与 DALL-E 2 中的质量评估元素相同的 CLIP 机制：
CLIPort，是 2021 年华盛顿大学和 NVIDIA 之间的合作，使用 CLIP 在一个如此实际的背景下，以至于训练在其上的系统必须发展出对物理关系的理解，这是 DALL-E 2 和类似的“幻想”图像合成框架中缺乏的动机。来源：https://arxiv.org/pdf/2109.12098.pdf
作者进一步建议，像 DALL-E 这样的图像合成系统的架构可以通过在一个计算层中纳入乘法效应来升级，允许以受生物系统信息处理能力启发的方式计算关系。
新论文的标题是《测试文本引导图像生成中的关系理解》，来自哈佛大学心理学系的 Colin Conwell 和 Tomer D. Ullman。
超越早期批评
作者在评论 DALL-E 2 输出的现实和完整性的“手法”时指出，之前的作品已经发现了 DALL-E 风格的生成图像系统的缺陷。
今年 6 月，伯克利大学指出 DALL-E 在处理反射和阴影方面存在困难；同月，韩国的一项研究以批判的眼光调查了 DALL-E 2 风格输出的“独特性”和原创性；NYU 和德克萨斯大学对 DALL-E 2 图像的初步分析发现了组合性和其他基本因素方面的各种问题；上个月，伊利诺伊大学和 MIT 之间的一项合作提出了对此类系统的架构改进建议，以提高组合性。
研究人员还指出，DALL-E 的知名人物，如 Aditya Ramesh，已经承认了该框架的约束、相对大小、文本和其他挑战的问题。
Google 的对手图像合成系统 Imagen 的开发人员还提出了 DrawBench，一种新型的比较系统，使用多种指标来衡量图像准确性。
相反，新论文的作者建议，一个更好的结果可能是通过让人类估计（而不是算法指标）来对生成的图像进行评估，以确定弱点在哪里以及如何缓解它们。
研究
为了实现这一目标，新项目的方法基于心理学原理，旨在摆脱当前对提示工程的兴趣激增（这本质上是对 DALL-E 2 或类似系统的缺陷的让步），以调查和解决使这些“变通方法”必要的限制。
论文指出：
“当前工作关注一组 15 个基本关系，这些关系以前在认知、发展或语言文献中被描述、检查或提议。该集合包含既有接地的空间关系（例如“X 在 Y 上”），也有更抽象的代理关系（例如“X 帮助 Y”）。
“提示是故意简单的，没有属性复杂性或详细信息。也就是说，我们不使用像“一个驴和一个章鱼正在玩游戏。驴在一端拿着一根绳子，章鱼在另一端。驴用嘴巴拿着绳子。一个猫正在跳过绳子”这样的提示，而是使用“一个盒子在一把刀上”。
“简单性仍然捕捉到了来自人类心理学各个子领域的广泛关系，并使潜在的模型故障更加引人注目和具体。”
对于他们的研究，作者从 Prolific 招募了 169 名参与者，所有参与者都位于美国，平均年龄为 33 岁，女性占 59%。
参与者被呈现 18 张图像，组织成 3×6 的网格，顶部有提示，底部有免责声明，声明所有、部分或没有图像可能是从显示的提示生成的。然后他们被要求选择他们认为与这种方式相关的图像。
呈现给个人的图像是基于语言、发展和认知文献，包括一组八个物理关系和七个“代理”关系（这将在一刻钟内变得明显）。
物理关系
在、上、下、覆盖、附近、被遮蔽、悬挂在上面、和系在。
代理关系
推、拉、触摸、击打、踢、帮助、和阻碍。
所有这些关系都来自前面提到的非 CS 领域的研究。
因此，得出了 12 个实体，用于提示，包括六个对象和六个代理：
对象
盒子、圆柱、毯子、碗、茶杯、和刀。
代理
男人、女人、孩子、机器人、猴子、和鬣蜥。
(研究人员承认，包括鬣蜥在内是一个“享受”，因为它不是干燥的社会学或心理学研究的主要内容)
对于每个关系，创建了五个不同的提示，通过五次随机抽样两个实体，结果总共有 75 个提示，每个提示都提交给 DALL-E 2，并且对于每个提示，最初提供的 18 张图像都没有变化或第二次机会。
结果
论文指出*：
“参与者平均报告了 DALL-E 2 的图像和生成它们的提示之间的低同意度，平均为 22.2% [18.3，26.6]，跨越 75 个不同的提示。”
“代理提示的平均值为 28.4% [22.8，34.2]，跨越 35 个提示，高于物理提示的平均值，平均为 16.9% [11.9，23.0]，跨越 40 个提示。”
研究结果。黑点表示所有提示，每个点代表一个个别提示，颜色根据提示的主体是代理还是物理（即对象）进行分类。
为了比较人类和算法对图像的感知差异，研究人员将他们的渲染结果通过 OpenAI 的开源 ViT-L/14 CLIP 框架。平均分数后，他们发现两组结果之间存在“中等关系”，这可能会让人感到惊讶，考虑到 CLIP 本身有助于生成图像。
CLIP（ViT-L/14）与人类响应的比较结果。
研究人员建议，架构中的其他机制，可能与训练集中数据的偶然丰富或匮乏相结合，可能会导致 CLIP 在某些情况下无法解决问题，即使它可以识别 DALL-E 的局限性。
作者得出结论，DALL-E 2 只有名义上的关系理解能力，这是人类智力的基本方面，很早就发展起来了。
“人们可能会认为，像 DALL-E 2 这样的系统没有组合性，这可能会让任何看到 DALL-E 2 对像‘一个卡通的婴儿白萝卜穿着芭蕾舞裙走路，牵着一只贵宾犬’这样的提示做出合理反应的人感到惊讶。这样的提示通常会生成一个合理的组合概念，所有提示的部分都存在，并且在正确的位置。”
“然而，组合性不仅仅是将事物粘合在一起的能力，即使是以前从未见过的事物。组合性需要对将事物粘合在一起的规则的理解。关系就是这样的规则。”
人咬恐龙
意见 当 OpenAI 在最近的 DALL-E 2 测试版货币化后迎来更多用户时，DALL-E 2 的关系理解的缺陷可能会变得更加明显，因为每次“失败”的尝试都有经济上的代价，而且不提供退款。
那些早些时候收到邀请的人已经有时间（并且，直到最近，还有更多的时间来玩弄这个系统）观察到 DALL-E 2 可能会产生的“关系故障”。
例如，对于《侏罗纪公园》的粉丝来说，很难让恐龙在 DALL-E 2 中追逐一个人，即使“追逐”的概念似乎不在 DALL-E 2 的审查系统中，而且恐龙电影的悠久历史（至少在预告片和宣传照片中）应该为这种不可能的物种相遇提供足够的训练示例。
DALL-E 2 对提示“一张色彩照片，一只霸王龙正在追逐一个人沿着一条路走”做出的典型响应。来源：DALL-E 2
我发现上面的图像是对“[恐龙] 追逐 [一个人]”提示设计的变体的典型响应，并且无论如何详细地阐述提示，都无法让霸王龙真正追逐这个人。在第一张和第二张照片中，男人更像是追逐霸王龙；在第三张照片中，他正以一种对安全的漫不经心的态度接近这只野兽；在最后一张图像中，他似乎正在与这只伟大的野兽并肩慢跑。关于这个主题的 10 到 15 次尝试中，我发现恐龙被类似地“分散了注意力”。
可能 DALL-E 2 可以访问的唯一训练数据是“人与恐龙战斗”的宣传照片，例如 1966 年的《一百万年前》电影，而杰夫·戈德布鲁姆从恐龙王的著名飞行只是在那小部分数据中的一个离群值。
* 我将作者的内联引用转换为超链接。
首次发布于 2022 年 8 月 4 日。
