AI 在策划记忆、身份和遗产中的作用

人类现在每两分钟拍摄的照片比 19 世纪整个时期拍摄的照片还要多。每天都会产生数十亿张照片。对于许多个人来说，一部智能手机中可能包含 10,000、20,000，甚至 50,000 张图片，这个数字只会继续增长。对于机器来说，这是一个规模惊人的图像数据集。对于人类来说，这是完全不同的东西。

它记录了新生儿的到来和生日，医院访问和假期，婚礼和葬礼。它包含了祖父母的最后一张照片，新生儿的第一张图片，事故发生前一刻拍摄的模糊照片。这些图像不仅仅是需要分类的文件，而是个人身份的碎片。

对于我们这些正在构建直接与人们的照片库合作的 AI 来说，这个规模带来了一个特别的挑战。我们不再构建管理媒体库的工具。我们正在设计影响人们回忆和重温生活的系统。这种转变，加上前所未有的数据规模，要求我们采用一种根本不同的信任模型。

敏感内容是日常生活的一部分

计算机视觉 技术通常用于检测面部、微笑、地标和活动。当我们将这些技术应用于个人照片库时，它们可以对相似的照片进行分组，建议亮点并生成“记忆”以供回顾和反思。

个人照片库变得越来越像日记。我们中的很多人会本能地伸手去拿手机来捕捉日常时刻，知道它们会被存储，即使我们永远不会再去看它们。在这种意义上，我们的照片库成为生活展开的无滤镜记录，包含了欢乐、痛苦或平凡的时刻。

在小规模上，自动照片组织 感觉很直接和有帮助。但是，个人库现在经常包含数万张图片。在实践中，这样的系统必须代表用户做出成千上万个小决定：哪些面孔需要优先，哪些照片最能代表一年，哪些时刻值得重新浮现。在这种规模上，即使是一个很小的错误率也会变得情感上有意义。1% 的错误率在一个包含 20,000 张照片的库中可能会导致数百张图片在错误的背景下被显示或完全被误解。

当你处理真正的照片库时，你会很快学会敏感时刻与日常时刻一起出现的频率。医院、葬礼、痛苦时刻——与偏爱克制的产品选择一起。但同样重要的是要认识到自动解释的局限性。

完全理解某张图片对特定个体的意义几乎是不可能的。AI 的作用不是代表某人决定意义，而是帮助浮现人们可能想要回顾和反思的时刻，以一种适合他们的方式。 在数字工具越来越多地塑造我们生活的世界中，照片相册仍然是深深的个人化的。

处理发生的位置很重要

还有一個关于图像处理发生的位置和方式的结构性问题。基于云的 AI 系统聚合和分析了大量的数据——一种使得能力有了非凡进步的模型。

然而，当处理私人照片库时，情感敏感性要大得多。儿童的图像、亲密的家庭时刻，甚至是生死体验，都是人们拥有的最个人化的记录。任何与此类数据交互的技术建设者很快就会意识到，架构决策不仅仅是技术问题。将图像发送到远程服务器进行分析，即使有强大的保障措施，也可能感觉到侵入性。

移动硬件的进步使得在设备上直接处理大型照片库变得越来越可行。这使得没有将整个集合导出到云端的情况下就能实现复杂的图像理解。在这种情况下，技术架构成为价值的反映。处理发生的位置的决定可以直接影响个人对自己记忆的控制程度。

自动记忆的伦理

当 AI 策划照片时，它会影响人们回忆生活的方式。选择“年度最佳”图像的系统隐含地决定了哪些时刻最重要。更频繁地突出显示某些面孔的功能可能会微妙地塑造视觉优先关系。

与广告优化或物流预测中的错误不同，记忆策划中的错误是个人化的。图像的不恰当重新浮现可能会意外地重新唤起悲伤。重要的关系可能会被低估，只是因为算法未能认识到其重要性。随着时间的推移，这些自动选择可能会悄悄地影响人们如何讲述自己的生活。

这引发了困难的问题。算法应该决定哪些照片最能代表某个已故的人吗？它应该抑制它认为令人痛苦的图像，还是完全将这个选择留给用户？当它无法自信地确定一个场景是庆祝还是严肃时，它应该如何表现？

在这个领域的伦理设计取决于谦逊。系统应该对 AI 何时做出选择保持透明，并使其易于审查、编辑和覆盖自动选择。对潜在敏感内容的置信阈值应该谨慎设置。

信任作为人类的要求

关于 AI 伦理 的公共辩论通常关注虚假信息、偏见或大规模模型训练。这些对话当然是必要的和重要的。但是，除了头条新闻之外，还有另一个、不太明显的 AI 伦理维度，每天在家庭中上演。

只有少数团队目前正在构建在全球范围内策划个人照片库的 AI 系统。我们正在做出影响数百万个人历史的组织和记忆的决定。

当有人打开他们的照片库时，他们正在与自己的故事互动。如果 AI 系统粗心处理这个故事，影响可能会非常个人化。一个不恰当的通知或一个不敏感的自动蒙太奇可能会重新打开多年来才愈合的伤口。

在这个领域工作让这种责任感变得异常有形。因此，设计用于个人摄影的 AI 需要一种不同的思维方式——尤其是随着照片拍摄的规模继续增长。情感敏感性不能在部署后添加，隐私不能被视为一个背景设置。这些考虑必须从一开始就塑造系统。

随着 AI 能力的继续扩展，诱惑将是自动化更多的数字生活。在个人照片领域，然而，进步应该以不同的方式衡量。成功不在于效率或优化，而在于建立能够认识到所触及的图像的情感重量的系统。

我们的照片记录了我们是谁和我们曾经是谁。任何被委托处理它们的 AI 都必须认识到它正在进入技术可以进入的最人性化的空间之一。