Liam Houghton, Popsa的创始人和CEO Liam Houghton Popsa的创始人和CEO

AI 在策划记忆、身份和遗产中的角色

人类现在每两分钟拍摄的照片数量超过了19世纪拍摄的总数。每天都会产生数十亿张照片。对于许多人来说，一部智能手机中可能包含10,000、20,000，甚至50,000张照片，而且这个数字还在不断增长。对于机器来说，这是一个规模巨大的图像数据集。对于人类来说，这是完全不同的东西。这是一个记录新生儿、生日、医院就诊、假期、婚礼和葬礼的照片集。它包含祖父母的最后一张照片、第一个孩子的第一张照片、事故发生前一刻拍摄的模糊照片。这些照片不仅仅是需要分类的文件，而是个人身份的片段。对于我们这些直接与人们的照片库合作的AI开发者来说，这个规模带来了一个特殊的挑战。我们不再只是构建管理媒体库的工具，我们正在设计影响人们回忆和重温生活的系统。这种转变，加上前所未有的数据规模，需要一个根本不同的信任模型。敏感内容是日常生活的一部分计算机视觉技术通常用于检测面部、微笑、地标和活动。当我们将这些技术应用于个人照片库时，它们可以聚类相似的照片、建议亮点和生成“记忆”以供回顾和反思。个人照片库变得越来越像日记。我们很多人会本能地拿出手机来捕捉日常时刻，知道它们会被存储——即使我们永远不会再看它们。在这个意义上，我们的照片库成为生活展开的未经滤过的记录，包含了快乐、痛苦或平凡的时刻。在小规模上，自动照片组织感觉很直接和有帮助。然而，个人库现在经常包含数万张照片。在实践中，这样的系统必须代表用户做出成千上万个小决定：优先考虑哪些面孔、哪些照片最能代表一年、哪些时刻值得重新浮现。在这个规模上，即使是一个很小的错误率也会变得情感上有意义。对于一个包含20,000张照片的库来说，1%的错误分类率可能会导致数百张照片在错误的背景下被显示或完全被误解。当你处理真正的照片库时，会很快学到这样一件事：敏感时刻经常出现在日常时刻旁边。医院、葬礼、痛苦时刻——这些都与产品选择和克制并存。但同样重要的是要认识到自动解释的局限性。完全理解一张图片对特定个体的意义几乎是不可能的。AI的角色不是代替某人决定意义，而是帮助人们回顾和反思他们可能想要重温的时刻，并以适合他们的方式呈现。处理发生的位置很重要还存在一个关于图像如何和在哪里处理的结构问题。基于云的AI系统聚合和分析了大量的数据——这是一个使得能力有了非凡进步的模型。然而，当处理私人照片库时，情感敏感性要大得多。儿童、亲密的家庭时刻，甚至是生命结束的经历都是人们所拥有的最个人化的记录。任何与此类数据交互的技术构建者很快就会意识到，架构决策不仅仅是技术问题。将图像发送到远程服务器进行分析，即使有强大的保障措施，也可能感觉到侵入性。移动硬件的进步使得在设备上直接处理大型照片库变得越来越可行。这使得没有将整个集合导出到云端的情况下就能实现复杂的图像理解。在这种情况下，技术架构成为价值观的反映。关于处理发生的位置的决定可以直接影响个人对自己的记忆的控制程度。自动记忆的伦理当AI策划照片时，它会影响人们回忆生活的方式。一个选择“年度最佳”图像的系统隐含地决定了哪些时刻最重要。一个更频繁地突出显示某些面孔的功能可能会微妙地塑造视觉优先关系。与广告优化或物流预测中的错误不同，记忆策划中的错误是个人化的。一个不合时宜的图像重新浮现可能会意外地重新唤起悲伤。一个有意义的关系可能会被低估，只是因为算法没有认识到它的重要性。随着时间的推移，这些自动选择可以默默地影响人们如何讲述自己的生活。这引发了艰难的问题。算法应该决定哪些照片最能代表一个已经去世的人吗？它应该压制它认为令人痛苦的图像，还是完全由用户决定？当它无法自信地确定一个场景是庆祝还是严肃时，它应该如何表现？在这个领域的伦理设计取决于谦逊。系统应该在AI进行选择时保持透明，并使用户容易审查、编辑和覆盖自动选择。对潜在敏感内容的置信度阈值应该谨慎设置。信任作为人类需求关于AI伦理的公开辩论往往集中在虚假信息、偏见或大规模模型训练上。这些对话当然是必要的和重要的。但除了头条新闻之外，还有一个不太明显的AI伦理维度，每天在家庭中上演。目前只有少数团队正在构建能够在全球范围内策划个人照片库的AI系统。我们正在做出影响数百万个人历史的组织和记忆的决定。当有人打开他们的照片库时，他们正在与自己的故事互动。如果AI系统粗心处理这个故事，影响可能会非常个人化。一个不合时宜的通知或一个不敏感的自动蒙太奇可能会重新打开多年来才刚刚愈合的伤口。在这个领域工作使得这种责任感变得异常明显。因此，设计用于个人摄影的AI需要一种不同的思维方式——尤其是随着照片拍摄规模的继续增长。情感敏感性不能在部署后添加上去，隐私不能被视为背景设置。这些考虑必须从一开始就塑造系统。随着AI能力的继续扩展，诱惑会是自动化更多的数字生活。在个人照片领域，然而，进步应该以不同的方式衡量。不是效率或优化，成功在于建立能够认识到它们所触及的图像的情感重量的系统。我们的照片记录了我们是谁和我们曾经是谁。任何被委托处理它们的AI都必须认识到它正在进入技术可以进入的最人性化的空间之一。