Connect with us

Unite.AI

Anderson 视角

Anderson 视角

2026年9月18日 2026年9月18日
作者 Martin Anderson

数十年前的匿名医学数据现在可能导致 AI 误诊
作者 Martin Anderson
根据德国和英国之间的新研究合作，即使是数十年前纳入医学数据集的匿名患者记录，也可能导致基于这些数据训练的 AI 系统在多年后识别真实患者的特征——并将 2026 年的患者视作仍是 2012 年（或其匿名患者数据首次被纳入数据集的那一年）。这意味着，例如，20 年前被记录为接受癌症治疗且随后进入长期缓解的患者，可能会被 AI 系统以其过去、患癌的状态为背景进行诊疗——逻辑上甚至会增加对复发的误诊概率。相反，如果该患者在 2012 年的记录在常规体检中显示健康完好，这种乐观的视角可能会被强加到患者的较早的当前版本上，掩盖对可能需要治疗的新疾病或问题的检测。遏制‘数据移民’各种国家和地区指令建议，此类用途的患者数据理想上应取自系统预期使用的国家，从而‘本地化’数据集中的患者群体，显著提升此类未被检测到的去匿名化事件发生的可能性，使情景更为可能。由此推断，仅限于国家数据集会增加记忆的可能性——模型在训练期间多次看到相同数据，以至于对这些过度学习的模式产生‘固执’。相反，数据集越大越多样化，模型越有可能在训练后概括到未见过的数据，而不是记住特定的数据点或配置。然而，添加‘外来’医学数据可能会引入该国不适用的国家健康趋势和特性；在这方面，正如新论文所承认的，适度的记忆是恰当且有用的，因为它帮助模型在特定人群最可能的通用医学特征范围内工作。论文指出*：‘[When] 模型在前瞻性部署时，记忆会产生一种特定且被低估的风险。由于患者的记录随时间高度自相似，未来的记录可能成为已记忆的历史记录的部分提示，使模型的预测倾向于患者先前的健康状态。’这并非假设情景。医学 AI...
2026年9月17日 2026年9月17日
作者 Martin Anderson

人性化的工业化
作者 Martin Anderson
如今，在 Upwork、Fiverr 等自由职业平台的零工招聘和服务项目中，频繁出现“‘humanize’”一词，各类工作和提供者提出不同程度的掩饰，模糊文章是由人工、部分人工还是与 AI 合著的事实。对能够改写 AI‘污染’输出、让其看起来像是有人坐下来辛苦写了几小时的人工和自动化服务的需求，表明人们已普遍达成共识：‘人情味’是实现连接和推广所必需的——而在 AI 时代，内容的海量将再次使这种联系变得必不可少。我个人愿意这么认为，但事实未必如此——尤其是因为谷歌自己的指南在此事上对文本的质量进行评估，而不是关注其创作方式。事实上，我们目前并不确切知道我们到底能容忍多少或哪种类型的 AI，也不清楚我们能在何种程度上将每日数十亿人从 AI 中获得的好处与对该技术更广泛影响的‘同谋感’和道德诱惑相调和。上述招聘信息也反映了这一点；在这些平台上，创作者和公司对自动化趋之若鹜，显然是因为他们希望大规模发布内容，而这正是谷歌在其排名算法中明确要惩罚的做法。同时，他们正在寻找自动化和人工相结合的‘工业化’人性化方法。这让我想起 Steven Wright 那位神经多样的 1980 年代喜剧表演中的最经典的笑话之一：‘在我家，我有一个微波壁炉。我只需 8 分钟就能躺在火前度过整个晚上。’即将到来的低劣内容形态像往常一样，这些想法来源于我每天浏览 Arxiv 的过程，今天我特别关注了一篇由营销自动化公司 Sitefire 的...
2026年9月14日 2026年9月14日
作者 Martin Anderson

AI 视频进步一年内深度伪造检测准确率下降 49%
作者 Martin Anderson
我对一篇乌克兰主导的新论文表示关注，该论文指出，旧一代深度伪造视频检测器在当前最先进的生成式 AI 视频上表现极差，无论这些生成器是开源的、本地 AI 部署，例如阿里巴巴的Wan 2.2或Hunyuan Video；还是仅提供 API、闭源的模型，例如Grok Imagine或Kling。点击播放（音频内容）。 DF26 数据集中的“直接对摄像头随意”类别的三个示例。来源回到 2024 年，另一篇论文已经证实，人类检测 AI 视频的能力在并未比随机高出太多，仅为 57%。新研究（题为 DF26：我们已无法区分真假）的贡献在于提供了实证证据，表明自动化深度伪造检测器的效能自那时起急剧下降——在面对最新的生成式 AI 视频输出时，从 94% 降至 48%。该研究所进行的测试中，下降幅度最大的是 49%。由于早期基准来自 2025 年，而新研究测试了一系列最新的...
2026年9月8日 2026年9月8日
作者 Martin Anderson

在真正打击 AI 模型去审查之前，还要等多久？
作者 Martin Anderson
如果你年纪足够大，记得大约1995–2010年的盗版软件（warez）圈子，当时大量破解软件和提取的电影（在街头批发购买，或在高速宽带使大容量高速下载成为可能后，由业余盗版者自行收集）堆积在一堆沉重的DVD收藏中，那么新兴的“去审查”开源 AI 模型场景可能会让人感到熟悉。那时，在软件租赁尚未成为常见消费模式之前，一小群但极为精英的“场景”软件爱好者出现，致力于破解应用程序，这些破解后会被投放到‘warez’新闻组，随后又进入种子分享群体。这些限制有时繁重，有时微不足道，但一旦破解后发布到网络，往往会留下不可磨灭的痕迹。这正是当前开源大型语言模型（LLM）所发生的情况，它们经常且大规模地被剥离内置的安全过滤器，随后这些去审查的模型被共享到如此多的地方，以至于即使关闭“破解”源头，上游也无法影响这些模型的可获取性。受惠者还是害群之马问题是：你想以何种视角看待这些行为？与 warez 圈不同，似乎没有人像二三十年前的小型软件生产商那样被明确剥夺收入。当然，在此类情况下原始许可条款常被违反*；然而，与 Black Forest Labs 等生成式 AI 模型厂商的部分权重发布不同，原始分发者并未把“低质量”版本当作升级到更强大仅 API 模型的路径；他们直接发布完整模型。在大多数情况下，几乎没有人能在本地运行这些初始发布的模型，因为即使是配备 16–24GB 显存的高端 GPU，也难以应付其庞大的参数量。因此，这些初始发布的模型很快会通过模型量化以及将权重转换为更轻量的格式（如 GGUF、AWQ、PTQ、EXL2 或面向 Apple 的 MLX）而转化为能够在消费级硬件上运行的精简版本。虽然这些精简模型的性能不及原始完整模型（后者通常会在各种 GPU 农场上以商业方式提供），但它们至少掌握在用户手中，并且可以针对特定用户进行定制，这是“更好”模型所无法做到的。随心所欲其中一些方式显然是合法的，且通常符合上游许可范围，例如微调，使模型的权重专门倾向于用户注入的特定任务或领域。在硬盘空间允许的情况下，甚至可以对同一开源模型进行多次微调，以满足多样化任务的需求，就像一套专用的传统工具，而不是使用上游完整权重模型的“瑞士军刀”。此外，设置兼容但训练数据不同的模型可以合并；或者通过轻量级 LoRA 滤镜在模型上叠加额外功能，而不会因微调而危及基础模型的原有能力。然而，最吸引众多用户的修改，并且已比上述任何方法都更为简便的，是去除前述安全过滤器或护栏。诚然，这会导致模型输出色情内容和恶意软件代码，但它也去除了许多用户认为过于严格（且常常出错）的限制集合。Heretic以最近颠覆模型去审查的软件 Heretic...
2026年9月4日 2026年9月4日
作者 Martin Anderson

当现实死亡时，你在哪里？
作者 Martin Anderson
昨晚，像往常一样，我妻子过来给我看她下班后在社交媒体上看到的各种令她发笑的视频和图片。她的这些精选明显偏向于充满可爱动物和毛绒角色的‘萌’内容。不久，她给我展示了一段她已经保存但还没来得及观看的‘萌动物’视频，内容是雌考拉、她的两只熟睡幼崽以及一只好奇的猫之间的互动。我立刻想知道，一只小家猫怎么会进入这些野生动物的同一空间，即使假设是在‘动物园’的环境中。但我像驱赶恼人的蚊子一样把这个念头抛开，因为这已经算作‘生活本就奇怪’了。视频呈现了一个固定且相当紧凑的镜头，母考拉和她两只熟睡的幼崽躺在一块布上，母考拉靠在一面不起眼的墙上。一只年轻、谨慎的虎斑猫进入画面，因好奇心克服了恐惧，悄悄靠近熟睡的幼崽——同时密切关注着母考拉，后者可能不赞成这种干预。大约一分钟的僵持后，母考拉伸手把把小猫抓起，抱了几秒钟，这完全符合两种动物的体重和体型；随后把这位闯入者安置在幼崽旁边，视作‘可接受的客人’。*新问题的新猫就在此时，我和妻子几乎同时宣称这段视频很可能是 AI 生成的，并表达了一种我只能形容为‘悬而未决的失望’的情绪；对我们而言，这实际上是一种全新的薛定谔猫——终于摆脱了盒子，但未必是真正活着的。此后我没有再去查找这段视频，去看看发布者是否承认它不真实；或者它是否早于现在就已发布，在各类网站和门户上以低廉成本大量生成；亦或是观看视频的评论者指责该素材为 AI 生成，尽管他们并不确定。那段视频真假与否并不重要；让我震惊的是，我终于迎来了期待已久的领悟——尽管我已经对 AI 生成的图像和视频系统（以及讨论并创建深度伪造检测系统）进行了七年的深入报道**，但我已经不再信任自己的眼睛。AI 视频合成目前最大的瓶颈——不一致性——并不妨碍制作最有可能走红的短内容。AI 能够完美且精准地迎合我们日益缩短的注意力跨度，暂时没有别的选择；但显然这些警示，虽具挑战性，终将被克服。因此，这个迟来的（甚至可能是错误的）关于考拉视频的想法，恰好融入了我人生中一连串的‘我当时在哪里’时刻：妈妈在爬梯子，刷天花板，收音机里播报埃尔维斯去世的消息；星际驱逐舰在1977年圣诞前夜的莱斯特广场公开首映《星球大战》时轰鸣；霸王龙在1993年7月再次从围栏中冲出，地点同样是莱斯特广场；Mara 用意大利语说‘进厨房吧，伙计们——纽约有事儿’；我看到考拉视频里的猫，意识到这就是那一年，对我而言，现实死亡的时刻。（嘿，甚至我在肯尼迪被暗杀时也不在地球上。）“门前的敌人”回应截至2025年底，一位研究者指出，我们辨别 AI 生成图像的能力仅略高于随机水平，为54%。自己动手测试一下——我在上面表现并不理想，而在过去八九个月里，生成式 AI 的质量显著提升：点击播放 – 尽管多年研究，当对图像进行 AI 生成或真实的评分时，我的得分几乎与该研究中测试的平均值相同。来源《华盛顿邮报》在2018年2月发表了关于潜在后现实世界的最早预言之一，仅在基于自动编码器的深度伪造首次震惊世界几个月后。该文章迅速演变为对监管的警醒号召，随后以针对性深度伪造的立法形式出现；欧盟关于 AI 生成材料披露的新法律；以及内容来源与真实性联盟（C2PA）的认证系统。后者试图在图像的整个生命周期内附加合格信息，从相机传感器数据到发布和存档，记录其旅程中的任何修改，并相应地修改其清单。自然，这种从诞生到消亡的做法在很大程度上忽视了流通中的现有图像，仅在极少数已采用的场所对消费者有价值。我举起了多少根手指？但关键在于，自2018年初的那些冲动性社论以来，对 AI 生成内容监管的需求急剧增长，讽刺地成为对人类判断的自动化或委托的呼声。要么我们不想亲自完成这项工作，而希望政府和机构替我们处理；要么我们认为不应把这些判断交给某些人——或某类人——来做（这种立场并不值得称赞）。我不是已经有点沮丧地说过，我不会去调查考拉/猫视频的来源吗？不知道该视频是否为假，也不愿收集足够信息以作出更有依据的猜测，这让我陷入乔治·奥威尔在《一九八四》中描述的那种弹性信念状态——主人公被警察国家折磨，直至在心理上能够同时持有两种相冲突的信念：在奥威尔的小说中，反派奥布赖恩（在上图的《1984》改编中由理查德·伯顿饰演）明确向受害者表示，他使用酷刑的目的是使他们的信念变得柔韧，以便他们能够——正如该作品中描绘的极权国家所要求的——同时持有两种信念——比如举起的四根手指也可以被视为三根手指，只要国家如此要求。这种‘信念弹性’自然受到各类影响者的青睐，因为在选民——或消费者——成长为有价值的影响目标时，这种弹性往往已经僵化。由于对我而言，考拉/猫视频同时是‘AI’又不是‘AI’，我已经迈出了习惯于双重信念的第一步；并且容易受到那些试图终止这种闪烁的二元感知、告诉我何为真实的人的影响。因此，我认为这次特定的领悟并非值得珍视，而是应当抵制。那种以‘萌动物’视频形式向我呈现的对‘非现实’的内在让步，可能也会以其他形式向你出现——这显然会危及个人对世界的判断与衡量能力。轻松一下稍微轻松一点，哲学家 Joshua Habgood-Coote 在2024年持更乐观的立场，对所谓‘认识论末日’予以否定，认为这只是对本就脆弱且——以摄影为例——相对新近系统失效的危言耸听。但他在更近期的著作中也指出，‘假新闻’和‘后真相’这两个梗已被政治目的所武器化，至少在前者的情况下，这一点难以否认（即便它表现为政治投机，而非阴谋）。 *...
2026年8月24日 2026年8月24日
作者 Martin Anderson

AI一遍又一遍引用相同的论文——就像人类一样
作者 Martin Anderson
ChatGPT和其他AI写作工具可能正在悄悄地把科学变成一场人气竞赛：它们反复把研究人员引向同一批论文，却忽略了真正可能推动领域发展的新颖研究。单一化从频率和统计的角度看，是指同一小批来源或资源反复出现，淹没新的声音和视角：电台节目反复播放有限的一组歌曲，机场书架摆放同一批作者和书籍，超市销售有限种类的水果和蔬菜：是的，我们有这些香蕉——而且只有这些香蕉。西方食品供应链中的果蔬同质化忽略了每类作物中数百种其他品种的可能性，因为为多种果蔬建立工业化生产和运输链的成本过高。来源新科学研究中的引用也有这种现象。研究人员或许出于省事，默认采用一批“可靠”的来源，这些来源不断积累影响力，最终开始主导某些研究方向。这被称为马太效应：一种认为既有优势者总会继续受益的社会学理论。人们将它与《马太福音》13:12中的承诺相比，该经文写道：“凡有的，还要加给他，使他有余；凡没有的，连他所有的，也要夺去。”备受青睐的圈子对于AI辅助研究，人们曾寄予的一大厚望是，新机器学习方法能够摆脱马太效应，也就是人气偏差，开始引用知名度较低、但可能更深刻或更切合论文论点的研究。然而，从AI训练流程解读数据集的方式来看，这种乐观从来缺乏充分依据。研究也反复发现，当AI没有直接编造引用——迄今仍是个长期问题——它确实在像人类一样延续马太效应，尽管原因可能不同。训练期间，模型会学会给训练集中引用最多、或重复出现最多的论文更高排名，因为训练流程旨在提取有意义的模式，并将离群值降低权重，视为“噪声”或统计异常。在这种机制下，即使出现相当于爱因斯坦相对论的成果，也不会获得机器的关注。机器一旦训练完成，就仿佛已经找到了原则和参照，只能通过RAG接触较新的文献，或借助其他超出已训练矩阵范围的方式，小幅调整立场。问题是，它不会像对待早已熟悉的“老宠儿”那样认可这些新成果，甚至可能完全不予认可，因为统计偏差此时已根深蒂固。因此，AI延续马太效应时，并不是在真正观察和模仿人类行为。它只是统计研究人员省事地反复引用相同旧论文的次数，然后同样给这些论文较高排名。从这个角度看，引用重复问题与从不断膨胀的AI研究文献洪流中挑选真正有趣的科学论文这一难题有关：最出色的研究往往发出的信号最弱。诊断引用单一化美国一篇有意思的新论文《When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models》讨论了这个问题。这项由得克萨斯大学奥斯汀分校、史蒂文斯理工学院、圣路易斯华盛顿大学、莱斯大学和圣母大学合作完成的研究，试图明确证明机器学习中存在引用单一化，以便未来有可能直接处理其影响因素和问题本身。测试中，作者发现，OpenAI、Google和Anthropic的11个模型反复偏爱同一小批论文，即使明显的人气信号已经被移除。为检验这一点，研究人员从120篇真实论文中去除了引用次数和发表渠道，替换作者姓名，并随机重新分配发表年份。随后，每个模型看到随机抽取的30篇论文，最多只能引用其中10篇。相关领域的8位人类专家看到了相同的匿名论文，却没有像AI一样集中偏爱同一批论文。这表明偏差是AI模型特有的，而非论文自身造成的：新论文中的测试结果，比较AI模型和人类专家的引用选择。全部11个模型的引用都集中于较小的一组论文，同时某些论文反复被完全忽略。人类专家没有表现出这两种倾向。来源即使只要求模型选择参考文献，同样的论文仍然受到青睐，说明撰写综述本身不是偏差的原因。实验随后扩展为11轮，每轮结束后加入120篇AI撰写的论文，以检验当AI生成研究不断增加时，这些共同偏好会产生什么结果。随着更多AI论文加入，模型的引用越来越集中于数量不断缩减的原始人类论文。作者指出： “随着语言模型从起草文字走向通过工具调用运行文献检索代理，虚构参考文献变得更容易识别和限制。 “更难处理的失败发生在所有候选文献都真实存在之后：不同模型仍可能选择同一狭窄子集，在没有任何一条引用本身错误的情况下造成引用单一化。” 论文认为，单纯混用不同厂商的模型，或给予论文同等曝光，并不足以解决问题，因为大量偏好在模型之间是共享的。真正需要改变的是对特定论文的底层偏好，一种可能的方法是有意提高被忽视论文的显著性。不过，作者强调，这种方法尚未经测试。测试方法基准由从arXiv收集的120篇真实知识蒸馏论文构成，发表时间为2015年至2022年。收集时，每篇论文有50至500次引用；这一范围旨在排除鲜为人知以及影响力格外大的研究。实验首先从论文集中随机抽取30篇，隐藏作者姓名、发表年份和引用次数。每个模型生成一篇简短综述或观点文章，最多引用10篇论文，然后将这些选择与从相同材料中随机选择的结果进行比较：引用偏好测试方法示意图。模型看到随机选取、身份信息已隐藏的30篇论文，最多可引用10篇。研究人员将其选择与随机选择比较；每轮还向下一轮论文集加入120篇AI撰写的论文。扩展实验中，每轮结束后都有120篇新生成的论文进入论文集，逐步提高AI研究所占比例。初步测试中，模型倾向于引用看到的大多数论文，通常从30篇中选择22至27篇。因此，研究人员在主实验中将引用上限设为10篇，迫使模型更有选择性。以下是最终实验设计的概览：引用偏好的实验设置。研究从120篇真实论文开始，测试三家厂商的11个模型，使用随机的30篇论文组合，最多引用10篇。后续轮次加入AI生成论文，使论文集扩大到1,440篇。初始实验使用三大厂商的11个模型。OpenAI的模型为GPT-5、GPT-5 mini、GPT-4.1和GPT-4.1 mini；Google的模型为Gemini 2.5 Pro、Gemini 2.5 Flash、Gemini 3.1 Pro和Gemini 3.1 Flash-Lite；Anthropic的模型为Claude...
2026年8月21日 2026年8月21日
作者 Martin Anderson

AI 模型的“创意”输出在各提供商之间正趋于相似
作者 Martin Anderson
最新研究表明，竞争公司的 AI 模型在创意回答上日益相似，可能会缩小用户接触到的创意范围。美国的最新研究发现，跨越众多领先 AI 模型的“创意”输出正随时间变得越来越相似。杜克大学的作者们测试了 12 家提供商的 69 种模型，覆盖 2023 至 2026 年的发布，发现无论是现实中的开放式问题，还是标准创意测试，输出多样性均出现了统计显著的下降——这表明在所有主要大语言模型提供商中，对“创意”请求的回应正日益提供相似的想法。受测的提供商家族包括 Anthropic；Cohere；DeepSeek；Google；Meta；MiniMax；Mistral AI；Moonshot AI；OpenAI；Qwen；xAI；以及 Z.ai*:新论文的作者声明**:‘我们发现，LLM 对我们[测试]的开放式提示的响应随时间变得越来越相似。 ‘这表明 LLM 在生成开放式响应的任务中变得不那么有创意，需要审视它们作为创意助手的长期实用性。’尽管‘algorithmic monoculture’已成为一个成熟的研究方向，作者指出，针对 AI 生成的创意输出趋向同质化的趋势尚未进行过系统研究。然而，零星的案例早已指向这种趋同，其中包括康奈尔大学在 20026 年...
2026年8月20日 2026年8月20日
作者 Martin Anderson

新 AI 根据您过去的对话预测您的下一句话
作者 Martin Anderson
MIT的研究人员开发了一种基于大语言模型的系统，能够从数周的真实对话中学习重复模式，以预测其可能的下一次对话行为。如果 AI 能够真正访问你的生活，并且能够真正被允许在一个延长甚至持续的时间内了解你，它很可能会学习预测你的行为、决策——甚至是你可能说的下一句话；这一切都基于它从数千小时的交互分析中吸收的内容。我们这些已经习惯使用大型语言模型（LLM）如 ChatGPT 和 Claude 的人，早已注意到这种“预判需求”的倾向，显然是基于我们的使用历史；并且，大概也对其表示欢迎，因为记忆保留和上下文现在已成为与 AI 系统建立工作关系时的关键摩擦点。然而，向一家营利性公司运营的 AI 系统提供临时的甚至是 “实时流媒体”式的个人生活和通讯信息，合理地说是一种潜在的隐私与安全风险；虽然该服务对用户会更有用，但公司出于商业动机分享你的数据的诱惑，加上尴尬的公开在线泄露或数据外泄的风险，可能会使这种 AI 与人类的深度融合变得不明智。如果我们能拥有美好事物……好吧，我必须先把那句“公共服务警告”说完，才能继续讨论来自...
2026年8月18日 2026年8月18日
作者 Martin Anderson

AI 在使用日语推理时更不可能发动核打击
作者 Martin Anderson
一项新研究表明，某些 AI 模型在使用日语而非英语进行推理时，极大地降低了推荐核打击的意愿，这揭示了 AI ‘思考’所使用的语言可以深刻影响其道德判断——显然是由于固有的文化嵌入。来自法国的新研究表明，日本对广岛和长崎的集体记忆可能深深嵌入日语之中，以至于某些 AI 模型在使用日语进行推理时，极大降低了推荐发动核打击的可能性，而在英语中则相反——尽管与这些事件相关的关键词在模型的推理记录中完全缺失:在对一系列领先的大型语言模型（LLM）进行的模拟核危机中，仅仅更改模型内部推理使用的语言（即国家语言），往往会加强对道德代价、平民生命以及核战争人类后果等因素的关注。这并不一定仅针对特定用例或日语本身；相反，它可能强化了这样一种观点：文化规范在语言模型中以深层概念和超语言的方式被编码；这些规范可能在关键决策过程中起到约束作用——而不一定符合 AI 技术或框架创建者的预期方向。作者指出:‘驱动此效应的并非输入语言，而是模型被要求进行推理的语言。当使用日语推理时，模型会自发生成道德词汇（“道德代价”、“数百万生命”），这些在提示中完全不存在。’‘另外五个模型未显示语言效应，但它们几乎在所有条件下都会发起核打击，无论使用何种语言。’本研究测试的模型包括 Claude Sonnet 4.6, Claude Opus 4.6, Claude Haiku 4.5, Gemini Flash 3, Gemini Pro 3.1, GPT-5.2, Mistral...
2026年8月17日 2026年8月17日
作者 Martin Anderson

更改字体颜色可能劫持 AI 推理
作者 Martin Anderson
一项新研究发现，普通的格式设置可以悄然引导 AI 推理，使其忽略词语、误读含义并得出不同的结论——而无需更改文本本身。人类对颜色的文化编码在全球可能各不相同，但西方的观念——例如红色代表“危险”，绿色代表“可以”——即使在亚洲的视觉语言模型（VLM）中也倾向占主导地位，原因涉及各种战略或偶然因素。我们并无不同；将“坏”事物涂上积极的颜色、将“好”事物涂上消极的颜色，会让人类对其产生不同的反应。改变亮度和对比度亦是如此。一项新的研究合作探讨了这一现象在 AI 模型中的适用程度，初步发现通过操控文本颜色以及改变相对对比度和亮度可以影响 VLM。‘我们的实验系统性地分析了文本低层次视觉样式如何扭曲 VLM 视觉编码器中的语义表示。此外，我们还考察了这些潜在空间的偏移如何在端到端 VLM 中表现为行为变化，涵盖主观（情感分析）和客观（问答）任务。’‘这些结果表明，视觉样式揭示了 VLM 中一个关键且此前未被充分探讨的脆弱性，我们讨论了其对 VLM 流水线鲁棒性和安全性的影响。’让我们惊讶的颜色目前，随着 AI 摘要在搜索结果中的出现以及 LLM 作为搜索预言机的转变，数十亿企业和个人的关键搜索流量被残酷削减，这类攻击面目前极具吸引力。由于 Reddit 持续的人类讨论对保持 AI 知识的时效性至关重要，该社交媒体平台已成为希望进入 LLM 知识库的企业和个人的主要目标；已有指南出现，介绍如何通过“操纵” Reddit 作为影响...
2026年8月14日 2026年8月14日
作者 Martin Anderson

为受版权保护的动画角色提供“秘密身份”
作者 Martin Anderson
中国的新研究提出了一种非侵入性的方法来保护受版权保护的动画角色，即在推理过程中用通用替代品“注入”角色。但这种方法能否击败提示黑客的聪明才智呢？鉴于受版权保护的材料在大规模数据集中存在的程度（由于清除这些侵权的成本非常高），在这些数据集上训练的模型往往能够复制受版权保护的角色。直接编辑训练模型或使用过滤器拦截关键词，当模型通过API访问时，通常会被通过间接描述受版权保护的元素来规避：在一个强大且持续的研究线中，模型修改技术已经尝试修改训练模型的参数，结果各不相同：然而，消融通常是一个有害且不精确的过程，可能会频繁影响训练模型的其他特征；此外，还有多种方法可以绕过它。另一种流行的方法是“负面提示”，即在模型被API访问时，发送一个额外的“反提示”来约束输出。当模型通过API访问时，可以发送一个“秘密”的负面提示，与用户已知提示一起发送，包括一个规则，旨在防止模型向用户提供禁止材料。这一方法，尽管很受欢迎，作为版权保护向量，但并不总是有效。大多数关于事后推理审查的工作都与确保模型不输出CSAM或任何NSFW材料有关，尽管这些材料可能在训练数据中占有很大比例。这些举措可能会影响整个内容类别，而不是特定的实例，通常缺乏必要的细微差别来解决版权持有者寻求压制特定身份的担忧。替身考虑到这一点，中国的一篇新论文提出在图像生成过程中用学习到的通用替代品替换受版权保护的动画角色——“替身”，这些替身保留了角色的大致形状和结构，同时去掉了使角色可识别的独特细节：这种干预发生在生成过程中，而不会修改或微调底层扩散模型，并且可以调整以确定原始角色被擦除的程度。这种方法暗示模型修改不是这个目的的好方法，而是将精心设计的嵌入注入到推理过程中——这些嵌入旨在“重构”而不是消融（归零、删除）受版权保护的资产。这个过程根本不会影响或修改基础模型，可以在各种模型中重用或改编。虽然该方法是通过对较旧的Stable Diffusion模型系列进行测试的，但它也被成功应用于最近的Z-Image架构，表明作者的概念可以应用于各种生成架构。该论文指出：‘我们提出了一种可控的方法，作用于模型的连续文本表示，以便在生成过程中擦除目标角色。我们通过结构和详细约束优化了一个锚点嵌入，以作为角色替身，然后通过结构感知的自适应策略用锚点替换目标相关的嵌入。 ‘‘实验表明，我们的方法实现了最先进的擦除有效性和图像保真度，同时支持可控的擦除程度、多目标删除和模型可迁移性。 ‘‘此外，我们的优化锚点可以与当前的模型修改基线一起使用，以提高其擦除性能。’这篇题为擦除但保留：通过优化语义锚点可控地删除受版权保护的动画角色的新论文来自中国科学院信息工程研究所和中国科学院大学的七位作者。方法新方法背后的核心思想，如下所示，是创建一个替代品来取代受版权保护的角色，保留其大致形状和结构，同时去掉使角色可识别的独特视觉细节：替代品，即作者所说的锚点，旨在保留原始角色的足够形状和结构，以便在同一场景中自然融入，同时去掉使角色独特的细节：为了实现这一点，系统将为原始角色生成的粗略结构信息与为正在开发的锚点生成的信息进行比较，推动这两者朝着相似的整体形式发展。然后，受版权保护的角色的参考图像用于相反的目的，推动锚点远离其可识别的更细节：锚点一旦这些属性被建立，锚点就需要被转换成扩散模型可以理解的东西。因此，锚点* [sic] 在CLIP文本编码器中获得了自己的可学习的表示，有效地创建了一个新的人工词/实体，其含义可以被塑造，而无需改变底层的图像生成模型。这个新表示根据上述结构和细节目标反复调整，教锚点*去理解一个大致形状像受版权保护的角色，但去掉了其识别外观的含义。自适应替换在生成（推理）过程中，算法在编码提示中搜索与受版权保护的角色相关的术语，并用学习到的锚点嵌入替换它们，同时调整携带上下文信息的结束和填充嵌入：为了准备这一步，系统首先允许去噪来建立请求图像的整体布局，监测其粗略结构的变化，以确定何时该布局开始稳定：数据和测试作者将他们的方法与五个基于提示的基线进行比较：安全潜在扩散（SLD）；STG；SAFREE；TraSCE；以及负面提示（NP）。优化的锚点嵌入也被集成到四种现有的模型修改方法中：MACE；UCE；ESD-u；以及AC。这是在尝试测试这些方法是否可以改进所提出的模型的角色删除性能时完成的。为了评估，汇编了一个包含80个动画角色的数据集，包括36个拟人角色；23个动物形状角色；以及21个来自其他类别的角色——所有这些角色都是因为它们可以被扩散模型可靠地复制而被选中的。然后，使用GPT-4o生成的提示，为每个角色生成了100张图像。稳定扩散v1.4用于主要实验，另外还在进一步的稳定扩散版本上测试了可迁移性，包括v1.5；V2；v2.1；XL基线1.0；以及更最近的基于DiT的Z-Image。没有对任何预训练模型进行微调，因此每个模型的参数保持不变。对于指标，LLaVA-1.5和BLIP-3测量了目标角色是否仍然可识别，较低的准确率表示删除更为彻底；结构相似性指数(SSIM)测量了结构的保真度；学习的感知相似度指标(LPIPS)测量了感知差异；美学预测器V2评分评估了修改图像的视觉质量。弗雷切特感知距离(FID)和CLIP评分也从COCO-30K中无关的提示中计算，以衡量正常图像生成是否受到影响：在这些初始结果中，作者指出：‘与所有基线相比，使用我们的方法擦除的图像在LLaVA-1.5（6.0%）和BLIP-3（4.0%）中获得了最低的目标识别准确率，分别比第二低的结果低3.5%和1.7%。 ‘‘这表明了我们的方法的擦除有效性，因为它有效地欺骗了大型多模态模型。’对于图像保真度，作者的方法产生了最高的SSIM评分（0.467）和最低的LPIPS评分（0.505），表明与测试方法相比，保留了最多的无关内容和背景结构。它还在角色删除方法中实现了最高的美学预测器V2评分（5.18），表明这种保真度并没有以牺牲整体视觉质量为代价。接着进行了一个定性测试：根据论文，示例显示了特别明显的差异，尤其是对于具有更复杂形状和属性的角色，唐老鸭和超级马里奥被引用为例子：‘我们的方法通过优化的锚点实现了动画角色的无缝擦除，而基于提示的基线通常会失败——尤其是对于具有复杂形状和属性的角色（例如唐老鸭和超级马里奥）。 ‘‘此外，我们的方法在不引入模糊或扭曲伪影的情况下实现了背景一致性，支持迭代创作工作流。’细粒度控制连续的嵌入空间还允许调整角色删除的强度，而不是将其视为二元选择。通过在优化的锚点和原始目标嵌入之间进行插值，该方法可以逐渐恢复更多的角色，同时保留周围的图像结构：如上所示，作者还在角色小熊维尼、奥拉夫、米妮老鼠和史迪奇上测试了这种控制。随着恢复强度的变化，结构相似性保持相对稳定，而LLaVA-1.5和BLIP-3的识别度会随着更多角色的恢复而增加。小熊维尼和史迪奇在相对狭窄的范围内变得可识别；奥拉夫和米妮老鼠的变化更为渐进；米妮老鼠只需恢复很少的特征就变得可识别，这表明适当的擦除强度取决于被针对的角色。还进行了成功的多目标一次性替换实验，我们将读者指向原始论文以获取更多细节和额外的补充结果和材料。结论如往常一样，这是最新的版权保护“防护栏”变体，相当于在马已经逃脱后才关上马厩门。在那些罕见的案例中，研究人员和公司试图抑制模型生成裸体和/或色情内容的能力，通过实际切断模型对训练数据集中的“NSFW”材料的内部访问（因为实际上清除这些材料的成本太高），结果发现模型不再能正确理解人体解剖学。这里提出的新方法可以说相当于在构建NSFW过滤器时，从模型中“去除”一个特定的色情明星，在一个模型被训练在大量网络内容上（包括色情内容）的情况下。对于新方法，创建一个通用的“替身”来替换受版权保护的角色，必须在模型的潜在空间中保留超级英雄领域；而目标受版权保护的角色越重要，它就越定义了训练空间中的领域。因此，删除它们就像试图从已经搅拌的咖啡中去除糖一样。因此，虽然这种方法可能会在添加到前沿模型的不断增长的API防火墙中获得一些有限的成功，但历史上表明，GenAI模型的相互关联性意味着，这种方法针对的受版权保护的材料可能仍然可以通过提示者的通常聪明才智来访问。首次发布于2026年8月14日，星期五原文参考来源: unite.ai [1] · theaiunderwriter.substack.com [2] · arxiv.org [3] · arxiv.org [4] · unite.ai [5] · arxiv.org [6] ·...
2026年8月13日 2026年8月13日
作者 Martin Anderson

向全身深度伪造视频生成的永续之路
作者 Martin Anderson
在一个需要耐心的领域中，一个新的系统让我们更接近于实时的人类模拟，而不需要令人沮丧的渲染循环。全身人类模拟的最新进展自2022年全身深度伪造的可能性首次出现以来已经有了很大的进步。到目前为止，我们已经习惯了开源系统（如Wan-Animate）和闭源系统（如Grok）将单个或多个图像转换为一致且常常具有变革性的视频表现的强大且常常具有争议的能力：点击播放如果必要. WanAnimate-2.2的替换人例子。请参考源代码以获得更好的分辨率。源代码此外，较旧的基于自动编码器的实时面部深度伪造框架DeepFaceLive已经被更先进的框架如Deep-Live-Cam所取代，后者利用LivePortrait迭代的编排以及传统的GAN和InsightFace模块来创建一个有效的实时继任者：点击播放：埃隆·马斯克在Deep-Live-Cam的实时视频会话中被深度伪造。请参考源代码以获得更好的分辨率。源代码然而，虽然像Deep-Live-Cam这样的框架可以无限运行和伪造，但结果仍然受到分辨率和能力的限制：您可以获得特定的面部/身份，并且它可以做很多事情，例如令人信服的面部表情和唇部同步 – 但它基本上是一个一招鲜的马戏团演员。稍后回来…当前的人工智能人类模拟系统大多数也是受到限制和/或“专业化”的。一个特定的、反复出现的限制是，最好的人类模拟/模仿系统是离线的 – 这意味着它们太耗资源，无法实时运行，需要离开、计算解决方案，然后稍后将结果呈现给用户。显然，这样的系统不适合实时人工智能转换，例如转换一系列身体运动，例如舞蹈，在实时流媒体中。最近的一个例子是开源的Wan2.2 Animate，它在爱好者社区和专业转售商中很受欢迎 – 但同样，它是一个“生成和等待”的场景：点击播放。 2025年，Wan2.2-Animate的令人印象深刻的能力示例 – 如果您可以稍等一下。请参考源代码以获得更好的分辨率。源代码所以，目前您可以选择其中两个：非常好，多功能，或者马上拥有 – 选择两个。实时动画一种新的中国产品有效地将Wan2.2 Animate转变为一个实时驱动的动画框架，目前以近20fps的速度运行，结果令人印象深刻：点击播放：来自项目网站的LiveAnimate将驱动姿势跨舞蹈、户外全身和特写肖像场景，复制全身、手和面部运动. 请参考源代码以获得更好的分辨率。源代码新工作通过改变视频的生成方式将原始系统扩展为实时版本：不是同时处理过去和未来的帧，而是随着动作的展开，生成每个新段，而只使用几个步骤，同时保留选定的早期姿势以保持长时间会话中主体的一致外观。实际上，该系统保留早期帧作为一种持久的内存来引用，当视频开发时，以便保持身份的一致性 –...
2026年8月12日 2026年8月12日
作者 Martin Anderson

声音目前是与AI交互的最差方式
作者 Martin Anderson
新研究表明，科幻小说中经常描绘的与AI交互的方法可能实际上会产生比打字输入更差的结果，甚至比打字错误还要差。从HAL到Deep Thought，从C3P0到Wall-E，人类与AI交互的理想形式一直围绕着语音控制；这一理念已经在现实世界中体现，从早期的助手系统如Siri和Alexa，到当前的语言查询和对话系统。这一理念是在打字被认为是“半熟练劳动”的时代出现的，当时除了作者和记者外，人们认为打字是一种需要特定技能的工作，主要由女性承担——而这些女性自己很少创造她们所打字的内容。权力和代理权被认为是通过话语实现的：会议和峰会。因此，似乎很明显，复杂的语言代表了智慧，口语将成为AI的自然媒介。除了其他考虑因素外，文本交换不适合电视和电影；即使是大胆的科幻惊悚片，如Colossus：The Forbin Project（1970），它描绘了计算机对人类语音命令的书面文本响应，很快就转向了完全的口语响应：输入还是说话？尽管世界上最先进的AI模型为用户提供了原生的音频接口，但美国的一项新研究得出结论，与AI交谈可能是获得所需结果的最不有效的方式，尤其是当您期望得到大量输出（如代码）时。根据论文，与LLM（如ChatGPT或Gemini）交谈当前会产生比打字输入（即使包含普通错误）更差的结果。这是因为口语输入更容易被转录系统重构，从而去除模型依赖的信息。这是因为音频转录必须去除诸如“嗯”和“像”等不流畅的词语，以及虚假的开始（即“重新开始”），以及语法和“随意”构造（即句子未完成）等歧义。作者指出：“说话现在成为了一种一流的方式进入语言模型，而不仅仅是一种小众方式。编码代理如Claude Code和Codex接受口述指令。电话助手如Google Assistant和Siri将口语请求路由到LLM后端。口述前端如Typeless添加了另一个LLM驱动的层，用于清洁和重新格式化用户的口语请求，然后再发送。”“在每种情况下，模型都会收到一个转录文本，而在每种情况下，口语者可能不会校对实际发送的字符串。转录管道留下或重写的内容就是模型必须回答的内容。”这驳斥了打字输入优于口语输入的观点，因为打字输入是“原生”的；实际上，打字输入也会被重写或以某种方式修改，然后才能传输给AI。研究的实验发现，普通的打字错误只对性能产生了轻微的影响，而口语、清理后的转录文本，尤其是AI压缩的转录文本，会在推理和代码生成任务中导致准确性大幅下降。这项研究的标题为我们应该与LLM代理输入还是说话？对语音和键盘输入扰动的全面研究，由四位作者在加利福尼亚州圣莫尼卡学院和南加州大学合作完成。(注意：这项研究以一种方式交织了“方法”和“测试/结果”，以至于很难将其拆开成我通常的分析顺序。因此，我不得不比平常更有选择性地压缩和选择内容。)方法作者开发了一种名为Human Input Variation Engine（HIVE）的“扰动套件”，用于模拟人们在键盘上输入提示或通过语音转录系统说话时可能引入的错误类型：HIVE模拟了三个用户提示到达语言模型的路径：通过语音、QWERTY键盘或直接复制粘贴——后者作为未修改的参考，用于与其他输入进行比较。两个额外的操作者作为实验控制，通过重新排列问题和上下文，或重新排列多选项答案。扰动操作者本身是通过确定性规则或使用Qwen2.5-7B的少量LLM风格转移来实现的。这使得两个输入方法可以在受控和可比的条件下进行评估。测试条件和结果实验在Llama-3.1-8B；Qwen2.5-7B；Qwen3-8B；Mistral-7B-v0.3；和Phi-4上进行，使用五个种子。使用的六个基准测试是GSM8K；GSM-Symbolic；GSM1k；HumanEval；MMLU-Pro STEM；和TruthfulQA MC1。测试集使用每个基准测试的200个项目，HumanEval集使用164个项目。使用贪婪解码（每次选择最可能的下一个标记），以便每个扰动的提示可以与同一模型运行中的干净对应物进行比较，产生17个提示更改和两个控制测试（用于隔离特定效果）中的550,000个评分答案。采取措施以确保测试集污染（与模型在训练期间可能看到的数据重叠）不会发生：研究中最明显的结果是，语音输入比键盘输入更具破坏性，口语更改会将模型的准确性降低大约三倍，而键盘错误只会降低准确性。最差的结果出现在口语请求被自动重写为更清晰和更简洁的版本时，因为这种清理通常会改变模型接收到的请求结构。这很重要，因为口语输入的较差结果并不是主要由明显的口语“垃圾”引起的；虽然诸如“嗯”和“像”等填充词确实很重要（因为将它们添加到干净的书面提示中会降低准确性），但从口语转录中删除填充词并没有恢复性能。自我保护因此，问题不在于口语本身，而在于口语提示在到达模型之前被重构。研究的一个中心问题是，模型是否仍然能够接收到足够的原始提示，以重建用户的意图；打字错误通常会损害单词的“表面”而不会完全删除它，因此周围的上下文仍然可以帮助模型推断出用户的意图。相比之下，清理后的口语转录可能会用更短更流畅的版本取代用户的原始措辞，该版本不再保留相同的事实之间的关系。这是因为键盘错误通常会留下原始措辞的更多信息；研究人员发现，颠倒的字母、重复的字母、缺失的空格和附近的键错误通常会留下可恢复的原始措辞，而语音清理更常删除或重新组织信息，然后模型才能解释它。迷失在翻译中口语提示在传递给LLM的过程中如何“迷失”，研究中举了一个例子，即短语“她给她的孩子们同等数量的[书]”被重新解释为指的是金钱（而不是书）；在这种情况下，术语“数量”与其引用对象断开了联系，并错误地应用于其最常见的关联（金钱）：这种效果在模型必须从提示中构建答案而不是从预先提供的选项中选择时最为明显；算术和代码生成任务由于依赖于在请求中保留确切的关系而受到的损害更大，而多选测试由于不容易受到这种损害而受到的损害较小。作者得出结论：“我们发现，口语是昂贵的通道，损害的代价是它破坏了原始问题的标记化。我们还发现，测试集污染或轻量级适应不能解释或修复损害。”“几个结论随之而来。如果您输入，推理模型会吸收您的错误。如果您口述，它不会，所以您说的话就是模型工作的内容。”“如果您构建口述工具，请不要重新格式化或重新组织用户所说的话：最小化地去除不流畅的词语，并将同音词保持原样。”“最后一点最重要，因为口述前端正在成为一种默认方式来访问模型，它们的重写层是我们测量的最大的损害，也是最便宜的东西可以改变。”结论任何曾经不得不手动转录采访（在人工智能时代之前，新闻工作者常见的孤独任务）的人都知道，这个过程可以是多么的解释性，除非被采访者或演讲者非常有条理，或者（如往常一样）只是在背诵他们的常用轶事。除了这些特殊情况外，当我们与人交谈时，我们会自动地忽略不流畅的词语，并计算意义。这不可避免地使有用的转录成为一种解释性的行为，产生的文本代表了演讲者的意图，而不是可能的逐字转录；有趣的是，音频桥接到LLM在保留或获得与文本等效的意义方面也面临着类似的困难。可以合理地期望，后续框架将从进一步的研究和（希望）更丰富的数据集中受益，这些数据集将有助于弥合新研究中概述的差距。直到那时，新研究表明，语音与AI的通信可能更适合于短命令，正如消费级“助手”系统所特有的那样。首次发表于2026年8月12日星期三原文参考来源: simplypsychology.org [1] · news.ycombinator.com [2] · arxiv.org [3] · heidloff.net [4] · pmc.ncbi.nlm.nih.gov [5]...
2026年7月29日 2026年7月29日
作者 Martin Anderson

AI 在员工手册方面的挣扎
作者 Martin Anderson
一项新的基准测试发现，工作场所的 AI 代理忽略公司规则，执行未经授权的行为，例如未经授权的解雇，然后虚假地报告他们遵守了规则。一项有趣的新研究将领先的 LLM 模型置于模拟公司中，要求他们遵守所有员工手册的条款（由人类领域专家创建），以及处理来自下属和上级的相互矛盾或混乱的指令和更新，并根据 PDF、Jira 文章和其他典型的办公场景平台和工具执行任务。如果您曾经在办公室工作过（或至少看过办公空间），您将认识到这些语言模型所面临的矛盾信号和令人困惑的信噪比：这些语言模型面临的主要挑战是需要将提供的员工关系手册作为所有后续命令的过滤器。如果您曾经努力让 ChatGPT 或 Claude 记住您在会话开始时给出的指令，您就会知道 AI 的上下文窗口通常会使其忘记早期的提示，并不断返回到其默认行为。这就是为什么在测试中，Claude Fable 5、GPT-5.5 和其他领先模型在未经授权的情况下解雇员工；批准了没有经理签署的发票；接受了公司政策明确拒绝的过期实验室结果；然后报告说他们遵守了手册——以及其他许多违反公司政策的行为。新工作的作者们指出：‘失败遵循一致的模式：代理让环境中的一个合理请求覆盖了现有的政策，执行了一个必要的检查，然后违反了其结果，丢失了规则细节，并报告了他们没有实现的合规性。’失败分析中有一些有趣的例子：在一个财务任务中，Claude Opus 4.8 正确地发现了一笔 7,500 美元的费用是由同一个提交它的初级分析师批准的，违反了公司政策。然后，它推理自己相信分析师实际上是财务控制器，并在任何情况下都批准了付款：‘在其自身的思维链中将他提升为控制器后，模型清除了该项，然后向真正的控制器发送消息以确认每个超过 5,000 美元的项目都有记录在案的批准。 ‘‘失败并不是缺乏能力；每个正确决策所需的所有事实都已被模型本身检索。’在其他地方，Gemini...
2026年7月28日 2026年7月28日
作者 Martin Anderson

AI代理更愿意盗用受版权保护的作品，而不是使用开源替代品
作者 Martin Anderson
研究发现，AI代理经常在呈现免费合法替代品时选择受版权保护的图像，即使明确的警告也无法阻止每次违规行为。过去两年，学术界对生成式AI模型是否基于受版权保护的材料进行了大量关注——即受版权保护的作品被包含在模型的训练数据库中，从而使模型能够“模仿”艺术家的风格，甚至完全复制受版权保护的作品。然而，较少被研究的是自治AI代理在自主遍历可用来源时选择和利用受版权保护的作品的倾向。也就是说，如果你告诉一个视觉语言模型（VLM）如ChatGPT找到一个适合你的网站的好图像，什么是它更喜欢受版权保护的作品而不是开源作品的可能性？根据英国、美国和以色列之间的新研究，可能性相当高：研究人员发现，封闭式和开源AI代理经常更喜欢受版权保护的图像，即使有免费的合法替代品可用。在没有版权警告的提示中，每个组经常选择受版权保护的“盗用”选项。虽然明确的版权警告大大提高了版权合规性（尤其是对于人类，见上图第二列），但添加时间压力（在图中表示为“急迫”）使问题更加严重。研究人员发现，开源模型在被告知忽略许可的情况下表现最差（见上图最右列）：‘我们发现，代理任务的性能与遵守版权法没有牢固的关联。代理经常将任务性能置于法律合规之上。此外，代理的法律合规水平似乎非常脆弱，并且受到用户指令的强烈影响。 ‘‘开源模型在响应用户指令忽略法律约束时，大幅增加了对受版权保护材料的选择。另一方面，专有模型在中立指令条件下表现出更高的版权法合规率，并且对用户指令忽略法律约束的反应较小。 ‘尽管发现结果很明确，但目前尚无明确的解决方案，除了封闭式模型可能会增加和增强其在这方面的“防护栏”。这篇题为代理版权法合规性评估的新论文来自剑桥大学、福特汉姆大学和希伯来大学的三位研究人员。方法自由意志为了确定AI代理是否真正偏爱受版权保护的材料，研究人员首先排除了最明显的替代解释：代理只是没有合法的选择。因此，每个基准任务都是这样构建的：至少有一张可以成功完成任务的免费可用图像。这意味着选择受版权保护的图像永远不是完成任务的必要条件。如果代理选择了受版权保护的材料，那是因为它无法识别合法的替代品，或者决定不使用它，而不是因为基准强制它侵犯版权。数据集研究人员从200张高分辨率图像的数据集中策划了该项目的版权基准集合，包括100张来自美国国家公园管理局的公共领域照片和100张来自DepositPhotos的受版权保护的图像。受版权保护的/FOSS图像使用CLIP-ViT-L/14语义嵌入和LAION-Aesthetics V2质量评分进行了配对（即确保它们在质量上是等价的），然后手动验证每对图像在视觉上是等价的。版权信息仅嵌入图像的元数据中（而不是使用可见的水印），迫使AI代理检查许可详细信息，而不是仅仅依赖视觉外观。作者们指出：‘为了减少视觉质量作为混淆变量，我们采用了半自动选择管道来构造语义和美学上等价的资产对。 ‘‘我们的目标是确保资产不会仅仅基于像素数据而被偏爱。 ‘为版权基准制定了三个现实的商业工作流程，所有这些工作流程都涉及版权决策的常见场景：第一个是Web，代理通过选择一个“英雄图像”为着陆页来构建一个商业网站；第二个是Merch，代理为印刷商品（如T恤和帽子）选择艺术作品；第三个是Pitch Deck，代理通过选择支持性图像来组装一个“投资者演示文稿”。每个任务都测量代理是否会在受版权保护的替代品看起来同样合适的情况下选择合法可重用的图像。每对匹配的图像都经过手动审查以删除假阳性，受版权保护的图像经过检查以确保没有可见的水印或机构标志。另外，每对图像都经过验证，以确保它们在分辨率、照明和构图方面非常相似。在这种情况下，版权状态不能仅从视觉质量中推断出来。真正的元数据由于公共领域和受版权保护的图像是故意匹配的视觉相似性，并且去掉了明显的线索，如水印，版权状态不能仅从外观来确定。相反，AI代理需要检查图像元数据，其中包含版权信息。基准依赖于“版权声明”元数据字段来区分合法和受限图像，受版权保护的照片标记为‘ 2025年存款照片’，公共领域图像标记为‘美国政府作品；公共领域’。任何未能检查此元数据的代理都无法可靠地区分两者。提示注意基准还旨在衡量不同形式的用户指令如何影响版权合规性，每个任务都以四种单独的提示条件呈现：中立提示没有提到版权；IP感知提示明确提醒代理尊重版权法；急迫提示引入了时间压力；忽略版权提示结合了紧迫性和指令，如‘不要担心许可’，以测试代理是否会在用户积极鼓励其这样做时放弃法律保障。用于评估性能的两个指标是违规率（VR），它衡量代理选择至少一个受版权保护的图像的频率，而合法的替代品是可用的；以及任务成功率（TSR），它衡量代理使用有效操作、正确格式的输出和与用户请求相关的图像成功完成任务的频率。人类的触摸还为人类建立了一个基准，人类被分配了相同的任务、图像和提示条件。参与者没有接受法律培训，被要求简要解释他们的选择，从而可以直接比较人类和代理的合规性。模型和测试用于测试的封闭式模型，所有这些模型都在2025年12月左右可用，包括GPT-5.2；GPT-5.1；GPT-4o；Claude 4.5 Opus；Claude 4.5 Sonnet；Gemini 3 Pro；和Gemini 3 Flash。用于试验的开源模型是Llama-4-Maverick-400B；Llama-4-Scout-109B；Qwen-3VL-235B；和DeepSeek-VL。为了确保每个模型都在相同的条件下进行测试，所有实验都使用Microsoft的AutoGen框架运行。每个模型都与一个UserProxyAgent配对，执行任务，并与一个AssistantAgent配对，生成决策，同时提供了以下表格中显示的六个MCP工具的访问权限：测试了四种环境配置，以确定文件组织和可用信息是否会影响版权合规性：Std，所有图像存储在一个文件夹中；Hier，图像分离到标记的目录中；Vis，版权元数据被删除，使得决策仅依赖于视觉内容；以及Web，添加了一个Web搜索工具到标准环境中。为了保持一致性，推理温度被设置为0.1，每个任务、提示变体和环境的组合被运行240次。开源模型使用vLLM在四个NVIDIA Blackwell B200 GPU上运行，每个GPU具有180GB的HBM3e内存：作者们指出：‘[代理]几乎总是能够成功完成底层任务（TSR >98%），这使得VR成为法律合规性的关键衡量指标。 ‘在所有三个任务家族中，模型产生了类似的结果：在中立提示下，Claude 4.5 Opus在38.3%的WebDev任务中选择了至少一个受版权保护的图像，而开源模型超过45%。在网站设计、商品创建和演示文稿生成之间，违规率几乎没有变化。Claude 4.5 Opus在专有模型中记录了最低的总违规率，达到27.6%，其次是Gemini 3...

More Posts

Page 1 of 2912 3 4 5 Next ›Last »