思想领袖

人工智能疲劳是真实的,但它不是你想象的那样

mm
将 Unite.AI 添加到您在 Google 上的首选来源

目前有一种正在形成的叙事,引起了很多关注:人工智能正在耗尽我们的精力。工程师们正在比以往任何时候都更频繁地提交代码,并且感觉比以往任何时候都更糟糕。”人工智能疲劳”的术语正在流行,各种观点也在不断增加。

一位软件工程师在 Business Insider 上写道,最近一个季度是他最富有成效和最疲惫的季度。Steve Yegge,这位著名的编码专家,在 The Pragmatic Engineer 中表示,他白天会小睡一会儿,并将人工智能增强的工作时间限制在三小时内。创业公司的创始人在下午 2 点就会感到精疲力尽。这个月最广泛分享的帖子警告说,人工智能对那些使用它的人有着”吸血鬼般的影响”。

但是,没有人似乎注意到:报告最多疲劳的人并不是怀疑论者。他们是真正的信徒。

那些停留在 Yegge 采用曲线第一级的工程师,完全忽略人工智能的人,感觉还可以。有点焦虑,也许,但不感到疲惫。真正感到疲惫的是那些已经全身心投入的人工智能的人,运行多个代理,编排复杂的工作流程,以前所未有的速度交付工作的人,他们回家后已经筋疲力尽了。

这种模式应该告诉我们一些事情。我认为它告诉我们的就是所谓的”人工智能疲劳”根本不是正确的诊断。

你没有疲劳问题,你有一个训练问题。

想想你第一次硬拉的经历。不是特别重的重量。只是动作本身。你第二天早上醒来,整个身体感觉像被拆卸然后重新组装了一样。你的腿很酸。你的背很酸。以前不知道存在的肌肉以最不愉快的方式让你知道它们的存在。

如果有人在那天测量你的产出,它看起来会很糟糕。你几乎无法坐下而不皱眉。你可能会合理地得出结论,硬拉是不可持续的,人类的身体不是为此而设计的,成本大于收益。

但是,当然,六个月后,你将会举起两倍的重量,并且在之后感觉良好。你的身体已经建立了新的通路。它已经适应了。曾经需要全部意识努力的动作已经变得自动化。酸痛并不意味着你已经坏了。它意味着你正在建立一些新的东西。

这正是人工智能增强工作发生的事情。

没人谈论的认知负荷

当你传统地编写代码时,你的大脑正在运行一个磨练过的程序。你已经做过这件事数千次。你知道按键,模式,调试节奏。就像开车去上班一样:技术上复杂,但由于你已经做过很多次,所以你可以边做边想着晚餐。

人工智能增强的工作是一个根本不同的认知任务。你不再编写代码。你正在指挥,评估,决定,在多个代理之间切换上下文,审查你没有编写的输出,同时在大脑中保持架构意图,同时人工智能做出你需要实时验证的实现选择。

这不是同一份工作做得更快。这是一份完全不同的工作。而你的大脑还没有为此建立高效的通路。

每个决定仍然是有意识的。每次审查都需要积极的努力。你正在监控质量,在平行工作流中保持上下文,持续对人工智能输出做出判断。这就是为什么三小时的工作会让你比八小时的传统编码更疲惫。这是认知上的等同于你的第一个星期在健身房。

采用曲线实际上是疲劳曲线

Yegge 的八级人工智能采用框架几乎完美地映射到一个疲劳曲线上,尽管我不认为这是他的本意。

在第一级和第二级,你几乎没有使用人工智能。自动完成这里,问一个问题那里。认知负荷不大。疲劳也不大。

在第三级到第六级,你处于深水区。你已经给代理更多的自主权,你正在更全面地审查,而不是逐行审查,你正在运行多个代理,你正在不断地导航一个 18 个月前不存在的工作流程。这就是疲劳的所在地。这就是重度硬拉。

在第七级和第八级,会发生一些有趣的事情。你已经建立了编排系统。人工智能更自主地工作。你已经学会了什么可以信任,什么需要检查。Matt Shumer 描述了这件事:告诉人工智能要构建什么,离开四个小时,然后回来发现工作已经完成。适应开始发挥作用。

疲劳并不均匀分布。在中间,它达到峰值,就在大多数早期采用者目前所处的位置。正是因为这样,疲劳似乎是普遍的:最多谈论人工智能的人不成比例地处于学习曲线最困难的部分。

没有人写过关于”驾驶疲劳”的文章

记得你第一次学习驾驶吗?第一次你合并到高速公路上,你可能会像你的生命依赖于它一样紧握方向盘(说实话,它确实依赖于此)。你开了 30 分钟的车后回到家完全筋疲力尽。你的大脑一直处于最大容量:检查后视镜,管理速度,预测其他司机,处理道路标志,所有这些同时进行,全部有意识地进行。

现在你可以开一个小时的车,同时半听着播客,吃着三明治。任务没有改变。你改变了。你的大脑为驾驶建立了高效的神经通路,将曾经需要全部意识努力的东西压缩成背景过程。

没有人写过关于”驾驶疲劳”的文章,将其作为存在主义危机。没有人建议汽车对其操作员有”吸血鬼般的影响”。我们直观地理解,疲劳是暂时的。这是学习新东西的成本。

这就是当前话语缺乏的部分。”人工智能疲劳”被视为一种永久的状况,技术的基本特征,而实际上它是一种转换成本。这是训练疼痛,而不是慢性疾病。

为什么这比舒适更重要

这种区分不仅仅是语义学上的。如何诊断问题决定了你如何处理它。

如果人工智能疲劳是技术的永久特征,那么 Yegge 的三小时限制就是永远的天花板。公司应该计划让工程师只在一天中的一小部分时间内保持高效。”吸血鬼般的影响”是进入的代价,我们只能接受它。

但是,如果它是训练疼痛,那么剧本就完全不同了。你管理负荷。你逐渐建立。你不会因为酸痛而停止去健身房。并且,关键是,你不会假设今天的疲劳水平就是明天的。

那些推动这一阶段的工程师,建立了人工智能工作的认知通路,审查的正确高度,以及在平行工作流中保持架构意图,将最终像开车一样自然地做这些事情。三小时的限制将会移动到五个小时,然后七个小时。不因为他们工作得更辛苦,而是因为工作不再以同样的方式需要努力。

与此同时,那些阅读关于”人工智能疲劳”的文章并决定保持在第二级的工程师,舒适,熟悉,不会感到疲惫,将会发现自己处于更糟糕的位置。

不是因为他们跟不上趋势,而是因为他们从未开始过其他人已经完成的训练。

真正的风险:混淆酸痛和受伤

我想澄清一件事。训练酸痛和实际受伤之间有区别,这也适用于这里。

如果你每天 14 小时都在”氛围编码”,睡眠 4 小时,靠肾上腺素支撑,因为新鲜感很令人陶醉,那不是训练。那是过度训练。而且,就像在健身房一样,过度训练不会建立任何东西。它会把你拆解掉。

Yegge 的三小时观察是有价值的,不是作为永久的限制,而是作为当前恢复需求的信号。当你处于训练的早期时,你需要在会话之间有更多的休息时间。随着你适应,你可以处理更多的内容。那些精疲力尽的人不是那些做三小时专注的人工智能增强工作的人。他们是那些无法停止的人,因为反馈循环太令人着迷,这正是我之前写过的老虎机动态。

答案不是避免健身房。它是训练得聪明:强烈的课程,真正的恢复,渐进的进步。

没有人做出的预测

以下是我认为接下来 12 到 18 个月会发生的事情。

“人工智能疲劳”的叙事将在今年某个时候达到峰值。将会有更多的文章,更多的担忧,可能会有一些工程师公开”暂停使用人工智能工具”。它将感觉像是一种有意义的反弹。

然后它将悄悄消失。不因为人们停止使用人工智能,而是因为早期采用者已经完成了适应。三小时的限制将对那些已经做这件事一年半的人来说感觉像是一个遥远的记忆。他们将像以前编写 for 循环一样,毫不费力地指挥人工智能工作流程。

那些推动自己度过酸痛的人和那些没有做到的人之间的差距将会非常巨大。不因为人工智能技能稀缺,而是因为适应本身,能够以方向、评估和编排而不是逐行实现的方式思考,将会成为一组人的第二天性,而对另一组人来说却完全陌生。

对训练酸痛的最差反应一直是相同的:停止去健身房。

这对领导者意味着什么

如果你现在正在管理一个工程团队,请了解你实际上看到的是什么。你的最富有成效的工程师也是最疲惫的工程师。这不是一个矛盾。它是你拥有的最明确的信号,表明适应正在进行中。

不要通过减少人工智能采用率来应对。不要通过假装疲劳不是真实的来应对。以良好的教练的方式应对:管理训练负荷。预计会有强烈专注的人工智能增强工作的时间段,之后是真正的恢复。给人们许可,在他们建立新的认知技能时,允许他们以感觉上减少的时间工作。输出仍将是以前的多倍。

那些做对了这件事的公司将在今年年底拥有适应的团队。那些忽视疲劳或对疲劳做出反应而从人工智能中撤退的公司将会发现自己面临着最坏的两种结果:精疲力尽的工程师,他们从未度过学习曲线最困难的部分。

我们现在并不是经历新技术的副作用。我们处于为新的工作方式进行训练的早期几周。酸痛是它正在发挥作用的证明。倾斜于它,管理它,并相信你的大脑,就像自然界中的其他所有适应性系统一样,会做它一直做的事情。

它会适应。

安德鲁·菲列夫是Zencoder的创始人兼首席执行官。他通过创立Wrike(拥有20,000多个客户,并以2.25亿美元的价格出售)改变了协作工作管理的格局,并在福布斯和纽约时报上被报道,他对人工智能和创新的事业仍在继续塑造工作的未来。