人工智能的潜移默化影响：我们是否已经将过多的权力交给了人工智能？

人工智能正在悄悄地（或不那么悄悄地，取决于个人经历）嵌入我们的日常生活中，影响着就业市场、媒体、治理，甚至我们的文化叙事。虽然人工智能讨论中很大一部分集中在突然、戏剧性的威胁上——比如流氓的通用人工智能（AGI）或深度伪造——但还有另一个更阴险的风险在起作用：渐进式的去人性化。

一项最近由查尔斯大学的Jan Kulveit和Telic Research的Raymond Douglas领导的研究向我们展示了如何渐进式的人工智能进步正在稳步地侵蚀人类对关键社会系统的控制。与其说是人工智能的公开反叛，我们正在见证一个缓慢的、系统性的转变，人工智能在经济、治理和文化等领域日益取代人类的决策。随着这些技术优化为效率、市场价值和预测准确性，人类的主动性正在悄悄地被边缘化。
为什么这很重要？因为维持我们社会与人类价值观一致的机制——经济参与、文化表达和民主治理——正处于失去控制的风险之中。如果不加以制止，人工智能在决策中的日益增长的作用可能会导致一个未来，人类的影响力被边缘化，我们塑造自己未来的能力大大削弱。

人工智能如何重塑经济

该研究提醒我们，人工智能驱动的自动化正在重塑全球劳动力，稳步地在各个行业中取代人类劳动。虽然人工智能工具可以提高生产力和降低成本，但它们也将财务权力从工人转移到机器，根本改变了财富的流动。随着机器执行曾经依赖于人类认知和专业知识的任务，传统的就业模式正在崩溃，导致不平等和经济流离失所。

国际货币基金组织（IMF）的一份报告指出，人工智能将影响全球近40%的工作岗位，取代一些工作岗位并补充其他工作岗位。

人工智能主导的主要经济后果之一是财富集中。开发和控制人工智能系统的公司将获得不成比例的利益，而工人则面临着越来越少的机会。这一转变冒着创造一个世界的风险，在这个世界中，财务权力集中在人工智能驱动的企业中，人类劳动力成为经济中的次要力量。

另一个担忧是人工智能在经济决策中的日益增长的作用。从股票市场预测到资源分配，人工智能系统以超出人类能力的速度和复杂性运行。虽然这可以带来优化的财务策略，但也从关键决策中去除了人类的判断，提高了经济不稳定的风险。没有适当的保障，人工智能驱动的市场可能会优先考虑效率和利润而不是更广泛的社会福利，创造一个有利于人工智能主导实体而不是劳动力的系统。

人工智能如何支配创造力

人工智能不仅仅是在帮助人类创造力——它正在积极地塑造文化景观。在音乐、文学和电影等领域，人工智能生成的内容变得越来越普遍，影响不仅是创作的内容，还有观众与艺术的互动方式。虽然人工智能工具可以通过提供新技术和灵感来帮助人类艺术家，但它们也带来了可能从根本上改变创造性表达的风险。

主要的担忧之一是人工智能生成的内容可能会使人类的创造力黯然失色。随着人工智能系统能够以前所未有的规模生产音乐、文章和视觉艺术，人类和机器制作的内容之间的区别变得模糊。这引发了关于原创性、作者身份和艺术价值的问题——如果算法支配创作过程，人类的表达是否变得过时?

另一个风险是文化的同质化。人工智能模型根据现有数据生成内容，这意味着它们倾向于通过人工智能偏见强化主导趋势，而不是鼓励真正的创新。随着时间的推移，针对参与度和算法成功优化的文化生产可能会导致一个创造力被牺牲为效率的景观。

除了艺术表达之外，人工智能还在影响社会叙事。人工智能策划的新闻、自动内容审查和针对性媒体推荐塑造了公共话语，过滤人们看到和互动的内容。这创造了一个现实，人工智能不仅放大某些观点，还决定哪些文化叙事蓬勃发展，哪些渐渐消失。如果不加控制，人工智能对媒体和通信日益增长的影响可能会侵蚀人类驱动的文化表达的多样性和自主性。

人工智能与治理的未来

人工智能也正在成为政治和行政决策中的强大力量，从预测性执法到自动化社会服务。各国政府正在将人工智能整合到他们的行政框架中，优化运营以提高效率和可扩展性。然而，这一转变也引发了人们对公民参与和民主影响的侵蚀的担忧。

研究团队强调的主要担忧之一是，随着人工智能在治理中变得更加根深蒂固，国家可能会优先考虑技术效率而不是人权和公民参与。人工智能驱动的决策可以简化官僚主义，但也可以使公共服务去人性化，降低问责制和透明度。例如，用于福利分配或法律案件评估的自动化系统可能会优先考虑数据驱动的效率而不是个人的细致需求。

还存在人工智能驱动的国家可能会发展成为类似企业的实体的风险，在那里，治理是优化为机构稳定性而不是公共利益的。人工智能驱动的监视、预测执法和自动化政策制定可能会导致政府在决策中减少公民的参与，从而进一步削弱人类的影响力。

这只是另一个人工智能恐慌吗？

怀疑者可能会认为人工智能只是另一个技术进步，类似于过去的工业革命。然而，该研究强调，这不是关于人工智能的突然统治，而是关于社会中权力运作的结构性转变。与以前的技术颠覆不同，人工智能不仅改变了行业——它还积极地在多个社会领域的决策过程中取代了人类的角色。

人类影响力的缓慢侵蚀不需要人工智能超级智能就能构成危险。即使没有明显的恶意意图，人工智能系统也会逐渐取代人类的判断力，导致一个未来，人们对塑造自己生活的力量的控制力越来越小。挑战不在于停止人工智能的进步，而在于确保人工智能与人类价值观保持一致，并且人类在关键的社会功能中保持有意义的控制权。

为了减轻人工智能渐进式去人性化的风险，研究团队建议我们需要采取积极措施来保障人类在经济、文化和政府系统中的影响力。

• 实施人工智能监督政策: 政府和机构必须确保人工智能驱动的决策保持透明，并受人类审查的制约。应建立机制以防止人工智能做出影响基本权利的自主选择。
• 加强民主参与: 随着人工智能在治理中发挥更大的作用，民主制度必须适应。这可能包括设计用于增强公民参与而不是减少它的、人工智能辅助投票系统。
• 保持人工智能领域和经济领域的人类影响力: 应该引入法规以保持人工智能生成内容和人类创造的内容之间的平衡，确保人类的创造力和劳动力不会被人工智能所掩盖。

该研究强调，渐进式去人性化的风险并不是一个遥远的假设——它已经正在发生。解决这个问题需要国际合作、对整个系统的人工智能对齐的研究，以及对人工智能在塑造我们社会中的作用的积极公共讨论。未来并不是预先确定的，有了正确的干预，我们可以确保人工智能增强人类的能动性，而不是削弱它。