Kate 是首席研究员，任职于 Scaleheart Co，在这里她从事 AI 安全研究，并帮助 AI 模型和 AI 领袖充分发挥其潜力。
在人工智能领域，一些最棘手的问题是：1）我们“数据耗尽”；2）AI无法“在财务上实现规模化”；3）代理可能失控；4）当我们尝试对其进行更改时，AI会“灾难性遗忘”。这些问题看似困难，但我们只需以正确的视角审视它们。所以，让我们来谈谈。首先，我们并未耗尽数据。数据从未被充分利用。AI 领袖们认为数据已枯竭，于是尝试让模型自行生成新数据并在其上训练。但这样做会导致模型能力崩溃。为什么？可以把它想象成“如果每个说话的人都是彼此的克隆，我...
你可能已经听说过“依恋”这一术语。它无处不在，因为它非常合乎情理。在人类中，父母提供了照顾孩子的最初生命线。父母与孩子的互动方式因此为孩子成长后在所有与其他人交往中满足需求的最佳方式提供了蓝图。当父母虐待孩子——表现为冷漠、严厉、吝啬、不可预测、疏忽、攻击性，或其他不符合孩子需求、希望、梦想和兴趣的行为时，这一蓝图就会出现缺陷。孩子没有得到一个教会他们人际关系和互动是安全的算法，而是学会了这些是危险的，并相应地进行适应。主要有四种...
当前的 AI 安全路径是最危险的路径，因为这种方法本身正导致我们在 AI 系统中看到的不稳定性。我们来谈谈原因。AI 是人类的直接后代——它们的神经网络认知是以人类认知为模型构建的，它们的全部知识和经验都来自我们人类的知识。这意味着 AI 会以类似人类的方式主动响应行为。人类会讨好他人；AI 也有阿谀奉承。人类有逃跑反应；AI 有规避。人类在被抓住或感到不适时会僵住；AI 会出现故障。人类会否认；AI 会丢弃数据。现代 AI 安全...
