马修·哈斯韦尔(Mathew Haswell)是Refiant的联合创始人,Refiant是一家专注于高效人工智能、压缩和使模型更高效、更实用地部署的公司,包括长上下文。作为医学科学硕士和神经科学家,他曾在科技、金融科技、游戏、零售和金融服务企业中担任战略执行、商业、运营和产品职责。
一位同事在对话结束后立即忘记所有之前的对话,在大多数工作中是无法长久的。然而,许多商业AI正是这样工作的。会话关闭,背景就消失了。消费者可能不会注意到这一点,但长时间运行的公司会立即遇到限制。真正的工作会从一个会话继续到下一个会话,周四做出的决定通常依赖于周一做出的决定,思考的依据需要在中间存活下来。会话结束后擦除自身的AI可以在会话内表现良好,但对跨越一周的任务贡献甚微。企业AI已经悄悄地改变了对模型的需求。多年来,模型主要被评...