AI 科学家：自动化研究的新时代还是刚刚开始

科学研究是深入知识和创造性思维的迷人融合，推动新的见解和创新。最近，生成式 AI 已成为变革性的力量，利用其处理大量数据和创建模仿人类创造力的内容的能力。这种能力使生成式 AI 能够转变研究的各个方面，从进行文献综述和设计实验到分析数据。在这些发展的基础上，Sakana AI Lab 开发了一个名为 AI 科学家的 AI 系统，该系统旨在自动化整个研究过程，从生成想法到撰写和审查论文。在本文中，我们将探讨这种创新方法及其面临的挑战。

揭开 AI 科学家的面纱

AI 科学家 是一种旨在进行人工智能研究的 AI 代理。它使用生成式 AI，特别是大型语言模型（LLM），来自动化研究的各个阶段。从广泛的研究重点和简单的初始代码库开始，例如来自 GitHub 的开源项目，该代理执行一个端到端的研究过程，包括生成想法、审查文献、规划实验、迭代设计、创建图表、撰写手稿，甚至审查最终版本。它以连续循环的方式运作，改进其方法并纳入反馈以提高未来的研究，就像人类科学家一样。以下是它的工作原理：

• 想法生成： AI 科学家首先使用 LLM 探索一系列潜在的研究方向。每个提出的想法都包括描述、实验执行计划和自我评估的数字分数，例如兴趣、创新性和可行性。然后，它将这些想法与资源如 Semantic Scholar 进行比较，以检查与现有研究的相似性。过于相似于当前研究的想法被过滤掉，以确保原创性。该系统还提供带有样式文件和节标题的 LaTeX 模板，以帮助撰写论文。
• 实验迭代： 在第二阶段，一旦想法和模板就绪，AI 科学家就会进行提出的实验。然后，它生成图表来可视化结果，并创建详细的笔记来解释每个图表。这些保存的图表和笔记作为论文内容的基础。
• 论文撰写： AI 科学家然后以 LaTeX 格式撰写一篇手稿，按照标准机器学习会议论文的惯例。它自主地搜索 Semantic Scholar 以找到并引用相关论文，确保撰写的内容得到充分的支持和信息。
• 自动论文审查： AI 科学家的一个突出特点是其基于 LLM 的自动审查功能。该审查功能像人类审查者一样评估生成的论文，提供可以用来改进当前项目或指导未来的迭代的反馈。这种持续的反馈循环使 AI 科学家能够迭代地改进其研究输出，推动自动系统在科学研究中可以实现的界限。

AI 科学家的挑战

虽然“AI 科学家”似乎是自动化发现领域的一个有趣的创新，但它面临着几个挑战，这些挑战可能会阻止它实现重大科学突破：

• 创造力瓶颈： AI 科学家依赖现有的模板和研究过滤，限制了其实现真正创新的能力。虽然它可以优化和迭代想法，但它在需要跳出思维定势和深入理解背景的领域中苦于创造性思维——这些领域是 AI 所欠缺的。
• 回音室效应： AI 科学家依赖工具如 Semantic Scholar 的风险在于，它可能会强化现有的知识而不对其提出挑战。这种方法可能只会带来渐进式的进步，因为 AI 专注于未被充分探索的领域，而不是追求需要偏离既定范式的颠覆性创新。
• 背景细微差别： AI 科学家在一个反复改进的循环中运作，但它缺乏对其研究的更广泛影响和背景细微差别的深入理解。人类科学家带来了丰富的背景知识，包括伦理、哲学和跨学科的视角，这些对于认识某些发现的重要性和指导研究朝着有影响力的方向发展至关重要。
• 缺乏直觉和偶然性： AI 科学家的有条不紊的过程虽然高效，但可能会忽略推动研究取得重大突破的直觉飞跃和意外发现。其结构化的方法可能无法完全适应探索新颖和未计划的方向的灵活性，这有时对于真正的创新是必不可少的。
• 有限的人类判断力： AI 科学家的自动审查功能虽然有用，但缺乏人类审查者所具备的细致入微的判断力。重大突破往往涉及微妙的、高风险的想法，这些想法可能无法在传统的审查过程中表现良好，但它们有可能改变一个领域。另外，AI 对算法改进的关注可能不会鼓励对真正的科学进步所必需的深入思考和仔细审查。

超越 AI 科学家：生成式 AI 在科学发现中的扩展角色

虽然“AI 科学家”在完全自动化科学过程方面面临挑战，但生成式 AI 已经在各个领域为科学研究做出了重大贡献。以下是生成式 AI 如何增强科学研究：

• 研究辅助： 生成式 AI 工具，如 Semantic Scholar、Elicit、Perplexity、Research Rabbit、Scite 和 Consensus，在搜索和总结研究文章方面证明了其价值。这些工具帮助科学家高效地浏览现有文献并提取关键见解。
• 合成数据生成： 在现实数据稀缺或昂贵的领域，生成式 AI 正被用于创建合成数据集。例如，AlphaFold 已经生成了一个包含超过 2000 万个条目的 数据库，这些条目是从氨基酸序列预测的蛋白质 3D 结构，这对于生物研究来说是一个开创性的资源。
• 医学证据分析： 生成式 AI 支持通过工具如 Robot Reviewer 来合成和分析医学证据，该工具有助于总结和对比来自各个论文的说法。工具如 Scholarcy 进一步简化了文献综述，通过总结和比较研究发现。
• 想法生成： 虽然仍处于初期阶段，但生成式 AI 正在被探索用于学术研究中的想法生成。像 Nature 和 Softmat 的文章所讨论的努力，突出了 AI 如何在集思广益和开发新的研究概念方面提供帮助。
• 撰写和传播： 生成式 AI 还有助于撰写 研究论文、创建可视化和翻译文档，从而使研究的传播更加高效和便捷。

虽然完全复制研究的复杂、直觉和往往不可预测的性质具有挑战性，但上述例子展示了生成式 AI 如何有效地支持科学家在其研究活动中。

结论

AI 科学家为自动化研究提供了一个有趣的视角，使用生成式 AI 来管理从集思广益到撰写论文的任务。然而，它有其局限性。该系统对现有框架的依赖可能会限制其创造潜力，其对已知想法的改进可能会阻碍真正的创新。此外，虽然它提供了有价值的帮助，但它缺乏人类研究人员带来的深刻理解和直觉洞察。生成式 AI 无疑增强了研究效率和支持，但开创性的科学的本质仍然依赖于人类的创造力和判断力。随着技术的进步，AI 将继续支持科学发现，但人类科学家的独特贡献仍然至关重要。