GPT-4 İnsanların 1956’dan Beri Hayalini Kurduğu AGI’ye Doğru Bir İlerleme mi?

Microsoft最近发布了一篇研究论文，题为：人工一般智能的火花：GPT-4的早期实验。正如Microsoft所述：

本文介绍了我们对GPT-4早期版本的调查，当时它仍在OpenAI的积极开发中。我们认为（这个早期版本的）GPT-4是LLM的新一代（包括ChatGPT和Google的PaLM等），它们比以前的AI模型表现出更一般的智能。

在这篇论文中，有令人信服的证据表明GPT-4远远超出了简单的记忆，并且它对概念、技能和领域有着深刻和灵活的理解。事实上，它的泛化能力远远超过了今天任何人类的能力。

虽然我们之前讨论过AGI的好处，但我们应该快速总结AGI系统的一般共识。基本上，AGI是一种可以跨多个领域泛化并且不是狭隘的高级AI。狭隘AI的例子包括自主车辆、聊天机器人、国际象棋机器人或任何其他为单一目的而设计的AI。

相比之下，AGI可以灵活地在任何上述领域或其他领域之间切换。它是一种可以利用诸如迁移学习和进化学习等新兴算法的AI，同时也可以利用传统算法，如深度强化学习。

上述AGI的描述与我个人使用GPT-4的经验以及微软发布的研究论文中的证据相符。

论文中提出的一个提示是让GPT-4用诗的形式证明素数的无限性。

如果我们分析创建这样的诗的要求，我们会意识到它需要数学推理、诗歌表达和自然语言生成。这是一个超出了大多数人平均能力的挑战。

该论文旨在了解GPT-4是否仅仅是基于一般记忆生成内容，还是能够理解上下文和推理。当要求它以莎士比亚的风格重现一首诗时，它能够做到。这需要一种超越普通人能力的多方面理解，包括理论心态和数学天才。

GPT-4 Zekâsını Hesaplamak Nasıl?

问题于是变成了如何衡量LLM的智能？GPT-4是否表现出真正的学习行为，还是只是简单的记忆？

当前测试AI系统的方法是评估系统在一组标准基准数据集上的性能，并确保它们与训练数据无关，并且涵盖了各种任务和领域。由于GPT-4的训练数据几乎无限量，这种测试几乎是不可能的。

该论文讨论了生成新颖且具有挑战性的任务/问题，以令人信服地证明GPT-4远远超出了简单的记忆，并且它对概念、技能和领域有着深刻和灵活的理解。

在智能方面，GPT-4可以生成短篇故事、剧本，并且可以计算最复杂的公式。

GPT-4还可以在很高的水平上编码，既可以编写代码也可以理解现有的代码。GPT-4可以处理从编码挑战到现实世界应用的广泛编码任务，从低级汇编到高级框架，从简单的数据结构到复杂的程序，如游戏。GPT-4还可以推理代码执行，模拟指令的效果，并以自然语言解释结果。GPT-4甚至可以执行伪代码，

GPT-4几乎可以对任何提示做出合理的响应。事实上，它的智能几乎是不可战胜的。

GPT-4 Limitations

该论文继续描述了他们如何探测GPT-4的响应和行为，以验证其一致性、连贯性和正确性，并揭示其局限性和偏见。

最明显的限制是它产生幻觉的倾向。论文中给出了一个GPT-4产生幻觉的例子，GPT-4对其答案充满信心，但答案完全是错误的。

似乎GPT-4也意识到了这种当前的限制，因为当我问它什么是GPT-4的幻觉时，它给出了以下回应：

GPT-4的幻觉是指GPT-4模型（如您当前正在交互的模型）生成的响应不基于事实信息或与提供的上下文不一致。这些幻觉发生在模型生成看似合理但实际上不正确、误导性或无意义的文本时。

换句话说，当您在世界数据上训练LLM AI时，如何避免系统学习错误数据？大型语言模型学习和复制虚假信息和阴谋论实际上可能是人类面临的最大的陷阱和威胁之一，也是大规模采用LLM的威胁之一。这可能是讨论AGI危险时被忽略的最大的威胁之一。

GPT-4 Zekâsının Kanıtları

该论文表明，无论向GPT-4提出什么复杂的提示，它都能超出预期。如论文所述：

它对自然语言的无与伦比的掌握。它不仅可以生成流畅和连贯的文本，还可以以各种方式理解和操作文本，例如总结、翻译或回答极其广泛的提问。另外，翻译不仅指不同自然语言之间的翻译，还包括语气和风格的翻译，以及医学、法律、会计、计算机编程、音乐等领域的翻译。

对GPT-4进行了模拟的技术审查，它轻松通过了测试，这意味着如果这是一个人类在另一端，他们会立即被聘为软件工程师。GPT-4在多州律师考试中的初步测试显示出70%以上的准确率。这意味着在未来，我们可以自动化目前分配给律师的许多任务。事实上，有一些初创公司正在使用GPT-4创建机器人律师。

Yeni Bilgi Üretimi

论文中的一个论点是，GPT-4证明真正的理解水平的唯一方法是产生新知识，例如证明新的数学定理，这是LLM目前无法做到的。

然而，这是AGI的圣杯。虽然AGI在错误的控制下存在危险，但AGI能够快速分析所有历史数据以发现新的定理、治愈方法和治疗方法的好处几乎是无限的。

AGI可以成为找到罕见遗传病的治愈方法的缺失环节，这些疾病目前缺乏私营部门的资金支持，可以彻底治愈癌症，并最大限度地提高可再生能源的效率，以消除我们对不可持续能源的依赖。事实上，它可以解决输入到AGI系统中的任何重大问题。这是Sam Altman和OpenAI团队所理解的，AGI确实是最后需要发明的东西，以解决大多数问题并造福人类。

当然，这并不能解决谁控制AGI以及他们的意图是什么的问题。尽管如此，这篇论文做了很好的工作，证明GPT-4是朝着实现1956年以来AI研究人员一直梦想的AGI目标迈出的重要一步，当时第一次启动了达特茅斯夏季研究项目人工智能工作坊。

虽然GPT-4是否为AGI存在争议，但可以轻松论证它是人类历史上第一次实现图灵测试的AI系统。