Guy Eisdorfer, 是 Cognni 的联合创始人和CEO，Cognni 是一家领先的AI驱动的数据分类公司，为企业和中小型企业提供自动化信息安全风险评估、特权账户监控和其他安全产品。
过去十年中，人工智能（AI）既带来了科技行业巨大变革的梦想，也带来了对其潜在影响的深刻担忧。埃隆·马斯克（Elon Musk），科技行业的领军人物，体现了这种双重性。他同时承诺了一个由AI驱动的自动驾驶汽车世界，并警告我们关于AI的风险，甚至呼吁暂停AI的开发。这尤其讽刺，因为马斯克是2015年创立的OpenAI的早期投资者。当前AI研究浪潮中最令人兴奋和担忧的发展之一是自主AI。自主AI系统可以在没有持续的人类监督或任务编程的情况下执行任务、做出决定和适应新情况。目前最著名的例子之一是ChatGPT，它是人工智能演进中的一个重要里程碑。让我们看看ChatGPT是如何出现的、它的发展方向以及这项技术可以告诉我们关于AI未来的什么。建设自主AI人工智能的故事是一个跨学科的进步和合作的故事。它始于20世纪初，神经科学家桑蒂亚哥·拉蒙·卡哈尔（Santiago Ramón y Cajal）使用他对人类大脑的理解创造了神经网络的概念，这是现代AI的基石。神经网络是模仿人类大脑和神经系统结构的计算机系统，用于产生机器智能。后来，阿兰·图灵（Alan Turing）开发了现代计算机，并提出了图灵测试（Turing Test），一种评估机器是否能表现出类似人类的智能行为的方法。这些发展引发了一波对AI的兴趣。因此，20世纪50年代见证了约翰·麦卡锡（John McCarthy）、马文·明斯基（Marvin Minsky）和克劳德·香农（Claude Shannon）探索AI的前景，而弗兰克·罗森布拉特（Frank Rosenblatt）创造了“人工智能”这个术语。随后的几十年见证了两个重大突破。第一个是专家系统，即为执行特定行业任务而设计的AI系统。第二个是自然语言处理应用，例如早期的聊天机器人。随着2000年和2010年大型数据集和计算能力的出现，机器学习技术蓬勃发展，导致了自主AI的出现。这一重大步骤使AI系统能够在无需逐案编程的情况下执行复杂任务，从而使其适用于广泛的用途。OpenAI的Chat GPT就是这样的一个自主系统，它最近因其从大量数据中学习和生成连贯、类似人类的响应的惊人能力而广为人知。什么使自主AI成为可能？那么，ChatGPT的基础是什么？我们人类有两个基本能力，使我们能够思考。我们拥有知识，无论是关于物理对象还是概念，我们还拥有对这些事物在复杂结构（如语言、逻辑等）中的理解。将这种知识和理解转移到机器上是AI中最具挑战性的任务之一。仅凭知识，OpenAI的GPT-4模型无法处理超过一条信息。仅凭上下文，技术无法理解它所上下文化的对象或概念。但是，当两者结合时，会发生一些令人惊奇的事情。模型可以变得自主。它可以理解和学习。将其应用于文本，你就有了ChatGPT。将其应用于汽车，你就有了自动驾驶，等等。OpenAI并不是这方面的唯一公司，许多公司已经开发了机器学习算法，并利用神经网络创建可以处理知识和上下文的算法，已经有几十年了。那么，当ChatGPT进入市场时，什么发生了变化？有些人认为，互联网提供的庞大数据量是推动ChatGPT的关键因素。然而，如果仅仅是这样，谷歌很可能会因为其对所有这些数据的主导地位而击败OpenAI。那么，OpenAI是如何做到的呢？OpenAI的一个秘密武器是一种叫做强化学习从人类反馈（RLHF）的新工具。OpenAI使用RLHF来训练OpenAI算法，以理解知识和上下文。OpenAI并没有创造RLHF的概念，但该公司是最早大量依赖它来开发大型语言模型（LLM）如ChatGPT的公司之一。RLHF简单地允许算法根据反馈自我纠正。因此，虽然ChatGPT在对提示做出初始响应时是自主的，但它有一个反馈系统，可以告知它其响应是否准确或在某些方面存在问题。这意味着它可以在没有重大编程更改的情况下不断改进。这种模型导致了快速学习的聊天系统的出现，该系统迅速风靡全球。自主AI会取代人类工人吗？自主AI的新时代已经开始。过去，我们有机器可以在特定领域和行业中理解各种概念，但现在我们有了可以独立执行广泛任务的AI。例如，行业特定的AI软件已经在医学领域使用了一段时间。然而，寻找自主或通用AI（即可以独立执行多个领域任务的AI，具有类似人类的智能）的搜索终于在2022年产生了全球性的结果，当时Chat GPT轻松通过了图灵测试。可以理解的是，一些人开始担心他们的专业知识、工作甚至独特的人类品质可能会被像ChatGPT这样的智能AI系统所取代。然而，通过图灵测试并不一定是“人类般智能”的理想指标。例如，2020年诺贝尔物理学奖获得者罗杰·彭罗斯（Roger Penrose）认为，通过图灵测试并不一定表明真正的智能或意识。他认为计算机和人类处理信息的方式存在根本差异，机器永远无法复制导致意识的那种人类思维过程。因此，通过图灵测试并不是智能的真正衡量标准，因为它只测试机器模仿人类行为的能力，而不是真正理解和推理世界的能力。真正的智能需要意识和理解现实的能力，这是机器无法复制的。这意味着，ChatGPT和其他类似软件不会取代我们，而是会为我们提供工具，以提高和提高各个领域的效率。最后的想法所以，机器将能够以我们以前认为不可能的方式自主完成许多任务，从理解和编写内容到保护大量信息、执行精细的手术和驾驶我们的汽车。但就目前而言，至少在这波技术发展中，能够胜任工作的工人不必担心失去工作。即使是自主AI系统，也没有人类的智慧。它们只能在某些任务上比我们人类更好地理解和执行。它们并不是总体上更聪明的，而且它们对我们的生活方式并不构成重大威胁；至少在这波AI发展中是如此。工人不必担心他们的工作会被取代。即使是自主AI系统，也没有人类的智慧。它们可以在某些任务上比我们人类更好地理解和执行，但它们并不是总体上更聪明的，也不会对我们的生活方式构成重大威胁；至少在这波AI发展中是如此。ers needn’t fear for their jobs. Even autonomous AI systems don’t have human...
