Guy Eisdorfer, 是 Cognni 的联合创始人和CEO,Cognni 是一家领先的AI驱动的数据分类公司,为企业和中小型企业提供自动化信息安全风险评估、特权账户监控和其他安全产品。
过去十年中,人工智能(AI)既带来了科技行业巨大变革的梦想,也带来了对其潜在影响的深刻担忧。埃隆·马斯克(Elon Musk),科技行业的领军人物,体现了这种双重性。他同时承诺了一个由AI驱动的自动驾驶汽车世界,并警告我们关于AI的风险,甚至呼吁暂停AI的开发。这尤其讽刺,因为马斯克是2015年创立的OpenAI的早期投资者。当前AI研究浪潮中最令人兴奋和担忧的发展之一是自主AI。自主AI系统可以在没有持续的人类监督或任务编程的情况下执行任务、做出决定和适应新情况。目前最著名的例子之一是ChatGPT,它是人工智能演进中的一个重要里程碑。让我们看看ChatGPT是如何出现的、它的发展方向以及这项技术可以告诉我们关于AI未来的什么。建设自主AI人工智能的故事是一个跨学科的进步和合作的故事。它始于20世纪初,神经科学家桑蒂亚哥·拉蒙·卡哈尔(Santiago Ramón y Cajal)使用他对人类大脑的理解创造了神经网络的概念,这是现代AI的基石。神经网络是模仿人类大脑和神经系统结构的计算机系统,用于产生机器智能。后来,阿兰·图灵(Alan Turing)开发了现代计算机,并提出了图灵测试(Turing Test),一种评估机器是否能表现出类似人类的智能行为的方法。这些发展引发了一波对AI的兴趣。因此,20世纪50年代见证了约翰·麦卡锡(John McCarthy)、马文·明斯基(Marvin Minsky)和克劳德·香农(Claude Shannon)探索AI的前景,而弗兰克·罗森布拉特(Frank Rosenblatt)创造了“人工智能”这个术语。随后的几十年见证了两个重大突破。第一个是专家系统,即为执行特定行业任务而设计的AI系统。第二个是自然语言处理应用,例如早期的聊天机器人。随着2000年和2010年大型数据集和计算能力的出现,机器学习技术蓬勃发展,导致了自主AI的出现。这一重大步骤使AI系统能够在无需逐案编程的情况下执行复杂任务,从而使其适用于广泛的用途。OpenAI的Chat GPT就是这样的一个自主系统,它最近因其从大量数据中学习和生成连贯、类似人类的响应的惊人能力而广为人知。什么使自主AI成为可能?那么,ChatGPT的基础是什么?我们人类有两个基本能力,使我们能够思考。我们拥有知识,无论是关于物理对象还是概念,我们还拥有对这些事物在复杂结构(如语言、逻辑等)中的理解。将这种知识和理解转移到机器上是AI中最具挑战性的任务之一。仅凭知识,OpenAI的GPT-4模型无法处理超过一条信息。仅凭上下文,技术无法理解它所上下文化的对象或概念。但是,当两者结合时,会发生一些令人惊奇的事情。模型可以变得自主。它可以理解和学习。将其应用于文本,你就有了ChatGPT。将其应用于汽车,你就有了自动驾驶,等等。OpenAI并不是这方面的唯一公司,许多公司已经开发了机器学习算法,并利用神经网络创建可以处理知识和上下文的算法,已经有几十年了。那么,当ChatGPT进入市场时,什么发生了变化?有些人认为,互联网提供的庞大数据量是推动ChatGPT的关键因素。然而,如果仅仅是这样,谷歌很可能会因为其对所有这些数据的主导地位而击败OpenAI。那么,OpenAI是如何做到的呢?OpenAI的一个秘密武器是一种叫做强化学习从人类反馈(RLHF)的新工具。OpenAI使用RLHF来训练OpenAI算法,以理解知识和上下文。OpenAI并没有创造RLHF的概念,但该公司是最早大量依赖它来开发大型语言模型(LLM)如ChatGPT的公司之一。RLHF简单地允许算法根据反馈自我纠正。因此,虽然ChatGPT在对提示做出初始响应时是自主的,但它有一个反馈系统,可以告知它其响应是否准确或在某些方面存在问题。这意味着它可以在没有重大编程更改的情况下不断改进。这种模型导致了快速学习的聊天系统的出现,该系统迅速风靡全球。自主AI会取代人类工人吗?自主AI的新时代已经开始。过去,我们有机器可以在特定领域和行业中理解各种概念,但现在我们有了可以独立执行广泛任务的AI。例如,行业特定的AI软件已经在医学领域使用了一段时间。然而,寻找自主或通用AI(即可以独立执行多个领域任务的AI,具有类似人类的智能)的搜索终于在2022年产生了全球性的结果,当时Chat GPT轻松通过了图灵测试。可以理解的是,一些人开始担心他们的专业知识、工作甚至独特的人类品质可能会被像ChatGPT这样的智能AI系统所取代。然而,通过图灵测试并不一定是“人类般智能”的理想指标。例如,2020年诺贝尔物理学奖获得者罗杰·彭罗斯(Roger Penrose)认为,通过图灵测试并不一定表明真正的智能或意识。他认为计算机和人类处理信息的方式存在根本差异,机器永远无法复制导致意识的那种人类思维过程。因此,通过图灵测试并不是智能的真正衡量标准,因为它只测试机器模仿人类行为的能力,而不是真正理解和推理世界的能力。真正的智能需要意识和理解现实的能力,这是机器无法复制的。这意味着,ChatGPT和其他类似软件不会取代我们,而是会为我们提供工具,以提高和提高各个领域的效率。最后的想法所以,机器将能够以我们以前认为不可能的方式自主完成许多任务,从理解和编写内容到保护大量信息、执行精细的手术和驾驶我们的汽车。但就目前而言,至少在这波技术发展中,能够胜任工作的工人不必担心失去工作。即使是自主AI系统,也没有人类的智慧。它们只能在某些任务上比我们人类更好地理解和执行。它们并不是总体上更聪明的,而且它们对我们的生活方式并不构成重大威胁;至少在这波AI发展中是如此。工人不必担心他们的工作会被取代。即使是自主AI系统,也没有人类的智慧。它们可以在某些任务上比我们人类更好地理解和执行,但它们并不是总体上更聪明的,也不会对我们的生活方式构成重大威胁;至少在这波AI发展中是如此。ers needn’t fear for their jobs. Even autonomous AI systems don’t have human...