AI 模型与平台
ChatGPT 首个周年纪念日:重塑 AI 交互的未来
要点ChatGPT月访问量迅速攀升至17亿,重塑了公众与人工智能的互动方式。
查看更多
- ChatGPT月访问量迅速攀升至17亿,重塑了公众与人工智能的互动方式。
- Llama-2等开源大语言模型已在关键基准测试中媲美专有模型。
- 传闻中的Q*模型所展现的数学能力,暗示着人工智能在推理领域或将实现重大突破。
回顾 ChatGPT 的第一年,我们可以清楚地看到这个工具已经极大地改变了 AI 的格局。ChatGPT 于 2022 年末推出,凭借其用户友好的、对话式风格,使得与 AI 交互感觉更像与人聊天,而不是与机器。这种新方法迅速吸引了公众的注意。在发布后仅五天,ChatGPT 就吸引了 100 万用户。到 2023 年初,这个数字迅速增加到约 1 亿月度用户,到 10 月,平台每月吸引了约 17 亿次访问。这些数字充分说明了其受欢迎程度和实用性。
过去一年中,用户发现了各种创造性的方法来使用 ChatGPT,从简单的任务如撰写电子邮件和更新简历到创办成功的企业。但这不仅仅是关于人们如何使用它;技术本身也在不断发展和改进。最初,ChatGPT 是一个免费服务,提供详细的文本响应。现在,有了 ChatGPT Plus,它包括 ChatGPT-4。这一更新版本是在更多数据上训练的,给出更少的错误答案,并更好地理解复杂指令。
其中一个最大的更新是 ChatGPT 现在可以通过多种方式交互——它可以听、说,甚至处理图像。这意味着您可以通过其移动应用程序与其交谈,并向其展示图片以获得响应。这些变化为 AI 开启了新的可能性,并改变了人们对 AI 在我们生活中作用的看法和思考方式。
从最初的技术演示到现在成为科技界的重要角色,ChatGPT 的旅程非常令人印象深刻。最初,它被视为一种通过从公众获取反馈来测试和改进技术的手段。但很快,它就成为 AI 景观中的一个重要组成部分。这种成功表明,通过监督学习和人类反馈来微调大型语言模型(LLM)是多么有效。因此,ChatGPT 可以处理广泛的问答和任务。
开发最具能力和多功能的 AI 系统的竞争导致了开放源码和专有模型(如 ChatGPT)的激增。要了解它们的一般能力,需要在广泛的任务范围内进行综合基准测试。这一部分探讨了这些基准测试,阐明了不同模型(包括 ChatGPT)如何相互比较。
评估 LLM:基准测试
- MT-Bench:该基准测试评估多轮对话和指令遵循能力,跨八个领域:写作、角色扮演、信息提取、推理、数学、编码、STEM 知识和人文/社会科学。更强大的 LLM,如 GPT-4,被用作评估者。
- AlpacaEval:基于 AlpacaFarm 评估集,该 LLM 基准测试自动评估模型,与 GPT-4 和 Claude 等高级 LLM 的响应进行比较,计算候选模型的胜率。
- 开放 LLM 排行榜:利用语言模型评估工具包,该排行榜在七个关键基准测试中评估 LLM,包括推理挑战和常识测试,在零样本和少样本设置中。
- BIG-bench:该协作基准测试涵盖了 200 多项新语言任务,跨越多种主题和语言。其目标是探测 LLM 并预测其未来的能力。
- ChatEval:一个多代理辩论框架,允许团队自主讨论和评估不同模型在开放式问题和传统自然语言生成任务中的响应质量。
比较性能
在一般基准测试中,开放源码 LLM 已经取得了显著的进步。例如,Llama-2-70B 在指令数据上进行微调后,取得了令人印象深刻的结果,特别是其 Llama-2-chat-70B 版本在 AlpacaEval 中胜率达到 92.66%,超过了 GPT-3.5-turbo。然而,GPT-4 仍然是领跑者,其胜率达到 95.28%。
Zephyr-7B,一个较小的模型,在 AlpacaEval 和 MT-Bench 中展示了与更大型 70B LLM 相似的能力。同时,WizardLM-70B 在指令数据上进行微调后,在 MT-Bench 的开源 LLM 中获得最高分,但仍落后于 GPT-3.5-turbo 和 GPT-4。
GodziLLa2-70B 在开放 LLM 排行榜中取得了有竞争力的分数,展示了融合多样化数据集的实验模型的潜力。同样,从头开发的 Yi-34B 表现突出,分数与 GPT-3.5-turbo 相当,仅略低于 GPT-4。
UltraLlama 通过使用多样且高质量的数据进行微调,在其提出的基准测试中达到 GPT-3.5-turbo 的水平,并在世界知识和专业知识等方面超过了它。
扩大规模:巨型 LLM 的崛起
LLM 开发中的一个显著趋势是模型参数的扩大。像 Gopher、GLaM、LaMDA、MT-NLG 和 PaLM 这样的模型已经突破了界限,创造了高达 5400 亿参数的模型。这些模型展示了卓越的能力,但由于其闭源性质,限制了它们的更广泛应用。这一限制激发了人们对开发开放源码 LLM 的兴趣,这一趋势正在增强。
在扩大模型规模的同时,研究人员也探索了其他策略:不是一味做大模型,而是改进较小模型的预训练。Chinchilla 和 UL2 表明,更大并非总是更好,更聪明的策略同样能带来高效结果。此外,语言模型的指令微调也受到广泛关注,FLAN、T0 和 Flan-T5 等项目在这一领域作出了重要贡献。
ChatGPT 催化剂
OpenAI 的 ChatGPT 的推出标志着 NLP 研究的一个转折点。为了与 OpenAI 竞争,像 Google (GOOGL ) 和 Anthropic 这样的公司推出了自己的模型,分别是 Bard 和 Claude。虽然这些模型在许多任务中表现出与 ChatGPT 相似的性能,但它们仍然落后于 OpenAI 最新的模型 GPT-4。这些模型的成功主要归因于从人类反馈中进行强化学习(RLHF),这是一种正在受到越来越多研究关注的技术,以期进一步改进。
关于 OpenAI 的 Q*(Q-Star)的传闻和猜测
最近的报道表明,OpenAI 的研究人员可能已经在 AI 领域取得了重大进展,开发了一种名为 Q*(发音为 Q 星)的新模型。据称,Q* 具有执行小学水平数学运算的能力,这一壮举引发了专家们关于其作为人工通用智能(AGI)里程碑的潜力的讨论。虽然 OpenAI 没有对这些报道发表评论,但 Q* 的传闻能力已经在社交媒体和 AI 爱好者中引起了很大的兴奋和猜测。
Q* 的开发值得注意,因为现有的语言模型,如 ChatGPT 和 GPT-4,虽然能够执行一些数学任务,但并不是特别擅长可靠地处理它们。挑战在于,AI 模型不仅需要识别模式(如当前通过深度学习和 Transformer 所做的),还需要推理和理解抽象概念。数学作为推理的基准,需要 AI 计划和执行多个步骤,展示对抽象概念的深刻理解。这一能力将标志着 AI 能力的重大飞跃,可能超越数学,延伸到其他复杂任务。
不过,专家警告不要过度炒作这一进展。能够可靠解决数学问题的人工智能固然令人印象深刻,却不必然意味着超级智能或 AGI 已经到来。包括 OpenAI 在内的当前研究主要关注基础问题,对更复杂任务的成功程度不一。
Q* 这类进展的潜在应用很广,从个性化辅导到辅助科研和工程。但也必须管理预期,认识相关局限与安全问题。人工智能带来生存风险的担忧一直是 OpenAI 的基础关切,随着系统更多地与现实世界互动,这些担忧仍然重要。
开放源码 LLM 运动
为了促进开放源码 LLM 研究,Meta 发布了 Llama 系列模型,引发了一波基于 Llama 的新发展潮流。这包括使用指令数据对模型进行微调的模型,如 Alpaca、Vicuna、Lima 和 WizardLM。研究还扩展到增强代理能力、逻辑推理和长上下文建模等领域,均在 Llama 框架内进行。
此外,从头开发强大 LLM 的趋势也在增长,包括 MPT、Falcon、XGen、Phi、Baichuan、Mistral、Grok 和 Yi。这些努力旨在让闭源 LLM 的能力得到更广泛共享,使先进人工智能工具更易获取、更高效。
ChatGPT 和开放源码模型在医疗保健中的影响
我们正在展望一个未来,LLM 将在临床笔记记录、报销表格填写以及支持医生进行诊断和治疗规划等方面提供帮助。这已经吸引了科技巨头和医疗机构的注意。
微软与 Epic(一家领先的电子健康记录软件提供商)的讨论标志着 LLM 将被整合到医疗保健领域。UC San Diego Health 和 Stanford University Medical Center 已经启动了相关计划。同样,Google 与 Mayo Clinic 的合作以及 Amazon Web Services 推出的 HealthScribe(一种 AI 临床文档服务)标志着这一领域的重大进步。
然而,这种快速部署也引发了将医疗控制权交给企业利益的担忧。这些 LLM 的专有性质使其难以评估。若出于盈利考虑对其进行修改或停止服务,可能损害患者护理、隐私和安全。
医疗领域迫切需要以开放、包容的方式开发 LLM。医疗机构、研究人员、临床医生和患者必须在全球范围内合作,构建医疗保健开源 LLM。类似万亿参数联盟的做法,可以汇集计算资源、资金和专业知识。













