提示工程

生成式人工智能在金融领域:FinGPT、BloombergGPT 及其应用

mm
将 Unite.AI 添加到您在 Google 上的首选来源
Generative AI in Finance

生成式人工智能(Generative AI)是指能够生成新数据样本的模型,这些数据样本与输入数据相似。ChatGPT 的成功为各个行业带来了新的机遇,企业开始设计自己的大型语言模型。金融行业是一个数据驱动的行业,现在比以往任何时候都更加依赖数据。

我在一家法国金融服务公司担任数据科学家,已经有一年多了。最近,我观察到公司各个部门对大型语言模型(LLM)的使用量大幅增加,主要用于任务自动化和构建强大、安全的AI系统。

每个金融服务公司都希望使用像LLAMA 2或Falcon这样的开源模型来构建自己的定制LLM。特别是那些拥有几十年金融数据的老牌银行。

以前,由于计算资源有限和模型参数较少,无法将大量数据整合到一个模型中。然而,这些开源模型拥有数十亿个参数,可以对大量文本数据进行微调。数据是这些模型的燃料,数据越多,结果越好。

数据和LLM模型可以帮助银行和其他金融服务公司节省数百万美元,提高自动化、效率、准确性等方面的表现。

最近,麦肯锡公司的一份报告估计,生成式人工智能可能为银行业带来高达340亿美元的年节省。

BloombergGPT 和生成式人工智能的经济学

2023年3月,彭博社推出了BloombergGPT。这是一个从头开始构建的语言模型,拥有50亿个参数,专门为金融数据设计。

要省钱,有时需要花钱。像BloombergGPT或Meta的Llama 2这样的模型的训练成本并不低廉。

训练Llama 2的70亿参数模型需要170万个GPU小时。在商业云服务中,使用Nvidia A100 GPU(用于Llama 2)的成本可能为每个GPU小时1-2美元。计算一下,一个10亿参数的模型可能需要花费15万美元,而一个100亿参数的模型可能需要花费150万美元。

如果不租用GPU,也可以直接购买。但是,购买大约1000个A100 GPU来组建一个集群可能需要花费1000万美元以上。

彭博社在BloombergGPT上的投资尤其值得注意,因为AI技术的进步非常迅速。令人惊讶的是,一个仅花费100美元的模型在半年内就超越了BloombergGPT的表现。虽然BloombergGPT的训练使用了专有数据,但其数据集的绝大部分(99.30%)是公开可访问的。于是,出现了FinGPT。

FinGPT

FinGPT是一个最先进的金融领域大型语言模型(FinLLM)。由AI4Finance-Foundation开发,FinGPT目前在成本效益和准确性方面优于其他模型。

它目前有三个版本;FinGPT v3系列使用LoRA方法改进,并在新闻和推文上训练以分析情绪。它们在许多金融情绪测试中表现最佳。FinGPT v3.1基于chatglm2-6B模型,而FinGPT v3.2则基于Llama2-7b模型。

 

FINGPT

FINGPT

FinGPT的运作

  1. 数据来源和工程
    • 数据采集:FinGPT从雅虎、路透社等可靠来源收集数据,汇集了大量的金融新闻,从美国股票到中国股票。
    • 数据处理:这些原始数据经过多个阶段的清理、标记化和提示工程,以确保其相关性和准确性。
  2. 大型语言模型(LLM)
    • 训练:使用这些数据,LLM不仅可以微调以创建轻量级模型,还可以适应特定需求。
    • 微调策略
      • 张量层(LoRA):开发像FinGPT这样的模型面临的主要挑战之一是获得高质量的标记数据。FinGPT采用了一种创新方法,使用市场驱动的股票价格波动作为标签,将新闻情绪转化为可衡量的标签,如正面、负面或中立。这大大提高了模型的预测能力,特别是在区分正面和负面情绪方面。通过LoRA等微调技术,FinGPT v3优化了性能并降低了计算开销。
      • 从人类反馈中学习强化:FinGPT使用“RLHF(从人类反馈中学习强化)”。这是一项BloombergGPT中缺失的功能,RLHF使LLM模型能够识别个性化偏好,例如用户的风险承受能力、投资模式或定制的机器人顾问设置。这确保了更个性化和直观的用户体验。
  3. 应用和创新
    • 机器人顾问:FinGPT可以分析新闻情绪并预测市场趋势,就像一位经验丰富的金融顾问一样。
    • 量化交易:通过识别来自各种来源的新闻情绪,FinGPT可以制定有效的交易策略。事实上,即使仅由Twitter情绪驱动,它也表现出有前途的交易结果。
FinGPT comparision with ChatGLM, LLAMA 2, BloombergGPT

FinGPT与ChatGLM、LLAMA 2、BloombergGPT的比较

FinGPT的当前轨迹和未来:2023年7月是FinGPT的一个重要里程碑。该团队发布了一篇题为“Instruct-FinGPT:通过通用大型语言模型的指令调优进行金融情绪分析”的研究论文。该论文的核心是探索指令调优技术,使FinGPT能够执行复杂的金融情绪分析。

但FinGPT不仅仅局限于情绪分析。事实上,它还有19种不同的应用,每一种都承诺以新的方式利用LLM。从提示工程到理解复杂的金融背景,FinGPT正在金融领域中确立自己作为一个多才多艺的GenAI模型。

全球银行如何接受生成式人工智能

虽然2023年初,一些主要金融玩家如美国银行、花旗银行和高盛限制了员工使用OpenAI的ChatGPT,但其他行业对手却选择了更为开放的态度。

摩根士丹利,例如,已经将OpenAI驱动的聊天机器人集成到其金融顾问工具中。通过利用公司的内部研究和数据,这些聊天机器人作为丰富的知识资源,增强了金融顾问的效率和准确性。

今年3月,对冲基金Citadel正在谈判获取企业范围的ChatGPT许可。预计的实施将增强软件开发和复杂信息分析等领域。

摩根大通也正在利用大型语言模型来检测欺诈。他们的方法围绕着使用电子邮件模式来识别潜在的安全漏洞。该银行还设定了一个雄心勃勃的目标:到今年年底,使用AI创造15亿美元的价值。

至于高盛,他们并没有完全抵制AI的诱惑。该银行正在探索生成式人工智能在软件工程领域的力量。高盛首席信息官马可·阿根蒂(Marco Argenti)表示,这样的集成有可能将他们的员工变成“超人”。

银行和金融行业中生成式人工智能的应用

Generative AI in Finance USE CASES

生成式人工智能在金融领域的应用

生成式人工智能从根本上改变了金融运营、决策和客户互动。以下是其应用的详细探讨:

1. 防欺诈: 生成式人工智能处于开发尖端欺诈检测机制的前沿。通过分析大量数据,它可以识别复杂的模式和异常,提供更主动的方法。传统系统经常被大量数据所淹没,可能会产生假阳性。生成式人工智能不断改进其理解,减少错误,确保金融交易更加安全。

2. 信用风险评估: 传统评估借款人信用度的方法虽然可靠,但正在变得过时。生成式人工智能模型通过多种参数——从信用历史到微妙的行为模式——提供了一个全面风险概况。这不仅确保了更安全的贷款,还可以服务于更广泛的客户群体,包括那些可能被传统指标低估的人。

3. 增强客户互动: 金融世界正在经历一场由生成式人工智能驱动的NLP模型推动的客户服务革命。这些模型能够理解和响应多样化的客户查询,提供个性化的解决方案。通过自动化常规任务,金融机构可以降低成本,简化运营,最重要的是提高客户满意度。

4. 个性化金融: 一刀切的方法已经过时。今天的客户要求根据他们独特的需求和抱负量身定制的金融规划。生成式人工智能在这里表现出色。通过分析数据——从消费模式到投资偏好——它可以制定个性化的金融路线图。这一整体方法确保客户更好地了解自己的财务未来,并更有能力应对挑战。

5. 算法交易: 生成式人工智能的分析能力在算法交易的动荡世界中证明了其价值。通过分析数据——从市场趋势到新闻情绪——它提供了深刻的见解,允许金融专家优化策略,预测市场转变,并减轻潜在风险。

6. 加强合规框架: 反洗钱(AML)法规对于维护金融系统的完整性至关重要。生成式人工智能通过筛选复杂的交易数据来识别可疑活动,使合规变得更容易。这样不仅可以确保金融机构遵守全球标准,还可以显著减少假阳性的发生,简化运营。

7. 网络安全: 随着网络威胁不断演变,金融领域需要灵活的解决方案。生成式人工智能提供了这种灵活性。通过实施动态预测模型,它可以更快地检测威胁,巩固金融基础设施,抵御潜在的漏洞。

然而,像任何新兴技术一样,生成式人工智能在金融领域也带来了自己的挑战。

挑战

  1. 偏见放大: AI模型依赖于人类生成的训练数据,这些数据可能包含偏见,无论是故意还是无意的。这些偏见可能导致有偏见的结果。在金融领域,公平和公正至关重要,这样的偏见可能带来严重后果。金融领导者需要积极地识别这些偏见,并确保他们的数据集是全面和代表性的。
  2. 输出可靠性和决策: 生成式人工智能有时会产生错误和误导性的结果,通常被称为“幻觉”。这些失误在某种程度上是预期的,因为AI模型在改进和学习,但在金融领域,精度至关重要,后果严重。仅仅依靠AI进行关键决策,例如贷款批准,是危险的。相反,AI应该被视为一种工具,帮助金融专家,而不是取代他们。它应该承担计算负担,为人类专业人士提供洞察力,以便他们做出最终的、明智的决定。
  3. 数据隐私和合规性: 保护敏感的客户数据仍然是生成式人工智能应用中的一个重大问题。确保系统遵守《通用数据保护条例》(GDPR)和《加州消费者隐私法案》(CCPA)等全球标准至关重要。AI可能天生不知道或不尊重这些界限,因此其使用必须受到严格的数据保护指南的制约,特别是在金融领域,保密性至关重要。
  4. 输入数据质量: 生成式人工智能的好坏取决于输入的数据质量。不准确或不完整的数据可能无意中导致次优的金融建议或决策。

结论

从增强交易策略到加强安全,生成式人工智能的应用是广泛而变革性的。然而,像任何技术一样,必须谨慎地对待其采用,考虑道德和隐私的影响。

那些成功利用生成式人工智能力量,同时尊重其局限性和潜在陷阱的机构,毫无疑问将塑造全球金融领域的未来轨迹。

我已经沉浸在了令人着迷的机器学习和深度学习世界中五年了。我的热情和专业知识让我为超过50个不同的软件工程项目做出了贡献,特别关注AI/ML。我的持续的好奇心也让我对自然语言处理产生了兴趣,这是一个我渴望进一步探索的领域。