Suivez nous sur

IA gĂ©nĂ©rative en finance : FinGPT, BloombergGPT et au-delĂ 

Ingénierie rapide

IA gĂ©nĂ©rative en finance : FinGPT, BloombergGPT et au-delĂ 

mm
L'IA générative en finance

L'IA générative fait référence à des modèles capables de générer de nouveaux échantillons de données similaires aux données d'entrée. Le succès de ChatGPT a ouvert de nombreuses opportunités dans tous les secteurs, incitant les entreprises à concevoir leurs propres grands modèles de langage. Le secteur financier, piloté par les données, est désormais encore plus gourmand en données que jamais.

Je travaille en tant que data scientist dans une société de services financiers basée en France. Ayant travaillé là-bas pendant plus d'un an, j'ai récemment observé une augmentation significative des cas d'utilisation LLM dans toutes les divisions pour l'automatisation des tâches et la construction de systèmes d'IA robustes et sécurisés.

Chaque service financier vise à créer ses propres LLM affinés à l'aide de modèles open source tels que LAMA 2 or Falcon. En particulier les banques traditionnelles qui disposent de plusieurs décennies de données financières.

Jusqu'Ă  prĂ©sent, il n'a pas Ă©tĂ© possible d'incorporer cette grande quantitĂ© de donnĂ©es dans un seul modèle en raison des ressources informatiques limitĂ©es et des modèles moins complexes/Ă  faibles paramètres. Cependant, ces modèles open source comportant des milliards de paramètres peuvent dĂ©sormais ĂŞtre affinĂ© Ă  de grandes quantitĂ©s d’ensembles de donnĂ©es textuelles. Les donnĂ©es sont comme le carburant de ces modèles ; plus il y en a, meilleurs sont les rĂ©sultats.

Les modèles de données et LLM peuvent faire économiser des millions aux banques et autres services financiers en améliorant l’automatisation, l’efficacité, la précision, etc.

Des estimations récentes de McKinsey suggèrent que cette IA générative pourrait offrir des économies annuelles allant jusqu'à 340 milliards de dollars pour le seul secteur bancaire.

BloombergGPT et Ă©conomie de l'IA gĂ©nĂ©rative 

En mars 2023, Bloomberg a présenté BloombergGPT. Il s'agit d'un modèle de langage construit à partir de zéro avec 50 milliards de paramètres, spécialement conçu pour les données financières.

Pour économiser de l’argent, il faut parfois dépenser de l’argent. Les modèles de formation comme BloombergGPT ou Meta's Llama 2 ne sont pas bon marché.

La formation du modèle de 2 milliards de paramètres de Llama 70 a nĂ©cessitĂ© 1,700,000 XNUMX XNUMX heures GPU. Sur les services cloud commerciaux, employant le GPU Nvidia A100 (utilisĂ© pour Llama 2) peut en rĂ©duire un de 1 Ă  2 $ pour chaque heure GPU. En faisant le calcul, un modèle Ă  10 milliards de paramètres pourrait coĂ»ter environ 150,000 100 dollars, tandis qu'un modèle Ă  1,500,000 milliards de paramètres pourrait coĂ»ter jusqu'Ă  XNUMX XNUMX XNUMX dollars.

Si vous ne louez pas, l’achat pur et simple des GPU est une alternative. Pourtant, acheter environ 1000 100 GPU A10 pour former un cluster pourrait coûter plus de XNUMX millions de dollars.

L’investissement de plus d’un million de dollars de Bloomberg est particulièrement révélateur lorsqu’on le compare aux progrès rapides de l’IA. Étonnamment, un modèle coûtant seulement 100 $ a réussi à surpasser les performances de BloombergGPT en seulement six mois. Même si la formation de BloombergGPT incorporait des données exclusives, la grande majorité (99.30 %) de leur ensemble de données était accessible au public. Vient FinGPT.

FinGPT

FinGPT est un modèle de langage financier à grande échelle (FinLLM) de pointe. Développé par AI4Finance-Foundation, FinGPT surpasse actuellement les autres modèles en termes de rentabilité et de précision en général.

Il existe actuellement 3 versions ; la sĂ©rie FinGPT v3 sont des modèles amĂ©liorĂ©s Ă  l'aide de la mĂ©thode LoRA, et ils sont formĂ©s aux actualitĂ©s et aux tweets pour analyser les sentiments. Ils obtiennent les meilleurs rĂ©sultats dans de nombreux tests de sentiment financier. FinGPT v3.1 est construit sur le modèle chatglm2-6B, tandis que FinGPT v3.2 est basĂ© sur le modèle chatglmXNUMX-XNUMXB. Lama2-Modèle 7b.

 

FINPT

FINPT

Opérations de FinGPT:

  1. Source de données et ingénierie:
    • Acquisition de donnĂ©es: Utilisant des donnĂ©es provenant de sources rĂ©putĂ©es comme Yahoo, Reuters et plus encore, FinGPT fusionne une vaste gamme d'actualitĂ©s financières, allant des actions amĂ©ricaines aux actions du CN.
    • Traitement de l'information: Ces donnĂ©es brutes subissent de nombreuses Ă©tapes de nettoyage, de tokenisation et d'ingĂ©nierie rapide pour garantir leur pertinence et leur exactitude.
  2. Grands modèles de langage (LLM):
    • Formation: Grâce aux donnĂ©es conservĂ©es, non seulement les LLM peuvent ĂŞtre affinĂ©s pour crĂ©er des modèles lĂ©gers adaptĂ©s Ă  des besoins spĂ©cifiques, mais les modèles ou API existants peuvent Ă©galement ĂŞtre adaptĂ©s pour prendre en charge les applications.
    • StratĂ©gies de rĂ©glage fin:
      • Couches tensorielles (LoRA): L'un des principaux dĂ©fis du dĂ©veloppement de modèles comme FinGPT est d'obtenir des donnĂ©es Ă©tiquetĂ©es de haute qualitĂ©. Conscient de ce dĂ©fi, FinGPT adopte une approche innovante. Au lieu de s’appuyer uniquement sur l’étiquetage traditionnel, les fluctuations des cours des actions induites par le marchĂ© sont utilisĂ©es comme Ă©tiquettes, traduisant le sentiment d’actualitĂ© en Ă©tiquettes tangibles comme positives, nĂ©gatives ou neutres. Cela se traduit par des amĂ©liorations massives des capacitĂ©s prĂ©dictives du modèle, notamment en matière de discernement des sentiments positifs et nĂ©gatifs. Grâce Ă  des techniques de rĂ©glage telles que LoRA, FinGPT v3 a rĂ©ussi Ă  optimiser les performances tout en rĂ©duisant les frais de calcul.
      • Apprentissage par renforcement Ă  partir de la rĂ©troaction humaine: FinGPT utilise «RLHF (Apprentissage par renforcement Ă  partir du feedback humain)« . FonctionnalitĂ© absente de BloombergGPT, RLHF donne au modèle LLM la capacitĂ© de discerner les prĂ©fĂ©rences individuelles, qu'il s'agisse de l'appĂ©tit pour le risque d'un utilisateur, des modèles d'investissement ou des paramètres personnalisĂ©s du robot-conseiller. Cette technique, pierre angulaire de ChatGPT et de GPT4, garantit une expĂ©rience utilisateur plus personnalisĂ©e et intuitive.
  3. Applications et innovations:
    • Conseiller Robo: Ă€ l'instar d'un conseiller financier chevronnĂ©, FinGPT peut analyser l'actualitĂ© et prĂ©dire les tendances du marchĂ© avec une grande prĂ©cision.
    • Trading quantitatif: En identifiant les sentiments provenant de diverses sources, des mĂ©dias Ă  Twitter, FinGPT peut formuler des stratĂ©gies de trading efficaces. En fait, mĂŞme lorsqu'il est uniquement dirigĂ© par les sentiments de Twitter, il prĂ©sente des rĂ©sultats commerciaux prometteurs.
Comparaison FinGPT avec GPT-4 LLAMA 2 bloomberg gpt

Comparaison FinGPT avec ChatGLM, LLAMA 2, BloombergGPT

Trajectoire actuelle et future de FinGPT: juillet 2023 marque une Ă©tape passionnante pour FinGPT. L’équipe a dĂ©voilĂ© un document de recherche intitulĂ© «Instruct-FinGPT : analyse du sentiment financier par rĂ©glage des instructions de grands modèles de langage Ă  usage gĂ©nĂ©ral.» Au cĹ“ur de cet article se trouve l’exploration du rĂ©glage des instructions, une technique permettant Ă  FinGPT d’exĂ©cuter des analyses complexes du sentiment financier.

Mais FinGPT ne se limite pas à la seule analyse des sentiments. En fait, 19 autres applications diverses sont disponibles, chacune promettant d’exploiter les LLM de manière innovante. De l’ingénierie rapide à la compréhension de contextes financiers complexes, FinGPT s’impose comme un modèle GenAI polyvalent dans le domaine financier.

Comment les banques mondiales adoptent l’IA générative

Alors qu'au début de 2023, certains des principaux acteurs financiers comme Bank of America, Citigroup et Goldman Sachs ont imposé des contraintes sur l'utilisation de ChatGPT d'OpenAI par leurs employés, d'autres homologues du secteur ont décidément opté pour une position plus ouverte.

Morgan Stanley, par exemple, a intégré des chatbots basés sur OpenAI comme outil pour ses conseillers financiers. En exploitant les recherches et les données internes approfondies de l'entreprise, ces chatbots servent de ressources de connaissances enrichies, augmentant l'efficacité et la précision des conseils financiers.

En mars de cette année, Fonds spéculatif Citadelle cherchait à obtenir une licence ChatGPT à l'échelle de l'entreprise. La mise en œuvre prospective envisage de renforcer des domaines tels que le développement de logiciels et l'analyse d'informations complexes.

JPMorgan Chase s'efforce Ă©galement d'exploiter de grands modèles linguistiques pour la dĂ©tection des fraudes. Leur mĂ©thodologie consiste Ă  utiliser des modèles de courrier Ă©lectronique pour identifier les compromissions potentielles. Ne se contentant pas de cela, la banque s'est Ă©galement fixĂ© un objectif ambitieux : ajouter jusqu'Ă   1.5 milliard de dollars de valeur grâce Ă  l'IA d'ici la fin de l'annĂ©e.

Quant à Goldman Sachs, ils ne résistent pas totalement aux attraits de l’IA. La banque explore la puissance de l’IA générative pour renforcer son domaine d’ingénierie logicielle. Comme Marco Argenti, directeur de l'information de Goldman Sachs, dit-il, une telle intégration a le potentiel de transformer leur main-d'œuvre en quelque chose "surhumain. »

Cas d'utilisation de l'IA générative dans le secteur bancaire et financier

IA générative en finance CAS D'UTILISATION

L'IA générative dans les cas d'utilisation de la finance

L'IA gĂ©nĂ©rative transforme fondamentalement les opĂ©rations financières, la prise de dĂ©cision et les interactions avec les clients. Voici une exploration dĂ©taillĂ©e de ses applications :

1. PrĂ©vention de la fraude : L’IA gĂ©nĂ©rative est Ă  l’avant-garde du dĂ©veloppement de mĂ©canismes de dĂ©tection de fraude de pointe. En analysant de vastes pools de donnĂ©es, il peut discerner des modèles et des irrĂ©gularitĂ©s complexes, offrant ainsi une approche plus proactive. Les systèmes traditionnels, souvent submergĂ©s par le volume de donnĂ©es, peuvent produire des faux positifs. L’IA gĂ©nĂ©rative, en revanche, affine continuellement sa comprĂ©hension, rĂ©duisant ainsi les erreurs et garantissant des transactions financières plus sĂ©curisĂ©es.

2. Évaluation du risque de crĂ©dit : Les mĂ©thodes traditionnelles d'Ă©valuation de la solvabilitĂ© d'un emprunteur, bien que fiables, deviennent obsolètes. Les modèles d’IA gĂ©nĂ©ratifs via divers paramètres – des historiques de crĂ©dit aux modèles comportementaux subtils – offrent un profil de risque complet. Cela garantit non seulement des prĂŞts plus sĂ»rs, mais s’adresse Ă©galement Ă  une clientèle plus large, y compris Ă  celles qui pourraient ĂŞtre mal desservies par les paramètres traditionnels.

3. Augmenter l'interaction client : Le monde financier est tĂ©moin d’une rĂ©volution dans le service client, grâce aux modèles NLP gĂ©nĂ©ratifs basĂ©s sur l’IA. Ces modèles sont capables de comprendre et de rĂ©pondre aux requĂŞtes variĂ©es des clients, en proposant rapidement des solutions personnalisĂ©es. En automatisant les tâches de routine, les institutions financières peuvent rĂ©duire leurs frais gĂ©nĂ©raux, rationaliser leurs opĂ©rations et, surtout, amĂ©liorer la satisfaction de leurs clients.

4. Finances personnalisĂ©es : La taille unique est une relique du passĂ©. Les clients d'aujourd'hui exigent une planification financière adaptĂ©e Ă  leurs besoins et aspirations uniques. L’IA gĂ©nĂ©rative excelle ici. En analysant les donnĂ©es – des modèles de dĂ©penses aux prĂ©fĂ©rences d’investissement – ​​il Ă©labore des feuilles de route financières individualisĂ©es. Cette approche holistique garantit que les clients sont mieux informĂ©s et mieux Ă©quipĂ©s pour naviguer dans leur avenir financier.

5. Trading algorithmique : Les prouesses analytiques de l’IA gĂ©nĂ©rative s’avèrent inestimables dans le monde volatile du trading algorithmique. En dissĂ©quant les donnĂ©es – des tendances du marchĂ© au sentiment de l’actualitĂ© – il fournit des informations incisives, permettant aux experts financiers d’optimiser leurs stratĂ©gies, d’anticiper les Ă©volutions du marchĂ© et d’attĂ©nuer les risques potentiels.

6. Renforcement des cadres de conformitĂ© : Les rĂ©glementations anti-blanchiment d’argent (AML) sont essentielles au maintien de l’intĂ©gritĂ© des systèmes financiers. L'IA gĂ©nĂ©rative simplifie la conformitĂ© en passant au crible des donnĂ©es transactionnelles complexes pour identifier les activitĂ©s suspectes. Cela garantit non seulement que les institutions financières adhèrent aux normes mondiales, mais rĂ©duit Ă©galement considĂ©rablement les risques de faux positifs, rationalisant ainsi les opĂ©rations.

7. CybersĂ©curitĂ© : Face Ă  l’évolution constante des cybermenaces, le secteur financier a besoin de solutions agiles. L’IA gĂ©nĂ©rative offre exactement cela. Mettant en Ĺ“uvre des modèles prĂ©dictifs dynamiques, il permet une dĂ©tection plus rapide des menaces, renforçant ainsi les infrastructures financières contre les violations potentielles.

Cependant, comme c’est le cas pour toute technologie en évolution, l’IA générative comporte son lot de défis dans le secteur financier.

Les défis

  1. Amplification de biais : Les modèles d’IA, aussi sophistiquĂ©s soient-ils, s’appuient toujours sur des donnĂ©es d’entraĂ®nement gĂ©nĂ©rĂ©es par l’homme. Ces donnĂ©es, avec leurs biais inhĂ©rents, intentionnels ou non, peuvent conduire Ă  des rĂ©sultats faussĂ©s. Par exemple, si un groupe dĂ©mographique particulier est sous-reprĂ©sentĂ© dans l’ensemble de formation, les rĂ©sultats ultĂ©rieurs de l’IA pourraient perpĂ©tuer cet oubli. Dans un secteur comme la finance, oĂą l’équitĂ© et la justice sont primordiales, de tels prĂ©jugĂ©s pourraient avoir de graves consĂ©quences. Les dirigeants financiers doivent ĂŞtre proactifs pour identifier ces biais et garantir que leurs ensembles de donnĂ©es sont aussi complets et reprĂ©sentatifs que possible.
  2. FiabilitĂ© des rĂ©sultats et prise de dĂ©cision : L'IA gĂ©nĂ©rative peut parfois produire des rĂ©sultats Ă  la fois erronĂ©s et trompeurs, souvent qualifiĂ©s de « Â»hallucinations'. Ces faux pas sont quelque peu attendus Ă  mesure que les modèles d’IA s’affinent et apprennent, mais les rĂ©percussions dans le domaine financier, oĂą la prĂ©cision n’est pas nĂ©gociable, sont graves. S’appuyer uniquement sur l’IA pour des dĂ©cisions critiques, telles que l’approbation de prĂŞts, est pĂ©rilleux. L’IA doit plutĂ´t ĂŞtre considĂ©rĂ©e comme un outil sophistiquĂ© qui assiste les experts financiers, et non comme un outil qui les remplace. Il doit gĂ©rer le poids informatique, fournissant des informations permettant aux professionnels humains de prendre des dĂ©cisions finales et Ă©clairĂ©es.
  3. ConfidentialitĂ© et conformitĂ© des donnĂ©es : La protection des donnĂ©es sensibles des clients reste une prĂ©occupation majeure avec les applications d’IA gĂ©nĂ©rative. S'assurer que le système adhère aux normes mondiales telles que Règlement GĂ©nĂ©ral de Protection des DonnĂ©es (GDPR) et le Loi sur la protection des consommateurs en Californie (CCPA) est crucial. L’IA peut ne pas connaĂ®tre ou respecter intrinsèquement ces limites, son utilisation doit donc ĂŞtre modĂ©rĂ©e par des directives strictes en matière de protection des donnĂ©es, en particulier dans le secteur financier oĂą la confidentialitĂ© est primordiale.
  4. QualitĂ© des donnĂ©es d'entrĂ©e : L’IA gĂ©nĂ©rative n’est aussi efficace que les donnĂ©es qui lui sont fournies. Des donnĂ©es inexactes ou incomplètes peuvent par inadvertance conduire Ă  des conseils ou Ă  des dĂ©cisions financières mĂ©diocres.

Conclusion

De l’amélioration des stratégies commerciales au renforcement de la sécurité, les applications de l’IA générative sont vastes et transformatrices. Cependant, comme pour toute technologie, il est essentiel d’aborder son adoption avec prudence, compte tenu des implications éthiques et en matière de confidentialité.

Les institutions qui réussiront à exploiter les prouesses de l’IA générative, tout en respectant ses limites et ses pièges potentiels, façonneront sans aucun doute la trajectoire future de la scène financière mondiale.

J'ai passé les cinq dernières années à m'immerger dans le monde fascinant du Machine Learning et du Deep Learning. Ma passion et mon expertise m'ont amené à contribuer à plus de 50 projets de génie logiciel divers, avec un accent particulier sur l'IA/ML. Ma curiosité continue m'a également attiré vers le traitement automatique du langage naturel, un domaine que j'ai hâte d'explorer davantage.