Prompt engineering

Generativ AI i finans: FinGPT, BloombergGPT og mere

mm
Føj Unite.AI til dine foretrukne kilder på Google
Generative AI in Finance

Generativ AI henviser til modeller, der kan generere nye datasæt, der ligner inputdataen. Succesen med ChatGPT åbnede mange muligheder på tværs af brancher og inspirerede virksomheder til at designe deres egne store sprogmodeller. Finanssektoren, der er drevet af data, er nu endnu mere dataintensiv end nogensinde.

Jeg arbejder som datavidenskabsmand i en fransk-baseret finansvirksomhed. Efter at have været der i over et år, har jeg nyligt observeret en betydelig stigning i brugen af LLM i alle afdelinger til opgaveautomatisering og opbygning af robuste, sikre AI-systemer.

Hvert finansservice forsøger at skabe deres egne finjusterede LLM’er ved hjælp af open-source-modeller som LLAMA 2 eller Falcon. Især legacy-banker, der har årtiers finansielle data.

Indtil nu har det ikke været muligt at inkorporere denne enorme mængde data i en enkelt model på grund af begrænsede computereressourcer og mindre komplekse/lav-parametermodeller. Men disse open-source-modeller med milliarder af parametre kan nu finjusteres til store mængder tekstdata. Data er som brændstof til disse modeller; jo mere der er, desto bedre er resultaterne.

Both data og LLM-modeller kan spare banker og andre finansservice millioner ved at forbedre automation, effektivitet, præcision og mere.

Seneste estimeringer fra McKinsey antyder, at denne generative AI kunne tilbyde årlige besparelser på op til 340 milliarder dollars for banksektoren alene.

BloombergGPT & Økonomi af Generativ AI 

I marts 2023 præsenterede Bloomberg BloombergGPT. Det er et sprogmodel bygget fra bunden med 50 milliarder parametre, tilpasset specifikt til finansielle data.

For at spare penge, skal man nogle gange bruge penge. Træning af modeller som BloombergGPT eller Meta’s Llama 2 er ikke billige.

Træning af Llama 2’s 70 milliarder parametermodel krævede 1.700.000 GPU-timer. Ved at bruge Nvidia A100 GPU (NVDA ) (brugt til Llama 2) kan det koste op til 1-2 dollars for hver GPU-time. Ved at gøre regnestykket, kan en 10 milliarder parametermodel koste omkring 150.000 dollars, mens en 100 milliarder parametermodel kan koste op til 1,5 millioner dollars.

Hvis man ikke lejer, kan man købe GPU’erne direkte. Men at købe omkring 1000 A100 GPU’er for at danne en cluster kan koste over 10 millioner dollars.

Bloombergs investering på over en million dollars er særlig tankevækkende, når den sammenlignes med de hurtige fremskridt i AI. Forbløffende nok kunne en model, der kun kostede 100 dollars, overgå BloomberGPT’s præstation på kun halvandet år. Mens BloomberGPT’s træning inkorporerede proprietær data, var en overvældende majoritet (99,30%) af deres dataset offentligt tilgængeligt. Dertil kommer FinGPT.

FinGPT

FinGPT er et state-of-the-art finansielt finjusteret stort sprogmodel (FinLLM). Udviklet af AI4Finance-Foundation, er FinGPT i øjeblikket bedre end andre modeller i både omkostningseffektivitet og præcision i almindelighed.

Det findes i tre versioner; FinGPT v3-serien er modeller, der er forbedret ved hjælp af LoRA-metoden, og de er trænet på nyheder og tweets for at analysere holdninger. De opfører sig bedst i mange finansielle holdnings tests. FinGPT v3.1 er bygget på chatglm2-6B-modellen, mens FinGPT v3.2 er baseret på Llama2-7b-modellen.

 

FINGPT

FINGPT

FinGPT’s Operationer:

  1. Datakilder og -ingeniering:
    • Dataindsamling: Bruger data fra troværdige kilder som Yahoo, Reuters og mere, FinGPT kombinerer en stor mængde finansielle nyheder, der spænder fra US-aktier til CN-aktier.
    • Dataforarbejdning: Denne rådata undergår mange stadier af rensning, tokenisering og prompt-ingeniering for at sikre dens relevans og præcision.
  2. Store sprogmodeller (LLM’er):
    • Træning: Ved hjælp af den kuraterede data kan LLM’er ikke kun finjusteres til at føde letvægtsmodeller tilpasset specifikke behov, men eksisterende modeller eller API’er kan også tilpasses til at understøtte anvendelser.
    • Finjusteringsstrategier:
      • Tensor-lag (LoRA): En af de vigtigste udfordringer i udviklingen af modeller som FinGPT er at få fat i højkvalitetsmærket data. Ved at erkende denne udfordring, antager FinGPT en innovativ tilgang. I stedet for kun at afhænge af traditionel mærkning, anvendes markedets drevne aktieprisfluktuationer som mærker, hvilket oversætter nyhedsstemning til konkrete mærker som positiv, negativ eller neutral. Dette resulterer i massive forbedringer i modellens predictive evner, især i at skelne positive og negative stemninger. Gennem finjusteringsteknikker som LoRA lykkedes det FinGPT v3 at optimere præstationen, samtidig med at den reducerede beregningsomkostningerne.
      • Forstærkning af læring fra menneskelig feedback: FinGPT bruger “RLHF (Reinforcement learning from human feedback)“. En funktion, der mangler i BloombergGPT, giver RLHF LLM-modellen evnen til at skelne individuelle præferencer – enten en brugers risikotolerance, investeringsmønstre eller tilpassede robo-rådgivningssætninger. Denne teknik, der er et hjørnesten i både ChatGPT og GPT4, sikrer en mere tilpasset og intuitiv brugeroplevelse.
  3. Anvendelser og innovationer:
    • Robo-rådgiver: Som en erfaren finansielle rådgiver kan FinGPT analysere nyhedsstemninger og forudsige markedstrends med stor præcision.
    • Kvantitativ handel: Ved at identificere stemninger fra diverse kilder, fra nyhedsmedier til Twitter, kan FinGPT formulere effektive handelsstrategier. Faktisk kan den, selv når den blot er rettet mod Twitter-stemninger, vise lovende handelsresultater.
FinGPT comparison with ChatGLM, LLAMA 2, BloombergGPT

FinGPT sammenligning med ChatGLM, LLAMA 2, BloombergGPT

FinGPT’s nuværende Traektori og Fremtid: Juli 2023 markerer en spændende milepæl for FinGPT. Holdet offentliggjorde en forskningsrapport med titlen “Instruct-FinGPT: Finansielle stemningsanalyser ved instruktionsfinjustering af generelle store sprogmodeller.” Centralt for denne rapport er udforskningen af instruktionsfinjustering, en teknik, der giver FinGPT mulighed for at udføre komplekse finansielle stemningsanalyser.

Men FinGPT er ikke begrænset til stemningsanalyse alene. Faktisk er der 19 andre forskellige anvendelser, hver med lovende muligheder for at udnytte LLM’er på nye måder. Fra prompt-ingeniering til forståelse af komplekse finansielle sammenhænge er FinGPT ved at etablere sig som en alsidig GenAI-model i finansdomænet.

Hvordan globale banker omfavner generativ AI

Mens begyndelsen af 2023 så nogle af de største finansielle spillere som Bank of America (BAC ), Citigroup og Goldman Sachs pålagde begrænsninger for brugen af OpenAI’s ChatGPT af deres medarbejdere, har andre modparter i branchen valgt en mere omfavnende holdning.

Morgan Stanley (MS ), for eksempel, har integreret OpenAI-drevne chatbots som et værktøj for deres finansielle rådgivere. Ved at udnytte firmaets omfattende interne forskning og data, fungerer disse chatbots som berigede videnressourcer, der forbedrer effektiviteten og præcisionen af finansielle råd.

I marts dette år var Hedge fund Citadel på vej til at sikre en virksomhedsomfattende ChatGPT-licens. Den forestående implementering forudsætter en styrkelse af områder som softwareudvikling og kompleks informationsanalyse.

JPMorgan Chase arbejder også på at udnytte store sprogmodeller til svigagtigelse. Deres metode drejer sig om at bruge e-mail-mønstre til at identificere potentielle kompromitteringer. Ikke tilfreds med dette, har banken også sat et ambitiøst mål: at tilføje op til 1,5 milliarder dollars i værdi med AI inden årets udgang.

Som for Goldman Sachs er de ikke helt modstandere af AI’s tiltrækning. Banken udforsker kraften af generativ AI til at styrke sin software-ingeniørdomæne. Som Marco Argenti, Chief Information Officer of Goldman Sachs, siger, har denne integration potentialet til at omdanne deres arbejdskraft til noget “superhumant.”

Anvendelser af Generativ AI i bank- og finanssektoren

Generative AI in Finance USE CASES

Generative AI in Finance Use Cases

Generativ AI transformerer fundamentalt finansielle operationer, beslutninger og kundeinteraktioner. Her er en detaljeret udforskning af dets anvendelser:

1. Svigforebyggelse: Generativ AI er i frontlinjen for udvikling af avancerede svigdetektionsmekanismer. Ved at analysere store datapooler kan den skelne komplekse mønstre og uregelmæssigheder, og tilbyde en mere proaktiv tilgang. Traditionelle systemer, ofte overvældet af den enorme mængde data, kan producere falske positive resultater. Generativ AI, på den anden side, forbedrer kontinuerligt sin forståelse, reducerer fejl og sikrer mere sikre finansielle transaktioner.

2. Kreditvurdering: De traditionelle metoder til vurdering af en låntagers kreditværdighed, mens de er pålidelige, bliver forældede. Generativ AI-modeller gennem diverse parametre – fra kreditistorier til subtile adfærdsmønstre – tilbyder en komplet risikoprofil. Dette sikrer ikke kun sikrere udlån, men også en bredere klientel, herunder de, der måske er underserviced af traditionelle målinger.

3. Forbedring af kundeinteraktion: Den finansielle verden oplever en revolution i kundeservice takket være generativ AI-drevne NLP-modeller. Disse modeller er dygtige til at forstå og besvare varierede kunde forespørgsler, og tilbyde personlige løsninger prompt. Ved at automatisere rutineopgaver kan finansielle institutioner reducere omkostninger, strømlinje operationer og forbedre kundetilfredshed.

4. Personliggjort finansiel: En størrelse, der passer alle, er en relikt fra fortiden. I dag kræver kunder finansielle planer, der er tilpasset deres unikke behov og aspirationer. Generativ AI excellerer her. Ved at analysere data – fra forbrugs mønstre til investeringspræferencer – skaber den individualiserede finansielle vejvisere. Denne holistiske tilgang sikrer, at kunder er bedre informerede og bedre udstyret til at navigere deres finansielle fremtid.

5. Algoritme-handel: Generativ AI’s analytiske dygtighed er værdifuld i den volatile verden af algoritme-handel. Ved at dissekere data – fra markedstrends til nyhedsstemninger – giver den indsigtfulde indsigt, der giver finansielle eksperter mulighed for at optimere strategier, forudsige markedsskift og mindske potentielle risici.

6. Styrkelse af compliance-rammer: Anti-pengetvætningsregler (AML) er afgørende for at opretholde integriteten af finansielle systemer. Generativ AI simplificerer overholdelse ved at sieve gennem komplekse transaktionsdata for at pege på mistænkelige aktiviteter. Dette sikrer ikke kun, at finansielle institutioner overholder globale standarder, men reducerer også betydeligt chancerne for falske positive resultater, og strømliner operationer.

7. Cybersikkerhed: Med cybertrusler, der konstant udvikler sig, har den finansielle sektor brug for agile løsninger. Generativ AI tilbyder præcis det. Ved at implementere dynamiske predictive modeller giver den mulighed for hurtigere trusselsdetektion, og styrker finansielle infrastrukturer mod potentielle brud.

Men som med enhver udviklende teknologi kommer generativ AI med sin egen sæt af udfordringer i finanssektoren.

Udfordringerne

  1. Forstærkning af bias: AI-modeller, så avancerede de er, afhænger stadig af menneskeskabt træningsdata. Dette data, med dets indbyggede bias – enten intentionelt eller ej – kan føre til skæve resultater. For eksempel, hvis en bestemt demografisk gruppe er underrepræsenteret i træningsmængden, kan AI’s efterfølgende output muligvis fortsætte denne overseen. I en sektor som finans, hvor lighed og retfærdighed er afgørende, kan sådanne bias have alvorlige konsekvenser. Finansielle ledere må være proaktive i at identificere disse bias og sikre, at deres datasæt er så komplette og repræsentative som muligt.
  2. Output-pålidelighed og beslutningstagning: Generativ AI kan af og til producere resultater, der er både forkerte og misvisende – ofte betegnet som ‘hallucinationer‘. Disse fejl er noget, man kan forvente, da AI-modellerne forbedrer og lærer, men konsekvenserne i finans, hvor præcision er uafvigeligt, er alvorlige. At afhænge kun af AI til kritiske beslutninger, såsom lånegodkendelser, er farligt. I stedet bør AI ses som et avanceret værktøj, der hjælper finansielle eksperter, ikke erstatter dem. Det skal håndtere den beregningsmæssige vægt, og give indsigt til menneskelige fagfolk til at træffe de endelige, informerede beslutninger.
  3. Data Beskyttelse og Overholdelse: Beskyttelse af følsomme kundedata er en betydelig bekymring med generativ AI-anvendelser. Det er afgørende at sikre, at systemet overholder globale standarder som General Data Protection Regulation (GDPR) og California Consumer Privacy Act (CCPA). AI må ikke nødvendigvis kende eller respektere disse grænser, så dens brug må modereres med strenge data-beskyttelsesretningslinjer, især i den finansielle sektor, hvor fortrolighed er afgørende.
  4. Kvaliteten af Input Data: Generativ AI er kun så god som data, der indføres. Upræcis eller ufuldstændig data kan utilsigtet føre til underlødige finansielle råd eller beslutninger.

Konklusion

Fra at forbedre handelsstrategier til at styrke sikkerheden er generativ AI’s anvendelser omfattende og transformerende. Men som med enhver teknologi er det afgørende at tilgang til dens adoption med forsigtighed, og overveje de etiske og privatlivets implikationer.

De institutioner, der succesfuldt udnytter generativ AI’s dygtighed, samtidig med at de respekterer dets begrænsninger og potentielle faldgruber, vil uden tvivl forme den fremtidige udvikling af det globale finansielle område.

Jeg har brugt de sidste fem år på at dykke ned i den fascinerende verden af Machine Learning og Deep Learning. Min passion og ekspertise har ført mig til at bidrage til over 50 forskellige software-ingeniørprojekter, med en særlig fokus på AI/ML. Min fortsatte nysgerrighed har også ført mig mod Natural Language Processing, et felt jeg er ivrig efter at udforske yderligere.