Generativ AI i finans: FinGPT, BloombergGPT og mer

Generativ AI viser til modeller som kan generere nye dataeksempler som ligner innputtdataene. Suksessen til ChatGPT åpnet mange muligheter over hele bransjene, og inspirerte bedrifter til å designe sine egne store språkmodeller. Finanssektoren, som er drevet av data, er nå enda mer dataintensiv enn noen gang.

Nylige estimater fra McKinsey antyder at denne generative AI kan tilby årlige besparelser på opptil 340 milliarder dollar for banksektoren alene.

BloombergGPT & økonomien i generativ AI

I mars 2023 presenterte Bloomberg BloombergGPT. Det er en språkmodell bygget fra bunnen av med 50 milliarder parametre, tilpasset spesifikt for finansielle data.

For å spare penger, må man noen ganger bruke penger. Trening av modeller som BloombergGPT eller Meta sine Llama 2 er ikke billig.

Trening av Llama 2 sitt 70 milliarder parametriske modell krevde 1 700 000 GPU-timer. På kommersielle skytjenester kan leie av Nvidia A100 GPU (NVDA ) (brukt for Llama 2) koste rundt 1-2 dollar per GPU-time. Ved å gjøre matematikken, kan en 10 milliarder parametriske modell koste rundt 150 000 dollar, mens en 100 milliarder parametriske modell kan koste så mye som 1,5 millioner dollar.

Hvis man ikke leier, kan man kjøpe GPU-ene rett og slett. Likevel kan kjøpe rundt 1000 A100 GPU-er for å danne en cluster koste over 10 millioner dollar.

Bloombergs investering på over en million dollar er særlig øyneåpnende når den sammenlignes med de raske fremgangene i AI. Forbløffende nok kunne en modell som kostet bare 100 dollar overgå BloomberGPTs ytelse på bare halvannet år. Mens BloomberGPTs trening inkorporerte proprietær data, var en overveldende majoritet (99,30 %) av deres dataset offentlig tilgjengelig. Det kommer FinGPT.

FinGPT

FinGPT er en state-of-the-art finansiell fine-tunet stor språkmodell (FinLLM). Utviklet av AI4Finance-Foundation, er FinGPT for tiden overgående andre modeller når det gjelder både kostnadseffektivitet og nøyaktighet generelt.

Det finnes for øyeblikket 3 versjoner; FinGPT v3-serien er modeller forbedret ved hjelp av LoRA-metoden, og de er trent på nyheter og tweets for å analysere holdninger. De utfører best i mange finansielle holdnings tester. FinGPT v3.1 er bygget på chatglm2-6B-modellen, mens FinGPT v3.2 er basert på Llama2-7b-modellen.

FINGPT

FinGPTs operasjoner:

1. Datakilde og -ingeniør:
   • Datainnsamling: Bruker data fra pålitelige kilder som Yahoo, Reuters og mer, kombinerer FinGPT en stor mengde finansielle nyheter, fra US-aksjer til CN-aksjer.
   • Datahandsaming: Denne rådata gjennomgår mange stadier av rensing, tokenisering og prompt-ingeniørarbeid for å sikre dens relevans og nøyaktighet.
2. Stor språkmodell (LLM):
   • Trening: Ved hjelp av de kurerte dataene, kan ikke bare LLM-er bli fine-tunet for å føde lettvekte modeller tilpasset spesifikke behov, men eksisterende modeller eller API-er kan også bli tilpasset for å støtte applikasjoner.
   • Fine-tuningsstrategier:
     • Tensorelag (LoRA): En av de viktigste utfordringene i å utvikle modeller som FinGPT er å få tak i høykvalitetsmerkede data. Ved å erkjenne denne utfordringen, adopterer FinGPT en innovativ tilnærming. I stedet for å bare stole på tradisjonell merking, blir markedets driven aksjeprisfluktuasjoner brukt som merker, og oversetter nyhetsstemning til merkbare merker som positiv, negativ eller nøytral. Dette resulterer i massive forbedringer i modellens prediktive evner, spesielt i å skille positive og negative holdninger. Ved hjelp av fine-tuningsstrategier som LoRA, klarte FinGPT v3 å optimalisere ytelsen og redusere beregningskostnader.
     • Forsterkingslæring fra menneskelig tilbakemelding: FinGPT bruker “RLHF (Forsterkingslæring fra menneskelig tilbakemelding)“. En funksjon som mangler i BloombergGPT, RLHF utstyrer LLM-modellen med evnen til å skille individuelle preferanser – enten det er en brukers risikotoleranse, investeringsmønster eller tilpassede robo-rådgiverinnstillinger. Denne teknikken, en hjørnestein i både ChatGPT og GPT4, sikrer en mer tilpasset og intuitiv brukeropplevelse.
3. Aplikasjoner og innovasjoner:
   • Robo-rådgiver: Lik en erfaren finansiell rådgiver, kan FinGPT analysere nyhetsstemninger og forutsi markedstrender med stor nøyaktighet.
   • Kvantitativ handel: Ved å identifisere holdninger fra diverse kilder, fra nyhetskanaler til Twitter, kan FinGPT formulere effektive handelsstrategier. Faktisk, selv når den bare styres av Twitter-stemninger, viser den lovende handelsresultater.

FinGPT sammenligning med ChatGLM, LLAMA 2, BloombergGPT

FinGPTs nåværende trajektori og fremtid: Juli 2023 markerer en spennende milepæl for FinGPT. Teamet avduket en forskningsrapport med tittelen “Instruct-FinGPT: Finansiell holdningsanalyse ved instruksjonstuning av generelle store språkmodeller.” Sentral i denne rapporten er utforskingen av instruksjonstuning, en teknikk som gjør det mulig for FinGPT å utføre intrikate finansielle holdningsanalyser.

Men FinGPT er ikke begrenset til holdningsanalyse alene. Faktisk er det 19 andre diverse applikasjoner tilgjengelige, hver med løfte om å utnytte LLM-er på nye måter. Fra prompt-ingeniørarbeid til å forstå komplekse finansielle sammenhenger, etablerer FinGPT seg som en månyfacettert GenAI-modell i finansdomenet.

Hvordan globale banker omfavner generativ AI

Mens begynnelsen av 2023 så noen av de største finansaktørene som Bank of America (BAC ), Citigroup og Goldman Sachs påla begrensninger på bruk av OpenAI sin ChatGPT av deres ansatte, har andre motparter i bransjen valgt en mer omfavnende holdning.

Morgan Stanley (MS ), for eksempel, har integrert OpenAI-drevne chatboter som et verktøy for deres finansielle rådgivere. Ved å bruke firmaets omfattende interne forskning og data, tjener disse chatbotene som rike kunnskapsressurser, og forbedrer effisiensen og nøyaktigheten i finansiell rådgivning.

I mars i år var Hedgefondet Citadel i ferd med å sikre en bedriftsvid ChatGPT-lisens. Den prospektive implementeringen forutser å styrke områder som programvareutvikling og intrikat informasjonsanalyse.

JPMorgan Chase arbeider også med å utnytte store språkmodeller for å oppdage svindel. Deres metode går ut på å bruke e-postmønster for å identifisere potensielle kompromitteringer. Ikke stanser her, har banken også satt et ambisiøst mål: å legge til så mye som 1,5 milliarder dollar i verdi med AI innen utgangen av året.

Hva angår Goldman Sachs, er de ikke helt motstandere av AI sin tiltrekningskraft. Banken utforsker kraften i generativ AI for å styrke sin programvareutviklingsdomene. Som Marco Argenti, Chief Information Officer of Goldman Sachs, sier det, har en slik integrering potensialet til å transformere deres arbeidsstyrke til noe “superhumant.”

Generativ AI sin anvendelse i bank- og finanssektoren

Generative AI in Finance USE CASES

Generativ AI transformerer fundamentalt finansielle operasjoner, beslutninger og kundeinteraksjoner. Her er en detaljert utforsking av dens applikasjoner:

1. Svindelforebygging: Generativ AI er i fremkant av å utvikle nyeste svindeldeteksjonsmekanismer. Ved å analysere store datamengder, kan den skille komplekse mønster og uregelmessigheter, og tilby en mer proaktiv tilnærming. Tradisjonelle systemer, ofte overveldet av den store mengden data, kan produsere feilpositive resultater. Generativ AI, på den andre siden, forbedrer kontinuerlig sin forståelse, reduserer feil og sikrer mer sikre finansielle transaksjoner.

2. Kredittvurdering: De tradisjonelle metodene for å vurdere en låntakers kredittverdighet, mens de er pålitelige, blir foreldet. Generativ AI-modeller gjennom diverse parametre – fra kredittistorier til subtile atferdsmønster – tilbyr en komprehensiv risikoprofil. Dette sikrer ikke bare tryggere utlåning, men også en bredere kundebase, inkludert de som kan være underserviced av tradisjonelle metoder.

3. Forbedring av kundeinteraksjon: Den finansielle verden er vitne til en revolusjon i kundeservice, takket være generativ AI-drevne NLP-modeller. Disse modellene er dyktige i å forstå og svare på varierte kunde forespørsler, og tilbyr personlige løsninger raskt. Ved å automatisere rutinemessige oppgaver, kan finansinstitusjoner redusere overhead, strømlinje operasjoner og forbedre kundetilfredshet.

4. Personlig finans: En-størrelse-til-alle er en relikt fra fortiden. I dag krever kundene finansiell planlegging tilpasset deres unike behov og aspirasjoner. Generativ AI utmerker seg her. Ved å analysere data – fra utgiftsmønster til investeringspreferanser – kan den skape individualiserte finansielle veikart. Denne holistiske tilnærmingen sikrer at kundene er bedre informert og bedre utrustet til å navigere sine finansielle fremtider.

5. Algoritme-handel: Generativ AI sin analytiske dyktighet er bevist verdifull i den volatile verden av algoritme-handel. Ved å dissekere data – fra markedstrender til nyhetsstemninger – tilbyr den innsiktsfulle tanker, og muliggjør at finansielle eksperter kan optimalisere strategier, forutsi markedsskift og minimere potensielle risiko.

6. Styrking av retningslinjer: Anti-pengelønningsregler er kritiske i å opprettholde integriteten i finansielle systemer. Generativ AI forenkler overholdelse ved å si gjennom komplekse transaksjonsdata for å peke ut mistenkte aktiviteter. Dette sikrer ikke bare at finansinstitusjoner overholder globale standarder, men også at sjansen for feilpositive resultater reduseres, og operasjonene strømlinjes.

7. Sikkerhet: Med cybertruer som stadig utvikler seg, trenger finanssektoren agile løsninger. Generativ AI tilbyr akkurat det. Ved å implementere dynamiske predikative modeller, muliggjør den raskere trusseldeteksjon, og styrker finansielle infrastrukturer mot potensielle brudd.

Men, som er tilfelle med alle utviklende teknologier, kommer generativ AI med sine egne utfordringer i finanssektoren.

Utfordringene

1. Forsterkning av fordommer: AI-modeller, så sofistikerte de er, er fortsatt avhengige av menneskeskapt treningdata. Denne dataen, med sine innebygde fordommer – enten det er med vilje eller ikke – kan føre til skjeve resultater. For eksempel, hvis en bestemt demografi er underrepresentert i treningssettet, kan AI sin påfølgende utdata forsterke denne overseelsen. I en sektor som finans, hvor likestilling og rettferdighet er avgjørende, kan slike fordommer føre til alvorlige konsekvenser. Finansielle ledere må være proaktive i å identifisere disse fordommene og sikre at deres datasett er så komplette og representative som mulig.
2. Utgangens pålitelighet og beslutning: Generativ AI kan noen ganger produsere resultater som er både feil og misvisende – ofte betegnet som ‘hallusinasjoner‘. Disse feilene er noen ganger forventet mens AI-modellene forbedrer og lærer, men konsekvensene i finans, hvor nøyaktighet er uforbeholden, er alvorlige. Å stole kun på AI for kritiske beslutninger, som lånegodkjenning, er farlig. I stedet bør AI sees på som et sofistikert verktøy som assisterer finansielle eksperter, ikke erstatter dem. Det bør håndtere den komputasjonelle vekten, og gi innsikt for menneskelige profesjonelle til å ta de endelige, informerte beslutningene.
3. Data beskyttelse og overholdelse: Beskyttelse av følsomme kundedata forblir en betydelig bekymring med generativ AI-applikasjoner. Å sikre at systemet overholder globale standarder som General Data Protection Regulation (GDPR) og California Consumer Privacy Act (CCPA) er avgjørende. AI kan ikke innevet eller respektere disse grensene, så dens bruk må modereres med strenge data beskyttelsesretningslinjer, spesielt i finanssektoren hvor konfidensialitet er avgjørende.
4. Kvaliteten på inndata: Generativ AI er bare så god som dataene som mates inn. Uekte eller ufullstendige data kan utilsiktet føre til underordnet finansiell rådgivning eller beslutninger.

Konklusjon

Fra å forbedre handelsstrategier til å styrke sikkerheten, er generativ AI-applikasjoner store og transformerende. Men, som med alle teknologier, er det essensielt å nærme seg dens adopsjon med forsiktighet, og vurdere de etiske og personvernsimplikasjonene.

De institusjonene som suksessfullt utnytter generativ AI sin kraft, samtidig som de respekterer dens begrensninger og potensielle fallgruber, vil uten tvil forme fremtidens trajektori for den globale finansielle arena.