Generativ AI i finans: FinGPT, BloombergGPT och bortom

Recenta uppskattningar från McKinsey tyder på att denna generativa AI kan erbjuda årliga besparingar på upp till 340 miljarder dollar för banksektorn ensam.

BloombergGPT & Ekonomi för Generativ AI

I mars 2023 presenterade Bloomberg BloombergGPT. Det är en språkmodell byggd från grunden med 50 miljarder parametrar, anpassad specifikt för finansiell data.

För att spara pengar måste man ibland spendera pengar. Att träna modeller som BloombergGPT eller Metas Llama 2 är inte billigt.

Att träna Llama 2:s 70 miljarder parametrars modell krävde 1 700 000 GPU-timmar. På kommersiella molntjänster kan användning av Nvidia A100 GPU (NVDA ) (används för Llama 2) kosta 1-2 dollar per GPU-timme. Om man räknar på det kan en 10 miljarders parametrars modell kosta runt 150 000 dollar, medan en 100 miljarders parametrars modell kan kosta så mycket som 1,5 miljoner dollar.

Om man inte hyr, kan man köpa GPU:erna direkt. Men att köpa runt 1000 A100 GPU:er för att bilda en kluster kan kosta mer än 10 miljoner dollar.

Bloombergs investering på över en miljon dollar är särskilt ögonöppnande när den jämförs med den snabba utvecklingen inom AI. Förbluffande nog kunde en modell som kostade bara 100 dollar överträffa Bloombergs GPT:s prestanda på bara ett halvår. Medan Bloombergs träning använde proprietär data var en överväldigande majoritet (99,30%) av deras dataset offentligt tillgängligt. Då kommer FinGPT.

FinGPT

FinGPT är en toppmodernt finjusterad stor språkmodell (FinLLM) för finans. Utvecklad av AI4Finance-Foundation är FinGPT för närvarande den mest kostnadseffektiva och precisa modellen i allmänhet.

Den har för närvarande tre versioner; FinGPT v3-serien är modeller som förbättrats med LoRA-metoden och tränats på nyheter och tweets för att analysera sentiment. De presterar bäst i många finansiella sentimenttest. FinGPT v3.1 bygger på chatglm2-6B-modellen, medan FinGPT v3.2 bygger på Llama2-7b-modellen.

FINGPT

FinGPT:s verksamhet:

1. Datakällor och -teknik:
   • Datainsamling: FinGPT samlar in data från pålitliga källor som Yahoo, Reuters och fler, och kombinerar en stor mängd finansiella nyheter, från amerikanska aktier till kinesiska aktier.
   • Datahantering: Den här rådatan genomgår många steg av rensning, tokenisering och promptteknik för att säkerställa dess relevans och precision.
2. Stora språkmodeller (LLM):
   • Träning: Med den kuraterade datan kan LLM:er inte bara finjusteras för att skapa lätta modeller anpassade till specifika behov, utan existerande modeller eller API:er kan också anpassas för att stödja tillämpningar.
   • Strategier för finjustering:
     • Tensorkomponenter (LoRA): En av de viktigaste utmaningarna i utvecklingen av modeller som FinGPT är att få tillgång till högkvalitativt märkt data. Genom att erkänna denna utmaning antar FinGPT en innovativ strategi. Istället för att enbart förlita sig på traditionell märkning används marknadsdrivna aktiekursfluktuationer som märken, vilket översätter nyhetssentiment till märken som positiva, negativa eller neutrala. Detta resulterar i enorma förbättringar av modellens prediktiva förmåga, särskilt när det gäller att skilja på positiva och negativa sentiment. Genom finjusteringstekniker som LoRA kunde FinGPT v3 förbättra prestandan samtidigt som den minskade beräkningsbördan.
     • Stärkt inlärning från mänsklig återkoppling: FinGPT använder “RLHF (Reinforcement learning from human feedback)“. En funktion som saknas i BloombergGPT, RLHF utrustar LLM-modellen med förmågan att skilja på individuella preferenser – antingen en användares riskaptit, investeringsmönster eller anpassade robo-rådgivareinställningar. Denna teknik, en hörnsten i både ChatGPT och GPT4, säkerställer en mer anpassad och intuitiv användarupplevelse.
3. Tillämpningar och innovationer:
   • Robo-rådgivare: Liksom en erfaren finansiell rådgivare kan FinGPT analysera nyhetssentiment och förutspå marknadstrender med stor precision.
   • Kvantitativ handel: Genom att identifiera sentiment från olika källor, från nyhetskanaler till Twitter, kan FinGPT formulera effektiva handelsstrategier. I själva verket visar den till och med lovande handelsresultat när den enbart styrs av Twitter-sentiment.

FinGPT jämförelse med ChatGLM, LLAMA 2, BloombergGPT

FinGPT:s nuvarande bana och framtid: Juli 2023 markerar en spännande milstolpe för FinGPT. Teamet presenterade en forskningsartikel med titeln “Instruct-FinGPT: Finansiell sentimentanalys genom instruktionsjustering av allmänna stora språkmodeller“. Centralt i denna artikel är utforskningen av instruktionsjustering, en teknik som möjliggör för FinGPT att utföra invecklade finansiella sentimentanalyser.

Men FinGPT är inte begränsad till sentimentanalys ensam. I själva verket finns det 19 andra varierande tillämpningar tillgängliga, var och en som lovar att utnyttja LLM:er på nya sätt. Från promptteknik till förståelse av komplexa finansiella sammanhang etablerar FinGPT sig som en mångsidig GenAI-modell inom finansdomänen.

Hur globala banker anammar generativ AI

Medan början av 2023 såg vissa av de stora finansiella aktörerna som Bank of America (BAC ), Citigroup och Goldman Sachs införa begränsningar för användningen av OpenAI:s ChatGPT av deras anställda, har andra motsvarigheter inom branschen valt en mer omfamnande inställning.

Morgan Stanley (MS ), till exempel, har integrerat OpenAI-aktiverade chatbots som ett verktyg för deras finansiella rådgivare. Genom att utnyttja företagets omfattande interna forskning och data fungerar dessa chatbots som rika kunskapsresurser, som förbättrar effektiviteten och precisionen i finansiell rådgivning.

I mars i år var hedgefonden Citadel på väg att förhandla om en företagsomfattande ChatGPT-licens. Den planerade implementeringen syftar till att stärka områden som programvaruutveckling och invecklad informationsanalys.

JPMorgan Chase arbetar också med att utnyttja stora språkmodeller för bedrägeridetektering. Deras metodik kretsar kring att använda e-postmönster för att identifiera potentiella kompromisser. Inte nog med det, har banken också satt ett ambitiöst mål: att skapa så mycket som 1,5 miljarder dollar i värde med AI innan året är slut.

När det gäller Goldman Sachs är de inte helt motståndskraftiga mot AI:s dragningskraft. Banken undersöker kraften i generativ AI för att stärka sin programvaruutvecklingsdomän. Som Marco Argenti, Chief Information Officer på Goldman Sachs, uttrycker det, har en sådan integration potentialen att omvandla deras arbetskraft till något “övermänskligt.”

Användningsfall för generativ AI i bank- och finansbranschen

Generativ AI i finans: Användningsfall

Generativ AI förvandlar i grunden finansiella operationer, beslutsfattande och kundinteraktioner. Här är en detaljerad undersökning av dess tillämpningar:

1. Bedrägeriförebyggande: Generativ AI ligger i framkant när det gäller att utveckla avancerade bedrägeridetekteringsmekanismer. Genom att analysera stora datamängder kan den urskilja invecklade mönster och oregelbundenheter, vilket erbjuder en mer proaktiv strategi. Traditionella system, ofta överväldigade av den enorma mängden data, kan producera falska positiva resultat. Generativ AI, å andra sidan, förfinar kontinuerligt sin förståelse, minskar fel och säkerställer mer säkra finansiella transaktioner.

2. Kreditriskbedömning: De traditionella metoderna för att utvärdera en låntagares kreditvärdighet, medan de är tillförlitliga, blir föråldrade. Generativ AI-modeller, genom olika parametrar – från kreditistorik till subtila beteendemönster – erbjuder en omfattande riskprofil. Detta inte bara säkerställer säkrare utlåning, utan även betjänar en bredare kundkrets, inklusive de som kan vara underservade av traditionella mått.

3. Förbättrad kundinteraktion: Den finansiella världen upplever en revolution i kundtjänst, tack vare generativ AI-aktiverade NLP-modeller. Dessa modeller är skickliga på att förstå och svara på varierande kundförfrågningar, erbjuda personliga lösningar snabbt. Genom att automatisera rutinuppgifter kan finansiella institutioner minska overheadkostnader, effektivisera verksamheten och, framför allt, förbättra kundtillfredsställelse.

4. Personlig ekonomi: En storlek som passar alla är en relikt från det förflutna. Idag kräver kunder finansiell planering som är anpassad till deras unika behov och aspirationer. Generativ AI excellerar här. Genom att analysera data – från utgiftsmönster till investeringspreferenser – skapar den individualiserade finansiella vägkartor. Denna holistiska strategi säkerställer att kunder är bättre informerade och mer utrustade för att navigera sina finansiella framtider.

5. Algoritmisk handel: Generativ AI:s analytiska förmåga visar sig vara ovärderlig i den volatila världen av algoritmisk handel. Genom att dissekera data – från marknadstrender till nyhetssentiment – erbjuder den insiktsfulla insikter, som möjliggör för finansiella experter att optimera strategier, förutspå marknadsförändringar och minimera potentiella risker.

6. Stärkta efterlevnadsramverk: Anti-penningtvättsregler (AML) är avgörande för att upprätthålla integriteten i finansiella system. Generativ AI förenklar efterlevnaden genom att sikta igenom invecklad transaktionsdata för att identifiera misstänkta aktiviteter. Detta inte bara säkerställer att finansiella institutioner följer globala standarder, utan också minskar avsevärt chanserna för falska positiva resultat, vilket effektiviserar verksamheten.

7. Cybersäkerhet: Med cyberhot som ständigt utvecklas behöver den finansiella sektorn agila lösningar. Generativ AI erbjuder just det. Genom att implementera dynamiska prediktiva modeller möjliggör den snabbare hotdetektering, vilket stärker finansiella infrastrukturer mot potentiella intrång.

Men, som med alla utvecklande teknologier, kommer generativ AI med sin uppsättning utmaningar inom finansbranschen.

Utmaningarna

1. Förstärkt bias: AI-modeller, så avancerade de är, förlitar sig fortfarande på mänskligt genererad träningsdata. Denna data, med dess inbyggda bias – antingen avsiktliga eller inte – kan leda till snedvridna resultat. För exempel, om en viss demografisk grupp är underrepresenterad i träningsuppsättningen, kan AI:s efterföljande utdata förstärka denna försummelse. I en sektor som finans, där jämlikhet och rättvisa är av yttersta vikt, kan sådana bias leda till allvarliga konsekvenser. Finansiella ledare måste vara proaktiva i att identifiera dessa bias och säkerställa att deras datamängder är så omfattande och representativa som möjligt.
2. Utdata tillförlitlighet och beslutsfattande: Generativ AI kan ibland producera resultat som är både felaktiga och vilseledande – ofta kallade “hallucinationer“. Dessa misstag är något förväntade när AI-modeller förfinas och lär, men konsekvenserna inom finans, där precision är ovillkorlig, är allvarliga. Att förlita sig enbart på AI för kritiska beslut, som kreditgodkännanden, är farligt. Istället bör AI ses som ett sofistikerat verktyg som assisterar finansiella experter, inte ersätter dem. Det bör hantera den beräkningsmässiga bördan, erbjuda insikter för mänskliga proffs att fatta de slutliga, informerade besluten.
3. Dataintegritet och efterlevnad: Att skydda känslig kunddata förblir en betydande oro med generativ AI-tillämpningar. Att säkerställa att systemet följer globala standarder som Dataskyddsförordningen (GDPR) och Kaliforniens konsumentdataskyddslag (CCPA) är avgörande. AI kan inte medfödda känna till eller respektera dessa gränser, så dess användning måste modereras med stränga dataskyddsriktlinjer, särskilt inom den finansiella sektorn där konfidentialitet är av yttersta vikt.
4. Kvaliteten på indata: Generativ AI är bara så bra som datan som matas in. Felaktig eller ofullständig data kan oavsiktligt leda till undermålig finansiell rådgivning eller beslut.

Slutsats

Från att förbättra handelsstrategier till att stärka säkerheten, är generativa AI-tillämpningar omfattande och transformerande. Men, som med alla teknologier, är det viktigt att närma sig dess antagande med försiktighet, med beaktande av etiska och integritetsaspekter.

De institutioner som framgångsrikt utnyttjar generativa AI:s kraft, samtidigt som de respekterar dess begränsningar och potentiella fallgropar, kommer utan tvekan att forma den framtida banan för den globala finansiella arenan.