Generativ AI i finans: FinGPT, BloombergGPT och bortom

Generativ AI syftar på modeller som kan generera nya dataexempel som liknar indata. ChatGPT:s framgång har öppnat många möjligheter över olika branscher, vilket har inspirerat företag att designa sina egna stora språkmodeller. Finanssektorn, som drivs av data, är nu mer dataintensiv än någonsin.

Jag arbetar som data scientist på ett franskbaserat finansiellt tjänsteföretag. Sedan jag varit där i över ett år har jag nyligen observerat en betydande ökning av användningsfall för LLM över alla avdelningar för uppgiftsautomatisering och konstruktion av robusta, säkra AI-system.

Varje finansiell tjänst syftar till att skapa sina egna finjusterade LLM med hjälp av öppen källkodsmodeller som LLAMA 2 eller Falcon. Särskilt äldre banker som har årtionden av finansiella data.

Tills nu har det inte varit möjligt att inkorporera denna stora mängd data i en enda modell på grund av begränsade beräkningsresurser och mindre komplexa/låtparametrarsmodeller. Men dessa öppen källkodsmodeller med miljarder parametrar kan nu finjusteras för stora mängder textdata. Data är som bränsle för dessa modeller; ju mer data, desto bättre resultat.

Både data och LLM-modeller kan spara banker och andra finansiella tjänster miljontals kronor genom att förbättra automatisering, effektivitet, precision och mer.

Senaste uppskattningar från McKinsey tyder på att denna generativa AI kan erbjuda årliga besparingar på upp till 340 miljarder dollar för banksektorn ensam.

BloombergGPT och ekonomi för generativ AI

I mars 2023 presenterade Bloomberg BloombergGPT. Det är en språkmodell byggd från scratch med 50 miljarder parametrar, anpassad specifikt för finansiella data.

För att spara pengar måste man ibland spendera pengar. Att träna modeller som BloombergGPT eller Meta’s Llama 2 är inte billigt.

Att träna Llama 2:s 70 miljarders parametrarmodell krävde 1 700 000 GPU-timmar. På kommersiella molntjänster kan användning av Nvidia A100 GPU (används för Llama 2) kosta 1-2 dollar för varje GPU-timme. Om man gör matematiken kan en 10 miljarders parametrarmodell kosta runt 150 000 dollar, medan en 100 miljarders parametrarmodell kan kosta så mycket som 1,5 miljoner dollar.

Om man inte hyr, kan man köpa GPU:erna direkt. Men att köpa runt 1000 A100 GPU:er för att bilda en kluster kan kosta mer än 10 miljoner dollar.

Bloombergs investering på över en miljon dollar är särskilt ögonöppnande när den jämförs med den snabba utvecklingen inom AI. Förbluffande nog kunde en modell som kostade bara 100 dollar överträffa BloombergGPT:s prestanda på bara halvtannat år. Medan BloombergGPT:s utbildning omfattade proprietär data var en överväldigande majoritet (99,30 %) av deras dataset offentligt tillgänglig. Då kommer FinGPT.

FinGPT

FinGPT är en state-of-the-art-finansiell finjusterad stor språkmodell (FinLLM). Utvecklad av AI4Finance-Foundation, är FinGPT för närvarande den som presterar bäst i fråga om både kostnadseffektivitet och precision i allmänhet.

Den har för närvarande tre versioner; FinGPT v3-serien är modeller som förbättrats med hjälp av LoRA-metoden, och de tränas på nyheter och tweets för att analysera sentiment. De presterar bäst i många finansiella sentimenttest. FinGPT v3.1 bygger på chatglm2-6B-modellen, medan FinGPT v3.2 bygger på Llama2-7b-modellen.

FINGPT

FinGPT:s drift:

1. Datakällor och -teknik:
   • Datainsamling: Använder data från trovärdiga källor som Yahoo, Reuters och fler, samlar FinGPT en stor mängd finansiella nyheter, från amerikanska aktier till kinesiska aktier.
   • Datahantering: Dessa rådata genomgår många steg av rensning, tokenisering och promptteknik för att säkerställa dess relevans och precision.
2. Stora språkmodeller (LLM):
   • Träning: Med de curatorerade data kan LLM:er finjusteras för att föda lätta modeller anpassade till specifika behov, och existerande modeller eller API:er kan också anpassas för att stödja applikationer.
   • Finjusteringsstrategier:
     • Tensorlager (LoRA): En av de viktigaste utmaningarna i utvecklingen av modeller som FinGPT är att få tillgång till högkvalitativa etiketterade data. Genom att erkänna denna utmaning antar FinGPT en innovativ strategi. Istället för att enbart förlita sig på traditionell etikettering, används marknadsdrivna aktieprisfluktuationer som etiketter, vilket översätter nyhetssentiment till greppbara etiketter som positiv, negativ eller neutral. Detta resulterar i massiva förbättringar av modellens prediktiva förmåga, särskilt i att urskilja positiva och negativa sentiment. Genom finjusteringstekniker som LoRA kunde FinGPT v3 optimera prestanda samtidigt som den minskade beräkningsbördan.
     • Stärkt inlärning från mänsklig återkoppling: FinGPT använder “RLHF (Reinforcement learning from human feedback)“. En funktion som saknas i BloombergGPT, RLHF utrustar LLM-modellen med förmågan att urskilja individuella preferenser – antingen en användares riskaptit, investeringsmönster eller anpassade robo-rådgivare. Denna teknik, en hörnsten i både ChatGPT och GPT4, säkerställer en mer anpassad och intuitiv användarupplevelse.
3. Aktiviteter och innovationer:
   • Robo-rådgivare: Liksom en erfaren finansiell rådgivare kan FinGPT analysera nyhetssentiment och förutsäga marknadstrender med stor precision.
   • Kvantitativ handel: Genom att identifiera sentiment från olika källor, från nyhetskanaler till Twitter, kan FinGPT formulera effektiva handelsstrategier. I själva verket, även när den enbart styrs av Twitter-sentiment, visar den lovande handelsresultat.

FinGPT jämförelse med ChatGLM, LLAMA 2, BloombergGPT

FinGPT:s nuvarande bana och framtid: Juli 2023 markerar en spännande milstolpe för FinGPT. Teamet presenterade en forskningsartikel med titeln “Instruct-FinGPT: Finansiell sentimentanalys genom instruktionsjustering av allmänna stora språkmodeller“. Central för denna artikel är utforskningen av instruktionsjustering, en teknik som möjliggör för FinGPT att utföra invecklade finansiella sentimentanalyser.

Men FinGPT är inte begränsad till sentimentanalys ensam. I själva verket finns det 19 andra olika tillämpningar tillgängliga, var och en som lovar att utnyttja LLM:er på nya sätt. Från promptteknik till förståelse av komplexa finansiella sammanhang, etablerar FinGPT sig som en mångsidig GenAI-modell inom finansdomänen.

Hur globala banker anammar generativ AI

Medan början av 2023 såg några av de stora finansiella aktörerna, som Bank of America, Citigroup och Goldman Sachs, införa begränsningar för användningen av OpenAI:s ChatGPT av deras anställda, har andra motparter i branschen valt en mer omfamnande inställning.

Morgan Stanley, till exempel, har integrerat OpenAI-aktiverade chatbots som ett verktyg för deras finansiella rådgivare. Genom att utnyttja företagets omfattande interna forskning och data, fungerar dessa chatbots som berikade kunskapsresurser, som förbättrar effektiviteten och precisionen i finansiell rådgivning.

I mars i år var hedgefonden Citadel på väg att förhandla om en företagsomfattande ChatGPT-licens. Den planerade implementeringen syftar till att stärka områden som programvaruutveckling och invecklad informationsanalys.

JPMorgan Chase arbetar också med att utnyttja stora språkmodeller för bedrägeridetektering. Deras metodik kretsar kring att använda e-postmönster för att identifiera potentiella kompromisser. Inte stillastående, har banken också satt ett ambitiöst mål: att lägga till så mycket som 1,5 miljarder dollar i värde med AI innan året är slut.

När det gäller Goldman Sachs är de inte helt motståndare till AI:s dragningskraft. Banken utforskar kraften i generativ AI för att stärka sin programvaruteknik. Som Marco Argenti, Chief Information Officer på Goldman Sachs, säger, har en sådan integration potentialen att förvandla deras arbetskraft till något “övermänskligt“.

Användningsfall för generativ AI i bank- och finanssektorn

Generativ AI i finans: Användningsfall

Generativ AI förvandlar grundläggande finansiella operationer, beslutsfattande och kundinteraktioner. Här är en detaljerad utforskning av dess tillämpningar:

1. Bedrägeriförebyggande: Generativ AI ligger i framkant när det gäller att utveckla avancerade bedrägeridetekteringsmekanismer. Genom att analysera stora datamängder kan den urskilja invecklade mönster och oegentligheter, vilket erbjuder en mer proaktiv strategi. Traditionella system, ofta överväldigade av den enorma datamängden, kan producera falska positiva resultat. Generativ AI, å andra sidan, förfinar kontinuerligt sin förståelse, minskar fel och säkerställer mer säkra finansiella transaktioner.

2. Kreditriskbedömning: De traditionella metoderna för att utvärdera en låntagares kreditvärdighet, medan de är tillförlitliga, blir föråldrade. Generativ AI-modeller genom olika parametrar – från kreditistorik till subtila beteendemönster – erbjuder en omfattande riskprofil. Detta inte bara säkerställer säkrare utlåning, utan även tillgodoser en bredare kundkrets, inklusive de som kanske är underservade av traditionella metoder.

3. Förbättring av kundinteraktion: Den finansiella världen upplever en revolution i kundservice, tack vare generativ AI-aktiverade NLP-modeller. Dessa modeller är skickliga på att förstå och svara på varierande kundförfrågningar, erbjuda personliga lösningar snabbt. Genom att automatisera rutinuppgifter kan finansiella institutioner minska overhead, strömlinjeforma operationer och, framför allt, förbättra kundtillfredsställelse.

4. Personlig finans: En storlek som passar alla är en relikt från det förflutna. Idag kräver kunderna finansiell planering som är anpassad till deras unika behov och aspirationer. Generativ AI excellerar här. Genom att analysera data – från utgiftsmönster till investeringspreferenser – skapar den individuella finansiella vägkartor. Denna holistiska strategi säkerställer att kunderna är bättre informerade och mer rustade att navigera sina finansiella framtider.

5. Algoritmisk handel: Generativ AI:s analytiska förmåga visar sig vara ovärderlig i den volatila världen av algoritmisk handel. Genom att dissekera data – från marknadstrender till nyhetssentiment – erbjuder den insiktsfulla insikter, som möjliggör finansiella experter att optimera strategier, förutsäga marknadsförändringar och minimera potentiella risker.

6. Stärkande av regelefterlevnadsramar: Anti-penningtvättsregler (AML) är avgörande för att upprätthålla integriteten i finansiella system. Generativ AI förenklar efterlevnaden genom att gå igenom invecklade transaktionsdata för att identifiera misstänkta aktiviteter. Detta inte bara säkerställer att finansiella institutioner följer globala standarder, utan också signifikant minskar chanserna för falska positiva resultat, vilket strömlinjeformar operationer.

7. Cybersäkerhet: Med cyberthot som ständigt utvecklas behöver den finansiella sektorn agila lösningar. Generativ AI erbjuder exakt det. Genom att implementera dynamiska prediktiva modeller möjliggör den snabbare hotdetektering, som stärker finansiella infrastrukturer mot potentiella intrång.

Men, som är fallet med varje utvecklande teknologi, kommer generativ AI med sin uppsättning utmaningar i finanssektorn.

Utmaningarna

1. Förstärkt bias: AI-modeller, så sofistikerade de är, förlitar sig fortfarande på mänskligt genererade träningsdata. Dessa data, med deras inneboende bias – antingen avsiktliga eller inte – kan leda till snedvridna resultat. I en sektor som finans, där jämlikhet och rättvisa är av största vikt, kan sådana bias leda till allvarliga konsekvenser. Finansiella ledare måste vara proaktiva i att identifiera dessa bias och säkerställa att deras datamängder är så omfattande och representativa som möjligt.
2. Utmatnings tillförlitlighet och beslutsfattande: Generativ AI kan ibland producera resultat som är både felaktiga och vilseledande – ofta kallade ‘hallucinationer‘. Dessa misstag är något förväntade när AI-modeller förfinas och lär, men konsekvenserna i finans, där precision är ovillkorlig, är allvarliga. Att förlita sig enbart på AI för kritiska beslut, som kreditgodkännanden, är farligt. Istället bör AI ses som ett sofistikerat verktyg som assisterar finansiella experter, inte ett som ersätter dem. Det bör hantera den beräkningsmässiga bördan, erbjuda insikter för mänskliga proffs att fatta de slutliga, informerade besluten.
3. Dataskydd och efterlevnad: Att skydda känsliga kunddata förblir en betydande oro med generativa AI-applikationer. Att säkerställa att systemet följer globala standarder som General Data Protection Regulation (GDPR) och California Consumer Privacy Act (CCPA) är avgörande. AI kan inte medfödda känna till eller respektera dessa gränser, så dess användning måste modereras med stränga dataskyddsriktlinjer, särskilt i den finansiella sektorn där konfidentialitet är av största vikt.
4. Kvaliteten på indata: Generativ AI är bara så bra som de data som matas in. Felaktig eller ofullständig data kan oavsiktligt leda till undermålig finansiell rådgivning eller beslut.

Slutsats

Från att förbättra handelsstrategier till att stärka säkerhet, är generativa AI-applikationer omfattande och transformerande. Men, som med varje teknologi, är det viktigt att närma sig dess antagande med försiktighet, med beaktande av de etiska och sekretessaspekterna.

De institutioner som framgångsrikt utnyttjar kraften i generativ AI, samtidigt som de respekterar dess begränsningar och potentiella fallgropar, kommer utan tvekan att forma den framtida banan för den globala finansiella arenan.