Prompt engineering
Generativní AI ve financích: FinGPT, BloombergGPT a další

Generativní AI odkazuje na modely, které mohou generovat nové datové vzorky podobné vstupním datům. Úspěch ChatGPT otevřel mnoho příležitostí napříč odvětvími a inspiruje podniky k vytvoření vlastních velkých jazykových modelů. Finanční sektor, který je poháněn daty, je nyní ještě více datově intenzivní než kdykoli předtím.
Pracuji jako datový vědec ve francouzské finanční službě. Po více než roce jsem nedávno pozoroval významný nárůst použití LLM v rámci všech divizí pro automatizaci úkolů a konstrukci robustních a zabezpečených AI systémů.
Každá finanční služba se snaží vytvořit své vlastní jemně naladěné LLM pomocí open-source modelů, jako je LLAMA 2 nebo Falcon. Zvláště legacy banky, které mají desetiletí finančních dat.
Dosud nebylo možné zahrnout toto obrovské množství dat do jednoho modelu kvůli omezeným výpočetním zdrojům a méně komplexním/low-parametrovým modelům. Tyto open-source modely s miliardami parametrů však mohou být jemně naladěny na velké množství textových datových sad. Data jsou jako palivo pro tyto modely; čím více jich je, tím lepší jsou výsledky.
Oba data a LLM modely mohou ušetřit bankám a jiným finančním službám miliony korun tím, že zvyšují automatizaci, efektivitu, přesnost a další.
Nedávné odhady McKinsey naznačují, že tato Generativní AI by mohla nabídnout roční úspory až 340 miliard dolarů pouze pro bankovní sektor.
BloombergGPT & Ekonomika Generativní AI
V březnu 2023 představil Bloomberg BloombergGPT. Je to jazykový model postavený od základu s 50 miliardami parametrů, speciálně navržen pro finanční data.
Abyste sometimes ušetřili peníze, musíte někdy utratit peníze. Školení modelů, jako je BloombergGPT nebo Meta’s Llama 2, není levné.
Školení Llama 2 s 70 miliardami parametrů vyžadovalo 1 700 000 GPU hodin. Při použití komerčních cloudových služeb s Nvidia A100 GPU (NVDA ) (použité pro Llama 2) může stát jeden GPU hodinu 1-2 dolary. Pokud spočítáme, 10miliardový parametrový model by mohl stát kolem 150 000 dolarů, zatímco 100miliardový parametrový model by mohl stát až 1 500 000 dolarů.
Pokud si nevybíráme pronájem, nákup GPU přímo je další možností. Avšak nákup kolem 1000 A100 GPU pro vytvoření clusteru by mohl stát více než 10 milionů dolarů.
Investice Bloombergu přesahující milion dolarů je zvláště pozoruhodná ve srovnání s rychlým pokrokem v AI. Úžasně, model стоjící pouze 100 dolarů dokázal překonat BloombergGPT ve výkonu za pouhých šest měsíců. Zatímco školení BloombergGPT zahrnovalo proprietární data, většina (99,30 %) jejich datové sady byla veřejně dostupná. Přichází FinGPT.
FinGPT
FinGPT je špičkový finančně jemně naladěný velký jazykový model (FinLLM). Vyvinutý AI4Finance-Foundation, FinGPT目前 outperforms ostatní modely z hlediska nákladové efektivity a přesnosti obecně.
FinGPT má aktuálně 3 verze; série FinGPT v3 jsou modely vylepšené pomocí metody LoRA a jsou školeny na novinách a tweetch pro analýzu sentimentů. Tyto modely fungují nejlépe ve finančních sentimentálních testech. FinGPT v3.1 je postaven na modelu chatglm2-6B, zatímco FinGPT v3.2 je založen na Llama2-7b modelu.
FinGPT Operace:
- Zdroj dat a inženýrství:
- Získání dat: Používá data z renomovaných zdrojů, jako je Yahoo, Reuters a další, FinGPT kombinuje širokou škálu finančních zpráv, od amerických akcií po čínské akcie.
- Zpracování dat: Tato surová data procházejí mnoha fázemi čištění, tokenizace a inženýrství promptů, aby byla zajištěna jejich relevance a přesnost.
- Velké jazykové modely (LLM):
- Školení: Používá kurátorská data, LLM může být nejen jemně nalazen pro specifické potřeby, ale také existující modely nebo API mohou být přizpůsobeny pro podporu aplikací.
- Strategie jemného naladění:
- Tensor Layers (LoRA): Jednou z hlavních výzev při vývoji modelů, jako je FinGPT, je získání vysoce kvalitních označených dat. FinGPT přijímá inovativní přístup. Místo toho, aby se spoléhal pouze na tradiční označení, používá tržní pohyby akcií jako označení, překládající sentiment novin do konkrétních označení, jako je pozitivní, negativní nebo neutrální. To vede k masivním zlepšením modelu v předpovídání sentimentů, zvláště při rozlišování pozitivních a negativních sentimentů. Pomocí technik jemného naladění, jako je LoRA, FinGPT v3 podařilo optimalizovat výkon a snížit výpočetní náročnost.
- Učení s posilováním z lidské zpětné vazby: FinGPT používá “RLHF (Učení s posilováním z lidské zpětné vazby)“. Funkce chybějící v BloombergGPT, RLHF vybavuje LLM model schopností rozlišovat individuální preference—buď uživatelem rizika, investiční vzorce nebo přizpůsobené nastavení robo-poradce. Tato technika, základní kámen ChatGPT a GPT4, zajišťuje více přizpůsobené a intuitivní uživatelské prostředí.
- Aplikace a inovace:
- Robo-poradce: Jako zkušený finanční poradce, FinGPT může analyzovat sentiment novin a předpovídat tržní trendy s velkou přesností.
- Kvantitativní obchodování: Identifikací sentimentů z různých zdrojů, od novinových článků po tweety, FinGPT může formulovat efektivní obchodní strategie. Ve skutečnosti, i když je směrován pouze sentimentem z Twitteru, ukazuje slibné obchodní výsledky.
FinGPT Aktuální Trajektorie a Budoucnost: Červenec 2023 je významným milníkem pro FinGPT. Tým představil výzkumnou práci s názvem “Instruct-FinGPT: Finanční Sentiment Analýza pomocí Instrukční Úpravy Obecných Velkých Jazykových Modelů.” Centrálním tématem této práce je zkoumání instrukční úpravy, techniky umožňující FinGPT provést komplexní finanční sentimentální analýzy.
Ale FinGPT není omezen pouze na sentimentální analýzu. Skutečně, 19 dalších různých aplikací je k dispozici, každá slibující využití LLM v nových způsobech. Od inženýrství promptů po pochopení komplexních finančních kontextů, FinGPT se etabloval jako všestranný GenAI model v oblasti financí.
Jak Globální Banky Přijímají Generativní AI
Zatímco začátek roku 2023 ukázal, že některé z hlavních finančních hráčů, jako Bank of America (BAC ), Citigroup a Goldman Sachs, omezily používání OpenAI’s ChatGPT svými zaměstnanci, jiní v odvětví se rozhodli pro více akceptující postoj.
Morgan Stanley (MS ), například, integroval OpenAI-poháněné chatboty jako nástroj pro své finanční poradce. Díky využití interního výzkumu a dat firmy tyto chatboty slouží jako obohacené znalostní zdroje, zvyšující efektivitu a přesnost finančních poradenských služeb.
V březnu tohoto roku Hedge fond Citadel se snažil zabezpečit podnikové licence ChatGPT. Předpokládaná implementace předpokládá posílení oblastí, jako je vývoj softwaru a komplexní analýza informací.
JPMorgan Chase také vynakládá úsilí na využití velkých jazykových modelů pro detekci podvodů. Jejich metodika se točí kolem využití e-mailových vzorců pro identifikaci potenciálních kompromisů. Nezůstává zde, banka také nastavila ambiciózní cíl: přidání až 1,5 miliardy dolarů v hodnotě pomocí AI do konce roku.
Co se týče Goldman Sachs, nejsou zcela odolní vůči půvabu AI. Banka zkoumá sílu generativní AI, aby posílila své softwarové inženýrství. Podle Marco Argenti, Chief Information Officer of Goldman Sachs, takové začlenění má potenciál transformovat jejich pracovníky na něco “superhumánního.”
Případy Použití Generativní AI v Bankovnictví a Finančním Odvětví
Generativní AI fundamentálně transformuje finanční operace, rozhodování a interakce se zákazníky. Zde je podrobné prozkoumání jeho aplikací:
1. Prevence Podvodů: Generativní AI je na špici vývoje pokročilých mechanismů detekce podvodů. Analýzou rozsáhlých datových sad může rozpoznat komplexní vzorce a nepravidelnosti, nabízející proaktivnější přístup. Tradiční systémy, často přetížené obrovským množstvím dat, mohou produkovat falešné pozitivy. Generativní AI, na druhé straně, neustále vylepšuje své chápání, snižuje chyby a zajišťuje bezpečnější finanční transakce.
2. Hodnocení Kreditního Rizika: Tradiční metody hodnocení kreditní spolehlivosti dlužníka, zatímco spolehlivé, se stávají zastaralými. Modely Generativní AI prostřednictvím různých parametrů – od historie úvěrů po jemné behaviorální vzorce – nabízejí komplexní profil rizika. To nejen zajišťuje bezpečnější poskytování úvěrů, ale také obsluhuje širší klientelu, včetně těch, kteří by mohli být nedostatečně obslouženi tradičními metrikami.
3. Zlepšení Interakce se Zákazníky: Finanční svět prochází revolucí ve zákaznickém servisu, díky generativním AI-poháněným modelům NLP. Tyto modely jsou schopné pochopit a reagovat na různé zákaznické dotazy, nabízející personalizovaná řešení okamžitě. Automatizací rutinních úkolů mohou finanční instituce snížit režijní náklady, streamovat operace a nejvíce důležité, zlepšit spokojenost zákazníků.
4. Personalizované Finanční Plány: Jedna velikost se nehodí všem. Dnešní zákazníci požadují finanční plány přizpůsobené jejich jedinečným potřebám a aspiracím. Generativní AI vyniká zde. Analýzou dat – od vzorců výdajů po investiční preference – vytváří individualizované finanční plány. Tento holistický přístup zajišťuje, že zákazníci jsou lépe informováni a lépe vybaveni pro navigaci ve svých finančních budoucnostech.
5. Algoritmické Obchodování: Analytická síla Generativní AI se ukazuje jako neocenitelná v oblasti algoritmického obchodování. Rozkladem dat – od tržních trendů po sentiment novin – poskytuje pronikavé pohledy, umožňující finančním expertům optimalizovat strategie, předpovídat tržní posuny a snižovat potenciální rizika.
6. Upevnění Kompliančních Rámeců: Regulace proti praní špinavých peněz (AML) jsou kritické pro udržení integrity finančních systémů. Generativní AI zjednodušuje dodržování předpisů procházením komplexních transakčních dat, aby identifikovala podezřelé aktivity. To nejen zajišťuje, že finanční instituce dodržují globální standardy, ale také významně snižuje šance na falešné pozitivy, streamuje operace.
7. Kybernetická Bezpečnost: S neustále se vyvíjejícími kybernetickými hrozbami potřebuje finanční sektor agilní řešení. Generativní AI nabízí právě to. Implementací dynamických predikčních modelů umožňuje rychlejší detekci hrozeb, upevňující finanční infrastruktury proti potenciálním porušením.
Nicméně, jako je tomu u každé se vyvíjející technologie, Generativní AI přichází se svou sadou výzev v finančním odvětví.
Výzvy
- Zesílení Předsudků: AI modely, jak sofistikované, tak jsou, stále závisí na lidsky generovaných trénovacích datech. Tato data, s jejich inherentními předsudky—buď záměrnými nebo ne—mohou vést k zkresleným výsledkům. V sektoru, jako je finance, kde rovnost a spravedlnost jsou zásadní, takové předsudky by mohly vést k závažným důsledkům. Finanční lídři potřebují být proaktivní v identifikaci těchto předsudků a zajištění, že jejich datové sady jsou co nejkomplexnější a reprezentativnější.
- Důvěryhodnost Výstupu a Rozhodování: Generativní AI, někdy, může produkovat výsledky, které jsou both špatné a zavádějící—často označované jako ‘halucinace‘. Tyto chyby jsou somewhat očekávané, jak AI modely se vylepšují a učí, ale důsledky ve financích, kde přesnost je nezbytná, jsou vážné. Spoléhat se pouze na AI pro kritická rozhodnutí, jako je schválení úvěrů, je nebezpečné. Místo toho by se mělo na AI pohlížet jako na sofistikovaný nástroj, který pomáhá finančním expertům, ne jako na nástroj, který je nahrazuje. Mělo by nést výpočetní zátěž, poskytující pohledy pro lidské profesionály, aby dělali konečná, informovaná rozhodnutí.
- Ochrana Dat a Kompliance: Ochrana citlivých zákaznických dat zůstává významnou obavou s aplikacemi Generativní AI. Zajištění, že systém dodržuje globální standardy, jako je Obecné nařízení o ochraně osobních údajů (GDPR) a Kalifornský zákon o ochraně spotřebitelů (CCPA), je zásadní. AI nemusí sama o sobě znát nebo respektovat tyto hranice, takže její použití musí být moderováno přísnými směrnicemi ochrany dat, zvláště v finančním sektoru, kde důvěrnost je zásadní.
- Kvalita Vstupních Dat: Generativní AI je pouze tak dobrá, jako jsou data, která jsou do ní vložena. Nesprávná nebo neúplná data mohou nechtěně vést k podprůměrným finančním radám nebo rozhodnutím.
Závěr
Od zlepšení obchodních strategií po upevnění bezpečnosti, aplikace Generativní AI jsou rozsáhlé a transformační. Nicméně, jako u každé technologie, je důležité přistupovat k jejímu přijetí s opatrností, zvažovat etické a soukromí implikace.
Ty instituce, které úspěšně využijí sílu Generativní AI, zatímco současně respektují její omezení a potenciální pasti, bezpochyby vytvoří budoucí trajektorii globálního finančního arény.















