Prompt engineering
Inteligența Artificială Generativă în Finanțe: FinGPT, BloombergGPT și Dincolo

Inteligența artificială generativă se referă la modele care pot genera noi exemple de date asemănătoare cu datele de intrare. Succesul ChatGPT a deschis multe oportunități în diverse industrii, inspirând întreprinderile să-și creeze propriile modele de limbaj mari. Sectorul financiar, condus de date, este acum și mai intensiv decât oricând.
Lucrăm ca specialist în știința datelor la o companie financiară cu sediul în Franța. Fiind acolo de peste un an, am observat recent o creștere semnificativă a cazurilor de utilizare a LLM în toate diviziunile pentru automatizarea sarcinilor și construirea unor sisteme AI robuste și securizate.
Fiecare serviciu financiar își propune să-și creeze propriile LLM-uri fine-tunate, utilizând modele deschise precum LLAMA 2 sau Falcon. În special, băncile legacy care au zeci de ani de date financiare.
Până în prezent, nu a fost fezabil să se incorporeze această cantitate vastă de date într-un singur model, din cauza resurselor de calcul limitate și a modelelor mai puțin complexe. Cu toate acestea, aceste modele deschise cu miliarde de parametri pot fi fine-tunate pentru cantități mari de seturi de date textuale. Datele sunt ca combustibilul pentru aceste modele; cu cât mai multe, cu atât mai bune rezultatele.
Atât datele, cât și modelele LLM pot salva băncile și alte servicii financiare milioane prin îmbunătățirea automatizării, eficienței, preciziei și multe altele.
Estimările recente ale McKinsey sugerează că această Inteligență Artificială Generativă ar putea oferi economii anuale de până la 340 de miliarde de dolari doar pentru sectorul bancar.
BloombergGPT & Economia Inteligenței Artificiale Generative
În martie 2023, Bloomberg a prezentat BloombergGPT. Acesta este un model de limbaj construit de la zero, cu 50 de miliarde de parametri, special conceput pentru date financiare.
Pentru a economisi bani, uneori trebuie să cheltuiți bani. Antrenarea unor modele precum BloombergGPT sau Meta’s Llama 2 nu este ieftină.
Antrenarea modelului Llama 2 cu 70 de miliarde de parametri a necesitat 1.700.000 de ore de procesor GPU. Pe serviciile cloud comerciale, utilizarea Nvidia A100 GPU (NVDA ) (utilizat pentru Llama 2) poate costa între 1-2 dolari pentru fiecare oră de procesor. Făcând matematica, un model cu 10 miliarde de parametri ar putea costa aproximativ 150.000 de dolari, în timp ce un model cu 100 de miliarde de parametri ar putea costa până la 1.500.000 de dolari.
Dacă nu se închiriază, cumpărarea directă a GPU-urilor este o alternativă. Cu toate acestea, cumpărarea a aproximativ 1000 de GPU-uri A100 pentru a forma un cluster ar putea costa peste 10 milioane de dolari.
Investiția Bloomberg de peste un milion de dolari este deosebit de interesantă atunci când este comparată cu progresele rapide în domeniul Inteligenței Artificiale. În mod uimitor, un model care a costat doar 100 de dolari a reușit să depășească performanța BloombergGPT în doar jumătate de an. În timp ce antrenamentul BloombergGPT a inclus date proprietare, o mare majoritate (99,30%) a setului de date a fost accesibil public. Apare FinGPT.
FinGPT
FinGPT este un model de limbaj mare fine-tunat pentru finanțe (FinLLM) de ultimă generație. Dezvoltat de AI4Finance-Foundation, FinGPT este în prezent mai performant decât alte modele atât în ceea ce privește eficiența costurilor, cât și precizia în general.
FinGPT are în prezent trei versiuni; seria FinGPT v3 este formată din modele îmbunătățite utilizând metoda LoRA și sunt antrenate pe știri și tweet-uri pentru a analiza sentimentele. Acestea oferă cele mai bune performanțe în multe teste de sentiment financiar. FinGPT v3.1 se bazează pe modelul chatglm2-6B, în timp ce FinGPT v3.2 se bazează pe modelul Llama2-7b.
Operațiunile FinGPT:
- Sursa și Prelucrarea Datelor:
- Achiziționarea Datelor: Utilizând date de la surse de încredere precum Yahoo, Reuters și altele, FinGPT combină o gamă vastă de știri financiare, de la acțiuni americane la acțiuni chineze.
- Prelucrarea Datelor: Aceste date brute trec prin multiple etape de curățare, tokenizare și inginerie de prompt pentru a asigura relevanța și acuratețea lor.
- Modele de Limbaj Mare (LLM):
- Antrenament: Utilizând datele curate, nu numai că LLM-urile pot fi fine-tunate pentru a naște modele ușoare personalizate pentru nevoi specifice, dar și modelele existente sau API-urile pot fi adaptate pentru a susține aplicații.
- Strategii de Fine-Tuning:
- Straturi Tensor (LoRA): Una dintre principalele provocări în dezvoltarea unor modele precum FinGPT este obținerea de date etichetate de înaltă calitate. Recunoscând această provocare, FinGPT adoptă o abordare inovatoare. În loc să se bazeze exclusiv pe etichetarea tradițională, fluctuațiile prețurilor acțiunilor conduse de piață sunt utilizate ca etichete, traducând sentimentul știrilor în etichete tangibile precum pozitiv, negativ sau neutru. Acest lucru duce la îmbunătățiri masive în capacitățile predictive ale modelului, în special în discernerea sentimentelor pozitive și negative. Prin tehnici de fine-tuning precum LoRA, FinGPT v3 a reușit să optimizeze performanța, reducând în același timp sarcina computațională.
- Învățarea prin Întărire de la Feedbackul Uman: FinGPT utilizează “RLHF (Învățarea prin Întărire de la Feedbackul Uman)“. O caracteristică absentă în BloombergGPT, RLHF echipă modelul LLM cu capacitatea de a discerne preferințele individuale – fie că este vorba de apetitul pentru risc al unui utilizator, modelele de investiții sau setări personalizate de robo-consultant. Această tehnică, o piatră de temelie atât pentru ChatGPT, cât și pentru GPT4, asigură o experiență mai personalizată și intuitivă pentru utilizator.
- Apliicații și Inovații:
- Consultant Robo: La fel ca un consultant financiar experimentat, FinGPT poate analiza sentimentele știrilor și prezice tendințele pieței cu o precizie remarcabilă.
- Tranzacționare Cantitativă: Identificând sentimentele din diverse surse, de la știri la tweet-uri, FinGPT poate formula strategii de tranzacționare eficiente. De fapt, chiar și atunci când este condus exclusiv de sentimentele de pe Twitter, arată rezultate comerciale promițătoare.
Trayectoria Curentă și Viitoare a FinGPT: Iulie 2023 marchează o piatră de hotar importantă pentru FinGPT. Echipa a lansat un articol de cercetare intitulat “Instruct-FinGPT: Analiza Sentimentului Financiar prin Tunarea Instrucțiunilor a Modelelor de Limbaj Mare Generale“. Central în acest articol este explorarea tunării instrucțiunilor, o tehnică care permite FinGPT să execute analize complexe de sentiment financiar.
Dar FinGPT nu se limitează doar la analiza sentimentului. De fapt, există 19 alte aplicații diverse, fiecare promițând să exploateze LLM-urile în moduri noi. De la ingineria prompturilor la înțelegerea contextelor financiare complexe, FinGPT se stabilește ca un model GenAI versatil în domeniul financiar.
Cum Îmbrățișează Băncile Globale Inteligența Artificială Generativă
În timp ce începutul anului 2023 a văzut unele dintre jucătorii financiari majori, precum Bank of America (BAC ), Citigroup și Goldman Sachs, impunând restricții asupra utilizării OpenAI’s ChatGPT de către angajații lor, alți contraparți din industrie au ales o abordare mai deschisă.
Morgan Stanley (MS ), de exemplu, a integrat chatbot-uri alimentate de OpenAI ca unelte pentru consultanții financiari. Prin accesarea cercetărilor interne extinse și a datelor firmei, aceste chatbot-uri servesc ca resurse de cunoaștere îmbogățite, sporind eficiența și precizia consultanței financiare.
În martie acest an, Hedge fund Citadel a negociat pentru a obține o licență enterprise-wide pentru ChatGPT. Implementarea prospectivă vizează consolidarea unor domenii precum dezvoltarea de software și analiza informațiilor complexe.
JPMorgan Chase se străduiește, de asemenea, să utilizeze modele de limbaj mare pentru detectarea fraudelor. Metodologia lor se învârte în jurul utilizării modelelor de e-mail pentru a identifica compromisurile potențiale. Nu se oprește aici, banca și-a propus un obiectiv ambițios: adăugarea a până la $1,5 miliarde în valoare cu AI până la sfârșitul anului.
În ceea ce privește Goldman Sachs, nu sunt complet rezistenți la atracția Inteligenței Artificiale. Banca explorează puterea Inteligenței Artificiale Generative pentru a-și consolida domeniul de inginerie software. Așa cum spune Marco Argenti, Directorul Tehnologic al Goldman Sachs, o astfel de integrare are potențialul de a transforma forța de muncă în ceva “supraomenește“.
Cazuri de Utilizare a Inteligenței Artificiale Generative în Industria Bancară și Financiară
Inteligența Artificială Generativă transformă fundamental operațiunile financiare, procesele de luare a deciziilor și interacțiunile cu clienții. Iată o explorare detaliată a aplicațiilor sale:
1. Prevenirea Fraudelor: Inteligența Artificială Generativă se află în fruntea dezvoltării mecanismelor de detectare a fraudelor de ultimă generație. Prin analiza unor baze de date vaste, poate discerne tipare complexe și neregularități, oferind o abordare mai proactivă. Sistemele tradiționale, adesea copleșite de volumul imens de date, ar putea produce false pozitive. Inteligența Artificială Generativă, în schimb, își rafinează în mod constant înțelegerea, reducând erorile și asigurând tranzacții financiare mai sigure.
2. Evaluarea Riscului de Credit: Metodele tradiționale de evaluare a creditului, deși fiabile, devin învechite. Modelele de Inteligență Artificială Generativă, prin diverse parametri – de la istoricul creditului la tipare comportamentale subtile – oferă un profil de risc cuprinzător. Acest lucru nu numai că asigură împrumuturi mai sigure, dar și deservește o clientelă mai largă, inclusiv cei care ar putea fi subdeserviți de metricele tradiționale.
3. Îmbunătățirea Interacțiunii cu Clienții: Lumea financiară asistă la o revoluție în serviciul clienților, datorită modelului de limbaj NLP alimentat de Inteligență Artificială Generativă. Aceste modele sunt pricepute să înțeleagă și să răspundă la diverse întrebări ale clienților, oferind soluții personalizate prompt. Prin automatizarea sarcinilor de rutină, instituțiile financiare pot reduce cheltuielile, eficientiza operațiunile și, cel mai important, îmbunătăți satisfacția clienților.
4. Planificarea Financiară Personalizată: Abordarea “unul pentru toți” este un relicv al trecutului. Clienții de astăzi cer planificare financiară adaptată nevoilor și aspirațiilor lor unice. Inteligența Artificială Generativă excelează în acest sens. Prin analiza datelor – de la tipare de cheltuieli la preferințe de investiții – ea creează planuri financiare individualizate. Acestă abordare holistică asigură că clienții sunt mai bine informați și mai pregătiți să navigheze viitorul lor financiar.
5. Tranzacționare Algoritmică: Prowesa analitică a Inteligenței Artificiale Generative se dovedește a fi inestimabilă în lumea volatilă a tranzacționării algoritice. Prin dissectarea datelor – de la tendințe de piață la sentimentul știrilor – oferă perspective incisive, permițând experților financiari să optimizeze strategiile, să anticipeze schimbările pieței și să mitigeze riscurile potențiale.
6. Consolidarea Cadrului de Conformitate: Regulamentele Anti-Spălare a Banilor (AML) sunt cruciale pentru menținerea integrității sistemelor financiare. Inteligența Artificială Generativă simplifică conformitatea prin filtrarea datelor tranzacționale complexe pentru a identifica activitățile suspecte. Acest lucru nu numai că asigură instituțiilor financiare respectarea standardelor globale, dar reduce și semnificativ șansele de false pozitive, eficientizând operațiunile.
7. Securitate Cibernetică: Cu amenințările cibernetice în continuă evoluție, sectorul financiar are nevoie de soluții agile. Inteligența Artificială Generativă oferă exact asta. Implementând modele predictive dinamice, permite detectarea mai rapidă a amenințărilor, fortificând infrastructurile financiare împotriva potențialelor încălcări.
Cu toate acestea, așa cum este cazul oricărei tehnologii în evoluție, Inteligența Artificială Generativă vine și cu propriile sale provocări în industria financiară.
Provocările
- Amplificarea Prejudecăților: Modelele de Inteligență Artificială, oricât de sofisticate, se bazează încă pe date generate de oameni. Aceste date, cu prejudecățile lor inerente – fie intenționate, fie nu – pot duce la rezultate distorsionate. De exemplu, dacă o anumită demografie este subreprezentată în setul de antrenament, ieșirile ulterioare ale IA pot perpetua această omisiune. Într-un sector precum finanțele, unde echitatea și corectitudinea sunt fundamentale, astfel de prejudecăți pot avea consecințe grave. Liderii financiari trebuie să fie proactivi în identificarea acestor prejudecăți și să se asigure că seturile lor de date sunt cuprinzătoare și reprezentative.
- Fiabilitatea Rezultatelor și Luarea Deciziilor: Inteligența Artificială Generativă, uneori, poate produce rezultate atât greșite, cât și înșelătoare – adesea denumite “halucinații“. Aceste greșeli sunt, într-o oarecare măsură, așteptate pe măsură ce modelele IA se rafinează și învață, dar consecințele în finanțe, unde precizia este incontestabilă, sunt severe. A se baza exclusiv pe IA pentru decizii critice, cum ar fi aprobarea creditelor, este periculos. În schimb, IA ar trebui să fie privită ca un instrument sofisticat care asistă experții financiari, nu îi înlocuiește. Ar trebui să gestioneze greutatea computațională, oferind insight-uri pentru ca profesioniștii să ia deciziile finale, informate.
- Confidențialitatea Datelor și Conformitatea: Protejarea datelor sensibile ale clienților rămâne o preocupare semnificativă în aplicațiile Inteligenței Artificiale Generative. Asigurarea respectării standardelor globale, cum ar fi Regulamentul General privind Protecția Datelor (GDPR) și Legea Consumatorului din California (CCPA), este crucială. IA nu cunoaște sau nu respectă în mod inerent aceste limite, astfel încât utilizarea sa trebuie moderată cu linii directoare stricte de protecție a datelor, în special în sectorul financiar, unde confidențialitatea este esențială.
- Calitatea Datelor de Intrare: Inteligența Artificială Generativă este la fel de bună pe cât sunt datele care îi sunt furnizate. Datele inexacte sau incomplete pot duce involuntar la sfaturi financiare subpar sau decizii.
Concluzie
De la îmbunătățirea strategiilor de tranzacționare la consolidarea securității, aplicațiile Inteligenței Artificiale Generative sunt vaste și transformaționale. Cu toate acestea, așa cum este cazul oricărei tehnologii, este esențial să abordăm adoptarea sa cu precauție, luând în considerare implicațiile etice și de confidențialitate.
Instituțiile care reușesc să exploateze puterea Inteligenței Artificiale Generative, respectând în același timp limitările și capcanele sale potențiale, vor modela, fără îndoială, traiectoria viitoare a arenei financiare globale.















