Prompt Engineering
Generative KI in der Finanzwirtschaft: FinGPT, BloombergGPT und darüber hinaus

Generative KI bezieht sich auf Modelle, die neue Datenmengen erzeugen können, die den Eingabedaten ähnlich sind. Der Erfolg von ChatGPT hat viele Möglichkeiten in verschiedenen Branchen eröffnet und Unternehmen dazu inspiriert, ihre eigenen großen Sprachmodelle zu entwickeln. Der Finanzsektor, der von Daten getrieben wird, ist jetzt noch datenintensiver als je zuvor.
Ich arbeite als Data-Scientist bei einem französischen Finanzdienstleistungsunternehmen. Nach über einem Jahr habe ich in den letzten Monaten eine deutliche Zunahme von LLM-Anwendungsfällen in allen Abteilungen für die Aufgabenautomatisierung und den Bau von robusten, sicheren KI-Systemen beobachtet.
Jeder Finanzdienstleister strebt danach, seine eigenen fein abgestimmten LLMs mit Hilfe von Open-Source-Modellen wie LLAMA 2 oder Falcon zu entwickeln. Insbesondere die traditionellen Banken, die über Jahrzehnte Finanzdaten gesammelt haben.
Bislang war es nicht möglich, diese enorme Menge an Daten in ein einzelnes Modell zu integrieren, da die Rechenressourcen begrenzt und die Modelle weniger komplex waren. Diese Open-Source-Modelle mit Milliarden von Parametern können jedoch jetzt fein abgestimmt werden, um große Textdatensätze zu analysieren. Daten sind wie Treibstoff für diese Modelle; je mehr es gibt, desto besser sind die Ergebnisse.
Sowohl die Daten als auch die LLM-Modelle können Banken und anderen Finanzdienstleistern Millionen durch die Verbesserung der Automatisierung, Effizienz, Genauigkeit und vielem mehr sparen.
Nach aktuellen Schätzungen von McKinsey könnte diese generative KI dem Bankensektor allein jährliche Einsparungen von bis zu 340 Milliarden Dollar bieten.
BloombergGPT & Ökonomie der generativen KI
Im März 2023 stellte Bloomberg BloombergGPT vor. Es handelt sich um ein Sprachmodell, das von Grund auf mit 50 Milliarden Parametern entwickelt wurde und speziell für Finanzdaten konzipiert ist.
Um Geld zu sparen, muss man manchmal Geld ausgeben. Das Training von Modellen wie BloombergGPT oder Meta’s Llama 2 ist nicht billig.
Das Training von Llama 2’s 70-Milliarden-Parameter-Modell erforderte 1.700.000 GPU-Stunden. Bei kommerziellen Cloud-Diensten kann die Nutzung des Nvidia A100 GPU (der für Llama 2 verwendet wird) bis zu 1-2 Dollar pro GPU-Stunde kosten. Wenn man die Mathematik durchführt, könnte ein 10-Milliarden-Parameter-Modell etwa 150.000 Dollar kosten, während ein 100-Milliarden-Parameter-Modell bis zu 1,5 Millionen Dollar kosten könnte.
Wenn man nicht mietet, kann man die GPUs auch direkt kaufen. Allerdings könnte der Kauf von etwa 1000 A100-GPUs, um einen Cluster zu bilden, über 10 Millionen Dollar kosten.
Bloombergs Investition von über einer Million Dollar ist besonders aufschlussreich, wenn man sie mit den schnellen Fortschritten in der KI vergleicht. Erstaunlicherweise konnte ein Modell, das nur 100 Dollar kostete, die Leistung von BloombergGPT in nur halb einem Jahr überbieten. Während Bloombergs Training proprietäre Daten umfasste, waren 99,30 % ihrer Daten öffentlich zugänglich. Dazu kommt FinGPT.
FinGPT
FinGPT ist ein state-of-the-art-Modell für die fein abgestimmte große Sprache in der Finanzwirtschaft (FinLLM). Es wurde von der AI4Finance-Foundation entwickelt und übertrifft derzeit andere Modelle in Bezug auf Kosten-Nutzen-Verhältnis und Genauigkeit im Allgemeinen.
Es gibt derzeit drei Versionen; die FinGPT-v3-Serie sind Modelle, die mit der LoRA-Methode verbessert wurden und auf Nachrichten und Tweets trainiert wurden, um Stimmungen zu analysieren. Sie erzielen die besten Ergebnisse in vielen Finanzstimmungstests. FinGPT v3.1 basiert auf dem chatglm2-6B-Modell, während FinGPT v3.2 auf dem Llama2-7b-Modell basiert.
FinGPT-Betrieb::
- Datenquellen und -engineering::
- Datenbeschaffung:: FinGPT verwendet Daten von renommierten Quellen wie Yahoo, Reuters und mehr, um eine umfassende Palette von Finanznachrichten zu sammeln, von US-Aktien bis hin zu chinesischen Aktien.
- Datenverarbeitung:: Diese Rohdaten werden vielen Stufen der Reinigung, Tokenisierung und Prompt-Engineering unterzogen, um ihre Relevanz und Genauigkeit sicherzustellen.
- Große Sprachmodelle (LLMs)::
- Training:: Mit den kuratierten Daten können LLMs nicht nur fein abgestimmt werden, um leichtgewichtige Modelle zu erstellen, die auf spezifische Anforderungen zugeschnitten sind, sondern auch bestehende Modelle oder APIs können an die Anforderungen angepasst werden.
- Feinabstimmstrategien::
- Tensor-Schichten (LoRA):: Eine der Hauptherausforderungen bei der Entwicklung von Modellen wie FinGPT ist die Beschaffung von hochwertigen gekennzeichneten Daten. Dieser Herausforderung bewusst,采用t FinGPT einen innovativen Ansatz. Anstatt sich ausschließlich auf traditionelle Kennzeichnung zu verlassen, werden marktorientierte Aktienkursfluktuationen als Kennzeichnungen verwendet, um Nachrichtenstimmungen in greifbare Kennzeichnungen wie positiv, negativ oder neutral zu übersetzen. Dies führt zu massiven Verbesserungen der Vorhersagefähigkeit des Modells, insbesondere bei der Erkennung von positiven und negativen Stimmungen. Durch Feinabstimmungstechniken wie LoRA konnte FinGPT v3 die Leistung optimieren und den Rechenaufwand reduzieren.
- Bestärkendes Lernen durch menschliches Feedback:: FinGPT verwendet “RLHF (Bestärkendes Lernen durch menschliches Feedback)“. Eine Funktion, die in BloombergGPT fehlt, RLHF ermöglicht es dem LLM-Modell, individuelle Vorlieben zu erkennen – sei es ein Benutzers Risikobereitschaft, Investitionsmuster oder maßgeschneiderte Robo-Beratungseinstellungen. Diese Technik, ein Eckpfeiler von ChatGPT und GPT4, stellt sicher, dass die Benutzererfahrung maßgeschneidert und intuitiv ist.
- Anwendungen und Innovationen::
- Robo-Berater:: Wie ein erfahrener Finanzberater kann FinGPT Nachrichtenstimmungen analysieren und Markttrends vorhersagen.
- Quantitatives Trading:: Durch die Identifizierung von Stimmungen aus verschiedenen Quellen, von Nachrichtenagenturen bis hin zu Twitter, kann FinGPT effektive Handelsstrategien entwickeln. Tatsächlich zeigt es auch bei ausschließlich auf Twitter-Stimmungen basierenden Handelsstrategien vielversprechende Ergebnisse.
FinGPTs aktuelle Entwicklung und Zukunft:: Der Juli 2023 markiert einen wichtigen Meilenstein für FinGPT. Das Team veröffentlichte einen Forschungsbericht mit dem Titel “Instruct-FinGPT: Finanzstimmungsanalyse durch Anweisungstuning von allgemeinen großen Sprachmodellen“. Im Mittelpunkt dieses Berichts steht die Erforschung des Anweisungstunings, einer Technik, die es FinGPT ermöglicht, komplexe Finanzstimmungsanalysen durchzuführen.
Aber FinGPT ist nicht nur auf Stimmungsanalyse beschränkt. Tatsächlich gibt es 19 weitere vielfältige Anwendungen, von denen jede die LLMs auf neue Weise nutzen will. Von Prompt-Engineering bis zum Verständnis komplexer Finanzkontexte etabliert sich FinGPT als vielseitiges GenAI-Modell in der Finanzwirtschaft.
Wie globale Banken generative KI annehmen
Während der Beginn des Jahres 2023 sah, wie einige der großen Finanzakteure wie Bank of America, Citigroup und Goldman Sachs die Nutzung von OpenAI’s ChatGPT durch ihre Mitarbeiter einschränkten, haben andere Branchenkollegen eine offenere Haltung eingenommen.
Morgan Stanley hat beispielsweise OpenAI-Chatbots als Werkzeug für ihre Finanzberater integriert. Durch die Nutzung der umfassenden internen Forschung und Daten des Unternehmens dienen diese Chatbots als erweiterte Wissensressourcen, die die Effizienz und Genauigkeit der Finanzberatung verbessern.
Im März dieses Jahres versuchte Hedgefonds Citadel, eine unternehmensweite ChatGPT-Lizenz zu sichern. Die geplante Implementierung zielt darauf ab, Bereiche wie Softwareentwicklung und komplexe Informationsanalyse zu stärken.
JPMorgan Chase setzt sich auch dafür ein, große Sprachmodelle zur Betrugsbekämpfung einzusetzen. Ihre Methode besteht darin, E-Mail-Muster zu verwenden, um mögliche Kompromisse zu identifizieren. Das Unternehmen hat auch ein ehrgeiziges Ziel gesetzt: Es will bis zum Ende des Jahres 1,5 Milliarden Dollar mit KI schaffen.
Was Goldman Sachs betrifft, so ist das Unternehmen nicht ganz resistent gegen den Reiz der KI. Die Bank erforscht die Macht der generativen KI, um ihre Software-Entwicklungsdomäne zu stärken. Wie Marco Argenti, Chief Information Officer von Goldman Sachs, es ausdrückt, hat diese Integration das Potenzial, ihre Belegschaft in etwas “Übermenschliches” zu verwandeln.
Anwendungsfälle der generativen KI in der Banken- und Finanzindustrie
Die generative KI verändert grundlegend die Finanzoperationen, Entscheidungen und Kundeninteraktionen. Hier ist eine detaillierte Erforschung ihrer Anwendungen:
1. Betrugsprävention:: Die generative KI ist an der Spitze der Entwicklung von hochentwickelten Betrugsbekämpfungsmechanismen. Durch die Analyse großer Datenmengen kann sie komplexe Muster und Unregelmäßigkeiten erkennen und so einen proaktiveren Ansatz bieten. Traditionelle Systeme, die oft von der schieren Menge an Daten überwältigt werden, können falsche Positivergebnisse liefern. Die generative KI hingegen verfeinert kontinuierlich ihr Verständnis und reduziert so Fehler und sichert somit sicherere Finanztransaktionen.
2. Kreditrisikobewertung:: Die traditionellen Methoden zur Bewertung der Kreditwürdigkeit eines Kreditnehmers, obwohl zuverlässig, werden veraltet. Die generativen KI-Modelle bieten durch verschiedene Parameter – von Kreditverläufen bis hin zu subtilen Verhaltensmustern – ein umfassendes Risikoprofil. Dies sichert nicht nur sicherere Kredite, sondern bedient auch eine breitere Kundschaft, einschließlich derjenigen, die von traditionellen Metriken möglicherweise benachteiligt werden.
3. Kundeninteraktion:: Die Finanzwelt erlebt eine Revolution im Kundenservice dank der generativen KI-gesteuerten NLP-Modelle. Diese Modelle sind in der Lage, verschiedene Kundenanfragen zu verstehen und zu beantworten und bieten personalisierte Lösungen. Durch die Automatisierung von Routineaufgaben können Finanzinstitute ihre Kosten senken, ihre Betriebe straffen und vor allem die Kundenzufriedenheit verbessern.
4. Personalisierte Finanzen:: Einheitslösungen sind ein Relikt der Vergangenheit. Heute verlangen Kunden Finanzplanung, die auf ihre individuellen Bedürfnisse und Ziele zugeschnitten ist. Die generative KI ist hierbei sehr erfolgreich. Durch die Analyse von Daten – von Ausgabenmustern bis hin zu Investitionsvorlieben – erstellt sie individualisierte Finanzstraßenkarten. Dieser ganzheitliche Ansatz stellt sicher, dass Kunden besser informiert und besser gerüstet sind, um ihre finanzielle Zukunft zu meistern.
5. Algorithmisches Trading:: Die analytische Kraft der generativen KI ist in der volatilen Welt des algorithmischen Tradings von unschätzbarem Wert. Durch die Zerlegung von Daten – von Markttrends bis hin zu Nachrichtenstimmungen – bietet sie scharfe Einblicke, die es Finanzexperten ermöglichen, Strategien zu optimieren, Marktschwankungen vorherzusagen und potenzielle Risiken zu mindern.
6. Stärkung der Compliance-Rahmen:: Die Anti-Geldwäsche-Regulierungen (AML) sind entscheidend für die Aufrechterhaltung der Integrität der Finanzsysteme. Die generative KI vereinfacht die Compliance, indem sie durch komplexe Transaktionsdaten gefiltert wird, um verdächtige Aktivitäten zu identifizieren. Dies stellt sicher, dass Finanzinstitute globalen Standards entsprechen und reduziert erheblich die Chancen auf falsche Positivergebnisse, was die Betriebe strafft.
7. Cybersicherheit:: Da Cyber-Bedrohungen ständig evolvieren, benötigt die Finanzbranche agile Lösungen. Die generative KI bietet genau das. Durch die Implementierung dynamischer Vorhersagemodelle ermöglicht sie eine schnellere Bedrohungserkennung und stärkt so die Finanzinfrastrukturen gegen mögliche Verletzungen.
Jedoch kommt die generative KI, wie jede sich entwickelnde Technologie, mit ihrem eigenen Satz von Herausforderungen in der Finanzindustrie.
Die Herausforderungen
- Verstärkung von Vorurteilen:: KI-Modelle, so fortschrittlich sie auch sein mögen, basieren immer noch auf von Menschen generierten Trainingsdaten. Diese Daten, mit ihren inhärenten Vorurteilen – ob absichtlich oder nicht – können zu verzerrten Ergebnissen führen. Wenn beispielsweise eine bestimmte demografische Gruppe in der Trainingsmenge unterrepräsentiert ist, können die Ausgaben der KI diese Unterrepräsentation perpetuieren. In einer Branche wie der Finanzwirtschaft, in der Gleichheit und Fairness von entscheidender Bedeutung sind, können solche Vorurteile schwerwiegende Konsequenzen haben. Finanzführer müssen proaktiv sein, um diese Vorurteile zu identifizieren und sicherzustellen, dass ihre Datensätze umfassend und repräsentativ sind.
- Ausgabesicherheit und Entscheidungsfindung:: Die generative KI kann manchmal Ergebnisse liefern, die falsch und irreführend sind – oft als “Halluzinationen” bezeichnet. Diese Fehltritte sind in gewissem Maße erwartbar, da KI-Modelle sich verfeinern und lernen, aber die Auswirkungen in der Finanzwirtschaft, in der Präzision unverzichtbar ist, sind ernst. Die alleinige Abhängigkeit von KI für kritische Entscheidungen, wie Kreditgenehmigungen, ist gefährlich. Stattdessen sollte KI als ein fortschrittliches Werkzeug angesehen werden, das Finanzexperten unterstützt, aber nicht ersetzt. Es sollte den Rechenaufwand übernehmen und Erkenntnisse liefern, damit menschliche Fachleute die endgültigen, informierten Entscheidungen treffen können.
- Datenschutz und Compliance:: Der Schutz sensibler Kundendaten bleibt eine erhebliche Sorge bei der Anwendung generativer KI. Es ist entscheidend, sicherzustellen, dass das System globalen Standards wie der Datenschutz-Grundverordnung (DSGVO) und dem California Consumer Privacy Act (CCPA) entspricht. KI mag diese Grenzen nicht von Natur aus kennen oder respektieren, daher muss ihre Anwendung durch strenge Richtlinien zum Datenschutz, insbesondere in der Finanzbranche, wo Vertraulichkeit von entscheidender Bedeutung ist, moderiert werden.
- Qualität der Eingabedaten:: Die generative KI ist nur so gut wie die Daten, die ihr zur Verfügung gestellt werden. Ungenaue oder unvollständige Daten können unbeabsichtigt zu minderwertigen Finanzberatungen oder -entscheidungen führen.
Abschluss
Von der Verbesserung von Handelsstrategien bis hin zur Stärkung der Sicherheit sind die Anwendungen der generativen KI vielfältig und transformierend. Es ist jedoch, wie bei jeder Technologie, wichtig, ihre Einführung mit Vorsicht zu betrachten und die ethischen und Datenschutzaspekte zu berücksichtigen.
Die Institutionen, die die Fähigkeiten der generativen KI erfolgreich nutzen, während sie gleichzeitig ihre Grenzen und potenziellen Fallstricke respektieren, werden zweifellos die zukünftige Entwicklung des globalen Finanzsektors prägen.















