Prompt Mühendisliği

Finansal Sektörde Üretken AI: FinGPT, BloombergGPT ve Ötesi

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Generative AI in Finance

Üretken AI, girdi verilerine benzer yeni veri örnekleri üretebilen modellere verilen addır. ChatGPT’nin başarısı, işletmelerin kendi büyük dil modellerini tasarlamaları için birçok fırsat açmıştır. Veri odaklı finans sektörü, şimdi daha önce hiç olmadığı kadar veri yoğundur.
Son tahminlere göre, bu Üretken AI, bankacılık sektöründe alone yıllık 340 milyar dolar tasarruf sağlayabilir.

BloombergGPT ve Üretken AI Ekonomisi

Mart 2023’te Bloomberg, 50 milyar parametreyle finansal verilere özel olarak tasarlanmış bir dil modeli olan BloombergGPT‘yi tanıttı.
Para kazanmak için bazen para harcamak gerekir. BloombergGPT veya Meta’nın Llama 2 gibi modelleri eğitmek ucuz değildir.
Llama 2’nin 70 milyar parametreli modelinin eğitimi 1.700.000 GPU saati gerektirir. Ticari bulut hizmetlerinde, Nvidia A100 GPU (NVDA ) (Llama 2 için kullanılan) her GPU saati için 1-2 dolar maliyeti olabilir. Hesaplandığında, 10 milyar parametreli bir model yaklaşık 150.000 dolar, 100 milyar parametreli bir model ise 1,5 milyon dolar maliyeti olabilir.
Bloomberg’un milyonlarca dolarlık yatırımı, özellikle AI’deki hızlı ilerlemelere karşı oldukça dikkat çekicidir. Şaşırtıcı bir şekilde, yalnızca 100 dolar maliyeti olan bir model, sadece altı ayda BloombergGPT’nin performansını aşmayı başardı. BloombergGPT’nin eğitimi, büyük çoğunlukla (99,30%) kamu tarafından erişilebilen bir veri setini içeriyordu. İşte FinGPT devreye giriyor.

FinGPT

FinGPT, finansal olarak fine-tuned büyük dil modeli (FinLLM) olan bir state-of-the-art modeldir. AI4Finance-Foundation tarafından geliştirilen FinGPT, şu anda hem maliyet etkinliği hem de genel olarak diğer modellerden daha iyi performans gösteriyor.
Şu anda 3 versiyonu mevcut; FinGPT v3 serisi, LoRA yöntemi kullanılarak geliştirilen ve haberler ve tweet’ler aracılığıyla sentiment analizi için eğitilen modellerdir. Bunlar, birçok finansal sentiment testinde en iyi performansı gösteriyorlar. FinGPT v3.1, chatglm2-6B modeline dayanırken, FinGPT v3.2, Llama2-7b modeline dayanmaktadır.
 

FINGPT

FINGPT

FinGPT’nin İşleyişi:

  1. Veri Kaynakları ve Mühendisliği:
    • Veri Edinme: FinGPT, Yahoo, Reuters gibi güvenilir kaynaklardan veri toplar ve finansal haberleri, ABD hisse senetlerinden CN hisse senetlerine kadar geniş bir yelpazede birleştirir.
    • Veri İşleme: Bu ham veri, temizleme, tokenization ve.prompt mühendisliği aşamalarından geçer để ilgili ve doğru olması sağlanır.
  2. Büyük Dil Modelleri (LLM’ler):
    • Eğitim: FinGPT, özel ihtiyaçlara göre uyarlanmış hafif modeller oluşturmak ve mevcut modelleri veya API’leri uygulamaları desteklemek için curatelenmiş verileri kullanır.
    • İnce Ayar Stratejileri:
      • Tensör Katmanları (LoRA): FinGPT gibi modelleri geliştirmenin önemli zorluklarından biri, yüksek kaliteli etiketli verilerin elde edilmesidir. Bu zorluğu tanıyan FinGPT, yenilikçi bir yaklaşım benimser. Geleneksel etiketleme yerine, hisse senedi fiyatlarındaki dalgalanmaları etiketler olarak kullanır ve haber sentimentini somut etiketlere (pozitif, negatif veya nötr) çevirir. Bu, modelin öngörme yeteneklerinde, özellikle de olumlu ve olumsuz sentimentleri ayırt etmede büyük gelişmelere yol açar. LoRA gibi fine-tuning teknikleri sayesinde FinGPT v3, performansı optimize ederken hesaplama yükünü azaltmayı başarır.
      • İnsan Geribildiriminden Öğrenme (RLHF): FinGPT, “RLHF (İnsan Geribildiriminden Öğrenme)” özelliğini kullanır. Bu, BloombergGPT’de bulunmayan bir özelliktir ve LLM modelinin bireysel tercihleri anlamasına (risk iştahı, yatırım kalıpları veya uyarlanmış robo-danışman ayarları gibi) olanak tanır. Bu teknik, hem ChatGPT hem de GPT4’ün temelidir ve daha kişiselleştirilmiş ve sezgisel bir kullanıcı deneyimi sağlar.
  3. Uygulamalar ve Yenilikler:
    • Robo Danışman: FinGPT, haber sentimentini analiz ederek ve piyasa trendlerini öngörerek deneyimli bir finansal danışman gibi davranabilir.
    • Kantitatif Ticaret: Çeşitli kaynaklardan, haber ajanslarından Twitter’a kadar sentimentleri tanımlayarak FinGPT, etkili ticaret stratejileri oluşturabilir. Hatta sadece Twitter sentimentlerine dayalı olarak bile umut verici ticaret sonuçları gösterir.
FinGPT comparision with ChatGLM, LLAMA 2, BloombergGPT

FinGPT, ChatGLM, LLAMA 2 ve BloombergGPT ile karşılaştırma

FinGPT’nin Mevcut Yönü ve Geleceği: Temmuz 2023, FinGPT için önemli bir dönemeç noktasıdır. Araştırma ekibi, “İnsanların Talimatıyla Finansal Sentiment Analizi: Genel Büyük Dil Modellerinin Talimatla Uyarlanması” adlı bir araştırma makalesini yayınladı. Bu makale, talimatla uyarlama tekniğini探索 ediyor ve FinGPT’nin karmaşık finansal sentiment analizleri gerçekleştirmesini sağlıyor.

Ancak FinGPT yalnızca sentiment analizi ile sınırlı değil. Aslında, 19 farklı uygulama mevcut ve her biri LLM’leri yeni yollarda kullanma vaadi taşıyor. Prompt mühendisliğinden karmaşık finansal bağlamları anlamaya kadar FinGPT, finans alanında çok yönlü bir GenAI modeli olarak kendini kanıtlıyor.

Küresel Bankaların Üretken AI’yi Benimsemesi

2023’ün başlangıcında, bazı büyük finansal oyuncular gibi Bank of America (BAC ), Citigroup ve Goldman Sachs, çalışanlarının OpenAI’nin ChatGPT’sini kullanımını kısıtlamaya karar verdi. Ancak endüstrinin diğer bazı oyuncuları daha çok benimseyici bir tavır sergiledi.

Morgan Stanley (MS ), finansal danışmanları için OpenAI güçlendirilmiş sohbet botlarını entegre etti. Şirketin geniş iç araştırmaları ve verilerine erişim sağlayarak, bu sohbet botları zenginleştirilmiş bilgi kaynakları olarak görev yapıyor ve finansal danışmanlığın verimliliğini ve doğruluğunu artırıyor.

Şubat ayında, Hedge fon Citadel, şirket çapında bir ChatGPT lisansı almak için görüşmelerde bulunuyordu. Planlanan uygulama, yazılım geliştirme ve karmaşık bilgi analizi gibi alanları güçlendirmeyi hedefliyordu.

JPMorgan Chase de büyük dil modellerini dolandırıcılık tespiti için kullanma çabalarına girişti. Yöntemleri, e-posta kalıplarını kullanarak olası güvenlik açıklarını tanımlamaya dayanıyordu. Banka, yılı sonunda AI ile 1,5 milyar dolar değerinde bir kazanç hedefini de koymuştu.

Goldman Sachs da AI’nin çekiciliğine tamamen karşı değil. Banka, yazılım mühendisliği alanını güçlendirmek için üretken AI’nin gücünü keşfediyor. Goldman Sachs’ın Bilgi İşlem Müdürü Marco Argenti, böyle bir entegrasyonun iş gücünü “süper insan” haline getirebileceğini belirtiyor.

Bankacılık ve Finans Sektöründe Üretken AI’nin Kullanım Alanları

Finans Sektöründe Üretken AI Kullanım Alanları

Finans Sektöründe Üretken AI Kullanım Alanları

Üretken AI, finansal operasyonları, karar alma süreçlerini ve müşteri etkileşimlerini temel olarak değiştiriyor. İşte kullanım alanlarının ayrıntılı bir incelemesi:

1. Dolandırıcılık Önleme: Üretken AI, gelişmiş dolandırıcılık tespit mekanizmaları geliştirmede ön planda yer alıyor. Büyük veri havuzlarını analiz ederek karmaşık kalıpları ve düzensizlikleri tanımlayabiliyor ve geleneksel sistemlerin genellikle boğulduğu veri hacmine karşı daha proaktif bir yaklaşım sunuyor. Geleneksel sistemler, yanlış pozitifler üretebilirken, Üretken AI sürekli olarak kendini geliştiriyor ve hataları azaltıyor, böylece daha güvenli finansal işlemler sağlanıyor.

2. Kredi Risk Değerlendirmesi: Borçlunun kredi değerliliğini geleneksel yöntemlerle değerlendirmek, artık eskisi kadar güvenilir değil. Üretken AI modelleri, kredi geçmişinden davranışsal kalıplara kadar çeşitli parametreler aracılığıyla kapsamlı bir risk profili sunuyor. Bu, sadece daha güvenli kredi verme değil, aynı zamanda geleneksel ölçütlerle hizmet verilmeyen müşterilere de hizmet verilmesini sağlıyor.

3. Müşteri Etkileşimini Artırma: Finansal dünya, Üretken AI güçlendirilmiş NLP modelleri sayesinde müşteri hizmetinde bir devrim yaşıyor. Bu modeller, çeşitli müşteri sorgularını anlamak ve kişiselleştirilmiş çözümler sunmak konusunda uzmanlaşıyor. Rutin görevleri otomatikleştirerek finansal kurumlar, maliyetleri azaltabilir, operasyonları düzene sokabilir ve en önemlisi, müşteri memnuniyetini artırabilir.

4. Kişiselleştirilmiş Finansal Planlama: “Bir boyutu herkes için uygun” yaklaşımı geçmişte kaldı. Bugün müşteriler, benzersiz ihtiyaçlarına ve hedeflerine göre uyarlanmış finansal planlama talep ediyor. Üretken AI burada excelle ediyor. Harcama kalıplarından yatırım tercihlerine kadar verileri analiz ederek bireysel finansal yol haritaları oluşturuyor. Bu kapsamlı yaklaşım, müşterilerin daha iyi bilgilendirilmesini ve finansal geleceklerini daha iyi yönlendirebilmesini sağlıyor.

5. Algoritmik Ticaret: Üretken AI’nin analitik yetenekleri, algoritmik ticaretin karmaşık dünyasında değerli bir varlık haline geliyor. Piyasa trendlerinden haber sentimentlerine kadar verileri analiz ederek uzmanlar, stratejilerini optimize edebilir, piyasa değişikliklerini öngörebilir ve potansiyel riskleri azaltabilir.

6. Uyum Çerçevelerini Güçlendirme: Anti-Para Aklama (AML) düzenlemeleri, finansal sistemlerin bütünlüğünü korumak için kritiktir. Üretken AI, karmaşık işlem verilerini tarayarak şüpheli faaliyetleri tespit ederek finansal kurumların küresel standartlara uymasını kolaylaştırır. Bu, operasyonları daha verimli hale getirir ve yanlış pozitiflerin sayısını azaltır.

7. Siber Güvenlik: Siber tehditler sürekli olarak evrimleşirken, finans sektörü esnek çözümlere ihtiyaç duyuyor. Üretken AI, dinamik öngörme modelleri uygulayarak tehditlerin daha hızlı tespit edilmesini sağlıyor ve finansal altyapıyı olası ihlallere karşı güçlendiriyor.

Ancak, her gelişen teknoloji gibi, Üretken AI de finans sektöründe bazı zorluklarla geliyor.

Zorluklar

  1. Önyargı Arttırma: AI modelleri, ne kadar gelişmiş olurlarsa olsunlar, insan tarafından oluşturulan eğitim verilerine dayanır. Bu veriler, kasıtlı veya kasıtsız olarak önyargılar içerir ve bu da yanlı sonuçlara yol açabilir. Finans gibi eşitlik ve adalete önem verilen bir sektörde, bu önyargılar ciddi sonuçlara yol açabilir. Finansal liderler, bu önyargıları tanımlamak ve veri setlerinin kapsamlı ve temsil edici olduğundan emin olmak için proaktif olmalıdır.
  2. Çıktı Güvenilirliği ve Karar Alma: Üretken AI, bazen yanlış ve yanıltıcı sonuçlar üretebilir, bunlar genellikle ‘hayal görme‘ olarak adlandırılır. Bu hatalar, AI modellerinin geliştirme ve öğrenme sürecinin bir parçasıdır, ancak finans gibi kesinliğin mutlak olduğu bir sektörde, bu tür hataların sonuçları ciddi olabilir. AI’ye kritik kararlar için tek başına güvenmek tehlikelidir. AI, hesaplamalı ağırlığı taşıyan ve uzmanlara fikir sağlayan bir araç olarak görülmelidir, ancak nihai kararları insan profesyonellerinin vermesi gerekir.
  3. Veri Gizliliği ve Uyum: Hassas müşteri verilerini korumak, Üretken AI uygulamaları için önemli bir endişe kaynağıdır. Sistemlerin Genel Veri Koruma Yönetmeliği (GDPR) ve California Tüketici Gizliliği Yasası (CCPA) gibi küresel standartlara uymasını sağlamak kritiktir. AI, bu sınırları doğal olarak bilmez veya saygı göstermez, bu nedenle finans sektöründe özellikle gizlilik ön planda olduğu için kullanımı, katı veri koruma rehberleriyle moderation edilmelidir.
  4. Girdi Verilerinin Kalitesi: Üretken AI, kendisine verilen verilerin kalitesine bağlıdır. Yanlış veya eksik veri, düşük kaliteli finansal tavsiyelere veya kararlara yol açabilir.

Sonuç

Ticaret stratejilerini iyileştirmekten güvenliklerini güçlendirmeye kadar, Üretken AI uygulamaları geniş ve dönüştürücüdür. Ancak, her teknoloji gibi, benimsenmesi sırasında etik ve gizlilik etkileri dikkate alınarak dikkatli bir yaklaşım sergilenmelidir.

Bu yetenekleri erfolgreich bir şekilde kullanan ve aynı zamanda sınırlamaları ve potansiyel tuzakları saygı gösteren kurumlar, küresel finans arenasının gelecekteki yönünü kesinlikle şekillendirecektir.

Son beş yıldır Makine Öğrenimi ve Derin Öğrenme dünyasına kendimi adamış bulunuyorum. Tutkum ve uzmanlığım, özellikle AI/ML'ye odaklanarak 50'den fazla çeşitli yazılım mühendisliği projesine katkıda bulunmama yol açtı. Süregelen meraklılığım da beni Doğal Dil İşleme alanına yöneltti, bu alana daha da derinlemesine girmeye hevesliyim.