프롬프트 엔지니어링
금융 분야의 생성형 AI: FinGPT, 블룸버그GPT 및 그 이상
Unite.AI를 Google의 선호 소스에 추가
생성형 AI는 입력 데이터와 유사한 새로운 데이터 샘플을 생성할 수 있는 모델을 말합니다. ChatGPT의 성공은 다양한 산업에서 기회를 열어주었으며, 기업들은 자체的大규모 언어 모델을 설계하도록 영감을 받았습니다. 데이터에 의해 주도되는 금융 부문은 이제 더 이상 데이터 집약적입니다.
저는 프랑스 기반의 금융 서비스 회사에서 데이터 과학자로 일합니다. 1년 이상 근무한 후, 최근에 모든 부서에서 작업 자동화와 강력한 보안 AI 시스템 구축을 위한 대규모 언어 모델(LLM)의 사용이 크게 증가한 것을 관찰했습니다.
모든 금융 서비스는 ChatGPT와 같은 오픈 소스 모델을 사용하여 자체적으로 미세 조정된 LLM을 만들고자 합니다. 특히 수십 년의 금융 데이터를 보유한 레거시 은행이 그렇습니다.
지금까지 이러한大量의 데이터를 단일 모델에 통합하는 것이 컴퓨팅 리소스의 제한과 복잡하지 않은 모델로 인해 불가능했습니다. 그러나 수십억 개의 매개변수를 갖는 이러한 오픈 소스 모델은大量의 텍스트 데이터셋에 대해 미세 조정될 수 있습니다. 데이터는 이러한 모델에 연료와 같습니다. 데이터가 많을수록 결과가 좋습니다.
데이터와 LLM 모델은 은행과 기타 금융 서비스에서 자동화, 효율성, 정확성 등을 향상시켜 수백만 달러를節約할 수 있습니다.
最近의 麦肯錬社의 추정에 따르면, 생성형 AI는 은행 부문에서만 연간 340억 달러의節約을 제공할 수 있습니다.
블룸버그GPT 및 생성형 AI의 경제학
2023년 3월, 블룸버그는 50억 매개변수를 갖는 언어 모델인 블룸버그GPT를 공개했습니다. 이는 금융 데이터를 위해 특별히 설계된 모델입니다.
때때로 돈을節約하려면 돈을 쓰는 것이 필요합니다. 블룸버그GPT나 메타의 LLAMA 2와 같은 모델을 훈련시키는 것은 저렴하지 않습니다.
LLAMA 2의 70억 매개변수 모델을 훈련시키는 데에는 1,700,000개의 GPU 시간이 필요했습니다. 상업용 클라우드 서비스에서 Nvidia A100 GPU를 사용하는 경우 1시간당 1~2달러의 비용이 발생합니다. 계산을 해보면, 10억 매개변수 모델의 비용은 약 150,000달러, 100억 매개변수 모델의 비용은 1,500,000달러가 될 수 있습니다.
GPU를 직접 구매하는 것도 대안입니다. 그러나 1000개의 A100 GPU를 클러스터로 구성하는 데에는 1,000만 달러 이상의 비용이 발생할 수 있습니다.
블룸버그의 100만 달러 이상의 투자는 AI의 빠른 발전에 비추어 볼 때 특히 주목할 만합니다. 놀랍게도, 100달러짜리 모델이 블룸버그GPT의 성능을 6개월 만에 능가했습니다. 블룸버그GPT의 훈련에는 99.30%의 공공 데이터가 사용되었으며, 이는 FinGPT의 등장으로 이어졌습니다.
FinGPT
FinGPT는 금융 분야에서 미세 조정된 최신 언어 모델입니다. AI4Finance-Foundation에서 개발된 FinGPT는 현재 비용 효율성과 정확성에서 다른 모델을 능가하고 있습니다.
현재 3개의 버전이 있습니다. FinGPT v3 시리즈는 LoRA 방법을 사용하여 개선된 모델이며, 뉴스와 트윗을 분석하여 감정 분석을 수행합니다. 이러한 모델은 많은 금융 감정 테스트에서 최고의 성능을 보입니다. FinGPT v3.1은 chatglm2-6B 모델을 기반으로 하며, FinGPT v3.2는 LLAMA2-7b 모델을 기반으로 합니다.
FINGPT
FinGPT의 작동:
- 데이터 수집 및 엔지니어링:
- 데이터 수집: FinGPT는 야후, 로이터 등 신뢰할 수 있는 출처에서 데이터를 수집하여 미국 주식부터 중국 주식까지 다양한 금융 뉴스를 통합합니다.
- 데이터 처리: 이러한 원시 데이터는 청소, 토큰화, 프롬프트 엔지니어링 등의 여러 단계를 거쳐 관련성과 정확성을 보장합니다.
- 대규모 언어 모델(LLM):
- 훈련: 이러한 데이터를 사용하여 LLM을 미세 조정하여 특정 요구 사항에 맞는 경량 모델을 생성할 수 있습니다. 또한 기존 모델이나 API를 지원하는 응용 프로그램을 만들 수 있습니다.
- 미세 조정 전략:
- 텐서 레이어(LoRA): FinGPT는 고품질 레이블 데이터를 얻는 어려움을 인식하고 혁신적인 접근 방식을採用합니다. 전통적인 레이블링 대신 시장 주도적 주가 변동을 레이블로 사용하여 뉴스 감정을 구체적인 레이블(예: 긍정, 부정, 중립)로 변환합니다. 이는 모델의 예측 능력, 특히 긍정 및 부정 감정의 구분에서 큰 개선을 가져옵니다. LoRA와 같은 미세 조정 기술을 통해 FinGPT v3는 성능을 최적화하면서 계산 오버헤드를 줄일 수 있습니다.
- 인간 피드백으로부터 강화 학습: FinGPT는 “RLHF(인간 피드백으로부터 강화 학습)”을 사용합니다. 이는 블룸버그GPT에 없는 기능으로, 사용자의 개인적 선호도(예: 위험 감수성, 투자 패턴, 로보 어드바이저 설정)를 식별할 수 있습니다. 이는 사용자에게 더 맞춤화된 경험을 제공합니다.
- 응용 및 혁신:
- 로보 어드바이저: FinGPT는 뉴스 감정을 분석하고 시장 추세를 예측하여 경험 많은 금융 고문을 능가하는 성능을 발휘할 수 있습니다.
- 양적 거래: 다양한 출처(예: 뉴스, 트위터)에서 감정을 식별하여 효과적인 거래 전략을 수립할 수 있습니다. 실제로 트위터 감정만으로도 유망한 거래 결과를 보여줍니다.
FinGPT comparison with ChatGLM, LLAMA 2, BloombergGPT
FinGPT의 현재 궤도와 미래: 2023년 7월은 FinGPT에게 흥미로운 里程碑입니다. 팀은 “Instruct-FinGPT: 일반적인 대규모 언어 모델의 지시 튜닝을 통한 금융 감정 분석”이라는 연구 논문을 공개했습니다. 이 논문의 핵심은 지시 튜닝 기술을探索하는 것으로, FinGPT가 복잡한 금융 감정 분석을 수행할 수 있도록 합니다.
그러나 FinGPT는 감정 분석에만 국한되지 않습니다. 실제로 19가지 다양한 응용 프로그램이 있으며, 각 응용 프로그램은 LLM을 새로운 방식으로 활용합니다. 프롬프트 엔지니어링에서 복잡한 금융 상황을 이해하는 데까지, FinGPT는 금융 분야에서 다재다능한 생성형 AI 모델로 자리매김하고 있습니다.
글로벌 은행이 생성형 AI를 받아들이는 방식
2023년 초, 일부 주요 금융 기관(예: 뱅크 오브 아메리카, 시티그룹, 골드만 삭스)은 직원들이 오픈AI의 ChatGPT를 사용하는 것을 제한했습니다. 그러나 다른 기관은 생성형 AI를 받아들이는 더 열린 태도를 취했습니다.
모간 스탠리는 금융 고문을 위한 도구로 오픈AI 파워드 채트봇을 통합했습니다. 회사 내부 연구와 데이터를 활용하여 채트봇은 풍부한 지식 자원을 제공하며, 금융 고문의 효율성과 정확성을 높입니다.
이번 년초, 헤지 펀드 시티델은 기업 전체 ChatGPT 라이센스를 협상하려고 했습니다. 이는 소프트웨어 개발과 복잡한 정보 분석을 강화하는 것을 목표로 합니다.
JP모간 체이스는 또한 대규모 언어 모델을 사용하여 사기를 탐지하는 데 노력하고 있습니다. 이 방법은 이메일 패턴을 사용하여 잠재적인 보안 위협을 식별하는 것을 중심으로 합니다. 은행은 또한 AI를 사용하여 1년 내에 15억 달러의 가치를 창출하는 것을 목표로 하고 있습니다.
골드만 삭스도 AI의 매력을 완전히 거부하지는 않습니다. 은행은 소프트웨어 엔지니어링 분야에서 생성형 AI의力を 탐색하고 있습니다. 골드만 삭스의 CIO 마르코 아르젠티는 이러한 통합이 직원을 “초인”으로 만들 수 있다고 말합니다.
금융 및 은행 산업에서 생성형 AI의 사용 사례
Generative AI in Finance Use Cases
생성형 AI는 금융 운영, 의사 결정, 고객 상호 작용을 근본적으로 변화시키고 있습니다. 여기에는 생성형 AI의 응용 프로그램에 대한 자세한 탐색이 포함됩니다.
1. 사기 예방: 생성형 AI는 사기 탐지 메커니즘을 개발하는 데 앞장서고 있습니다.大量의 데이터를 분석하여 복잡한 패턴과 불일치를 식별할 수 있습니다. 전통적인 시스템은 데이터의 양으로 인해 압도될 수 있지만 생성형 AI는 지속적으로 학습하여 오류를 줄이고 보안을 강화합니다.
2. 신용 위험 평가: 전통적인 신용 등급 평가 방법은 신뢰할 수 있지만 구식이 되고 있습니다. 생성형 AI 모델은 다양한 매개변수(예: 신용 기록, 행동 패턴)를 통해 포괄적인 위험 프로파일을 제공합니다. 이는 더 안전한 대출과 더广泛한 고객을 위한 서비스를 가능하게 합니다.
3. 고객 상호 작용 강화: 금융 세계는 고객 서비스에서 혁신을 경험하고 있습니다. 생성형 AI 파워드 NLP 모델은 다양한 고객 질의에 대한 개인화된 솔루션을 제공할 수 있습니다. 자동화된 루틴 작업을 통해 금융 기관은 비용을 절감하고 운영을 간소화하며 고객 만족도를 향상시킬 수 있습니다.
4. 개인화된 금융: 일괄 처리는 과거의 유물입니다. 오늘날의 고객은 자신의 고유한需求과愿望에 맞는 금융 계획을 요구합니다. 생성형 AI는 데이터(예: 지출 패턴, 투자 선호도)를 분석하여 개인화된 금융 로드맵을 제공합니다. 이는 고객이 더 잘 정보를 갖추고 금융 미래를 탐색할 수 있도록 합니다.
5. 알고리즘 거래: 생성형 AI의 분석能力은 알고리즘 거래의 세계에서 귀중한 자산입니다. 데이터(예: 시장 동향, 뉴스 감정)를 분석하여 전문가가 전략을 최적화하고 시장 변동을 예측하며 잠재적인 위험을 완화할 수 있습니다.
6. 준수 프레임워크 강화: 반머니 론딩(AML) 규정은 금융 시스템의 무결성을 유지하는 데 중요합니다. 생성형 AI는 트랜잭션 데이터를 분석하여 의심스러운 활동을 식별하여 금융 기관이 글로벌 표준을 준수하도록 도와줍니다.
7. 사이버 보안: 사이버 위협은 끊임없이 진화하고 있습니다. 금융 부문은 민첩한 솔루션이 필요합니다. 생성형 AI는 예측 모델을 구현하여 위협을 빠르게 탐지하고 금융 인프라를 강화합니다.
그러나 생성형 AI도 금융 산업에서 도전을 안겨줍니다.
도전
- 편향 증폭: AI 모델은 인간이 생성한 훈련 데이터에 의존합니다. 이러한 데이터에는 의도적이든 의도적이지 않든 편향이 포함될 수 있습니다. 이는 금융 분야에서 공정성과 평등이 중요함에도 불구하고 심각한 결과를 초래할 수 있습니다. 금융 리더는 이러한 편향을 식별하고 데이터셋이 포괄적이고 대표적임을 보장해야 합니다.
- 출력 신뢰도 및 의사 결정: 생성형 AI는 때때로 잘못된 결과를 생성할 수 있습니다. 이러한 오류는 금융 분야에서 정확성이 필수적인 경우 심각한 결과를 초래할 수 있습니다. 생성형 AI는 전문가가 의사 결정을 내리는 것을支援하는 도구로 사용되어야지, 전문가를 대체하는 도구로 사용되어서는 안 됩니다.
- 데이터 개인 정보 보호 및 준수: 고객의 민감한 데이터를 보호하는 것은 생성형 AI 응용 프로그램에서 중요한 문제입니다. 시스템이 GDPR 및 CCPA와 같은 글로벌 표준을 준수하는지 확인하는 것이 중요합니다. AI는 이러한 경계를 자동으로 인식하거나 존중하지 않으므로, 특히 금융 부문에서 데이터 보호 지침을 엄격하게 준수해야 합니다.
- 입력 데이터의 품질: 생성형 AI는 입력 데이터만큼 좋은 성능을 발휘합니다. 부정확하거나 불완전한 데이터는 하위 수준의 금융 조언이나 의사 결정을 초래할 수 있습니다.
결론
거래 전략 강화부터 보안 강화까지, 생성형 AI의 응용 프로그램은 광범위하고 변혁적입니다. 그러나 생성형 AI를 채택할 때는 그 한계와 잠재적인 위험을 고려하여 주의해야 합니다.
생성형 AI의 능력을 성공적으로 활용하면서 동시에 그 한계와 잠재적인 위험을 존중하는 기관은 글로벌 금융 분야의 미래를 형성할 것입니다.
