Промпт-інжиніринг
Генеративний AI у фінансах: FinGPT, BloombergGPT та далі

Генеративний AI відноситься до моделей, які можуть генерувати нові дані, подібні до вхідних даних. Успіх ChatGPT відкрив багато можливостей у різних галузях, надихнув підприємства розробляти свої великі мови моделей. Фінансова галузь, яка рухається даними, зараз ще більш інтенсивна, ніж будь-коли.
Я працюю як вчений-даних у французькій фінансовій компанії. Будучи там понад рік, я недавно спостерігав значне збільшення випадків використання великих мовних моделей (LLM) у всіх дивізіонах для автоматизації завдань та будівництва надійних та безпечних систем AI.
Кожна фінансова служба намагається створити свої власні тонко налаштовані LLM за допомогою відкритих моделей, таких як LLAMA 2 або Falcon. Особливо це стосується спадкових банків, які мають десятиліття фінансових даних.
До цього часу не було можливим включити цю величезну кількість даних у одну модель через обмежені обчислювальні ресурси та менш складні/низькопараметричні моделі. Однак ці відкриті моделі з мільярдами параметрів тепер можуть бути тонко налаштовані до великих текстових наборів даних. Дані – це паливо для цих моделей; чим більше даних, тим краще результат.
І дані, і LLM-моделі можуть зберегти банкам і іншим фінансовим послугам мільйони доларів, підвищуючи автоматизацію, ефективність, точність та інше.
Останні оцінки McKinsey свідчать, що цей Генеративний AI може запропонувати щорічні збереження до 340 мільярдів доларів лише для банківського сектора.
BloombergGPT та економіка Генеративного AI
У березні 2023 року Bloomberg представив BloombergGPT. Це мова модель, побудована з нуля з 50 мільярдами параметрів, спеціально розроблена для фінансових даних.
Щоб заощадити гроші, іноді потрібно витратити гроші. Навчання моделей, таких як BloombergGPT або Meta’s Llama 2, не дешеві.
Навчання моделі Llama 2 з 70 мільярдами параметрів вимагало 1 700 000 годин GPU. На комерційних хмарних сервісах використання Nvidia A100 GPU (NVDA ) (використовуваного для Llama 2) може коштувати 1-2 долари за кожну годину GPU. Розрахувавши це, модель з 10 мільярдами параметрів могла коштувати близько 150 000 доларів, а модель з 100 мільярдами параметрів могла коштувати до 1,5 мільйона доларів.
Якщо не орендувати, то покупка GPU може бути альтернативою. Однак покупка близько 1000 A100 GPU для формування кластера могла коштувати більше 10 мільйонів доларів.
Інвестиції Bloomberg у розмірі понад мільйона доларів особливо примітні на тлі швидкого розвитку AI. Дивовижно, що модель, яка коштує лише 100 доларів, змогла перевершити результати BloombergGPT за півроку. Хоча навчання BloombergGPT включало власні дані, більша частина (99,30%) їхнього набору даних була публічно доступна. З’являється FinGPT.
FinGPT
FinGPT – це сучасна фінансово-тонко налаштована велика мова модель (FinLLM). Розроблена AI4Finance-Foundation, FinGPT зараз перевершує інші моделі за вартістю та точністю в загальному.
Наразі існує 3 версії; серія FinGPT v3 – це моделі, покращені за допомогою методу LoRA, і вони тренуються на новинах і твітах для аналізу настроїв. Вони виконують найкраще у багатьох фінансових тестах настроїв. FinGPT v3.1 побудований на основі моделі chatglm2-6B, а FinGPT v3.2 – на основі моделі Llama2-7b.
Операції FinGPT::
- Джерелознавство та інженерія даних:
- Збір даних: Використовуючи дані з авторитетних джерел, таких як Yahoo, Reuters та інші, FinGPT об’єднує великий масив фінансових новин, від акцій США до акцій Китаю.
- Обробка даних: Ці сирі дані проходять через багато стадій очистки, токенізації та інженерії запиту, щоб забезпечити їх актуальність та точність.
- Великі мови моделі (LLM):
- Навчання: Використовуючи відібрані дані, LLM можуть бути тонко налаштовані для створення легких моделей, спеціально розроблених для конкретних потреб, а також існуючі моделі або API можуть бути адаптовані для підтримки застосунків.
- Стратегії тонкого налаштування:
- Тензорні шари (LoRA): Одним із ключових викликів у розробці моделей, таких як FinGPT, є отримання високоякісних маркованих даних. Визнаючи цей виклик, FinGPT приймає інноваційний підхід. Замість того, щоб покладатися лише на традиційне маркування, коливання цін на акції використовуються як мітки, перетворюючи настрої новин у осяжні мітки, такі як позитивні, негативні чи нейтральні. Це призводить до величезних поліпшень у передбачувальних можливостях моделі, особливо у розрізенні позитивних та негативних настроїв. За допомогою технік тонкого налаштування, таких як LoRA, FinGPT v3 змогла оптимізувати продуктивність, зменшуючи обчислювальні витрати.
- Зміцнення навчання з людської обратної зв’язку: FinGPT використовує “RLHF (Зміцнення навчання з людської обратної зв’язку)“. Функція, відсутня у BloombergGPT, RLHF забезпечує LLM-модель можливістю розрізняти індивідуальні вподобання – чи то ризикова схильність користувача, інвестиційні моделі чи налаштовані параметри роботизованого радника. Ця техніка, корнерстоун як ChatGPT, так і GPT4, забезпечує більш налаштований та інтуїтивний досвід користувача.
- Застосування та інновації:
- Робо-радник: Як досвідчений фінансовий радник, FinGPT може аналізувати настрої новин та передбачати тенденції ринку з великою точністю.
- Квантитативна торгівля: Розрізняючи настрої з різних джерел, від новинних видань до Twitter, FinGPT може розробляти ефективні торговельні стратегії. Насправді, навіть коли спрямована лише на настрої Twitter, вона демонструє перспективні торговельні результати.
Поточна траєкторія та майбутнє FinGPT: Липень 2023 року став значним етапом для FinGPT. Команда представила дослідницьку роботу під назвою “Instruct-FinGPT: Фінансовий аналіз настроїв за допомогою інструктивного налаштування великих мовних моделей“. Центральним у цій роботі є дослідження інструктивного налаштування, техніки, яка дозволяє FinGPT виконувати складний фінансовий аналіз настроїв.
Але FinGPT не обмежується лише аналізом настроїв. Насправді, 19 інших різноманітних застосунків доступні, кожний з яких обіцяє використовувати LLM у нових способах. Від інженерії запиту до розуміння складних фінансових контекстів FinGPT встановлює себе як універсальну модель Генеративного AI у фінансовій галузі.
Як глобальні банки приймають Генеративний AI
Хоча початок 2023 року побачив деяких великих фінансових гравців, таких як Bank of America (BAC ), Citigroup та Goldman Sachs, які накладали обмеження на використання OpenAI’s ChatGPT своїми працівниками, інші колеги у галузі вирішили прийняти більш приймаючу позицію.
Morgan Stanley (MS ), наприклад, інтегрував чат-боти, підтримувані OpenAI, як інструмент для своїх фінансових радників. Використовуючи внутрішні дослідження та дані фірми, ці чат-боти служать збагаченими джерелами знань, підвищуючи ефективність та точність фінансових консультацій.
У березні цього року хедж-фонд Citadel намагався забезпечити корпоративну ліцензію на ChatGPT. Перспективна реалізація передбачає посилення таких областей, як розробка програмного забезпечення та складний аналіз інформації.
JPMorgan Chase також докладає зусиль для використання великих мовних моделей для виявлення шахрайства. Їхній метод полягає у використанні моделей електронної пошти для ідентифікації потенційних компрометацій. Не зупиняючись на цьому, банк також поставив амбітну мету: додати до 1,5 мільярда доларів вартості за допомогою AI до кінця року.
Що стосується Goldman Sachs, вони не зовсім протистоять привабливості AI. Банк досліджує силу Генеративного AI для зміцнення своєї інженерії програмного забезпечення. Як Marco Argenti, Головний інформаційний директор Goldman Sachs, каже, така інтеграція має потенціал перетворити їхній персонал на щось “суперлюдей“.
Використання Генеративного AI у банківській та фінансовій галузі
Генеративний AI фундаментально змінює фінансові операції, процеси прийняття рішень та взаємодію з клієнтами. Ось детальне дослідження його застосунків:
1. Профілактика шахрайства: Генеративний AI знаходиться на передовій розробки передових механізмів виявлення шахрайства. Аналізуючи великі дані, він може розрізняти складні моделі та нерегулярності, пропонуючи більш активний підхід. Традиційні системи, часто перегружені великою кількістю даних, можуть виробляти помилкові позитиви. Генеративний AI, навпаки, постійно вдосконалює своє розуміння, зменшуючи помилки та забезпечуючи більш безпечні фінансові транзакції.
2. Оцінка кредитного ризику: Традиційні методи оцінки кредитоспроможності боржника, хоча й надійні, стають застарілими. Моделі Генеративного AI через різні параметри – від кредитної історії до тонких поведінкових моделей – пропонують комплексний ризиковий профіль. Це не тільки забезпечує безпечніше кредитування, але й обслуговує ширшу клієнтуру, включаючи тих, хто може бути недообслуговуваним традиційними метриками.
3. Посилення взаємодії з клієнтами: Фінансова галузь переживає революцію у сфері обслуговування клієнтів, завдяки моделям NLP, підтримуваним Генеративним AI. Ці моделі здатні розуміти та реагувати на різні запити клієнтів, пропонуючи персоналізовані рішення оперативно. Автоматизуючи рутинні завдання, фінансові установи можуть зменшити витрати, оптимізувати операції та, найголовніше, підвищити задоволеність клієнтів.
4. Персоналізовані фінанси: Одноразовий підхід до фінансів – це релікт минулого. Сьогодні клієнти вимагають фінансового планування, адаптованого до їхніх унікальних потреб та аспірацій. Генеративний AI excels here. Аналізуючи дані – від моделей витрат до інвестиційних вподобань – він створює індивідуальні фінансові карти. Цей комплексний підхід забезпечує, щоб клієнти були краще інформовані та більш підготовлені до свого фінансового майбутнього.
5. Алгоритмічна торгівля: Аналітичні можливості Генеративного AI доводять свою цінність у волатильному світі алгоритмічної торгівлі. Розчленовуючи дані – від тенденцій ринку до настроїв новин – він пропонує проникливі інсайти, дозволяючи фінансовим експертам оптимізувати стратегії, передбачати ринкові зміни та мінімізувати потенційні ризики.
6. Зміцнення структур відповідності: Регуляції щодо боротьби з відмиванням грошей (AML) критичні для підтримання цілісності фінансових систем. Генеративний AI спрощує відповідність, просіюючи через складні транзакційні дані для визначення підозрілих діяльності. Це не тільки забезпечує, щоб фінансові установи дотримувалися глобальних стандартів, але й значно зменшує кількість помилкових позитивів, оптимізуючи операції.
7. Кібербезпека: З кібер-угрозами, які постійно еволюціонують, фінансовій галузі потрібні гнучкі рішення. Генеративний AI пропонує саме це. Реалізуючи динамічні передбачувальні моделі, він дозволяє швидше виявляти загрози, зміцнюючи фінансові інфраструктури проти потенційних порушень.
Однак, як і будь-яка еволюційна технологія, Генеративний AI має свої виклики у фінансовій галузі.
Виклики
- Посилення упередженості: AI-моделі, як складні вони є, все ще залежать від людських даних. Ці дані, з їхніми вбудованими упередженостями – чи то свідомо, чи ні – можуть привести до перекошених результатів. Для фінансової галузі, де рівність та справедливість є головними, такі упередженості можуть мати серйозні наслідки. Фінансові лідери повинні бути активними у визначенні цих упередженостей та забезпеченні, щоб їхні набори даних були якнайбільш повними та репрезентативними.
- Надійність виводу та прийняття рішень: Генеративний AI іноді може генерувати результати, які є як неправильними, так і вводять в оману – часто називаються “галюцинаціями“. Ці помилки є певною мірою очікуваними, оскільки AI-моделі розвиваються та вчаться, але їхні наслідки у фінансах, де точність є непогрішимою, є серйозними. Покладатися виключно на AI для критичних рішень, таких як схвалення кредитів, є небезпечним. Натомість AI повинен бути розглянутий як складна інструмент, який допомагає фінансовим експертам, а не замінює їх. Він повинен обробляти обчислювальне навантаження, забезпечуючи інсайти для людських фахівців, щоб вони могли приймати остаточні, інформовані рішення.
- Приватність даних та відповідність: Захист конфіденційних даних клієнтів залишається значною проблемою для застосунків Генеративного AI. Забезпечення того, щоб система відповідала глобальним стандартам, таким як Загальний регламент про захист даних (GDPR) та Закон про конфіденційність споживачів Каліфорнії (CCPA), є важливим. AI може не знаючи чи не поважаючи ці межі, тому його використання повинно бути помірковане суворими правилами захисту даних, особливо у фінансовій галузі, де конфіденційність є головною.
- Якість вхідних даних: Генеративний AI є лише таким хорошим, як дані, які йому надані. Неправильні або неповні дані можуть непередбачувано привести до низької якості фінансових порад або рішень.
Висновок
Від покращення торговельних стратегій до зміцнення безпеки, застосунки Генеративного AI є величезними та трансформаційними. Однак, як і будь-яка технологія, його прийняття повинно бути здійснено з обережністю, враховуючи етичні та приватні наслідки.
Ті установи, які успішно використовують можливості Генеративного AI, одночасно поважаючи його обмеження та потенційні підводні камені, безумовно сформують майбутню траєкторію глобальної фінансової арени.















