ChatGPT приходит в финансы: давайте поговорим о рисках и наградах

Запуск ChatGPT вызвал фурор в мире. За пять дней после запуска оно набрало более миллиона пользователей. Через два месяца бил рекорд как самое быстрорастущее потребительское приложение в истории, с 100 миллионами пользователей. Для сравнения, TikTok понадобилось девять месяцев, а Instagram — 2,5 года чтобы достичь этого рубежа.

С момента выпуска генеративный ИИ набирает обороты в几乎 каждой области, включая финансы. BloombergGPT был анонсирован в конце марта, и его возможности включают анализ настроений, оценку рисков, обнаружение мошенничества и классификацию документов, а также другие финансовые задачи NLP.

Теперь, когда коробка Пандоры открыта, уже нет пути назад. Мы увидим, как генеративный ИИ и модели языка будут играть более значимую роль в финансовом секторе, что, вероятно, приведет к тому, что инвестиционные эксперты будут переходить на новые должности, подчеркивающие проектирование подсказок и контекстный анализ.

Поскольку изменения неизбежны, логическим следующим шагом будет отладка системы, так сказать, путем анализа потенциальных рисков и рассмотрения способов их смягчения.

Риск: Подтверждение предвзятости и чрезмерная зависимость от машинного “экспертного” суждения

В настоящее время финансовые рынки испытывают серьезные колебания, которые оставляют всех, кроме самых стойких инвесторов, с ощущением морской болезни. Теперь давайте рассмотрим, что может произойти, если мы добавим значительную группу финансовых советников, которые сильно полагаются на ИИ для предоставления инвестиционных рекомендаций.

Это правда, что мы все знаем, что ИИ склонен к предвзятости; мы также знаем, что человеческая природа делает нас гораздо более склонными слишком сильно доверять машинам, особенно тем, которые кажутся высокоинтеллектуальными. Эта предвзятость – называемая “машинным эвристическим” – может легко выйти из-под контроля, если профессионалы начнут слишком сильно полагаться на прогнозы ИИ и не проверять выводы против своих знаний и опыта.

Текущая итерация ChatGPT по сути соглашается с чем угодно, что вы скажете, поэтому если люди начнут задавать ChatGPT вопросы о финансовых рынках на основе неясной, частичной или ложной информации, они получат ответы, подтверждающие их идеи, даже если они неверны. Легко видеть, как это может привести к катастрофе, особенно когда человеческие предвзятости или немного ленивой проверки фактов добавляются в смесь.

Награда: Повышение эффективности, производительности, управления рисками и удовлетворенности клиентов

Хедж-фонды, такие как Citadel и банковские монолиты, такие как Morgan Stanley, уже принимают эту технологию в качестве источника знаний, поскольку она так хорошо справляется с выполнением рутинных задач, таких как организация данных и оценка рисков. Когда она включена в качестве инструмента в набор инструментов инвестиционных профессионалов, она может помочь финансовым менеджерам принимать лучшие решения за меньшее время, освобождая их для выполнения экспертных частей работы, которые им больше всего нравятся.

Она также может анализировать финансовые данные в реальном времени, выявлять мошеннические транзакции и принимать немедленные меры для предотвращения потерь. Обнаружение этих моделей мошенничества было бы трудно или невозможно обнаружить традиционными методами. Финансовые учреждения в США потеряли более $4,5 миллиарда из-за мошенничества в 2022 году, поэтому это большая награда для банков.

Кроме того, генеративный ИИ позволяет создавать более умные виртуальные помощники для предоставления персонализированной и эффективной службы поддержки клиентов 24/7. Например, индийский Tata Mutual Fund сотрудничал с платформой конверсационного ИИ Haptik для создания чат-бота, который помогает клиентам с базовыми запросами и предоставляет финансовые советы, что привело к снижению количества звонков на 70% и улучшению удовлетворенности клиентов.

Риск: Недостаточные правила соответствия

Трудно представить, но невероятная сила GPT все еще находится в относительной младенчестве. Будущее, безусловно, увидит итерацию, настолько совершенную, что мы еще не можем полностью понять ее возможности. Из-за этого глобальное сообщество должно создать строгие, всеобъемлющие нормативные рамки, которые обеспечивают ее справедливое и этичное использование. В противном случае мы, вероятно, увидим дискриминационные практики, возникающие в результате предвзятых данных, будь то намеренно или непреднамеренно.

Пока что последовательные контроли отсутствуют, оставляя компании и страны в спешке, чтобы решить, как обращаться с этой технологией и насколько строгими должны быть их ограничения. Например, в секторах, которые имеют дело с высокочувствительными данными, такими как финансы, здравоохранение и государственный сектор, многие организации полностью запретили любое использование ChatGPT, потому что они не знают, как безопасно будет их данные. Amazon, Verizon, JPMorgan Chase, Accenture и Goldman Sachs — все это примеры этого полного запрета.

В более широком масштабе страны находятся в том же нормативном лимбе, с некоторыми, такими как Германия и Италия, вводящие временные запреты, пока они не смогут обеспечить, что это не приведет к нарушениям GDPR. Это серьезная проблема для всех членов ЕС, особенно на фоне известных утечек данных, уже сообщенных OpenAI.

К сожалению, регулирующие органы уже достаточно отстают от развития прочных правовых рамок для этой технологии. Однако, как только они догонят, мы можем ожидать, что GPT займет свое место в каждом секторе глобального сообщества.

Награда: Лучшая регуляция означает более быстрое внедрение

Отсутствие контроля над технологией GPT является серьезным препятствием для более широкого внедрения. Да, сейчас это модная новинка, но она не может быть рассмотрена как серьезная часть долгосрочной корпоративной стратегии без всесторонних правил и руководств по ее использованию.

Как только глобальное сообщество разработает и реализует соответствующие рамки, бизнес будет чувствовать себя более комфортно, инвестируя в эту технологию, открывая новый поток вариантов использования даже в самых передовых секторах, таких как здравоохранение и государственный сектор.

Риск: Затопление финансовых рынков любителями

Ранее я упоминал проблему генеративного ИИ, который может давать выводы только на основе входных данных. Эта проблема имеет более широкие последствия, чем просто позволять опытным профессионалам быть немного ленивыми. По крайней мере, ветераны отрасли имеют фоновые знания и навыки, необходимые для контекстуализации предоставляемых им данных, что больше, чем можно сказать о любителях, которые думают, что они могут маскироваться под профессиональных советников, научившись использовать ChatGPT.

Не существует ничего плохого в том, чтобы быть самостоятельным инвестором, особенно если вам нравится исследовать финансовые рынки и экспериментировать с риском за свой счет. Проблема заключается в том, что эти относительно неквалифицированные люди с немного свободными деньгами и большим количеством свободного времени решают, что они более компетентны, чем они есть на самом деле, из-за ИИ, и решают выдавать себя за профессионалов. Их отсутствие реального опыта и формальной подготовки, вероятно, приведет к значительному хаосу в краткосрочной перспективе и создаст дополнительную нагрузку на настоящих профессионалов.

Награда: ChatGPT может дать профессионалам долгосрочный импульс репутации и демократизировать финансовые советы

Хорошая новость заключается в том, что если настоящие ветераны смогут пережить неудобство временно затопленного рынка, они увидят, как быстро люди устанут от общих советов, которые они могли бы прочитать на Yahoo Finance, и посмотрят, как любители выйдут из рынка так же быстро, как они вошли, оставив только опытных советников, чтобы подобрать теперь уже не имеющих советников клиентов, желающих заплатить за экспертную помощь от кого-то, кто может обеспечить реальные результаты.

С другой стороны, ChatGPT также может сыграть роль в сокращении разрыва в финансовой грамотности и помочь тем, у кого нет доступа к профессиональному финансовому советнику, научиться некоторым базовым стратегиям оптимизации своих денег. Его способность генерировать полезные, базовые инвестиционные советы означает, что теперь возможно сделать финансовое образование более доступным, даже для тех, кто ранее не мог позволить себе профессиональные финансовые услуги.

Снижение барьеров для лучшей финансовой стабильности является чрезвычайно важным преимуществом этой технологии, поскольку в настоящее время только один из трех взрослых в глобальном сообществе финансово грамотен.