Лидеры мнений
ChatGPT приходит в финансовый сектор: поговорим о рисках и преимуществах

Ключевые моментыЧрезмерная зависимость от ИИ в финансах рискует усилить предвзятость подтверждения…
Показать больше
- Чрезмерная зависимость от ИИ в финансах рискует усилить предвзятость подтверждения через машинную эвристику.
- Недостаточное регулирование генеративного ИИ угрожает справедливому и этичному использованию в финансовой сфере.
- ChatGPT может демократизировать финансовые консультации, но рискует наводнить рынки неквалифицированными любителями.
Запуск ChatGPT вызвал фурор в мире. За пять дней после запуска оно набрало более миллиона пользователей. Через два месяца побил рекорд как самое быстрорастущее потребительское приложение в истории, с 100 миллионами пользователей. Для сравнения, TikTok понадобилось девять месяцев, а Instagram — 2,5 года, чтобы достичь этого рубежа.
С момента выпуска генеративный ИИ набирает обороты практически в каждой области, включая финансы. BloombergGPT был анонсирован в конце марта, и его возможности включают анализ настроений, оценку рисков, обнаружение мошенничества и классификацию документов, а также другие финансовые задачи NLP.
Теперь, когда коробка Пандоры открыта, уже нет пути назад. Мы увидим, как генеративный ИИ и большие языковые модели будут играть более значимую роль в финансовом секторе, что, вероятно, приведет к тому, что инвестиционные эксперты будут переходить на новые должности, подчеркивающие проектирование подсказок и контекстный анализ.
Поскольку изменения неизбежны, логическим следующим шагом будет отладка системы, так сказать, путем анализа потенциальных рисков и рассмотрения способов их смягчения.
Риск: Предвзятость подтверждения и чрезмерная зависимость от машинного “экспертного” суждения
В настоящее время финансовые рынки испытывают серьезные колебания, которые оставляют всех, кроме самых стойких инвесторов, с ощущением морской болезни. Теперь давайте рассмотрим, что может произойти, если мы добавим значительную группу финансовых советников, которые сильно полагаются на ИИ для предоставления инвестиционных рекомендаций.
Это правда, что мы все знаем, что ИИ склонен к предвзятости; мы также знаем, что человеческая природа делает нас гораздо более склонными слишком сильно доверять машинам, особенно тем, которые кажутся высокоинтеллектуальными. Эта предвзятость – называемая “машинной эвристикой” – может легко выйти из-под контроля, если профессионалы начнут слишком сильно полагаться на прогнозы ИИ и не сопоставлять результаты со своими знаниями и опытом.
Текущая итерация ChatGPT по сути соглашается с чем угодно, что вы скажете, поэтому если люди начнут задавать ChatGPT вопросы о финансовых рынках на основе неясной, частичной или ложной информации, они получат ответы, подтверждающие их идеи, даже если они неверны. Легко видеть, как это может привести к катастрофе, особенно когда человеческие предвзятости или немного ленивой проверки фактов добавляются в смесь.
Преимущество: Повышение эффективности, производительности, управления рисками и удовлетворенности клиентов
Хедж-фонды, такие как Citadel и банковские монолиты, такие как Morgan Stanley (MS ), уже принимают эту технологию в качестве источника знаний, поскольку она так хорошо справляется с выполнением рутинных задач, таких как организация данных и оценка рисков. Когда она включена в качестве инструмента в набор инструментов инвестиционных профессионалов, она может помочь финансовым менеджерам принимать лучшие решения за меньшее время, освобождая их для выполнения экспертных частей работы, которые им больше всего нравятся.
Она также может анализировать финансовые данные в реальном времени, выявлять мошеннические транзакции и принимать немедленные меры для предотвращения потерь. Обнаружение этих моделей мошенничества было бы трудно или невозможно обнаружить традиционными методами. Финансовые учреждения в США потеряли более $4,5 миллиарда из-за мошенничества в 2022 году, поэтому это большая награда для банков.
Кроме того, генеративный ИИ позволяет создавать более умных виртуальных помощников для предоставления персонализированной и эффективной службы поддержки клиентов 24/7. Например, индийский Tata Mutual Fund сотрудничал с платформой разговорного ИИ Haptik для создания чат-бота, который помогает клиентам с базовыми запросами по счетам и предоставляет финансовые советы, что привело к снижению количества звонков на 70% и улучшению удовлетворенности клиентов.
Риск: Недостаточное регулирование соблюдения требований
Трудно представить, но невероятная сила GPT все еще находится на относительно раннем этапе развития. Будущее, безусловно, увидит итерацию, настолько совершенную, что мы еще не можем полностью понять ее возможности. Из-за этого глобальное сообщество должно создать строгие, всеобъемлющие нормативные рамки, которые обеспечивают ее справедливое и этичное использование. В противном случае мы, вероятно, увидим дискриминационные практики, возникающие в результате предвзятых данных, будь то намеренно или непреднамеренно.
Пока что последовательные контроли отсутствуют, оставляя компании и страны в спешке, чтобы решить, как обращаться с этой технологией и насколько строгими должны быть их ограничения. Например, в секторах, которые имеют дело с высокочувствительными данными, такими как финансы, здравоохранение и государственный сектор, многие организации полностью запретили любое использование ChatGPT, потому что они не знают, насколько безопасными будут их данные. Amazon (AMZN ), Verizon, JPMorgan Chase, Accenture и Goldman Sachs (GS ) — все это примеры этого полного запрета.
В более широком масштабе страны находятся в том же нормативном лимбе, с некоторыми, такими как Германия и Италия, вводящими временные запреты, пока они не смогут обеспечить, что это не приведет к нарушениям GDPR. Это серьезная проблема для всех членов ЕС, особенно на фоне известных утечек данных, о которых уже сообщила OpenAI.
К сожалению, регулирующие органы уже достаточно отстают от развития прочных правовых рамок для этой технологии. Однако, как только они догонят, мы можем ожидать, что GPT займет свое место в каждом секторе глобального сообщества.
Преимущество: Лучшая регуляция означает более быстрое внедрение
Отсутствие контроля над технологией GPT является серьезным препятствием для более широкого внедрения. Да, сейчас это модная новинка, но она не может быть рассмотрена как серьезная часть долгосрочной корпоративной стратегии без всесторонних правил и руководств по ее использованию.
Как только глобальное сообщество разработает и реализует соответствующие рамки, бизнес будет чувствовать себя более комфортно, инвестируя в эту технологию, открывая новый поток вариантов использования даже в секторах, наиболее ориентированных на кибербезопасность, таких как здравоохранение и государственный сектор.
Риск: Затопление финансовых рынков любителями
Ранее я упоминал проблему генеративного ИИ, который может давать выводы только на основе входных данных. Эта проблема имеет более широкие последствия, чем просто позволять опытным профессионалам быть немного ленивыми. По крайней мере, ветераны отрасли имеют фоновые знания и навыки, необходимые для контекстуализации предоставляемых им данных, что больше, чем можно сказать о любителях, которые думают, что они могут маскироваться под профессиональных советников, научившись использовать ChatGPT.
Не существует ничего плохого в том, чтобы быть самостоятельным инвестором, особенно если вам нравится исследовать финансовые рынки и экспериментировать с риском за свой счет. Проблема заключается в том, что эти относительно неквалифицированные люди с небольшой суммой свободных денег и большим количеством свободного времени решают, что они более компетентны, чем они есть на самом деле, из-за ИИ, и решают выдавать себя за профессионалов. Их отсутствие реального опыта и формальной подготовки, вероятно, приведет к значительному хаосу в краткосрочной перспективе и создаст дополнительную нагрузку на настоящих профессионалов.
Преимущество: ChatGPT может дать профессионалам долгосрочный импульс репутации и демократизировать финансовые советы
Хорошая новость заключается в том, что если настоящие ветераны смогут пережить неудобство временно затопленного рынка, они увидят, как быстро люди устанут от общих советов, которые они могли бы прочитать на Yahoo Finance, и посмотрят, как любители выйдут из рынка так же быстро, как они вошли, оставив только опытных советников, чтобы подобрать теперь уже не имеющих советников клиентов, желающих заплатить за экспертную помощь от кого-то, кто может обеспечить реальные результаты.
С другой стороны, ChatGPT также может сыграть роль в сокращении разрыва в финансовой грамотности и помочь тем, у кого нет доступа к профессиональному финансовому советнику, научиться некоторым базовым стратегиям оптимизации своих денег. Его способность генерировать полезные, базовые инвестиционные советы означает, что теперь возможно сделать финансовое образование более доступным, даже для тех, кто ранее не мог позволить себе профессиональные финансовые услуги.
Снижение барьеров для лучшей финансовой стабильности является чрезвычайно важным преимуществом этой технологии, поскольку в настоящее время только один из трех взрослых в глобальном сообществе финансово грамотен.












