Ingeniería de prompts

Inteligencia Artificial Generativa en Finanzas: FinGPT, BloombergGPT y más allá

mm
Añade Unite.AI a tus fuentes preferidas en Google
Generative AI in Finance

La inteligencia artificial generativa se refiere a modelos que pueden generar nuevas muestras de datos similares a los datos de entrada. El éxito de ChatGPT abrió muchas oportunidades en diversas industrias, inspirando a las empresas a diseñar sus propios grandes modelos de lenguaje. El sector financiero, impulsado por los datos, es ahora aún más intensivo en datos que nunca.

Trabajo como científico de datos en una empresa de servicios financieros con sede en Francia. Después de estar allí durante más de un año, he observado un aumento significativo en el uso de LLM en todas las divisiones para la automatización de tareas y la construcción de sistemas de IA robustos y seguros.

Cada servicio financiero busca crear sus propios LLM ajustados utilizando modelos de código abierto como LLAMA 2 o Falcon. Especialmente los bancos legados que tienen décadas de datos financieros.

Hasta ahora, no ha sido factible incorporar esta gran cantidad de datos en un solo modelo debido a los recursos computacionales limitados y a los modelos de parámetros bajos. Sin embargo, estos modelos de código abierto con miles de millones de parámetros pueden ser ajustados a grandes conjuntos de datos textuales. Los datos son como combustible para estos modelos; cuanto más haya, mejores serán los resultados.

Los datos y los modelos LLM pueden ahorrar a los bancos y otros servicios financieros millones al mejorar la automatización, la eficiencia, la precisión y más.

Las estimaciones recientes de McKinsey sugieren que esta inteligencia artificial generativa podría ofrecer ahorros anuales de hasta $340 mil millones solo para el sector bancario.

BloombergGPT y economía de la inteligencia artificial generativa

En marzo de 2023, Bloomberg presentó BloombergGPT. Es un modelo de lenguaje construido desde cero con 50 mil millones de parámetros, diseñado específicamente para datos financieros.

Para ahorrar dinero, a veces es necesario gastar dinero. Entrenar modelos como BloombergGPT o Llama 2 de Meta no es barato.

Entrenar el modelo de 70 mil millones de parámetros de Llama 2 requirió 1.700.000 horas de GPU. Al utilizar servicios de nube comerciales, emplear la Nvidia A100 GPU (NVDA ) (utilizada para Llama 2) puede costar alrededor de $1-$2 por cada hora de GPU. Haciendo las cuentas, un modelo de 10 mil millones de parámetros podría costar alrededor de $150.000, mientras que un modelo de 100 mil millones de parámetros podría costar hasta $1.500.000.

Si no se alquila, comprar las GPUs directamente es una alternativa. Sin embargo, comprar alrededor de 1000 A100 GPUs para formar un clúster podría costar más de $10 millones.

La inversión de Bloomberg de más de un millón de dólares es particularmente reveladora cuando se compara con los rápidos avances en IA. Sorprendentemente, un modelo que costó solo $100 logró superar el rendimiento de BloombergGPT en solo medio año. Mientras que el entrenamiento de BloombergGPT incorporó datos propietarios, una gran mayoría (99,30%) de su conjunto de datos era de acceso público. Llega FinGPT.

FinGPT

FinGPT es un modelo de lenguaje grande ajustado para finanzas de última generación (FinLLM). Desarrollado por AI4Finance-Foundation, FinGPT actualmente supera a otros modelos en términos de costo-efectividad y precisión en general.

Actualmente tiene 3 versiones; la serie FinGPT v3 son modelos mejorados utilizando el método LoRA, y se entrenan en noticias y tweets para analizar sentimientos. Rinden mejor en muchas pruebas de sentimiento financiero. FinGPT v3.1 se basa en el modelo chatglm2-6B, mientras que FinGPT v3.2 se basa en el modelo Llama2-7b.

 

FINGPT

FINGPT

Operaciones de FinGPT:

  1. Origen y ingeniería de datos:
    • Adquisición de datos: Utiliza datos de fuentes confiables como Yahoo, Reuters y más, FinGPT combina una gran cantidad de noticias financieras, desde acciones de EE. UU. hasta acciones de China.
    • Procesamiento de datos: Estos datos brutos pasan por muchas etapas de limpieza, tokenización y ingeniería de prompts para garantizar su relevancia y precisión.
  2. Modelos de lenguaje grande (LLM):
    • Entrenamiento: Utilizando los datos curados, no solo se pueden ajustar los LLM para dar a luz a modelos ligeros personalizados para necesidades específicas, sino que también se pueden adaptar los modelos o API existentes para admitir aplicaciones.
    • Estrategias de ajuste fino:
      • Capas de tensor (LoRA): Uno de los desafíos clave en el desarrollo de modelos como FinGPT es obtener datos etiquetados de alta calidad. Reconociendo este desafío, FinGPT adopta un enfoque innovador. En lugar de confiar únicamente en la etiquetación tradicional, se emplean las fluctuaciones en los precios de las acciones como etiquetas, traduciendo el sentimiento de las noticias en etiquetas tangibles como positivo, negativo o neutral. Esto resulta en mejoras masivas en las capacidades predictivas del modelo, particularmente en la distinción de sentimientos positivos y negativos. A través de técnicas de ajuste fino como LoRA, FinGPT v3 logró optimizar el rendimiento mientras reducía la sobrecarga computacional.
      • Aprendizaje por refuerzo a partir de retroalimentación humana: FinGPT utiliza “RLHF (Aprendizaje por refuerzo a partir de retroalimentación humana)“. Una característica ausente en BloombergGPT, RLHF equipa al modelo LLM con la capacidad de discernir preferencias individuales, ya sea la aversión al riesgo de un usuario, patrones de inversión o configuraciones de asesor robótico personalizadas. Esta técnica, una piedra angular de ChatGPT y GPT4, garantiza una experiencia del usuario más personalizada e intuitiva.
  3. Aplicaciones e innovaciones:
    • Asesor robótico: Al igual que un asesor financiero experimentado, FinGPT puede analizar sentimientos de noticias y predecir tendencias del mercado con gran precisión.
    • Comercio cuantitativo: Al identificar sentimientos de diversas fuentes, desde medios de comunicación hasta Twitter, FinGPT puede formular estrategias de comercio efectivas. De hecho, incluso cuando se dirige únicamente por sentimientos de Twitter, muestra resultados de comercio prometedores.
FinGPT comparación con ChatGLM, LLAMA 2, BloombergGPT

FinGPT comparación con ChatGLM, LLAMA 2, BloombergGPT

Trayectoria actual y futuro de FinGPT: Julio de 2023 marca un hito emocionante para FinGPT. El equipo presentó un artículo de investigación titulado “Instruct-FinGPT: Análisis de sentimiento financiero mediante ajuste de instrucción de modelos de lenguaje grande generales“. Central en este artículo es la exploración del ajuste de instrucción, una técnica que permite a FinGPT ejecutar análisis de sentimiento financiero intrincados.

Pero FinGPT no se limita solo al análisis de sentimiento. De hecho, hay 19 aplicaciones diversas disponibles, cada una prometiendo aprovechar los LLM de maneras novedosas. Desde la ingeniería de prompts hasta la comprensión de contextos financieros complejos, FinGPT se está estableciendo como un modelo de IA generativa versátil en el dominio de las finanzas.

Cómo los bancos globales están abrazando la inteligencia artificial generativa

Mientras que a principios de 2023, algunos de los principales actores financieros, como Bank of America (BAC ), Citigroup y Goldman Sachs, impusieron restricciones en el uso de ChatGPT de OpenAI por parte de sus empleados, otros actores de la industria han optado por una postura más abierta.

Morgan Stanley (MS ), por ejemplo, ha integrado chatbots impulsados por OpenAI como una herramienta para sus asesores financieros. Al aprovechar la investigación interna extensa y los datos de la empresa, estos chatbots sirven como recursos de conocimiento enriquecidos, aumentando la eficiencia y la precisión de la asesoría financiera.

En marzo de este año, Hedge fund Citadel estaba negociando para asegurar una licencia de ChatGPT a nivel empresarial. La implementación prospectiva prevé fortalecer áreas como el desarrollo de software y el análisis de información intrincada.

JPMorgan Chase también está haciendo esfuerzos para aprovechar los modelos de lenguaje grande para la detección de fraude. Su metodología gira en torno a utilizar patrones de correo electrónico para identificar posibles compromisos. Sin detenerse allí, el banco ha establecido un objetivo ambicioso: agregar hasta $1.500 millones en valor con IA para fines de año.

En cuanto a Goldman Sachs, no son completamente resistentes al atractivo de la IA. El banco está explorando el poder de la inteligencia artificial generativa para fortalecer su dominio de ingeniería de software. Como Marco Argenti, Director de Información de Goldman Sachs, lo expresa, tal integración tiene el potencial de transformar su fuerza laboral en algo “superhumano“.

Casos de uso de la inteligencia artificial generativa en la industria bancaria y financiera

Inteligencia artificial generativa en finanzas CASOS DE USO

Inteligencia artificial generativa en finanzas CASOS DE USO

La inteligencia artificial generativa está transformando fundamentalmente las operaciones financieras, la toma de decisiones y las interacciones con los clientes. A continuación, se explora en detalle sus aplicaciones:

1. Prevención de fraude: La inteligencia artificial generativa está a la vanguardia del desarrollo de mecanismos de detección de fraude de vanguardia. Al analizar grandes conjuntos de datos, puede discernir patrones y irregularidades intrincados, ofreciendo un enfoque más proactivo. Los sistemas tradicionales, a menudo abrumados por la gran cantidad de datos, podrían producir falsos positivos. La inteligencia artificial generativa, en cambio, refina continuamente su comprensión, reduciendo errores y asegurando transacciones financieras más seguras.

2. Evaluación del riesgo crediticio: Los métodos tradicionales de evaluación de la solvencia crediticia de un prestatario, aunque confiables, se están volviendo obsoletos. Los modelos de inteligencia artificial generativa, a través de parámetros diversos, desde historias crediticias hasta patrones de comportamiento sutiles, ofrecen un perfil de riesgo integral. Esto no solo garantiza préstamos más seguros, sino que también atiende a una clientela más amplia, incluyendo a aquellos que podrían estar subatendidos por métricas tradicionales.

3. Mejora de la interacción con el cliente: El mundo financiero está presenciando una revolución en el servicio al cliente, gracias a los modelos de NLP impulsados por inteligencia artificial generativa. Estos modelos son hábiles para comprender y responder a diversas consultas de los clientes, ofreciendo soluciones personalizadas de inmediato. Al automatizar tareas rutinarias, las instituciones financieras pueden reducir los gastos generales, optimizar operaciones y, lo más importante, mejorar la satisfacción del cliente.

4. Planificación financiera personalizada: La mentalidad de “talla única” es un relicto del pasado. Hoy en día, los clientes exigen planificación financiera adaptada a sus necesidades y aspiraciones únicas. La inteligencia artificial generativa sobresale en este aspecto. Al analizar datos, desde patrones de gasto hasta preferencias de inversión, puede crear mapas financieros individualizados. Este enfoque holístico garantiza que los clientes estén mejor informados y más equipados para navegar sus futuros financieros.

5. Comercio algorítmico: La capacidad analítica de la inteligencia artificial generativa está demostrando ser invaluable en el mundo volátil del comercio algorítmico. Al diseccionar datos, desde tendencias del mercado hasta sentimiento de noticias, proporciona insights incisivos, permitiendo a los expertos financieros optimizar estrategias, anticipar cambios en el mercado y mitigar riesgos potenciales.

6. Fortalecimiento de los marcos de cumplimiento: Las regulaciones de lucha contra el blanqueo de capitales (AML) son fundamentales para mantener la integridad de los sistemas financieros. La inteligencia artificial generativa simplifica el cumplimiento al cribar datos transaccionales intrincados para detectar actividades sospechosas. Esto no solo garantiza que las instituciones financieras cumplan con los estándares globales, sino que también reduce significativamente la posibilidad de falsos positivos, optimizando las operaciones.

7. Ciberseguridad: Con las amenazas cibernéticas en constante evolución, el sector financiero necesita soluciones ágiles. La inteligencia artificial generativa ofrece exactamente eso. Implementando modelos predictivos dinámicos, permite una detección de amenazas más rápida, fortaleciendo las infraestructuras financieras contra posibles violaciones.

Sin embargo, como es el caso con cualquier tecnología en evolución, la inteligencia artificial generativa también viene con su propio conjunto de desafíos en la industria financiera.

Desafíos

  1. Amplificación de sesgos: Los modelos de IA, tan sofisticados como sean, todavía dependen de datos generados por humanos. Estos datos, con sus sesgos inherentes, ya sean intencionados o no, pueden llevar a resultados sesgados. Por ejemplo, si un grupo demográfico está subrepresentado en el conjunto de entrenamiento, las salidas posteriores de la IA podrían perpetuar esta falta de representación. En un sector como las finanzas, donde la equidad y la justicia son primordiales, tales sesgos podrían tener consecuencias graves. Los líderes financieros deben ser proactivos para identificar estos sesgos y garantizar que sus conjuntos de datos sean lo más comprehensivos y representativos posible.
  2. Confiabilidad de la salida y toma de decisiones: La inteligencia artificial generativa, a veces, puede producir resultados que son tanto incorrectos como engañosos, a menudo denominados como “alucinaciones“. Estos errores son algo esperados a medida que los modelos de IA se refinan y aprenden, pero las repercusiones en finanzas, donde la precisión es innegociable, son severas. Confiar únicamente en la IA para decisiones críticas, como la aprobación de préstamos, es peligroso. En lugar de eso, la IA debe verse como una herramienta sofisticada que asiste a los expertos financieros, no como una que los reemplaza. Debe manejar el peso computacional, proporcionando insights para que los profesionales humanos tomen las decisiones finales informadas.
  3. Privacidad de datos y cumplimiento: Proteger los datos sensibles de los clientes sigue siendo una preocupación significativa con las aplicaciones de inteligencia artificial generativa. Garantizar que el sistema cumpla con los estándares globales como el Reglamento General de Protección de Datos (GDPR) y la Ley de Privacidad del Consumidor de California (CCPA) es crucial. La IA puede no conocer ni respetar estos límites de manera inherente, por lo que su uso debe moderarse con directrices de protección de datos estrictas, particularmente en el sector financiero donde la confidencialidad es primordial.
  4. Calidad de los datos de entrada: La inteligencia artificial generativa es solo tan buena como los datos que se le proporcionan. Los datos inexactos o incompletos pueden llevar inadvertidamente a un asesoramiento financiero o decisiones deficientes.

Conclusión

Desde mejorar las estrategias de comercio hasta fortalecer la seguridad, las aplicaciones de la inteligencia artificial generativa son vastas y transformadoras. Sin embargo, como con cualquier tecnología, es esencial abordar su adopción con precaución, considerando las implicaciones éticas y de privacidad.

Las instituciones que aprovechen con éxito el poder de la inteligencia artificial generativa, al mismo tiempo que respetan sus limitaciones y posibles desafíos, sin duda darán forma a la trayectoria futura del ámbito financiero global.

He dedicado los últimos cinco años sumergiéndome en el fascinante mundo de Machine Learning y Deep Learning. Mi pasión y experiencia me han llevado a contribuir a más de 50 proyectos de ingeniería de software diversos, con un enfoque particular en AI/ML. Mi curiosidad en curso también me ha llevado hacia el Procesamiento de Lenguaje Natural, un campo que estoy ansioso por explorar más a fondo.