ChatGPT komt naar de financiële sector, dus laten we het hebben over de risico’s en voordelen

De lancering van ChatGPT zorgde voor een wereldwijde hysterie. Binnen vijf dagen na de lancering had het meer dan een miljoen gebruikers. Binnen twee maanden het records verbrak als de snelst groeiende consumentenapplicatie in de geschiedenis, met 100 miljoen gebruikers. Voor perspectief, het duurde TikTok negen maanden en Instagram 2,5 jaar om dat aantal te bereiken.

Sinds de release van generatieve AI is het een koortsdroom in bijna elke sector, inclusief de financiële sector. BloombergGPT werd aangekondigd in laatste maart, en het heeft mogelijkheden zoals sentimentanalyse, risicobeoordeling, fraudebestrijding en documentclassificatie, evenals andere financiële NLP-taken.

Nu Pandora’s doos is geopend, is er geen weg terug. We zullen generatieve AI en LLM’s een belangrijkere rol zien spelen in de financiële sector, waarschijnlijk leidend tot een verschuiving van investeringsexperts naar nieuwe posities met een focus op prompt-engineering en contextuele analyse.

Aangezien de verandering onvermijdelijk is, is de logische volgende stap om het systeem te debuggen, zogezegd, door naar de potentiële risico’s te kijken en manieren te overwegen om deze te mitigeren.

Risico: Bevestigingsvooroordeel en overmatige afhankelijkheid van machine-“expertise”

Op dit moment ervaren de financiële markten ernstige schommelingen die alle maar de meest ijzeren investeerders een gevoel van misselijkheid geven. Laten we nu eens kijken wat er kan gebeuren als we een aanzienlijke groep financiële adviseurs toevoegen die zwaar leunen op AI om beleggingsadvies te geven.

Het is waar dat we allemaal weten dat AI vatbaar is voor vooroordelen; we weten ook dat de menselijke natuur ons veel meer geneigd maakt om te veel vertrouwen in machines te stellen, vooral in machines die heel intelligent lijken. Deze vooroordeel – genaamd “machine-heuristiek” – kan heel gemakkelijk uit de hand lopen als professionals te veel vertrouwen op AI-voorspellingen en de uitvoer niet controleren tegen hun eigen kennis en ervaring.

De huidige versie van ChatGPT is het eigenlijk met alles eens, dus als mensen ChatGPT vragen stellen over financiële markten op basis van onduidelijke, gedeeltelijke of valse informatie, zullen ze antwoorden krijgen die hun ideeën bevestigen, zelfs als ze verkeerd zijn. Het is gemakkelijk te zien hoe dit tot een ramp kan leiden, vooral als menselijke vooroordelen of een beetje luiheid bij het feiten controleren worden toegevoegd.

Voordeel: Verbeterde efficiëntie, productiviteit, risicobeheer en klanttevredenheid

Hedgefondsen zoals Citadel en bankgiganten zoals Morgan Stanley omarmen deze technologie al als kennisbron omdat het zo goed is in het voltooien van routine-taken zoals gegevensorganisatie en risicobeoordeling. Wanneer het wordt geïntegreerd als een instrument in het gereedschap van een investeringsprofessional, kan het helpen om betere beslissingen te nemen in minder tijd, waardoor financiële managers meer tijd hebben om de expertise-gedreven delen van hun baan te doen die ze het meest genieten.

Het kan ook financiële gegevens in real-time analyseren, frauduleuze transacties identificeren en onmiddellijk actie ondernemen om verliezen te voorkomen. Het detecteren van deze fraudepatronen zou moeilijk of onmogelijk zijn met traditionele methoden. Financiële instellingen in de VS alleen al verloren meer dan $4,5 miljard door fraude in 2022, dus dit is een enorme beloning voor banken.

Bovendien maakt generatieve AI het mogelijk om slimmere virtuele assistenten te bieden die persoonlijke en efficiënte klantenservice bieden 24/7. Bijvoorbeeld, de Tata Mutual Fund in India heeft een partnership met het conversational AI-platform Haptik om een chatbot te creëren om klanten te helpen met basisvragen over hun rekening en financieel advies te geven, wat leidde tot een daling van 70% in het aantal telefoontjes en betere klanttevredenheid.

Risico: Onvoldoende naleving van regelgeving

Het is moeilijk om je voor te stellen, maar de kracht van GPT is nog in de kinderschoenen. De toekomst zal ongetwijfeld een iteratie zien die zo geavanceerd is dat we het nog niet volledig kunnen begrijpen. Vanwege dit moet de wereldgemeenschap strikte, omvattende regelgevingskaders opstellen om ervoor te zorgen dat het eerlijk en ethisch wordt gebruikt. Anders is het waarschijnlijk dat we discriminatoire praktijken zullen zien ontstaan als gevolg van vooringenomen data, of dit nu opzettelijk of onopzettelijk is.

Op dit moment ontbreken consistente controles, waardoor bedrijven en landen worstelen om te beslissen hoe ze deze technologie moeten aanpakken en hoe streng de beperkingen moeten zijn. Bijvoorbeeld, in sectoren die te maken hebben met zeer gevoelige gegevens, zoals financiën, gezondheidszorg en overheid, hebben veel organisaties elk gebruik van ChatGPT verboden omdat ze niet weten hoe veilig hun gegevens zullen zijn. Amazon, Verizon, JPMorgan Chase, Accenture en Goldman Sachs zijn allemaal voorbeelden van deze algehele verbod.

Op een grotere schaal zijn landen in dezelfde regelgevingslimbo, met sommige, zoals Duitsland en Italië, die tijdelijke verboden opleggen totdat ze ervan verzekerd zijn dat het geen inbreuk maakt op de AVG. Dit is een ernstige zorg voor alle EU-lidstaten, vooral in de nasleep van bekende gegevenslekken die al zijn gemeld door OpenAI.

Helaas zijn de regelgevers al behoorlijk achterop als het gaat om het ontwikkelen van solide wettelijke kaders voor deze technologie. Echter, zodra ze bij zijn, kunnen we verwachten dat GPT zijn plaats inneemt in elke sector van de wereldgemeenschap.

Voordeel: Betere regelgeving betekent snellere adoptie

Het gebrek aan controle op GPT-technologie is een belangrijke bottleneck voor bredere adoptie. Ja, het is een trendy noviteit op dit moment, maar het kan niet worden beschouwd als een serieus onderdeel van een langetermijnstrategie zonder uitgebreide regels en richtlijnen over het gebruik ervan.

Zodra de wereldgemeenschap passende kaders heeft ontwikkeld en geïmplementeerd, zullen bedrijven zich meer op hun gemak voelen om in deze technologie te investeren, waardoor een nieuwe golf van gebruikscases ontstaat in zelfs de meest cybersecurity-georiënteerde sectoren zoals gezondheidszorg en overheid.

Risico: Overstroming van de financiële markten met amateurs

Eerder noemde ik het probleem van generatieve AI die alleen outputs kan geven op basis van de inputs. Dit probleem heeft bredere implicaties dan alleen het toelaten van ervaren professionals om een beetje lui te zijn. Tenminste de industrie-veteranen hebben de achtergrond en vaardigheden nodig om de gegevens die ze krijgen te contextualiseren, wat meer is dan kan worden gezegd van de amateurs die denken dat ze professionele adviseurs kunnen zijn door te leren hoe ze ChatGPT moeten gebruiken.

Er is niets mis met het zijn van een DIY-belegger, vooral als je van financiële markten houdt en experimenteren met risico’s voor je eigen rekening. Het probleem is wanneer deze relatief ongeschoolde mensen met een beetje spaargeld en veel vrije tijd denken dat ze meer competent zijn dan ze werkelijk zijn vanwege AI en zichzelf profileren als professionals. Hun gebrek aan echte wereldervaring en formele opleiding zal waarschijnlijk een aanzienlijke hoeveelheid kortetermijnchaos veroorzaken en extra stress opleveren voor echte professionals.

Voordeel: ChatGPT kan professionals een langetermijnreputatieboost geven en financieel advies democratiseren

Het goede nieuws is dat als de echte veteranen de overlast van een tijdelijk overstromende markt kunnen doorstaan, ze zullen zien hoe snel mensen genoeg krijgen van het horen van generieke adviezen die ze op Yahoo Finance hadden kunnen lezen en zien hoe de amateurs uit de markt verdwijnen zo snel als ze zijn binnengekomen, waardoor alleen de ervaren adviseurs overblijven om de nu-adviesloze klanten op te pakken die bereid zijn om te betalen voor professionele hulp van iemand die echte resultaten kan leveren.

Aan de andere kant kan ChatGPT ook een rol spelen bij het dichten van de kloof in financiële geletterdheid en helpen om mensen zonder toegang tot een professioneel adviseur enkele basisstrategieën te leren voor het optimaliseren van hun geld. De mogelijkheid om nuttig, basisbeleggingsadvies te genereren, maakt het nu mogelijk om financiële educatie toegankelijker te maken, zelfs voor mensen die eerder niet in staat waren om professionele financiële diensten te betalen.

Het verlagen van de barrières voor betere financiële stabiliteit is een extreem belangrijk voordeel van deze technologie, omdat op dit moment slechts één op de drie volwassenen in de wereldgemeenschap financieel geletterd is.