Jamie Twiss, CEO van Carrington Labs – Interviewreeks

Jamie Twiss is een ervaren bankier en datawetenschapper die werkt op het snijvlak van datawetenschap, kunstmatige intelligentie en consumentenkrediet. Hij is momenteel de Chief Executive Officer van Carrington Labs, een toonaangevende aanbieder van verklarende AI-gebaseerde kredietrisicoscores en leningsoplossingen. Eerder was hij de Chief Data Officer bij een grote Australische bank. Daarvoor werkte hij in verschillende rollen binnen de banken en financiële dienstverlening, nadat hij zijn carrière was begonnen als consultant bij McKinsey & Company.

Kunt u uitleggen hoe Carrington Labs’ AI-gebaseerde risicoscoresysteem verschilt van traditionele creditscores?

Carrington Labs’ aanpak van risicoscores verschilt van traditionele creditscores op verschillende manieren:

Ons platform gebruikt een veel grotere dataset dan eerdere methoden. Traditionele creditscores vertrouwen op verouderde technologie en zijn gebaseerd op de kleine hoeveelheid informatie die beschikbaar is in een klantens kredietdossier, meestal betalingsgeschiedenissen, die alleen een beperkte snapshot van een individu geven en geen zicht bieden op veel mensen. Met toestemming van de klant nemen we transactiegegevens van bankrekeningen en gebruiken we deze om een veel gedetailleerder en rijker beeld van een individu te creëren.

We gebruiken vervolgens moderne AI- en machine-learningtechnieken om deze grote hoeveelheden gegevens om te zetten in een scherpe visie op de kredietwaardigheid van een individu, waarbij we honderden individuele variabelen berekenen en combineren in een uitgebreid algemeen beeld. De resulterende scores zijn volledig verklarende en transparant voor de lender die ze gebruikt, in tegenstelling tot creditscores, die mysterieuze zwarte dozen zijn. Deze scores zijn ook afgestemd op het specifieke product en de specifieke klantengroep van de lender, waardoor ze relevanter en dus nauwkeuriger zijn dan een creditscore, die een generieke score is die is getraind op een breed scala aan producten en klanten.

Ten slotte kan ons platform niet alleen het risico van een klant effectiever beoordelen dan een traditionele score, maar kan het ook die score gebruiken om de optimale leningsvoorwaarden, zoals limiet en duur, aan te bevelen. Als gevolg van al deze factoren is de risicoscore van CL een aanzienlijke verbetering ten opzichte van de inzichten die traditionele methoden lenders bieden.

Hoe zorgt uw AI ervoor dat open bankingtransactiegegevens worden geïntegreerd om een voller beeld van een aanvragers kredietwaardigheid te geven? En wat zijn enkele van de belangrijkste voorspellers die uw AI-modellen identificeren bij het beoordelen van kredietrisico?

Onze modellen kunnen worden getraind op veel verschillende soorten gegevens, maar transactiegegevens van banken vormen meestal de kern. We gebruiken tientallen miljoenen regels transactiegegevens om het overall model te trainen en vervolgens duizenden transacties voor elke nieuwe klant die het model scoort. Open Banking is over het algemeen de beste manier om deze gegevens te verzamelen, omdat het een consistente indeling, goede beveiliging en snelle responstijden biedt. We kunnen deze gegevens ook verzamelen via andere middelen, maar Open Banking is meestal de voorkeur.

Bijvoorbeeld kunnen we de gewoonten van contant geldopnames analyseren om te zien of iemand vaak grote bedragen opneemt, of hij altijd dezelfde pinautomaat gebruikt, of hij meerdere keren per dag contant geld opneemt. We kunnen gokactiviteit identificeren door naar frequentie van transacties op gokplatforms te kijken. We kunnen zien hoe snel iemand geld uitgeeft nadat hij het heeft ontvangen, of hij zijn uitgaven aanpast als hij begint te lage saldo te krijgen. We markeren ook onverwachte financiële patronen die kunnen aangeven dat iemand risicovol gedrag vertoont, zoals frequent snelheidsboetes.

Onze modellen zijn getraind op ongeveer 50.000 mogelijke variabelen, waarvan ongeveer 400 actief worden gebruikt in een typisch risicomodel. Deze gegevensgestuurde aanpak helpt lenders om meer precieze leningsbeslissingen te nemen en leningen af te stemmen op het unieke risicoprofiel van elke aanvrager. Het is belangrijk op te merken dat de gegevens die we identificeren en analyseren anoniem zijn, dus we hebben geen te maken met persoonlijk identificeerbare informatie (PII).

Hoe zorgt Carrington Labs ervoor dat zijn AI-modellen vrij zijn van geslachts-, etnische of socio-economische vooringenomenheid in leningsbeslissingen, en welke stappen heeft u genomen om algoritmische vooringenomenheid in uw kredietrisicobeoordelingen te mitigeren?

Carrington Labs’ modellen zijn aanzienlijk minder waarschijnlijk om vooringenomen te zijn dan traditionele benaderingen vanwege hun objectiviteit (geen menselijke “intuïtie” is betrokken) en de brede range van gegevens die we gebruiken om modellen te creëren.

We hebben drie pijlers in onze anti-vooringenomenheidsaanpak: Ten eerste laten we nooit beschermde klassengegevens (ras, geslacht, etc.) in de buurt van het modelcreatieproces komen. We geven de voorkeur aan het niet ontvangen van die gegevens (tenzij u wilt dat we ze gebruiken voor vooringenomenheidstests; zie hieronder). Ten tweede zijn onze modellen volledig verklarende, dus we bekijken elke functie die in elk model wordt gebruikt voor potentiële vooringenomenheid, proxyvariabelen of andere problemen. Lenders hebben ook toegang tot de lijst met functies en kunnen hun eigen beoordelingen uitvoeren. Ten derde, als de lender ervoor kiest om ons beschermde klassengegevens te verstrekken voor testing (alleen; ver weg van training), zullen we statistische tests uitvoeren op modeluitvoer om te bepalen of de goedkeuringspercentages en limieten variëren over klassen en of deze variatie duidelijk wordt gedreven door verklarende en redelijke factoren.

Als gevolg hiervan maakt de hogere predictieve kracht van Carrington Labs’ modellen en de mogelijkheid om limieten nauwkeurig af te stemmen op risico het veel gemakkelijker voor lenders om meer aanvragers goed te keuren op kleinere limieten en vervolgens deze limieten te verhogen naarmate ze goed gedrag vertonen, waardoor bredere financiële inclusie mogelijk wordt.

Hoe zorgt u ervoor dat uw AI-gebaseerde kredietrisicobeoordelingen verklarende en transparante zijn voor lenders en regulators?

Terwijl we AI in een aantal stappen in het modelcreatieproces gebruiken, zijn de modellen zelf, de daadwerkelijke logica die wordt gebruikt om een klantscore te berekenen, gebaseerd op voorspelbare en controleerbare wiskunde en statistiek. Een lender of regulator kan elke functie in het model bekijken om ervoor te zorgen dat ze comfortabel zijn met elke functie, en we kunnen ook een breakdown van een klantscore en deze koppelen aan een adverse-actioncode als gewenst.

Hoe helpen uw AI-modellen bij het democratiseren van leningen en het vergroten van financiële inclusie voor onderbediende bevolkingsgroepen?

Veel mensen zijn kredietwaardiger dan hun traditionele creditscores suggereren. Traditionele creditscoringsmethoden sluiten miljoenen mensen uit die niet in traditionele kredietmodellen passen. Onze AI-gebaseerde aanpak helpt lenders om deze leners te herkennen, waardoor toegang tot eerlijke en verantwoorde krediet zonder het risico te verhogen.

Om een voorbeeld te geven van iemand die in een onderbediende bevolkingsgroep valt, denk aan een immigrant die onlangs naar een nieuw land is verhuisd. Hij kan financieel verantwoordelijk, hardwerkend en ijverig zijn, maar hij kan ook geen traditionele kredietgeschiedenis hebben. Omdat het kredietbureau nog nooit van hem heeft gehoord, ontbreekt het hem aan de mogelijkheid om te bewijzen dat hij kredietwaardig is, waardoor lenders terughoudend zijn om hem leningsmogelijkheden aan te bieden.

Die niet-traditionele transactiegegevens zijn de sleutel tot het opbouwen van een nauwkeurige beoordeling van kredietrisicoscores voor mensen die het kredietbureau niet kent. Hij kan een traditionele kredietgeschiedenis ontberen of een kredietgeschiedenis hebben die riskant lijkt voor lenders zonder adequate context, maar we hebben de mogelijkheid om lenders te laten zien dat deze mensen kredietwaardig en stabiel zijn door een grotere hoeveelheid van hun financiële gegevens te gebruiken. In feite is ons platform tot 250% nauwkeuriger, op basis van een steekproef van geanonimiseerde gegevens, in het identificeren van lage-risicoleners met beperkte kredietinformatie dan traditionele creditscores, en dat is wat lenders in staat stelt om hun basis van leners uit te breiden en uiteindelijk leningsgoedkeuringen te verhogen.

Daarnaast hebben veel lenders alleen een benadering van het risico van een individuele klant, waardoor ze moeite hebben om een aanbod af te stemmen op de individuele omstandigheden van een klant, vaak door hem meer aan te bieden dan hij kan betalen, minder te lenen dan hij nodig heeft, of (meestal) hem helemaal af te wijzen. De mogelijkheid om leningslimieten nauwkeurig in te stellen heeft een bijzonder sterke invloed op het mogelijk maken voor lenders om nieuwe leners in het financiële systeem te brengen, van waaruit ze hun leningscapaciteit kunnen verhogen door goed gedrag te vertonen, waardoor ze voor het eerst de kans krijgen om te laten zien dat ze verantwoordelijk met schuld kunnen omgaan.

Wat is de rol van regelgevende instanties bij het vormgeven van de manier waarop AI-gebaseerde leningsoplossingen worden ontwikkeld en ingezet?

Regelgevers zijn een essentieel onderdeel van het integreren van AI in financiële dienstverlening en in de bredere economie. Duidelijke grenzen over waar en hoe AI kan worden gebruikt, zullen snellere groei en nieuwe use cases mogelijk maken, en we ondersteunen de verschillende processen die gaande zijn om juridische en regelgevende verantwoordelijkheid te creëren.

Als algemeen principe geloven we dat AI-hulpmiddelen die in leningen worden gebruikt, moeten worden onderworpen aan hetzelfde soort toezicht en controle als andere hulpmiddelen; ze moeten kunnen aantonen dat ze klanten eerlijk behandelen en dat ze het bankwezen veiliger maken, niet riskanter. Onze oplossing kan beide duidelijk aantonen.

Kunt u ons meer vertellen over de recente selectie van Carrington Labs in het Mastercard (MA ) Start Path Program? Hoe zal dit uw uitbreiding in de VS versnellen?

We zijn verheugd om met Mastercard samen te werken aan onze plannen voor uitbreiding in de VS en wereldwijd. Zij hebben ongeëvenaarde ervaring in het leveren van financiële oplossingen aan banken en andere lenders over de hele wereld en zijn al erg behulpzaam geweest bij het vergroten van onze betrokkenheid met potentiële Amerikaanse klanten. We verwachten dat beide partijen zullen profiteren, waarbij Mastercard advies, introducties en mogelijk elementen van onze oplossing biedt, terwijl Carrington Labs een hoogwaardige dienst levert aan Mastercard-klanten.

Beforepay, uw consumentengerichte merk, heeft meer dan 4 miljoen leningen verstrekt. Wat zijn de inzichten die u uit deze ervaring heeft verworven, en hoe hebben ze uw AI-modellen gevormd?

Door deze ervaring hebben we geleerd hoe we modellen snel en effectief kunnen opbouwen dankzij de toegang tot de R&D-laboratoria van Beforepay en de enorm grote hoeveelheden gegevens. Als we een idee hebben voor een modelkader, architectuur, code, etc., kunnen we het eerst in Beforepay uitproberen. De plotselinge daling van het defaultpercentage van Beforepay is ook een geweldig geval van hoe goed het model werkt.

Het is een zeer motiverende ervaring in het algemeen, aangezien onze medewerkers een groot belang hebben in het bedrijf. We gebruiken de modellen van Carrington Labs elke dag om onze eigen geld te lenen, dus het houdt ons gefocust op het zorgen dat die modellen werken!

 Hoe ziet u AI evolueren in de leningsruimte in de komende decennium?

Lenen zal enorm veranderen zodra de industrie volledig overschakelt naar de soort big-data-gebaseerde risicomodellen die Carrington Labs gebruikt in de komende decennium. En dat zal gebeuren – die modellen zijn gewoon veel effectiever. Het is als de rol van elektriciteit in de productie; het is een game-changer en iedereen zal ofwel de overstap maken of uitstappen.

Big-data-modellen kunnen ofwel handmatig worden gebouwd (wat ik vroeger zelf deed, maar dit proces duurt maanden of zelfs jaren en is enorm duur en kan niet het beste resultaat bieden. Of u kunt het modelbouwproces automatiseren. Met AI kunt u veel meer automatiseren met een hogere kwaliteit, terwijl u ook tijd bespaart en dingen doet die onmogelijk zouden zijn als u handmatig zou bouwen, zoals het genereren van duizenden aangepaste functies voor een middelgrote lender.

Het belangrijkste is om te weten hoe u het correct moet doen – als u gewoon een hoop dingen naar een LLM gooit, krijgt u een enorme rommel en blaast u uw budget op.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Carrington Labs bezoeken Carrington Labs.