Jamie Twiss, administrerende direktør for Carrington Labs – Intervju-serie

Jamie Twiss er en erfaren bankmand og datavidenskabsmand, der arbejder på tværs af datavidenskab, kunstig intelligens og forbrugerlån. Han er i øjeblikket administrerende direktør for Carrington Labs, en førende udbyder af forklarelig AI-drevet kreditvurdering og lånsløsninger. Tidligere var han Chief Data Officer i en større australsk bank. Før det arbejdede han i en række roller inden for bank og finansielle services efter at have startet sin karriere som konsulent hos McKinsey & Company.

Kan du forklare, hvordan Carrington Labs’ AI-drevne risikovurderingssystem adskiller sig fra traditionelle kreditvurderingsmetoder?

Carrington Labs’ tilgang til risikovurdering adskiller sig fra traditionelle kreditvurderingsmetoder på flere måder:

Vores platform bruger en langt større dataset end tidligere metoder. Traditionelle kreditvurderinger afhænger af forældet teknologi og er baseret på den begrænsede mængde information, der er tilgængelig i en kundes kreditfil, primært betalingshistorik, som kun giver en begrænset snapshot af en person og ingen visning af mange mennesker. Med kundens samtykke tager vi linje-artikel banktransaktionsdata og bruger det til at skabe et langt mere detaljeret og rigere billede af en person.

Derefter bruger vi moderne AI og maskinelæringsteknikker til at omdanne disse store mængder data til en skarp synsvinkel på en persons kreditværdighed, hvor vi beregner hundredvis af enkeltvariable og kombinerer dem i en komprehensiv samlet synsvinkel. De resulterende vurderinger er fuldt forklarelige og gennemsigtige for långiveren, der bruger dem, til forskel fra kreditvurderinger, der er mystiske sorte kasser. Disse vurderinger er også tilpasset en långivers specifikke produkt og kundesegment, hvilket gør dem mere relevante og derfor mere nøjagtige end en kreditvurdering, der er en generisk vurdering, der er trænet på tværs af et bredt udvalg af produkter og kunder.

Til sidst kan vores platform ikke kun bedømme en kundes risiko mere effektivt end en traditionel vurdering, men den kan også bruge den vurdering til at anbefale de optimale lånevilkår, såsom grænse og varighed. Som følge af alle disse faktorer er CL-risikovurdering en betydelig forbedring af de indsigt, som traditionelle metoder giver långiverne.

Hvordan integrerer din AI åbne banktransaktionsdata for at give en mere fuldstændig beskrivelse af en ansøgers kreditværdighed? Og hvad er nogle af de vigtigste forudsagningsfaktorer, som dine AI-modeller identificerer, når de vurderer kreditrisiko?

Vore modeller kan trænes på mange forskellige typer data, men banktransaktionsdata er normalt kerneområdet. Vi bruger titusinder af linjer med transaktionsdata til at træne den samlede model og derefter bruge tusinder af transaktioner til hver ny kunde, som modellen vurderer. Åben bank er generelt den bedste måde at indsamle disse data på, da det giver en konsistent format, god sikkerhed og hurtige responstider. Vi kan indsamle det på andre måder, men Åben bank er normalt at foretrække.

For eksempel kan vi analysere kontantudtagsvaner for at se, om nogen ofte trækker store beløb ud, om de altid bruger samme hæveautomat eller om de tager kontant flere gange om dagen. Vi kan identificere gamblingaktivitet ved at se efter hyppige transaktioner på spilplatforme. Vi kan se, hvor hurtigt nogen bruger penge efter at have modtaget dem, eller om de ændrer deres forbrug, hvis de begynder at løbe tør. Vi markerer også uventede finansielle mønstre, der kan indikere risikable sindstilstande eller adfærd, som hyppige parkeringsbøder.

Vore modeller er trænet på omkring 50.000 mulige variable, med omkring 400 aktive i en typisk risikomodel. Denne data-drevne tilgang hjælper långivere med at træffe mere præcise lånebeslutninger og tilpasse lån til hver ansøgers unikke risikoprofil. Det er vigtigt at bemærke, at de data, vi identificerer og analyserer, er anonyme, så vi har ikke at gøre med personfølsomme oplysninger (PII).

Hvordan sikrer Carrington Labs, at deres AI-modeller er fri for køns-, etniske eller socioøkonomiske fordomme i lånebeslutninger, og hvilke skridt har du taget for at mindske algoritme-forudsigelser i jeres kreditvurderinger?

Carrington Labs’ modeller er betydeligt mindre sandsynlige for at være fordomsfulde end traditionelle tilgange på grund af deres objektivitet (ingen menneskelig “fornemmelse” involveret) og det brede udvalg af data, vi bruger til at opbygge modellerne.

Vi har tre søjler i vores anti-forudsigelses-tilgang: Først tillader vi aldrig beskyttede klassedata (race, køn osv.) at komme nær model-opbygningsprocessen. Vi foretrækker, at I ikke engang giver os den data (medmindre I ønsker, at vi skal bruge den til forudsigelses-test; se nedenfor). Anden, vores modeller er fuldt forklarelige, så vi gennemgår hver enkelt funktion, der bruges i hver model, for potentiel forudsigelse, proxy-variabler eller andre problemer. Långivere har også adgang til funktionernes liste og kan gennemføre deres egne gennemgang. Tredje, hvis långiveren vælger at give os beskyttede klassedata til test (kun; holdt langt væk fra træning), vil vi gennemføre statistiske tests på model-udgange for at bestemme godkendelsesrater og grænser og sikre, at variationen over klasser er tydeligt drevet af forklarelige og rimelige faktorer.

Som følge heraf giver den højere forudsigelsesevne af Carrington Labs’ modeller og evnen til at finjustere grænser på basis af risiko det lettere for långivere at godkende flere ansøgere på mindre grænser og derefter øge dem over tid med god afdringsadfærd, hvilket muliggør en bredere finansielle inklusion.

Hvordan sikrer du, at jeres AI-drevne kreditvurderinger er forklarelige og gennemsigtige for långivere og tilsynsmyndigheder?

Mens vi bruger AI i en række trin i model-opbygningsprocessen, er modellerne selv, den faktiske logik, der bruges til at beregne en kundes score, baseret på forudsigelige og kontrollerbare matematik og statistik. En långiver eller tilsynsmyndighed kan gennemgå hver enkelt funktion i modellen for at sikre, at de er komfortable med hver enkelt, og vi kan også give en opdeling af en kundes score og knytte den til en ugunstig-handlingskode, hvis ønsket.

Hvordan hjælper dine AI-modeller med at demokratisere lån og udvide finansielle inklusion for underbetjente befolkninger?

Mange mennesker er mere kreditværdige, end deres traditionelle kreditvurderinger antyder. Arvet kreditvurderingsmetoder udelukker millioner af mennesker, der ikke passer ind i traditionelle kreditmodeller. Vores AI-drevne tilgang hjælper långivere med at genkende disse låntagerne, hvilket udvider adgangen til retfærdig og ansvarlig kredit uden at øge risikoen.

For at give et eksempel på en person, der falder ind i en underbetjent befolkning, tænk på en immigrant, der lige er flyttet til et nyt land. De kan være finansielt ansvarlige, hårdtarbejdende og flittige, men de kan også mangle en traditionel kredithistorik. Fordi kreditbureauet aldrig har hørt om dem, mangler de evnen til at bevise, at denne person er kreditværdig, hvilket igen gør långivere tilbageholdende med at præsentere dem for lånemuligheder.

Disse ikke-traditionelle transaktionsdata er nøglen til at opbygge en præcis vurdering af kreditvurderingsscore for personer, som kreditbureauerne ikke kender. De kan mangle en traditionel kredithistorik eller have en kredithistorik, der kan synes risikabel for långivere uden ordentlig kontekst, men vi har evnen til at vise långivere, at disse personer er kreditværdige og stabile ved at udnytte en større mængde af deres finansielle data. I virkeligheden er vores platform op til 250% mere præcis, baseret på et udvalg af anonymiserede data, til at identificere lav-risiko-låntager med begrænsede kreditoplysninger end traditionelle kreditvurderinger, og det er, hvad der giver långivere mulighed for at udvide deres låntagerbase og ultimativt øge lånegodkendelser.

I tillæg kan mange långivere kun have en omtrentlig fornemmelse af en enkelt kundes risiko, så de kæmper med at finjustere et tilbud for at afspejle en kundes individuelle omstændigheder, ofte enten tilbyder dem mere, end de kan betale, eller tilbyder dem mindre, end de har brug for, eller (det mest almindelige af alle) afviser dem helt. Evnen til at fastsætte lånegrænser præcist har en særligt stærk effekt på at enable långivere til at bringe nye låntager ind i det finansielle system, hvor de kan øge deres lånekapacitet ved at vise god afdringsadfærd – give dem den første chance til at vise, at de kan arbejde ansvarligt med gæld.

Hvad er rollen af tilsynsmyndigheder i formningen af, hvordan AI-drevne lånsløsninger udvikles og implementeres?

Tilsynsmyndigheder er en essentiel del af at integrere AI i finansielle services og i den bredere økonomi. Klare grænser for, hvor og hvordan AI kan bruges, vil muliggøre hurtigere vækst og nye brugsområder, og vi støtter de forskellige processer, der er i gang for at skabe juridisk og regulatorisk ansvarlighed.

Som en generel princip mener vi, at AI-værktøjer, der bruges i lån, skal underlægges samme slags tilsyn og gennemgang som andre værktøjer – de skal kunne demonstrere, at de behandler kunder retfærdigt, og at de gør banksystemet sikrere, ikke mere risikabelt. Vores løsning kan tydeligt demonstrere begge.

Kan du fortælle os mere om Carrington Labs’ seneste udvælgelse til Mastercard (MA ) Start Path Program? Hvordan vil dette accelerere jeres udvidelse i USA?

Vi er glade for at arbejde med Mastercard på vores USA- og globale udvidelsesplaner. De har en enestående erfaring i at levere finansielle løsninger til banker og andre långivere verden over og har allerede været ekstremt hjælpsomme, mens vi øger vores engagement med potentielle USA-kunder. Vi forventer, at begge parter vil have gavn af det, med Mastercard, der tilbyder råd, introduktioner og muligvis elementer af vores løsning, mens Carrington Labs tilbyder en højværdiløsning til Mastercards kunder.

Beforepay, jeres forbrugerrettede mærke, har udstedt over 4 millioner lån. Hvad har I lært af denne erfaring, og hvordan har det formet Carrington Labs’ AI-modeller?

Gennem denne erfaring lærte vi, hvordan vi kan bygge modeller hurtigt og effektivt takket være adgangen til Beforepays store R&D-laboratorium og nogle enormt store mængder data. Hvis vi har en idé til en modelramme, arkitektur, kode osv., kan vi prøve det af i Beforepay først. Den stejle nedgang i Beforepays default-sats er også et fantastisk cases-study i at vise, hvor godt modellen fungerer.

Det har været en meget motiverende erfaring i almindelighed, da vores medarbejdere har en stor stake i virksomheden. Vi bruger Carrington Labs’ modeller hver dag til at låne ud vores eget penge, så det fokuserer tankerne på at sikre, at disse modeller virker!

 Hvordan ser du AI udvikle sig i lånemæssigt område over de næste ti år?

Lån vil ændre sig massivt, når industrien fuldt ud flytter over til de slags big-data-drevne risikomodeller, som Carrington Labs udnytter over de næste ti år. Og det vil – disse modeller er simpelthen mere effektive. Det er som rollen af elektricitet i produktion; det er en spilforvandler, og alle vil enten gøre skiftet eller forlade.

Big-data-modeller kan enten bygges manuelt (hvad jeg selv tidligere gjorde, men denne proces tager måneder eller endda år, samt er enormt dyrt og ude af stand til at give det bedste resultat). Eller du kan automatisere model-bygningen. Med AI kan du automatisere langt mere af det i højere kvalitet, samtidig med at du sparer tid og gør ting, der ville være umulige, hvis du byggede manuelt, som f.eks. at generere tusinder af brugerdefinerede funktioner til en mellemstor långiver.

Nøglen er at vide, hvordan man gør det korrekt – hvis du bare smider en masse ting efter en LLM, får du en kæmpe rod og blæser igennem din budget. Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Carrington Labs.