Jamie Twiss, VD för Carrington Labs – Intervjuserie

Jamie Twiss är en erfaren bankman och datavetare som arbetar i skärningspunkten mellan datavetenskap, artificiell intelligens och konsumentlån. Han är för närvarande VD för Carrington Labs, en ledande leverantör av förklarlig AI-driven kreditriskbedömning och lösningar för lån. Tidigare var han Chief Data Officer på en stor australisk bank. Innan dess arbetade han i olika roller inom bank och finansiella tjänster efter att ha börjat sin karriär som konsult på McKinsey & Company.

Kan du förklara hur Carrington Labs AI-drivna riskbedömningssystem skiljer sig från traditionella kreditbedömningsmetoder?

Carrington Labs tillvägagångssätt för riskbedömning skiljer sig från traditionella kreditbedömningsmetoder på flera sätt:

Vår plattform använder en mycket större datamängd än tidigare metoder. Traditionella kreditscore beror på föråldrad teknik och baseras på den lilla mängd information som finns i en kunds kreditfil, främst betalningshistorik, som bara ger en begränsad översikt av en individ och ingen översikt alls av många människor. Med kundens samtycke tar vi emot transaktionsdata från banken och använder den för att skapa en mycket mer detaljerad och rikare bild av en individ.

Sedan använder vi modern AI och maskinlärande tekniker för att omvandla dessa stora datamängder till en skarp synvinkel på en individs kreditvärdighet, beräknar hundratals enskilda variabler och kombinerar dem till en omfattande helhetsbild. De resulterande poängen är fullständigt förklarliga och transparenta för långivaren som använder dem, till skillnad från kreditscore som är mystiska svarta lådor. Dessa poäng är också anpassade till en långivares specifika produkt och kundsegment, vilket gör dem mer relevanta och därmed mer exakta än en kreditscore, som är en generisk poäng som tränats över ett brett utbud av produkter och kunder.

Slutligen kan vår plattform inte bara bedöma kundens risk mer effektivt än en traditionell poäng, utan den kan också använda den poängen för att rekommendera de optimala lånevillkoren, såsom belopp och löptid. Som ett resultat av alla dessa faktorer är Carrington Labs riskbedömning en betydande förbättring av de insikter som traditionella metoder ger långivare.

Hur säkerställer Carrington Labs att dess AI-modeller är fria från kön, etnisk eller socioekonomisk bias i lånebeslut, och vilka åtgärder har ni vidtagit för att mildra algoritmisk bias i era kreditriskbedömningar?

Carrington Labs modeller är betydligt mindre benägna att vara fördomsfulla än traditionella tillvägagångssätt på grund av deras objektivitet (ingen mänsklig “magkänsla” inblandad) och den breda datamängd vi använder för att skapa modeller.

Vi har tre pelare i vår anti-bias-strategi: Först låter vi aldrig skyddad klassdata (ras, kön etc.) komma i närheten av modellskapandeprocessen. Vi föredrar att du inte ens ger oss den datan (om du vill att vi ska använda den för bias-testning; se nedan). För det andra är våra modeller fullständigt förklarliga, så vi granskar varje funktion som används i varje modell för potentiell bias, proxyvariabler eller andra problem. Långivare har också tillgång till listan över funktioner och kan genomföra sina egna granskningar. För det tredje, om långivaren väljer att tillhandahålla oss skyddad klassdata för testning (endast; hålls långt ifrån utbildning), kommer vi att genomföra statistiska tester på modellutdata för att bestämma godkännandegrad och gränser och säkerställa att variationen över klasser är tydligt driven av förklarliga och rimliga faktorer.

Som ett resultat av det högre prediktiva värdet av Carrington Labs modeller och möjligheten att finjustera gränser baserat på risk, blir det mycket lättare för långivare att godkänna fler sökande på mindre belopp och sedan öka dem över tid med god återbetalningsbeteende, vilket möjliggör en bredare finansiell inkludering.

Hur säkerställer Carrington Labs att dess AI-drivna kreditriskbedömningar är förklarliga och transparenta för långivare och tillsynsmyndigheter?

Medan vi använder AI i ett antal steg i modellskapandeprocessen, är modellerna själva, den faktiska logik som används för att beräkna en kunds poäng, baserad på förutsägbara och kontrollerbara matematik och statistik. En långivare eller tillsynsmyndighet kan granska varje funktion i modellen för att säkerställa att de är bekväma med var och en, och vi kan också tillhandahålla en nedbrytning av en kunds poäng och koppla den tillbaka till en ogynnsam åtgärdskod om så önskas.

Hur hjälper Carrington Labs AI-modeller till att demokratisera lån och utöka finansiell inkludering för underbetjänade befolkningar?

Många människor är mer kreditvärdiga än deras traditionella kreditscore antyder. Äldre kreditbedömningsmetoder utesluter miljontals människor som inte passar in i traditionella kreditmodeller. Vår AI-drivna tillvägagångssätt hjälper långivare att känna igen dessa låntagare, vilket utökar tillgången till rättvis och ansvarsfull kredit utan att öka risken.

För att ge ett exempel på någon som faller in i en underbetjänad grupp, tänk på en invandrare som nyligen flyttat till ett nytt land. De kan vara finansiellt ansvarsfulla, hårda arbetare och flitiga, men de kan också sakna en traditionell kreditupplysning. Eftersom kreditbyrån aldrig har hört talas om dem, saknar de förmågan att bevisa att denna person är kreditvärdig, vilket i sin tur gör långivare ovilliga att erbjuda dem lånemöjligheter.

De icke-traditionella transaktionsdata är nyckeln till att bygga en korrekt bedömning av kreditriskpoäng för människor som kreditbyråerna inte känner till. De kan sakna en traditionell kreditupplysning eller ha en kreditupplysning som kan verka riskfylld för långivare utan rätt sammanhang, men vi har möjlighet att visa långivare att dessa människor är kreditvärdiga och stabila genom att utnyttja en större mängd av deras finansiella data. I själva verket är vår plattform upp till 250% mer exakt, baserat på en urvalsmängd av anonymiserad data, för att identifiera lågrisklåntagare med begränsad kreditinformation än traditionella kreditscore, och det är vad som möjliggör för långivare att utöka sin låntagarkrets och slutligen öka lånegodkännanden.

I tillägg, eftersom många långivare bara har en ungefärlig uppfattning om en enskild kunds risk, kämpar de för att finjustera ett erbjudande för att återspegla en kunds individuella omständigheter, ofta antingen erbjuder dem mer än de kan ha råd med, lånar dem mindre än de behöver eller (oftast av allt) avvisar dem helt. Förmågan att fastställa lånegränser exakt har en särskilt stark effekt på att möjliggöra för långivare att ta in nya låntagare i det finansiella systemet, där de kan öka sin lånekraft genom att visa god återbetalningsbeteende – ge dem den första chansen att visa att de kan arbeta ansvarsfullt med skuld.

Vilken roll spelar tillsynsmyndigheter i att forma hur AI-drivna lösningar för lån utvecklas och implementeras?

Tillsynsmyndigheter är en väsentlig del i att införa AI i finansiella tjänster och i den bredare ekonomin. Tydliga gränser för var och hur AI kan användas kommer att möjliggöra snabbare tillväxt och nya användningsfall, och vi stöder de olika processer som pågår för att skapa juridisk och regleringsmässig ansvarighet.

Som en allmän princip anser vi att AI-verktyg som används i lån bör utsättas för samma typer av tillsyn och granskning som andra verktyg – de bör kunna visa att de behandlar kunder rättvist och att de gör banksystemet säkrare, inte riskfyllt. Vår lösning kan tydligt visa båda.

Kan du berätta mer om Carrington Labs nyliga urval till Mastercard (MA ) Start Path Program? Hur kommer detta att påskynda er expansion i USA?

Vi är glada över att arbeta med Mastercard på våra expansionsplaner i USA och globalt. De har en enastående erfarenhet av att leverera finansiella lösningar till banker och andra långivare runt om i världen och har redan varit mycket hjälpsamma när vi ökar vår engagemang med potentiella amerikanska kunder. Vi förväntar oss att båda parter kommer att dra nytta av detta, med Mastercard som erbjuder råd, introduktioner och möjligtvis element av vår lösning, medan Carrington Labs tillhandahåller en högvärdig tjänst till Mastercards kunder.

Beforepay, er konsumentinriktade varumärke, har utfärdat över 4 miljoner lån. Vilka insikter har ni fått från denna erfarenhet, och hur har de format Carrington Labs AI-modeller?

Genom denna erfarenhet lärde vi oss hur man bygger modeller snabbt och effektivt tack vare tillgången till Beforepays utmärkta utvecklingslaboratorium och några enorma datamängder. Om vi har en idé för en modellram, arkitektur, kod etc. kan vi prova det i Beforepay först. Den branta minskningen av Beforepays defaultfrekvens är också ett utmärkt fallstudie i att visa hur väl modellen fungerar.

Det har varit en mycket motiverande upplevelse överlag, eftersom våra anställda har ett stort intresse i företaget. Vi använder Carrington Labs modeller varje dag för att låna ut våra egna pengar, så det fokuserar sinnet på att se till att dessa modeller fungerar!

 Hur ser du att AI utvecklas i lånebranschen under de kommande tio åren?

Lån kommer att förändras massivt när branschen fullständigt går över till de typer av stordata-drivna riskmodeller som Carrington Labs använder under de kommande tio åren. Och det kommer att – dessa modeller är bara så mycket mer effektiva. Det är som rollen av elektricitet i tillverkning; det är en spelväxlare och alla kommer antingen att göra omställningen eller lämna.

Stordata-modeller kan antingen byggas för hand (vilket jag tidigare gjorde själv, men denna process tar månader eller till och med år medan den också är mycket dyr och oförmögen att ge det bästa resultatet. Eller så kan du automatisera modellbyggnaden. Med AI kan du automatisera mycket mer av det med högre kvalitet samtidigt som du sparar tid och gör saker som vore omöjliga om du byggde för hand, som att generera tusentals anpassade funktioner för en medelstor långivare.

Nyckeln är att veta hur man gör det korrekt – om du bara kastar en massa saker på en LLM, kommer du att få en jätte röra och slösa bort din budget.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Carrington Labs.