Jamie Twiss, generální ředitel Carrington Labs – rozhovor

Jamie Twiss je zkušený bankéř a datový vědec, který pracuje na rozhraní datové vědy, umělé inteligence a spotřebitelského úvěru. V současné době působí jako generální ředitel Carrington Labs, předního poskytovatele vysvětlitelných AI poháněných úvěrových rizik a úvěrových řešení. Předtím působil jako hlavní důstojník pro data ve velké australské bance. Předtím pracoval v různých rolích v bankovnictví a finančních službách, a to od začátku své kariéry jako konzultant ve společnosti McKinsey & Company.

Můžete vysvětlit, jak se AI poháněný rizikový skóringový systém Carrington Labs liší od tradičních metod hodnocení úvěru?

Přístup Carrington Labs k hodnocení rizika se liší od tradičních metod hodnocení úvěru několika způsoby:

Naše platforma používá mnohem větší datový soubor než předchozí metody. Tradiční úvěrové skóre se spoléhají na zastaralou technologii a jsou založeny na malém množství informací dostupných v úvěrovém souboru zákazníka, většinou platebních historií, které poskytují pouze omezený přehled o jednotlivci a žádný přehled o mnoha lidech. S souhlasem zákazníka bereme údaje o transakcích z bankovních účtů a používáme je k vytvoření mnohem podrobnější a bohatšího obrazu jednotlivce.

Pak používáme moderní AI a strojové učení k přeměně těchto velkých objemů dat na jasný pohled na úvěrovou spolehlivost jednotlivce, vypočítáváme stovky jednotlivých proměnných a kombinujeme je do komplexního celkového pohledu. Výsledné skóre je plně vysvětlitelné a transparentní pro poskytovatele úvěru, na rozdíl od úvěrových skóre, které jsou tajemnými černými skříňkami. Tato skóre jsou také přizpůsobena konkrétnímu produktu a segmentu zákazníků poskytovatele úvěru, což je činí relevantnější a přesnější než úvěrové skóre, které je generické skóre vyškolené napříč širokým spektrem produktů a zákazníků.

Nakonec naše platforma může nejen lépe posoudit riziko zákazníka než tradiční skóre, ale může také použít toto skóre k doporučení optimálních úvěrových podmínek, jako je limit a doba trvání. V důsledku všech těchto faktorů je rizikové skóring Carrington Labs významným pokrokem oproti tradičním metodám, které poskytují poskytovatelům úvěru přehled.

Jak vaše AI integruje údaje o transakcích z otevřeného bankovnictví, aby poskytla úplnější obraz o úvěrové spolehlivosti žadatele? A jaké jsou některé z klíčových prediktorů, které vaše AI modely identifikují při posuzování úvěrového rizika?

Naše modely mohou být vyškoleny na mnoha různých typech dat, ale údaje o transakcích z bankovních účtů jsou obvykle jádrem. Používáme desítky milionů řádků údajů o transakcích k vyškolování celkového modelu a poté používáme tisíce transakcí pro každého nového zákazníka, kterého model ohodnotí. Otevřené bankovnictví je obecně nejlepším způsobem, jak shromáždit tato data, protože poskytuje konzistentní formát, dobrou bezpečnost a rychlé reakční časy. Můžeme je shromáždit i jinými prostředky, ale otevřené bankovnictví je obvykle preferováno.

Příklad: můžeme analyzovat zvyklosti výběru hotovosti, abychom viděli, zda někdo často vybírá velké částky, zda vždy používá stejný bankomat nebo zda si vybírá hotovost několikrát denně. Můžeme identifikovat činnost sázek tím, že hledáme časté transakce na sázkových platformách. Můžeme se podívat, jak rychle někdo utratí peníze po jejich obdržení, nebo zda upraví své výdaje, pokud začnou mít málo peněz. Také označíme neočekávané finanční vzorce, které mohou naznačovat rizikové myšlení nebo chování, jako jsou časté pokuty za překročení rychlosti.

Naše modely jsou vyškoleny na asi 50 000 možných proměnných, s asi 400 aktivně používaných v typickém modelu rizika. Tento datový přístup pomáhá poskytovatelům úvěru učinit přesnější úvěrové rozhodnutí a přizpůsobit úvěry každému žadateli podle jeho jedinečného rizikového profilu. Je důležité poznamenat, že data, která identifikujeme a analyzujeme, jsou anonymní, takže nepracujeme s osobními údaji (PII).

Jak Carrington Labs zajišťuje, aby jeho AI modely byly prosté genderových, etnických nebo socioekonomických předsudků při úvěrových rozhodnutích, a jaké kroky jste podnikli k zmírnění algoritmických předsudků ve svých úvěrových rizikových posouzeních?

Modely Carrington Labs jsou podstatně méně náchylné k předsudkům než tradiční přístupy kvůli jejich objektivitě (žádné lidské “instinkty” nejsou zapojeny) a širokému spektru dat, která používáme k vytváření modelů.

Máme tři pilíře našeho přístupu proti předsudkům: První, nikdy nedovolíme, aby chráněná třída dat (rasa, pohlaví apod.) byla v procesu vytváření modelu. Přednostně bychom rádi, kdybyste nám tato data ani neposkytovali (pokud nechcete, abychom je použili pro testování předsudků; viz níže). Druhý, naše modely jsou plně vysvětlitelné, takže prohlížíme každou funkci použité v každém modelu na potenciální předsudky, proxy proměnné nebo jiné problémy. Poskytovatelé úvěru také mají přístup k seznamu funkcí a mohou provádět své vlastní kontroly. Třetí, pokud poskytovatel úvěru zvolí poskytnout nám chráněnou třídu dat pro testování (pouze; držíme je daleko od školení), provedeme statistické testy na výstupech modelu, abychom určili míru schválení a limity a zajistili, aby variace napříč třídami byly jasně způsobeny vysvětlitelnými a rozumnými faktory.

V důsledku toho vyšší prediktivní síla modelů Carrington Labs a schopnost jemně nastavit limity na základě rizika činí mnohem snazší pro poskytovatele úvěru schválit více žadatelů na menší limity a poté zvýšit je s dobrým splácením, což umožňuje širší finanční začlenění.

Jak zajišťujete, aby vaše AI poháněná úvěrová rizika byla vysvětlitelná a transparentní pro poskytovatele úvěru a regulační orgány?

Zatímco používáme AI v několika krocích procesu vytváření modelu, samotné modely, logika používaná pro výpočet skóre zákazníka, jsou založeny na předvídatelné a kontrolovatelné matematice a statistice. Poskytovatel úvěru nebo regulační orgán může prohlédnout každou funkci v modelu, aby se ujistil, že je s nimi spokojen, a můžeme také poskytnout rozbor skóre zákazníka a mapovat ho zpět na kód nesouhlasu, pokud je požadováno.

Jak vaše AI modely pomáhají demokratizovat úvěry a rozšiřovat finanční začlenění pro znevýhodněné populace?

Mnozí lidé jsou více úvěrově spolehliví, než tradiční úvěrové skóre naznačují. Legacy úvěrové skóringové metody vylučují miliony lidí, kteří se nevejdou do tradičních úvěrových modelů. Naše AI poháněný přístup pomáhá poskytovatelům úvěru rozpoznat tyto žadatele, rozšiřuje přístup k spravedlivým a odpovědným úvěrům bez zvýšení rizika.

Chcete-li uvést příklad někoho, kdo spadá do znevýhodněné skupiny, přemýšlejte o imigrantovi, který se právě přestěhoval do nové země. Může být finančně zodpovědný, pracovité a pilný, ale může také postrádat tradiční úvěrovou historii. Protože úvěrová agentura o něm nikdy neslyšela, postrádá schopnost prokázat, že tato osoba je úvěrově spolehlivá, což činí poskytovatele úvěru neochotnými nabízet jim úvěrové příležitosti.

Tyto netradiční údaje o transakcích jsou klíčem k vytvoření přesného posouzení úvěrového rizika pro lidi, které úvěrové agentury neznají. Může jim chybět tradiční úvěrová historie nebo mohou mít úvěrovou historii, která se může jevit poskytovatelům úvěru jako riziková bez správného kontextu, ale my máme schopnost ukázat poskytovatelům úvěru, že tito lidé jsou úvěrově spolehliví a stabilní, a to díky využití většího množství jejich finančních dat. Ve skutečnosti je naše platforma až o 250 % přesnější při identifikaci nízkorizikových žadatelů s omezenými úvěrovými informacemi než tradiční úvěrové skóre, a to je to, co umožňuje poskytovatelům úvěru rozšiřovat svou základnu žadatelů a nakonec zvyšovat schvalování úvěrů.

Kromě toho, protože mnozí poskytovatelé úvěru mají pouze přibližnou představu o individuálním riziku zákazníka, zápasí s jemným nastavením nabídky, aby odrážela individuální okolnosti zákazníka, často nabízejí jim více, než mohou si dovolit, poskytují jim méně, než potřebují, nebo (nejčastěji) je odmítají úplně. Schopnost nastavit úvěrové limity přesně má zvláště silný účinek na umožnění poskytovatelům úvěru přivést nové žadatele do finančního systému, odkud mohou zvýšit svou úvěrovou kapacitu, aby prokázali, že mohou zodpovědně pracovat s dluhem.

Jakou roli hrají regulační orgány při formování způsobu, jakým jsou AI poháněná úvěrová řešení vyvíjena a nasazována?

Regulační orgány jsou nezbytnou součástí začleňování AI do finančních služeb a do širší ekonomiky. Zřetelné hranice pro to, kde a jak lze AI použít, umožní rychlejší růst a nové použití, a my podporujeme různé procesy, které jsou nyní zahájeny k vytvoření právní a regulační odpovědnosti.

Obecně se domníváme, že AI nástroje používané v úvěrech by měly být podrobeny stejnému typu dohledu a zkoumání jako jiné nástroje – měly by být schopny prokázat, že zákazníky zacházejí spravedlivě, a že činí bankovní systém bezpečnějším, ne rizikovějším. Naše řešení může jasně prokázat obojí.

Můžete nám říci více o nedávném výběru Carrington Labs do programu Mastercard (MA ) Start Path? Jak to urychlí vaši expanzi do USA?

Jsme rádi, že spolupracujeme s Mastercard na našich plánech expanze do USA a celosvětově. Mají nezapomenutelné zkušenosti s dodáváním finančních řešení bankám a jiným poskytovatelům úvěru po celém světě a již nám velmi pomáhali, když jsme zvyšovali naše zapojení s potenciálními americkými klienty. Očekáváme, že obě strany budou mít prospěch, a to tak, že Mastercard poskytne rady, představení a možná prvky našeho řešení, zatímco Carrington Labs poskytne vysoce hodnotnou službu klientům Mastercard.

Předplatné, vaše spotřebitelská značka, vydala přes 4 miliony úvěrů. Jaké poznatky jste získali z této zkušenosti, a jak ovlivnily vaše AI modely?

Přes tuto zkušenost jsme se naučili, jak budovat modely rychle a efektivně, díky přístupu k velkým objemům dat. Pokud máme nápad na rámec modelu, architekturu, kód apod., můžeme ho nejdříve vyzkoušet v Předplatném. Prudký pokles míry nesplácení Předplatného je také skvělým případovým studiem, které ukazuje, jak dobře funguje model.

Byla to velmi motivující zkušenost obecně, protože naši zaměstnanci mají velký podíl na společnosti. Používáme modely Carrington Labs každý den k poskytování úvěrů našim vlastním penězům, takže nás to soustředí na to, aby tyto modely fungovaly!

 Jak vidíte budoucnost AI v úvěrovém prostoru za příštích deset let?

Úvěry se budou dramaticky měnit, jakmile se celý průmysl plně přesune na typy big-data poháněných rizikových modelů, které Carrington Labs využívá, a to během příštích deseti let. A bude – tyto modely jsou prostě mnohem účinnější. Je to jako role elektřiny ve výrobě; je to hračka a všichni buď udělají přechod, nebo odejdou.

Big-data modely lze buď postavit ručně (co jsem dříve dělal sám, ale tento proces trvá měsíce nebo dokonce roky, je velmi drahý a nemůže poskytnout nejlepší výsledek). Nebo můžete automatizovat stavbu modelu. S AI můžete automatizovat mnohem více, a to na vyšší kvalitě, zatímco také šetříte čas a děláte věci, které by byly nemožné, pokud byste je stavěli ručně, jako generování tisíců vlastních funkcí pro středně velkou banku.

Klíč je vědět, jak to udělat správně – pokud jen hodíte spoustu věcí na LLM, dostanete obrovský nepořádek a prohrajete svůj rozpočet. Díky

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Carrington Labs.