Джеймі Твісс, генеральний директор Carrington Labs – Серія інтерв’ю

Джеймі Твісс – досвідчений банкір і вчений-дослідник у сфері даних, який працює на перетині науки про дані, штучного інтелекту та споживчих кредитів. Він зараз обіймає посаду генерального директора Carrington Labs, провідного постачальника пояснюваних рішень штучного інтелекту для оцінки кредитного ризику та кредитування. Раніше він обіймав посаду головного офіцера з даних у великому австралійському банку. До цього він працював на різних посадах у сфері банківської справи та фінансових послуг, починаючи свою кар’єру як консультант у компанії McKinsey & Company.

Чи можете ви пояснити, як система оцінки ризику Carrington Labs, що використовує штучний інтелект, відрізняється від традиційних методів кредитного скорингу?

Підхід Carrington Labs до оцінки ризику відрізняється від традиційних методів кредитного скорингу кількома способами:

Наша платформа використовує набагато більший набір даних, ніж попередні методи. Традиційні кредитні бали ґрунтуються на застарілій технології та засновані на обмеженій кількості інформації, доступної у кредитній справі клієнта, переважно історії платежів, які дають лише обмежений погляд на особу, і жодного погляду на багатьох людей. З дозволу клієнта ми беремо дані про транзакції банку та використовуємо їх для створення набагато більш детального та багатшого погляду на особу.

Потім ми використовуємо сучасні методи штучного інтелекту та машинного навчання для перетворення цих великих обсягів даних у чіткий погляд на кредитоспроможність особи, розрахувавши сотні індивідуальних змінних та поєднавши їх у комплексний загальний погляд. Результатом є повністю пояснювані та прозорі для кредиторів бали, на відміну від кредитних балів, які є загадковими чорними скринями. Ці бали також підходять для конкретного продукту кредитору та сегменту клієнтів, що робить їх більш актуальними та точними, ніж кредитні бали, які є загальними балами, навченими на широкому спектрі продуктів та клієнтів.

Нарешті, наша платформа не тільки може оцінити ризик клієнта більш ефективно, ніж традиційний бал, але також може використовувати цей бал для рекомендації оптимальних умов кредитування, таких як ліміти та терміни. В результаті всіх цих факторів оцінка ризику Carrington Labs є значним вдосконаленням порівняно з традиційними методами, які надають кредиторам.

Як ваш штучний інтелект інтегрує дані про транзакції відкритого банку для надання більш повного погляду на кредитоспроможність заявника? І які з ключових передбачуваних факторів ваші моделі штучного інтелекту визначають при оцінці кредитного ризику?

Наші моделі можуть бути навчені на різних типах даних, але дані про транзакції банку зазвичай є основою. Ми використовуємо десятки мільйонів рядків даних про транзакції для навчання загальної моделі, а потім використовуємо тисячі транзакцій для кожного нового клієнта, якого модель оцінює. Відкритий банк загалом є найкращим способом збору цих даних, оскільки він забезпечує послідовний формат, добру безпеку та швидкі часи відповіді. Ми можемо зібрати дані іншими засобами, але відкритий банк зазвичай є перевагою.

Наприклад, ми можемо аналізувати звички виведення готівки, щоб побачити, чи часто хтось виводить великі суми, чи завжди використовує той самий банкомат, чи виводить готівку кілька разів на день. Ми можемо ідентифікувати діяльність, пов’язану з азартними іграми, шукаючи часті транзакції на платформах ставок. Ми можемо дивитися, як швидко хтось витрачає гроші після їх отримання, чи чи змінює свої витрати, якщо починає бідувати. Ми також виділяємо несподівані фінансові моделі, які можуть вказувати на ризиковані настрої чи поведінку, наприклад, часті штрафи за порушення правил дорожнього руху.

Наші моделі навчаються на близько 50 000 можливих змінних, з яких близько 400 активно використовуються у типовій моделі ризику. Цей підхід, заснований на даних, допомагає кредиторам приймати більш точні рішення щодо кредитування та налаштовувати кредити до унікального ризикового профілю кожного заявника. Важливо відзначити, що дані, які ми ідентифікуємо та аналізуємо, є анонімними, тому ми не працюємо з особистою ідентифікаційною інформацією (PII).

Як Carrington Labs забезпечує, щоб її моделі штучного інтелекту були вільні від ґендерної, етнічної чи соціально-економічної упередженості у рішеннях щодо кредитування, і які кроки ви зробили для пом’якшення алгоритмічної упередженості у своїх оцінках кредитного ризику?

Моделі Carrington Labs значно менше схильні до упередженості порівняно з традиційними підходами завдяки своїй об’єктивності (не людському “інтуїтивному відчуттю”) та широкому спектру даних, які ми використовуємо для створення моделей.

У нас є три основи нашого підходу до протидії упередженості: По-перше, ми ніколи не дозволяємо захищеним класам даних (раса, ґендер тощо) будь-де близько до процесу створення моделі. Ми віддаємо перевагу тому, щоб ви не давали нам ці дані (окрім випадків, коли ви хочете, щоб ми використовували їх для тестування на упередженість; див. нижче). По-друге, наші моделі повністю пояснювані, тому ми переглядаємо кожну особливість, використану в кожній моделі, на потенційну упередженість, проксі-варіаблі або інші проблеми. Кредитори також мають доступ до списку особливостей і можуть проводити власні огляди. По-третє, якщо кредитор вирішує надати нам захищені класи даних для тестування (тільки; тримаємо їх далеко від навчання), ми проведемо статистичні тести на виходах моделі, щоб визначити ставки схвалення та ліміти та забезпечити, щоб варіація між класами була чітко обумовлена пояснюваними та розумними факторами.

В результаті вищої передбачувальної сили моделей Carrington Labs та можливості тонко налаштовувати ліміти на основі ризику робить набагато легше для кредиторів схвалити більше заявок на менші ліміти, а потім збільшити їх з плином часу за умови хорошої поведінки боржників, що дозволяє забезпечити ширшу фінансову інклюзивність.

Як ви забезпечуєте, щоб ваші оцінки кредитного ризику, що використовують штучний інтелект, були пояснювані та прозорі для кредиторів та регуляторів?

Хоча ми використовуємо штучний інтелект на кількох етапах процесу створення моделі, самі моделі, тобто фактична логіка, використовувана для розрахунку балу клієнта, ґрунтуються на передбачуваних та контрольованих математичних та статистичних розрахунках. Кредитор або регулятор може переглянути кожну особливість моделі, щоб забезпечити, що вони комфортно відчувають кожну з них, і ми також можемо надати розбивку балу клієнта та зіставити його з кодом несприятливої дії, якщо це потрібно.

Як ваші моделі штучного інтелекту допомагають демократизувати кредитування та розширити фінансову інклюзивність для недопредставлених груп населення?

Багато людей є більш кредитоспроможними, ніж це вказують їх традиційні кредитні бали. Традиційні методи кредитного скорингу виключають мільйони людей, які не вкладаються у традиційні кредитні моделі. Наш підхід, що використовує штучний інтелект, допомагає кредиторам визнавати цих боржників, розширюючи доступ до справедливих та відповідальних кредитів без збільшення ризику.

Щоб дати приклад особи, яка входить до недопредставленої аудиторії, подумайте про іммігранта, який тільки що переїхав до нової країни. Він може бути фінансово відповідальним, працьовитим та трудолюбивим, але він також може не мати традиційної кредитної історії. Через те, що кредитна спілка ніколи не чула про нього, він не має можливості довести, що ця особа є кредитоспроможною, що у свою чергу робить кредиторів неохочими надавати йому кредитні можливості.

Ці нетрадиційні дані про транзакції є ключем до створення точної оцінки кредитного ризику для людей, яких кредитні бюро не знають. Вони можуть не мати традиційної кредитної історії або мати кредитну історію, яка може здатися ризикованою для кредиторів без належного контексту, але ми маємо можливість показати кредиторам, що ці люди є кредитоспроможними та стабільними, використовуючи більшу кількість їх фінансових даних. Насправді, наша платформа на 250% більш точна, на основі вибірки анонімізованих даних, у визначенні низькоризикових боржників з обмеженою кредитною інформацією, ніж традиційні кредитні бали, і це дозволяє кредиторам розширити свою клієнтську базу та в кінцевому підсумку збільшити кількість схвалень кредитів.

Крім того, оскільки багато кредиторів мають лише приблизне уявлення про індивідуальний ризик клієнта, їм важко точно налаштувати пропозицію, щоб вона відображала індивідуальні обставини клієнта, часто пропонуючи їм більше, ніж вони можуть собі дозволити, надаючи менше, ніж їм потрібно, або (найчастіше) відхиляючи їх зовсім. Можливість точно встановлювати ліміти кредитування має особливо сильний ефект на те, щоб дозволити кредиторам приваблювати нових боржників до фінансової системи, де вони можуть збільшити свою кредитну спроможність, демонструючи хорошу поведінку боржників, надаючи їм перший шанс продемонструвати, що вони можуть працювати відповідально з боргом.

Яка роль відіграють регулюючі органи у формуванні того, як розробляються та впроваджуються рішення з кредитування, що використовують штучний інтелект?

Регулятори є важливою частиною інтеграції штучного інтелекту у фінансові послуги та в ширшій економіці. Чіткі межі щодо того, де та як можна використовувати штучний інтелект, дозволять забезпечити швидший зростання та нові випадки використання, і ми підтримуємо різні процеси, що відбуваються для створення юридичної та регуляторної відповідальності.

Як загальне правило, ми вважаємо, що інструменти штучного інтелекту, що використовуються у кредитуванні, повинні підлягати тим самим видам нагляду та контролю, що й інші інструменти – вони повинні бути здатні продемонструвати, що вони ставляться до клієнтів справедливо, і що вони роблять банківську систему безпечнішою, а не ризикованішою. Наше рішення може чітко продемонструвати обидва ці аспекти.

Чи можете ви розповісти нам більше про недавній вибір Carrington Labs до програми Mastercard (MA ) Start Path? Як це прискорить ваше розширення у США?

Ми раді працювати з Mastercard над нашими планами розширення у США та на глобальному ринку. У них є неперевершений досвід у доставці фінансових рішень банкам та іншим кредиторам по всьому світу, і вони вже були дуже корисними, коли ми збільшуємо нашу взаємодію з потенційними клієнтами у США. Ми очікуємо, що обидві сторони отримають вигоду, при цьому Mastercard пропонує поради, знайомства та, можливо, деякі елементи нашого рішення, тоді як Carrington Labs надає високоцінну послугу клієнтам Mastercard.

Beforepay, ваша споживча марка, виділила понад 4 мільйони кредитів. Які висновки ви зробили з цього досвіду, і як вони сформували моделі штучного інтелекту Carrington Labs?

Через цей досвід ми навчилися, як швидко та ефективно будувати моделі, завдяки доступу до великих обсягів даних Beforepay. Якщо у нас є ідея щодо архітектури моделі, коду тощо, ми можемо спробувати її у Beforepay спочатку. Драматичний спад рівня дефолтів Beforepay також є чудовим випадком, що показує, як добре працює модель.

Це був дуже мотивуючий досвід загалом, оскільки наші співробітники мають велику зацікавленість у компанії. Ми використовуємо моделі Carrington Labs щодня для надання кредитів нашими власними грошима, тому це зосереджує нашу увагу на тому, щоб ці моделі працювали!

 Як ви бачите розвиток штучного інтелекту у сфері кредитування за наступне десятиліття?

Кредитування зміниться суттєво, коли галузь повністю перейде на використання моделей ризику, що ґрунтуються на великих даних, які використовує Carrington Labs, протягом наступного десятиліття. І це станеться – ці моделі просто набагато більш ефективні. Це як роль електрики у виробництві; це гра-знахідка, і кожен або зробить цей перехід, або вийде з бізнесу.

Моделі великих даних можна будувати вручну (що я раніше робив сам, але цей процес триває місяці чи навіть роки, а також дуже дорогий і не здатний забезпечити найкращий результат). Або ви можете автоматизувати будівництво моделі. З допомогою штучного інтелекту ви можете автоматизувати набагато більше цього процесу на вищому рівні якості, а також заощадити час і зробити речі, які були б неможливі, якщо б ви будували модель вручну, наприклад, генерацію тисяч індивідуальних особливостей для середнього кредитору.

Ключем є знання того, як це зробити правильно – якщо ви просто кидаєте купу речей у велику мовну модель, ви отримаєте величезний хаос і перевищите свій бюджет. Дякую за чудовий інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Carrington Labs.