Обясним AI с помощта на изразителни булеви формули

Експлозията в приложенията за изкуствен интелект (AI) и машинно обучение прониква в почти всяка индустрия и част от живота.

Но неговият растеж не идва без ирония. Докато AI съществува, за да опрости и/или ускори вземането на решения или работните процеси, методологията за това често е изключително сложна. Наистина, някои алгоритми за машинно обучение на „черна кутия“ са толкова сложни и многостранни, че не подлежат на просто обяснение дори от компютърните учени, които са ги създали.

Това може да бъде доста проблематично, когато определени случаи на употреба – като например в областта на финансите и медицината – се определят от най-добрите практики в индустрията или правителствени разпоредби, които изискват прозрачни обяснения за вътрешната работа на решенията за изкуствен интелект. И ако тези приложения не са достатъчно изразителни, за да отговорят на изискванията за обяснимост, те могат да бъдат направени безполезни, независимо от общата им ефикасност.

За да се справи с тази главоблъсканица, нашият екип от Fidelity Center for Applied Technology (FCAT) — в сътрудничество с Amazon Quantum Solutions Lab — предложи и внедри интерпретируем модел за машинно обучение за обясним AI (XAI), базиран на експресивни булеви формули. Такъв подход може да включва всеки оператор, който може да бъде приложен към една или повече булеви променливи, като по този начин осигурява по-висока изразителност в сравнение с по-строги подходи, базирани на правила и дърво.

Можете да прочетете пълна хартия тук за изчерпателни подробности за този проект.

Нашата хипотеза беше, че тъй като моделите - като дървета на решенията - могат да станат дълбоки и трудни за интерпретиране, необходимостта да се намери експресивно правило с ниска сложност, но висока точност, беше неразрешим оптимизационен проблем, който трябваше да бъде решен. Освен това, чрез опростяване на модела чрез този усъвършенстван XAI подход, бихме могли да постигнем допълнителни ползи, като разкриване на пристрастия, които са важни в контекста на етичното и отговорно използване на ML; като същевременно улеснява поддържането и подобряването на модела.

Ние предложихме подход, базиран на изразителни булеви формули, тъй като те дефинират правила с регулируема сложност (или интерпретируемост), според които входните данни се класифицират. Такава формула може да включва всеки оператор, който може да се приложи към една или повече булеви променливи (като And или AtLeast), като по този начин осигурява по-висока изразителност в сравнение с по-строги методологии, базирани на правила и дърво.

В този проблем имаме две конкуриращи се цели: максимизиране на производителността на алгоритъма, като същевременно минимизираме неговата сложност. По този начин, вместо да използваме типичния подход за прилагане на един от двата метода за оптимизация – комбиниране на множество цели в една или ограничаване на една от целите – ние избрахме да включим и двете в нашата формулировка. Правейки това и без загуба на общоприетост, ние използваме основно балансирана точност като наш основен показател за ефективност.

Освен това, чрез включването на оператори като AtLeast, ние бяхме мотивирани от идеята да отговорим на необходимостта от лесно интерпретируеми контролни списъци, като списък с медицински симптоми, които означават определено състояние. Възможно е да се вземе решение чрез използване на такъв контролен списък от симптоми по начин, при който трябва да присъства минимален брой за положителна диагноза. По подобен начин във финансите една банка може да реши дали да предостави или не кредит на клиент въз основа на наличието на определен брой фактори от по-голям списък.

Успешно внедрихме нашия модел XAI и го сравнихме с някои публични набори от данни за кредит, поведение на клиенти и медицински състояния. Установихме, че нашият модел като цяло е конкурентен на други добре познати алтернативи. Ние също така открихме, че нашият XAI модел може потенциално да се захранва от хардуер със специално предназначение или квантови устройства за решаване на бързо целочислено линейно програмиране (ILP) или квадратична неограничена двоична оптимизация (QUBO). Добавянето на QUBO решаващи програми намалява броя на итерациите – като по този начин води до ускоряване чрез бързо предлагане на нелокални ходове.

Както беше отбелязано, обяснимите AI модели, използващи булеви формули, могат да имат много приложения в здравеопазването и в областта на финансите на Fidelity (като кредитен рейтинг или за оценка защо някои клиенти може да са избрали продукт, докато други не). Чрез създаването на тези интерпретируеми правила можем да постигнем по-високи нива на прозрения, които могат да доведат до бъдещи подобрения в разработването или усъвършенстването на продукта, както и до оптимизиране на маркетингови кампании.

Въз основа на нашите констатации ние установихме, че Обяснимият AI, използващ експресивни булеви формули, е както подходящ, така и желателен за онези случаи на употреба, които изискват допълнителна обяснимост. Плюс това, тъй като квантовите компютри продължават да се развиват, ние предвиждаме възможността да спечелим потенциални ускорения чрез използването им и други хардуерни ускорители със специално предназначение.

Бъдещата работа може да се съсредоточи върху прилагането на тези класификатори към други набори от данни, въвеждане на нови оператори или прилагане на тези концепции към други случаи на употреба.