Доктор Мусхір Ахмед, PhD, засновник і генеральний директор Codoxo – Серія інтерв’ю

Доктор Мусхір Ахмед, PhD, засновник і генеральний директор Codoxo, є технологом і підприємцем, який зосереджується на застосуванні штучного інтелекту для вирішення системних неефективностей у сфері охорони здоров’я. Він заснував Codoxo на основі досліджень, проведених під час його аспірантури в Джорджійському технологічному інституті, де він створив основу патентованого підходу до виявлення шахрайства, марнотратства та зловживань у медичних претензіях. Під його керівництвом компанія виросла у постачальника рішень для забезпечення платежної цілісності на основі штучного інтелекту, що допомагає організаціям охорони здоров’я виявляти ризики раніше та переходити від реактивних аудитів до проактивної стримування витрат. Його попередній досвід у сфері безпеки інтелекту в компанії VeriSign (VRSN ), де він працював над виявленням нових кіберугроз і уразливостей, сформував його увагу на використанні передових аналітичних інструментів і машинного навчання для виявлення прихованих закономірностей у складних даних.

Codoxo є компанією зі штучним інтелектом у сфері охорони здоров’я, яка зосереджується на зниженні неефективностей і непотрібних витрат у системі охорони здоров’я за допомогою своєї платформи Forensic AI. Платформа використовує патентовані алгоритми і машинне навчання для аналізу великих обсягів даних про претензії, виявлення підозрілого поведінки, бухгалтерських аномалій і нових схем шахрайства раніше, ніж традиційні системи. Дозволяючи організаціям охорони здоров’я, державним агентствам і менеджерам фармацевтичних програм втрутитися до або під час процесу претензій, Codoxo змушує галузь переходити до проактивної платежної цілісності, а не ретроспективного відновлення. Її розширена платформа зі стримування витрат інтегрує видобування даних, навчання постачальників, робочі процеси аудиту та управління справами, допомагаючи організаціям покращувати точність, зменшувати переплати та оптимізувати операції, одночасно звертаючись до оцінених сотень мільярдів доларів, втрачених щорічно через шахрайство, марнотратство та зловживання.

Ви заснували Codoxo після дослідження виявлення шахрайства у сфері охорони здоров’я під час вашої аспірантури в Джорджійському технологічному інституті. Що спочатку переконало вас, що штучний інтелект може фундаментально змінити спосіб виявлення шахрайства, марнотратства та зловживань у системах охорони здоров’я?

Я переконався не в одному моменті, а внаслідок зіткнення з тим, як погано працювала існуюча система. Шахрайство у сфері охорони здоров’я в США становить близько 330 мільярдів доларів щорічних втрат. Це більше, ніж будь-яка інша форма страхового шахрайства в країні, і все ж таки домінуючі методи виявлення могли лише виявити те, на що вони були навчені. Навіть коли штучний інтелект увійшов у сферу, більшість підходів були реактивними, тобто вони шукали відомі схеми шахрайства, а не ті, які ще не були відомі. Момент, який кристалізував це для мене, стався, коли я зрозумів, що шахрайство не є статичною проблемою. Погані актори адаптуються. Вони вчаться, що спрацьовує сигнал, і обходять його. Система, побудована на фіксованих правилах, за визначенням, завжди відстає.

Штучний інтелект пропонує можливість виявляти закономірності, які ніхто не подумав програмувати заздалегідь. Під час своєї дисертаційної роботи в Джорджійському технологічному інституті я будував моделі, які могли переглянути всю історію претензій постачальника, виявити поведінкові аномалії та зв’язати сигнали, які жоден людський аналітик чи двигун правил не міг би пов’язати. Група консультантів JASON, яка радить уряду США з питань науки і технологій, визнала цю роботу як рішення реальних структурних пробілів у використанні даних охорони здоров’я для платежної цілісності. Це визнання сказало мені, що проблема була досить серйозною, щоб побудувати компанію навколо неї.

Основна переконаність, яка спонукала мене тоді, є тією ж, яка спонукає те, що ми будемо будувати в Codoxo зараз: дані про претензії у сфері охорони здоров’я містять сигнал,必要ий для виявлення шахрайства, але його можна витягнути лише за допомогою штучного інтелекту, який може переглянути всю картину швидко і точно, а не перевіряючи пункти.

Шахрайство у сфері охорони здоров’я давно є багатミльярдною проблемою, але генераційний штучний інтелект, здається, прискорює його драматично. Як змінився ландшафт загроз для страховиків охорони здоров’я та команд платежної цілісності?

Він змінився фундаментальним чином, і галузь ще не повністю зрозуміла, наскільки суттєва ця зміна. Стара модель документації шахрайства вимагала ручної праці. Поганий актор, який здійснював шахрайство, повинен був сфабрикувати нотатки один за одним, змінити зображення окремо та створити записи, які були досить правдоподібними, щоб вижити під час перевірки. Ця тертя створила природний стелю на масштаб будь-якої схеми.

Генераційний штучний інтелект прибрав цю стелю. Сьогодні будь-хто може попросити велику мовну модель створити 50 терапевтичних сесійних нотаток для лікування тривоги та отримати їх менш ніж за п’ять хвилин. Ці нотатки будуть використовувати відповідну клінічну термінологію, слідувати правдоподібній нарративній структурі та виглядати внутрішньо послідовними. Більшість систем виявлення шахрайства не були спроектовані для оцінки того, чи є документ автентичним чи синтетичним. Вони були спроектовані для перевірки правильності застосування кодів рахування, прапорування відомих схем та порівняння з існуючими сигнатурами шахрайства. Тому синтетична документація проходить прямо через них, навіть через деякі системи, які заявляють про наявність штучного інтелекту.

Ми також бачили це з діагностичними зображеннями. Одне легітимне рентгенівське зображення може бути використано як насіння для десятків генерованих варіантів, кожен з яких подається під різним фабрикованим пацієнтом. Система без можливості порівняння зображень бачить 50 унікальних випадків, але реальність полягає в одному реальному скані та 49 синтетичних дублікатах. Ландшафт загроз змінився від ізольованих поганих акторів до людей, які можуть проводити масштабні, повторювані схеми з майже жодним технічним досвідом.

Багато традиційних систем виявлення шахрайства покладаються на моделі, засновані на правилах, і ручну перевірку. Чому ці підходи стають дедалі менш ефективними при роботі з медичними записами, згенерованими штучним інтелектом, або маніпульованими діагностичними зображеннями?

Більшість підходів до виявлення шахрайства, як заснованих на правилах, так і ранніх поколінь штучного інтелекту, працюють на фундаментально хибній припущенні: що вся документація, яка надходить у систему, була створена людиною, яка слідує нормальним клінічним процесам. Як тільки це припущення розривається, весь підхід до виявлення розривається з ним.

Двигун правил може прапорити неможливу комбінацію кодів, постачальника, який рахує більше годин, ніж існує в день, або процедуру, виконану на померлому пацієнті. Це всі реальні та корисні спіймання. Але логіка, заснована на правилах, не може переглянути прогресивну нотатку та визначити, чи була вона написана клініцистом, який насправді бачив пацієнта, чи згенерована моделлю штучного інтелекту, яка ніколи не практикувала медицину. Два виходи можуть бути структурно ідентичними.

Ручна перевірка має той же самий стелю. Дослідження показують, що лише близько 34% людей можуть ідентифікувати глибоку підробку, навіть якщо їм сказали, що вона присутня, і вони активно шукають її. Розслідувач SIU, який переглядає купу прогресивних нотаток, не має спеціальної судової підготовки для виявлення синтетичного тексту, жодних інструментів для порівняння зображень для виявлення клонованих сканів, і не має достатньо годин на день, щоб провести такий рівень перевірки для кожної претензії. Проблема обсягу сама по собі робить повну ручну перевірку неможливою, і це було правдою до того, як генераційний штучний інтелект почав прискорювати обсяг і складність шахрайської документації.

Є також нова загроза, яку, на мою думку, недооцінюють: так звані троянські двигуни глибоких підробок. Це вірусоподібні агенти, спеціально розроблені для нейтралізації програмного забезпечення для виявлення, працюючи через тактику, як аналіз зображень або зловмисна переробка підказок. Тому адверсарна динаміка не лише полягає в тому, що шахраї генерують кращі підробки. У деяких випадках вони активно намагаються зламати інструменти, які будуються для їх виявлення. Ця динаміка гонки озброєння є частиною того, чому статичні підходи до виявлення, як засновані на правилах, так і фіксовані моделі штучного інтелекту, завжди відставатимуть. Захист повинен бути таким же адаптивним, як і напад.

Codoxo недавно запустила Виявлення глибоких підробок, щоб звернутися до цієї нової загрози. На високому рівні, як технологія аналізує медичну документацію та зображення, щоб визначити, чи може вміст бути згенерованим або маніпульованим штучним інтелектом?

Основним принципом проекту є те, що ми створили виявлення глибоких підробок спеціально для документації охорони здоров’я, а не адаптували загальний інструмент виявлення штучного інтелекту до клінічного контексту. Це відмінність має значення, оскільки сигнали, які вказують на синтетичний вміст у медичному записі або діагностичному зображенні, відрізняються від сигналів, які мають значення в інших доменах.

На високому рівні система аналізує медичну документацію та зображення поряд з повним контекстом претензії, і робить це за секунди. Коли розслідувач SIU завантажує підозрілу документацію, штучний інтелект проводить аналіз у декілька вимірів одночасно. Він шукає індикатори синтетичного або маніпульованого вмісту, перевіряє клонування та дублікатні закономірності у всій історії претензій платника, і оцінює поведінкову послідовність між документацією та історичними закономерностями постачальника.

Одна річ, яку варто відзначити, це те, що система може працювати з широким спектром форматів. Вона обробляє текстові документи у форматах PDF, Word і XML, таблиці, медичні зображення та навіть рукописні нотатки. Це має значення на практиці, оскільки шахрайська документація не надходить у одному чіткому форматі, і система виявлення, яка покриває лише деякі з того, що отримують команди SIU, залишає пробіли, які складні шахраї в кінцевому підсумку знайдуть.

З усього цього аналізу система генерує ризиковий бал на шкалі від 0 до 100 з докладними поясненнями, щоб розслідувач міг зрозуміти, які саме сигнали спричинили бал. Метою на кожному етапі є генерація дієвого виходу, а не просто сповіщень, і робити це швидше та з більшою точністю, ніж більш загальна система. Швидкість має значення, оскільки єдина точка втручання, яка суттєво змінює економіку шахрайства, полягає в тому, щоб зробити це до платежу.

Ваша платформа підкреслює можливості, такі як виявлення клонування, ідентифікація часткової генерації штучним інтелектом та поведінкове перехрестне посилання проти історії претензій. Чи можете ви пройти з нами, як ці сигнали поєднуються для генерації значимого ризикового балу для розслідувачів?

Кожна з цих можливостей націлена на різний шаблон шахрайства, і ризиковий бал відображає, як вони взаємодіють у конкретному випадку.

Виявлення клонування та дублікатів звертається до сценарію, в якому один справжній запис реплікується через декілька фабрикованих пацієнтів. Що робить це складним для виявлення без штучного інтелекту, це те, що варіації можуть бути настільки тонкими, що жоден окремий документ не виглядає підозрілим у ізоляції. Закономірність стає видимою лише тоді, коли ви порівнюєте через всю популяцію претензій. Наша система може виявити, що набір записів, які виглядають унікальними на поверхні, є насправді похідними від спільного джерела.

Часткова генерація штучним інтелектом є важливою, оскільки складні шахраї не завжди фабрикують повністю всі записи з нуля. Більш поширений і складний для виявлення шаблон полягає у змішуванні, тобто взятті справжнього пацієнтського запису та використання штучного інтелекту для додавання фабрикованих додаткових послуг або процедур. Справжні розділи роблять документ правдоподібним, але додані розділи представляють претензії на лікування, яке не було надане. Наша система спеціально налаштована для виявлення цих випадків.

Поведінкове перехрестне посилання зв’язує документацію, яка переглядається, з повною історією претензій постачальника. Якщо документація представляє клінічні нарративи, які є несумісними з тим, як постачальник історично документував подібні випадки, або якщо обсяг і закономерність супровідних записів раптово відхиляється від базової лінії, ці несумісності є сигналами. Самі по собі вони не є переконливими. Разом, зважені та пояснені у виході ризикового балу, вони дають розслідувачам суттєву точку відліку, яку б зайняло години або дні для розробки вручну. Що робить це іншим, ніж система, яка просто прапорить згенерований штучним інтелектом вміст, це поєднання сигналів. Аналіз вмісту сам по собі може пропустити змішані документи. Поведінковий аналіз сам по собі може пропустити шахрайство вперше з відсутнім попереднім шаблоном. Це перехрестя всіх трьох шарів одночасно, оброблених за секунди, виявляє те, чого інші системи штучного інтелекту не можуть.

З вашої точки зору, які з найбільшої загрози схем шахрайства, що використовують глибоку підробку, страховикам і регулюючим органам слід слідкувати за ними в найближчі роки?

Сценарії, які мене найбільш турбують, це ті, які поєднують масштаб із правдоподібністю способами, які складно відстежувати, навіть з сильним виявленням.

Психічне здоров’я є справжньою уразливістю. Документація терапевтичних послуг у значній мірі є нарративною, включаючи нотатки сесій, плани лікування та підсумкові резюме. Не існує лабораторних значень для порівняння, не існує зображень для огляду. Фабрикований постачальник з доступом до загальної мовної моделі може згенерувати клінічно правдоподібну документацію щодо психічного здоров’я у надзвичайному обсязі, і єдиним практичним способом виявлення цього є використання штучного інтелекту, який може оцінити, чи показує документація лінгвістичні та структурні сигнатури синтетичної генерації.

Діагностичне зображення шахрайства є іншою областю, яку я уважно спостерігаю. Безкоштовні та доступні інструменти штучного інтелекту тепер можуть генерувати реалістичні варіанти медичних зображень з одного початкового зображення. Як ці інструменти покращуються, синтетичні виходи стануть складніше відрізнити від справжніх сканів без спеціального виявлення. Платники, чиї робочі процеси не мають можливості порівняння зображень, на даний момент працюють на основі довіри до того, що зображення, які вони отримують, є справжніми.

Є також нова проблема щодо шахрайства з ідентифікацією та акредитацією, коли згенерована штучним інтелектом документація підтримує фабриковану реєстрацію постачальника або попередню авторизацію для послуг, які не були медично необхідними. Ці схеми складніше виявити, оскільки шахрайство вбудоване в процес прийому, а не в самі претензії, і до того часу, як воно виходить на поверхню в даних про претензії, шкода вже завдана.

Претензії у сфері охорони здоров’я часто включають великі обсяги документації та супровідних доказів. Як система штучного інтелекту оцінює цю інформацію досить швидко, щоб зупинити шахрайські претензії до платежу?

Швидкість насправді є основним вимогами до проекту, а не чимось бажаним. Єдина можливість, за допомогою якої виявлення глибоких підробок є корисним на практиці, полягає в тому, щоб воно працювало на швидкості трубопроводу претензій. Якщо аналіз займає години або вимагає від людини ініціювати чергу перевірки, ви вже пропустили вікно перед платежем, і ви повертаєтеся до роботи з відновлення після того, як гроші вже залишили систему.

Наша система спроектована для завершення аналізу за секунди. Коли документація подається для перегляду, штучний інтелект проводить свою оцінку паралельно, а не послідовно. Аналіз синтетичного вмісту, перевірка дублікатів та поведінкове перехрестне посилання відбуваються одночасно, а не в ланцюжку. Вихід – ризиковий бал з докладними поясненнями, щоб розслідувач не мусив тлумачити сирі сигнали. Вони отримують пріоритізований, дієвий результат. Паралельна архітектура є частиною того, що дозволяє нам робити це швидше та з більшою точністю. Виконання всіх трьох шарів сигналів одночасно означає, що ризиковий бал відображає повну картину справи, а не лише перший прапор, який виник.

Більш широким моментом тут є те, що зміна, яку ми спонукаємо через всю нашу роботу в Codoxo, яку ми називаємо Point Zero, полягає в тому, щоб рухати втручання платежної цілісності якомога далі вгору. Виявлення шахрайської претензії до платежу суттєво більш ефективно, ніж відновлення переплати після факту. Відновлення є дорогим, повільним та часто неповним. Профілактика на стадії документації та перевірки доказів змінює економіку всієї проблеми.

Фахівцям із виявлення шахрайства необхідно, щоб система була пояснювана, іншим чином вони не зможуть довіряти їй. Як ви забезпечуєте, щоб ризикові бали, згенеровані штучним інтелектом, були зрозумілі та заслуговували довіри спеціальними підрозділами розслідування та командами платежної цілісності?

Пояснюваність не є чимось необов’язковим у цій сфері. Якщо розслідувач SIU буде діяти на основі ризикового балу, незалежно від того, чи це означає утримання претензії, відкриття справи чи побудову звернення для переслідування, їм потрібно бути能够 артикулювати, що система виявила і чому. Чорний ящик виходу, який говорить “високий ризик”, не є корисним інструментом у робочому процесі, який має юридичну та нормативну відповідальність, прикріплену до нього.

Кожен ризиковий бал, згенерований нашою системою, включає конкретні індикатори шахрайства, які можуть включати сигнали, які спричинили бал, закономірності, які були виявлені, та несумісності, які були виявлені. Розслідувач може слідувати логіці від балу до доказів. Такий рівень конкретики є можливим лише тому, що виявлення підходить спеціально для документації охорони здоров’я.

Ми також побудували можливість налаштовуваної підказки, яка дозволяє розслідувачам налаштовувати аналіз для конкретних сценаріїв розслідування та унікальних шаблонів шахрайства. Це важливо для пояснюваності на практиці, оскільки це означає, що система не проводить аналіз “один розмір для всіх” і не просить розслідувачів тлумачити загальні виходи. Вони можуть сформувати запит на основі того, що вони насправді шукають у конкретній справі, що робить результати більш корисними та легшими для пояснення аудиторам або в юридичних процедурах.

На нормативному рівні OIG, CMS та державні агентства збільшують увагу до того, як організації використовують штучний інтелект у профілактиці шахрайства. Спроможність продемонструвати, що ваша методологія виявлення є інтерпретовною та аудитованою, не лише є хорошою практикою, але також складовою відповідальної реалізації, яка зменшує ризик відповідності.

Як генераційний штучний інтелект продовжує покращуватися, шахраї, ймовірно, стануть більш складними. Як Codoxo проектує свої моделі для постійного адаптування до нових форм синтетичної медичної документації?

Виклик полягає в тому, що шахрайство є адверсарним за своєю суттю. Як тільки виявлення покращується, тактика на іншому боці еволюціонує. Будь-яка система, навчена один раз і розгорнута без оновлення, погіршиться з часом, оскільки шахраї вчаться, що спрацьовує її, і коригують. Це та ж сама фундаментальна проблема, яка робить будь-який статичний підхід до виявлення недостатнім, незалежно від того, чи це засновано на правилах, чи це модель штучного інтелекту, яка не спроектована для оновлення. Складність інструменту не має значення, якщо архітектура не може тримати темп з загрозою.

Наш підхід полягає в тому, щоб розглядати виявлення як безперервно оновлювану здатність, а не фіксований продукт. Як тільки нові шаблони шахрайства з’являються в системі, і як тільки техніки генерації штучного інтелекту еволюціонують, ці шаблони повертаються до покращення моделі. Система спроектована для покращення ідентифікації нової загрози, а не лише тих, які існували на момент розгортання. Це важливо з огляду на темп, з яким генераційний штучний інтелект просувається вперед, і швидкість, з якою шахраї експериментують з новими підходами, включаючи деякі адверсарні техніки, такі як троянські двигуни глибоких підробок, які спроектовані для підміну виявлення.

Це буде тривалий конкурс. Не існує кінцевого, вирішеного стану. Зобов’язання, яке ми прийняли, полягає в тому, щоб тримати здатності виявлення актуальними для загрози, і наша агентна архітектура є тим, що робить це можливим у масштабі.

Оглядаючи вперед, ви вважаєте, що виявлення глибоких підробок стане стандартною складовою інфраструктури охорони здоров’я, подібно до того, як системи проти відмивання грошей працюють у фінансах, чи галузь потребуватиме цілком нових підходів до довіри та верифікації медичних даних?

Я вважаю, що виявлення глибоких підробок стане стандартною інфраструктурою, і графік цього коротший, ніж більшість людей у галузі очікують. До того, якrameworkи проти відмивання грошей стали стандартними у фінансових послугах, галузь сильно покладалася на моделі, засновані на правилах, і ручну перевірку. Зміна відбулася, коли загроза досягла масштабу, який зробив реактивне виявлення явно недостатнім, і коли нормативна середа кодифікувала очікування того, що фінансові інститути будуть мати систематичні, безперервно оновлювані контролю. Охорона здоров’я наближається до подібної точки інфлексії.

Що вже відбувається, це те, що платники, які розгортають виявлення глибоких підробок зараз, роблять це, оскільки загроза реальна і присутня, а не тому, що це вимагається регуляторами. Як тільки ці перші розгортання генерують докази втрат, які запобігаються, і як тільки схеми шахрайства, що використовують штучний інтелект, стануть більш видимими в заходах щодо виконання законодавства та публічних повідомленнях, очікування поширяться по всій галузі.

Оглядаючи вперед, як генераційний штучний інтелект продовжує покращуватися, галузь може потребувати переосмислення того, як автентичність документації встановлюється на етапі створення, а не верифікується після факту. Це може означати криптографічну атестацію клінічних записів на рівні електронної медичної документації, верифікацію ідентифікації постачальника, інтегровану до робочого процесу документації, або інші механізми, які роблять походження документа відстежуваним способами, яких зараз не існує. Виявлення на рівні претензій є необхідною відповіддю на поточну загрозу. Але тривка рішення може потребувати будівництва верифікації глибше в інфраструктуру того, як медичні записи створюються та передаються.

Дякуємо за велике інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Codoxo.