Доктор Мушир Ахмед, PhD, основатель и генеральный директор Codoxo – Интервью

Доктор Мушир Ахмед, PhD, основатель и генеральный директор Codoxo – технолог и предприниматель, который применяет искусственный интеллект для решения системных неэффективностей в здравоохранении. Он основал Codoxo на основе исследований, которые он проводил во время своей аспирантуры в Технологическом институте Джорджии, где он создал основы запатентованного подхода к обнаружению мошенничества, расточительства и злоупотреблений в медицинских счетах. Под его руководством компания выросла в поставщика решений для обеспечения целостности платежей на основе искусственного интеллекта, которые помогают организациям здравоохранения выявлять риски раньше и переходить от реактивных аудитов к проактивному содержанию затрат. Его предыдущий опыт в области безопасности интеллекта в VeriSign (VRSN ), где он работал над выявлением новых киберугроз и уязвимостей, сформировал его фокус на использовании продвинутых аналитических и машинных обучающих методов для обнаружения скрытых закономерностей в сложных данных.

Codoxo – это компания в области здравоохранения, которая использует искусственный интеллект для снижения неэффективностей и ненужных затрат в системе здравоохранения посредством своей платформы Forensic AI. Платформа использует запатентованные алгоритмы и машинное обучение для анализа огромных объемов данных о счетах, выявления подозрительного поведения, аномалий в выставлении счетов и выявления новых схем мошенничества раньше, чем традиционные системы. Позволяя страховщикам здравоохранения, государственным агентствам и менеджерам по аптечным льготам вмешиваться до или во время процесса выставления счетов, Codoxo смещает отрасль в сторону проактивной целостности платежей, а не ретроспективного восстановления. Ее более широкая объединенная платформа по содержанию затрат включает в себя добычу данных, образование поставщиков, рабочие процессы аудита и управление делами, помогая организациям улучшать точность, снижать переплаты и оптимизировать операции, решая проблему сотен миллиардов долларов, потерянных ежегодно из-за мошенничества, расточительства и злоупотреблений.

Вы основали Codoxo после исследования обнаружения мошенничества в здравоохранении во время своей аспирантуры в Технологическом институте Джорджии. Что первым убедило вас, что искусственный интеллект может фундаментально изменить способ обнаружения мошенничества, расточительства и злоупотреблений в системах здравоохранения?

Я стал убежденным не в один момент, а столкнувшись с тем, насколько плохо работал существующий подход. Мошенничество в здравоохранении в США представляет собой сумму около 330 миллиардов долларов, потерянных ежегодно. Это больше, чем любая другая форма страхового мошенничества в стране, и все же доминирующие методы обнаружения могли поймать только то, на что они были обучены. Даже когда искусственный интеллект вошел в картину, большинство подходов были реактивными, сопоставляя известные схемы мошенничества, а не выявляя неизвестные. Момент, который кристаллизовал это для меня, был осознанием того, что мошенничество – это не статическая проблема. Плохие акторы адаптируются. Они учатся, что вызывает флаг, и обходят его. Система, построенная на фиксированных правилах, по определению, всегда отстает.

Искусственный интеллект предлагает способность выявлять закономерности, которые никто не подумал запрограммировать заранее. Во время моей диссертационной работы в Технологическом институте Джорджии я строил модели, которые могли просматривать всю историю счетов поставщика, выявлять аномалии поведения и соединять сигналы, которые человеческий аналитик или двигатель правил никогда не связал бы. Группа консультантов JASON, которая консультирует правительство США по науке и технологиям, признала эту работу как решение реальных структурных пробелов в использовании данных о здравоохранении для целостности платежей. Это признание показало мне, что проблема достаточно серьезна, чтобы построить компанию вокруг нее.

Основная убежденность, которая заставила меня тогда, является той же, что заставляет нас строить то, что мы строим в Codoxo сейчас: данные о счетах на здравоохранение содержат сигнал, который вам нужен, чтобы поймать мошенничество, но вы можете извлечь его только с помощью искусственного интеллекта, который может посмотреть на полную картину, быстро и точно, а не проверять коробки.

Мошенничество в здравоохранении давно является многомиллиардной проблемой, но генеративный искусственный интеллект, кажется, ускоряет его драматически. Как появление инструментов, способных производить убедительную клиническую документацию и диагностические изображения, изменило ландшафт угроз для страховщиков здравоохранения и команд по целостности платежей?

Это изменило его фундаментальным образом, и отрасль еще не полностью осознала, насколько значительным является это изменение. Старая модель документального мошенничества требовала ручных усилий. Плохой актор, совершавший мошенничество, должен был фабриковать заметки один за другим, изменять изображения индивидуально и создавать записи, которые были достаточно правдоподобными, чтобы выжить в проверке. Это трение создало естественный потолок для масштаба любой схемы.

Генеративный искусственный интеллект удалил этот потолок. Сегодня любой может попросить большую языковую модель произвести 50 терапевтических сеансовых заметок для лечения тревоги и получить их менее чем за пять минут. Эти заметки будут использовать соответствующую клиническую терминологию, следовать правдоподобной повествовательной структуре и выглядеть внутренне последовательно. Большинство систем обнаружения мошенничества не были разработаны для оценки того, является ли документ подлинным или синтетическим. Они были разработаны для проверки того, были ли коды выставления счетов применены правильно, флагирования известных закономерностей и сопоставления с существующими сигнатурами мошенничества. Итак, синтетическая документация проходит прямо через, даже мимо некоторых систем, которые утверждают, что имеют компонент искусственного интеллекта.

Мы также видели это с диагностической визуализацией. Одна легитимная рентгенограмма может быть использована в качестве семени для десятков сгенерированных искусственным интеллектом вариантов, каждый из которых представлен под вымышленным пациентом. Система без возможности сравнения изображений видит 50 уникальных случаев, но реальность такова, что один реальный скан и 49 синтетических дубликатов. Ландшафт угроз сместился от изолированных плохих акторов к людям, которые могут запускать масштабные, повторяющиеся схемы с几乎 никакими техническими знаниями.

Многие традиционные системы обнаружения мошенничества полагаются на модели, основанные на правилах, и ручной проверке. Почему эти подходы становятся все более неэффективными при борьбе с медицинскими записями, сгенерированными искусственным интеллектом, или манипулированными диагностическими изображениями?

Большинство подходов к обнаружению мошенничества, будь то основанные на правилах или ранние поколения искусственного интеллекта, работают на фундаментально ошибочном предположении: что вся документация, поступающая в систему, была создана человеком, следующим нормальным клиническим процессам. Как только это предположение разрушается, вся система обнаружения разрушается вместе с ним.

Двигатель правил может флагировать невозможную комбинацию кодов, поставщика, выставляющего счет за больше часов, чем существует в день, или процедуру, выполненную на умершем пациенте. Это все реальные и полезные поимки. Но логика, основанная на правилах, не может посмотреть на прогрессную заметку и определить, была ли она написана клиницистом, который фактически увидел пациента, или сгенерирована моделью искусственного интеллекта, которая никогда не практиковала медицину. Два вывода могут быть структурно идентичными.

Ручная проверка имеет тот же потолок. Исследования показывают, что только около 34% людей могут определить глубокую подделку, даже когда им сказали, что она присутствует, и они активно ищут ее. Расследователь SIU, проверяющий кучу прогрессных заметок, не имеет специальной судебно-медицинской подготовки для обнаружения синтетического текста, не имеет инструментов для сравнения изображений для обнаружения клонированных сканов и не имеет достаточно часов в день, чтобы провести такой уровень проверки для каждого счета. Проблема объема сама по себе делает полную ручную проверку невозможной, и это было верно до того, как генеративный искусственный интеллект начал ускорять объем и сложность фальшивой документации.

Существует также возникающая угроза, которую, я думаю, недооценивают: так называемые троянские двигатели глубоких подделок. Это вирусоподобные агенты, предназначенные специально для нейтрализации программного обеспечения для обнаружения, работая через тактику, такую как нарушение анализа изображений или злонамеренное переинжиниринг запросов. Итак, противостояние не только в том, что мошенники генерируют лучшие подделки. В некоторых случаях они активно пытаются сломать инструменты, которые строятся для их поимки. Этот динамизм гонки вооружений является частью того, почему статические подходы к обнаружению, будь то основанные на правилах или фиксированная модель искусственного интеллекта, всегда отстанут. Защита должна быть такой же адаптивной, как и нападение.

Codoxo недавно запустил Deepfake Detection, чтобы решить эту возникающую проблему. На высоком уровне, как технология анализирует медицинскую документацию и изображения, чтобы определить, может ли контент быть сгенерирован или манипулирован искусственным интеллектом?

Основной принцип конструкции заключается в том, что мы построили Deepfake Detection специально для документации здравоохранения, а не переделали общую систему обнаружения искусственного интеллекта в клинический контекст. Это означает, что модели обучены на сигналах, специфичных для здравоохранения, а не адаптированы из инструментов, построенных для других отраслей или случаев. Это различие имеет значение, потому что сигналы, которые указывают на синтетический контент в медицинской записи или диагностическом изображении, отличаются от сигналов, которые имеют отношение в других областях.

На высоком уровне система анализирует медицинскую документацию и изображения вместе с полным контекстом счета, и она делает это за секунды. Когда расследователь SIU загружает подозрительную документацию, искусственный интеллект запускает анализ по нескольким измерениям одновременно. Он ищет индикаторы синтетического или манипулированного контента, проверяет на клонирование и дублирование закономерностей в более широкой истории счетов плательщика и оценивает поведенческую последовательность между документацией и историческими закономерностями поставщика.

Одна вещь, которую стоит отметить, – это разнообразие форматов, с которыми может работать система. Она обрабатывает текстовые документы в PDF, Word и XML, электронные таблицы, медицинские изображения и даже рукописные заметки. Это имеет значение на практике, потому что фальшивая документация не поступает в один аккуратный формат, и система обнаружения, которая охватывает только часть того, что получают команды SIU, оставляет пробелы, которые изощренные мошенники в конечном итоге найдут.

Из всего этого анализа система генерирует балл риска по шкале от 0 до 100 с подробными объяснениями, так что расследователь понимает точно, какие сигналы привели к баллу. Цель на каждом этапе – производить действенные выводы, а не просто оповещения, и делать это быстрее и с большей точностью, чем более общая система. Скорость имеет значение, потому что единственная точка вмешательства, которая существенно меняет экономику мошенничества, – это до того, как произведен платеж.

Ваша платформа подчеркивает возможности, такие как обнаружение клонирования, выявление частично сгенерированного искусственным интеллектом контента и поведенческое пересечение с историей счетов. Можете ли вы пройти через то, как эти сигналы объединяются, чтобы произвести значимый балл риска для расследователей?

Каждая из этих возможностей решает разную схему мошенничества, и балл риска отражает, как они взаимодействуют в конкретном случае.

Обнаружение клонирования и дублирования решает сценарий, в котором один подлинный запись реплицируется на несколько фабрикованных пациентов. То, что делает это трудным для поимки без искусственного интеллекта, – это то, что вариации могут быть достаточно тонкими, чтобы ни один документ не выглядел подозрительным в изоляции. Закономерность становится видимой только при сравнении через всю популяцию счетов. Наша система может выявить, что набор записей, которые выглядят уникальными на поверхности, на самом деле являются производными от общего источника.

Обнаружение частично сгенерированного искусственным интеллектом контента важно, потому что изощренные мошенники не всегда фабриковали записи с нуля. Более распространенная и трудная для поимки закономерность – это смешивание, которое означает взятие легитимной записи пациента и использование искусственного интеллекта для добавления фабрикованных дополнительных услуг или процедур. Аутентичные разделы делают документ выглядящим достоверным, но добавленные разделы представляют собой счета за уход, который не был оказан. Наша система специально настроена на поиск этих случаев.

Поведенческое пересечение соединяет документацию, которая рассматривается, с полной историей счетов поставщика. Если документация представляет клинические повествования, которые не последовательны с тем, как поставщик исторически документировал подобные случаи, или если объем и закономерность поддерживающих записей внезапно отклоняются от базовой линии, эти несоответствия являются сигналами. Сам по себе ни один из них не является окончательным. Вместе, взвешенные и объясненные в выходных данных балла риска, они дают расследователям значимую отправную точку, которую потребуется часы или дни, чтобы разработать вручную. То, что делает это khácным от системы, которая просто флагирует контент, сгенерированный искусственным интеллектом, – это сочетание сигналов. Анализ контента сам по себе может пропустить смешанные документы. Поведенческий анализ сам по себе может пропустить первого мошенника без предыдущей закономерности. Это пересечение всех трех слоев сигналов одновременно, обработанных за секунды, – это то, что поймывает то, что другие системы искусственного интеллекта не могут.

Из вашей точки зрения, какие из глубоких подделок, облегченных искусственным интеллектом, наиболее тревожные схемы мошенничества в здравоохранении, за которыми страховщики и регулирующие органы должны следить в ближайшие годы?

Сценарии, которые меня больше всего беспокоят, – это те, которые сочетают масштаб с правдоподобием таким образом, что трудно отслеживать, даже с сильным обнаружением.

Здравоохранение является реальной уязвимостью. Документация для терапевтических услуг в основном повествовательная, включая сеансовые заметки, планы лечения и прогрессные сводки. Нет лабораторных значений, которые можно было бы сопоставить, нет изображений, которые можно было бы изучить. Фальшивый поставщик с доступом к общей языковой модели может сгенерировать клинически правдоподобную документацию для здравоохранения в необычайном объеме, и единственный практический способ обнаружить это – использовать искусственный интеллект, который может оценить, показывает ли документ лингвистические и структурные сигнатуры синтетической генерации.

Мошенничество с диагностической визуализацией – это другая область, за которой я слежу внимательно. Свободные и доступные инструменты искусственного интеллекта могут теперь генерировать реалистичные медицинские изображения, варьирующиеся от одного исходного изображения. По мере улучшения этих инструментов синтетические выводы станут труднее отличить от аутентичных сканов без специально построенных инструментов обнаружения. Плательщики, у которых нет возможностей по форензике изображений, на данный момент работают на доверии, что изображения, которые они получают, реальны.

Существует также возникающая проблема вокруг подделки личности и аутентификации, когда документация, сгенерированная искусственным интеллектом, поддерживает фальшивую регистрацию поставщика или предварительное разрешение на услуги, которые не были медицински необходимы. Эти схемы труднее обнаружить, потому что мошенничество встроено в процесс приема, а не в сами счета, и к тому времени, когда оно появляется в данных о выставлении счетов, ущерб уже нанесен.

Счета на здравоохранение часто включают большие объемы документации и поддерживающих доказательств. Как система искусственного интеллекта оценивает эту информацию достаточно быстро, чтобы остановить фальшивые счета до того, как произведен платеж?

Скорость на самом деле является основным требованием к конструкции, а не приятным бонусом. Единственный способ, которым Deepfake Detection полезен на практике, – это если он работает на скорости трубопровода счетов. Если анализ занимает часы или требует от человека инициировать очередь проверки, вы уже пропустили окно предоплаты, и вы возвращаетесь к работе по восстановлению после того, как деньги уже покинули систему.

Наша система разработана для завершения анализа за секунды. Когда документация представлена для проверки, искусственный интеллект запускает свою оценку параллельно, а не последовательно. Анализ синтетического контента, проверки на дублирование и поведенческое пересечение происходят одновременно, а не в цепи. Вывод – это балл риска с подробными объяснениями, так что расследователь не должен интерпретировать сырые сигналы. Он получает приоритизированный, действенный результат. Параллельная архитектура является частью того, что позволяет нам делать это быстрее и с большей точностью. Запуск всех трех слоев сигналов одновременно означает, что балл риска отражает полную картину дела, а не только первый флаг, который появился.

Более широкая точка здесь заключается в том, что сдвиг, за который мы выступаем во всей работе Codoxo, который мы называем Point Zero, – это сдвиг вмешательства по целостности платежей как можно дальше вверх по потоку. Поймать фальшивый счет до того, как произведен платеж, – это намного более эффективно, чем восстановление переплаты после того, как она была произведена. Восстановление дорого, медленно и часто неполно. Предотвращение на этапе проверки документации и доказательств меняет экономику всей проблемы.

Инструменты обнаружения мошенничества должны быть объяснимыми для расследователей, аудиторов и регулирующих органов. Как вы обеспечиваете, что баллы риска, сгенерированные искусственным интеллектом, могут быть поняты и доверены Специальными подразделениями расследований и командами по целостности платежей?

Объяснимость не является необязательной в этой области. Если расследователь SIU собирается действовать на основе балла риска, будь то удержание счета, открытие дела или построение рекомендации для преследования, он должен быть в состоянии артикулировать, что система нашла и почему. Черный ящик вывода, который говорит “высокий риск”, – это не полезный инструмент в рабочем процессе, который имеет юридическую и регулирующую ответственность, прикрепленную к нему.

Каждый балл риска, сгенерированный нашей системой, включает конкретные индикаторы мошенничества, которые могут включать сигналы, которые привели к баллу, закономерности, выявленные, и несоответствия, которые были выявлены. Расследователь может следовать логике от балла к доказательствам. Этот уровень конкретики возможен только потому, что основное обнаружение построено специально для документации здравоохранения.

Мы также построили в настраиваемую функцию запроса, которая позволяет расследователям адаптировать анализ для конкретных сценариев расследования и уникальных закономерностей мошенничества. Это важно для объяснимости на практике, потому что оно означает, что система не запускает один-размер-подходит-всем анализ и не просит расследователей интерпретировать общие выводы. Они могут сформировать запрос на основе того, что они фактически ищут в данном случае, что делает результаты более полезными и легкими для объяснения аудиторам или в юридических процедурах.

На регулирующем уровне OIG, CMS и государственные агентства увеличивают проверку того, как организации используют искусственный интеллект в предотвращении мошенничества. Способность продемонстрировать, что ваша методология обнаружения является интерпретируемой и аудиторской, – это не только хорошая практика, но и компонент ответственной реализации, который снижает риск соблюдения.

По мере того, как генеративный искусственный интеллект продолжает улучшаться, мошенники, вероятно, станут более изощренными. Как Codoxo проектирует свои модели, чтобы постоянно адаптироваться к новым формам синтетической медицинской документации?

Проблема заключается в том, что мошенничество является противостоящим по своей природе. По мере улучшения обнаружения тактика на другой стороне эволюционирует. Любая система, обученная один раз и развернутая без обновления, ухудшится со временем, поскольку мошенники учатся, что запускает ее, и корректируют. Это та же фундаментальная проблема, которая делает любой статический подход к обнаружению недостаточным, будь то основанный на правилах или модель искусственного интеллекта, которая не предназначена для обновления. Сложность инструмента не имеет значения, если основная архитектура не может идти в ногу с угрозой.

Наш подход заключается в том, чтобы рассматривать обнаружение как непрерывно обновляемую возможность, а не фиксированный продукт. По мере появления новых закономерностей мошенничества в системе и эволюции техник генерации искусственного интеллекта эти закономерности отражаются в улучшении модели. Система разработана для того, чтобы стать лучше в выявлении возникающей угрозы, а не только тех, которые существовали на момент развертывания. Это важно, учитывая темп, с которым генеративный искусственный интеллект продвигается, и скорость, с которой мошенники экспериментируют с новыми подходами, включая некоторые противостоящие методы, такие как троянские двигатели глубоких подделок, предназначенные для подрыва инструментов, построенных для их поимки.

Это будет непрерывный конкурс. Нет окончательного, решенного состояния. Коммитмент, который мы приняли, – это поддерживать возможности обнаружения в актуальном состоянии с угрозой, и наша агентная архитектура – это то, что делает это возможным в масштабе.

Оглядываясь вперед, считаете ли вы, что обнаружение глубоких подделок станет стандартным компонентом инфраструктуры здравоохранения, подобно тому, как системы противодействия отмыванию денег работают в финансах, или отрасли потребуют совершенно новых подходов к доверию и верификации медицинских данных?

Я думаю, что обнаружение глубоких подделок станет стандартной инфраструктурой, и срок на это короче, чем большинство людей в отрасли ожидают. До того, как рамки противодействия отмыванию денег стали стандартными в финансовых услугах, отрасль сильно полагалась на обнаружение, основанное на правилах, и ручную проверку. Сдвиг произошел, когда угроза достигла масштаба, который сделал реактивное обнаружение явно недостаточным, и когда регулирующая среда кодифицировала ожидание, что финансовые учреждения будут иметь систематические, непрерывно обновляемые контроли на месте. Здравоохранение приближается к подобной точке бифуркации.

То, что уже происходит, – это то, что плательщики, которые развертывают обнаружение глубоких подделок сейчас, делают это, потому что угроза реальна и присутствует, а не потому, что регулирование требует этого. По мере того, как эти ранние развертывания генерируют доказательства потерь, предотвращенных, и по мере того, как схемы мошенничества, облегченные искусственным интеллектом, становятся более видимыми в действиях по обеспечению соблюдения и публичных отчетах, ожидание распространится по всей отрасли.

Оглядываясь вперед, по мере того, как генеративный искусственный интеллект продолжает улучшаться, отрасль может потребовать переосмыслить, как аутентичность документации устанавливается на момент создания, а не проверяется после факта. Это может означать криптографическую аутентификацию клинических записей на уровне электронных медицинских записей, верификацию личности поставщика, интегрированную в рабочий процесс документации, или другие механизмы, которые делают происхождение документа отслеживаемым способами, которыми оно сейчас не является. Обнаружение на уровне счетов является необходимым ответом на текущую угрозу. Но долгосрочное решение может потребовать построения верификации глубже в инфраструктуру того, как создаются и передаются медицинские записи.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Codoxo.