Dr. Musheer Ahmed, PhD, Codoxo’nun Kurucusu ve CEO’su – Röportaj Serisi

Dr. Musheer Ahmed, PhD, Codoxo’nun Kurucusu ve CEO’su, sağlık hizmetlerindeki sistemik verimsizlikleri çözmek için yapay zekayı uygulayan bir teknoloji uzmanı ve girişimcidir. Georgia Teknoloji Enstitüsü’ndeki PhD çalışmaları sırasında geliştirdiği tıbbi taleplerde sahtecilik, israf ve suistimali tespit etmeye yönelik patentli bir yapay zeka yaklaşımının temelini attı. Liderliği altında şirket, sağlık organizasyonlarının riskleri daha erken tespit etmesine ve reaktif denetimlerden proaktif maliyet kontrolüne geçmesine yardımcı olan yapay zeka tabanlı ödeme bütünlüğü çözümleri sağlayıcısına dönüştü. Daha önceki güvenlik istihbaratındaki deneyimi, VeriSign’de ortaya çıkan siber tehditleri ve zafiyetleri belirlemesinde, gelişmiş analitik ve makine öğrenimi kullanarak karmaşık veri ortamlarındaki gizli kalıpları ortaya çıkarmaya odaklanmasını şekillendirdi.

Codoxo, sağlık hizmetleri AI şirketi, Forensic AI Platform’u aracılığıyla sağlık sistemi boyunca verimsizlikleri ve gereksiz maliyetleri azaltmaya odaklanmıştır. Platform, patentli algoritmalar ve makine öğrenimi kullanarak talep verilerini analiz eder, şüpheli davranışları, faturalama anormalliklerini ve ortaya çıkan sahtecilik kalıplarını geleneksel sistemlerden daha erken tespit eder. Sağlık ödemeleri, hükümet kurumları ve eczane yararları yöneticilerini talepler sırasında veya sırasında müdahale etmelerine olanak tanıyan Codoxo, endüstrisini reaktif geri kazanma yerine proaktif ödeme bütünlüğüne doğru yönlendirir. Daha geniş birleştirilmiş maliyet kontrol platformu, veri madenciliği, sağlayıcı eğitimi, denetim iş akışları ve vaka yönetimi entegre ederek organizasyonların doğruluğu artırmasına, fazla ödemeleri azaltmasına ve operasyonları düzene sokmasına yardımcı olurken, yılda milyarlarca dolarlık sahtecilik, israf ve suistimal kaybını ele alır.

Siz Codoxo’yu, Georgia Tech’te sağlık sahteciliği tespiti üzerine araştırmalar yaptıktan sonra kurmuştunuz. Sağlık sistemlerindeki sahtecilik, israf ve suistimalin nasıl tespit edileceğinde yapay zekanın temel olarak değiştirebileceğine ilk olarak ne sizi inandırdı?

Beni inandıran tek bir an değil, mevcut yaklaşımın ne kadar kötü çalıştığıyla yüzleşmemdi. ABD’de sağlık sahteciliği yılda yaklaşık 330 milyar dolarlık kayıp temsil etmektedir. Bu, ülkenin diğer tüm sigorta sahteciliklerinin toplamından daha fazla ve mevcut tespit yöntemleri yalnızca önceden eğitilmiş oldukları sahtecilik şemalarını yakalayabiliyordu. Yapay zeka sahneye girdikçe, çoğu yaklaşım reaktifti, bilinen sahtecilik şemalarına karşı modelleme yapıyorlardı, bilinmeyenlerini ortaya çıkarmıyorlardı. Bana bunu kristalize eden an, sahteciliğin statik bir problem olmadığını fark etmekti. Kötü aktörler adapte olurlar. Tetikleyicileri öğrenirler ve etrafından geçerler. Sabit kurallara dayalı bir sistem, tanım itibariyle her zaman geridedir.

Yapay zeka, önceden programlanmamış kalıpları ortaya çıkarma yeteneği sunar. Georgia Tech’teki tez çalışmam sırasında, bir sağlayıcının tam talepler tarihçesini inceleyebilen, davranışsal anormallikleri tanımlayabilen ve bir insan analisti veya kurallar motorunun asla bağlantılı olmayacağı sinyalleri bağlayabilen modeller inşa ediyordum. JASON danışma grubu, ABD hükümetine bilim ve teknoloji konusunda danışmanlık yapan grup, bu çalışmayı sağlık verilerinin ödeme bütünlüğü için nasıl kullanıldığındaki gerçek yapısal boşlukları ele alan bir çalışma olarak tanıdı. Bu tanınma, problemin bir şirket kurmak için yeterli olduğunu bana söyledi.

Bana o zaman iten temel inanç, şimdi Codoxo’da inşa ettiğimiz şeyin arkasındaki aynı inançtır: sağlık talepleri verileri, sahteciliği yakalamak için gerekli sinyali içerir, ancak yalnızca hızlı ve doğru bir şekilde tam resme bakabilen yapay zeka ile bunu çıkarabilirsiniz.

Üretken AI, sağlık sigortacıları ve ödeme bütünlüğü ekipleri için tehdit manzarasını nasıl değiştirdi? İnançlı klinik belgeleri ve teşhis görüntüleri üretebilen araçlar, sahtecilik riskini nasıl etkiledi?

Bu, temel olarak değiştirdi ve endüstri henüz ne kadar önemli bir değişim olduğunu tam olarak kavramadı. Eski modelde belge sahteciliği, manuel çaba gerektiriyordu. Bir sahtekar, notları tek tek uydurmak, görüntüleri bireysel olarak değiştirmek ve incelemeden geçebilecek kayıtlar oluşturmak zorundaydı. Bu sürtünme, herhangi bir scheme için doğal bir tavan oluşturdu.

Üretken AI, bu tavanı kaldırdı. Bugün, biri büyük bir dil modelinden 50 terapi seans notunu anksiyete tedavisi için üretmesini isteyebilir ve beş dakikadan kısa sürede bunları alabilir. Bu notlar, uygun klinik terminolojiyi kullanır, inandırıcı bir anlatı yapısını takip eder ve içsel olarak tutarlı görünür. Çoğu sahtecilik tespit sistemi, bir belgenin gerçek mi yoksa sentetik mi olduğunu değerlendirmek için tasarlanmadı. Doğru faturalama kodlarının uygulanıp uygulanmadığını, bilinen kalıpları işaretleyip işaretlemediğini ve mevcut sahtecilik imzalarına karşı eşleştirmek için tasarlandılar. Bu nedenle sentetik belge, hatta bazı sistemlerin iddia ettiği AI bileşenine rağmen, kolayca geçer.

Ayrıca teşhis görüntülerinde bunu gördük. Tek bir gerçek X-ray, farklı hasta adları altında sunulan onlarca AI tarafından üretilen varyant için kullanılabilir. Bir sistem, görüntüleri karşılaştırmak için hiçbir khảitesi yoksa, 50 benzersiz görünen vakayı görür, ancak gerçeklikte bir gerçek tarama ve 49 sentetik kopya vardır. Tehdit manzarası, izole kötü aktörlerden, teknik uzmanlık gerektirmeden ölçeklenebilir, tekrar edilebilir şemaları çalıştırabilen insanlara kaydı.

Geleneksel sahtecilik tespit sistemleri, kural tabanlı modellere ve manuel incelemeye dayanmaktadır. Neden AI tarafından üretilen tıbbi kayıtlar veya değiştirilen teşhis görüntüleri ile başa çıkmada bu yaklaşımlar giderek etkisiz hale geliyor?

Çoğu sahtecilik tespit yaklaşımı, ister kural tabanlı isterse daha önceki nesil AI olsun, şu anda temel olarak yanlış bir varsayımı işler: sisteme giren tüm belgelerin bir insan tarafından normal klinik süreçleri izleyerek oluşturulduğu varsayımı. Bu varsayım bozulduğunda, tüm tespit yaklaşımı da bozulur.

Bir kural motoru, imkansız bir kod kombinasyonunu, bir sağlayıcının bir günde var olan saatlerden daha fazla saat faturalamasını veya bir prosedürü ölü bir hastaya uygulamasını işaretleyebilir. Bunlar gerçek ve yararlı yakalamalardır. Ancak kural tabanlı mantık, bir ilerleme notunun gerçekten bir klinisyen tarafından yazılmış olup olmadığını, yoksa tıpla hiç uğraşmamış bir AI modeli tarafından üretildiğini belirleyemez. İki çıktı yapısal olarak aynı olabilir.

Manuel inceleme de aynı tavana sahiptir. Çalışmalar, insanların yaklaşık %34’ünün derin sahteciliği tespit edebileceğini, hatta bir tanesinin mevcut olduğunu bilip aktif olarak arıyor olsalar bile gösteriyor. Bir SIU soruşturmacısı, sentetik metni tespit etmeye yönelik hiçbir özel adli eğitim without, hiçbir görüntü karşılaştırma aracı olmadan ve yeterli saat olmadan her talebi bu düzeyde incelemeyecek. Hacim problemi alone, kapsamlı manuel incelemeyi imkansız kılar ve bu, üretken AI’nin sahtecilik belgelerinin hacmini ve karmaşıklığını hızlandırmasıyla önce de böyleydi.

Altını çizmek istediğim bir başka tehdit, araştırmacıların “trojan deepfake motorları” olarak adlandırdığı şeydir. Bunlar, özellikle görüntü analizi bozulması veya kötü niyetli.prompt yeniden mühendisliği gibi taktiklerle, tespit yazılımlarını neutralize etmek için tasarlanmış virüs benzeri ajanlardır. Böylece adversarial dinamik, sadece sahtekarların daha iyi sahtecilikler üretmesi değil, aynı zamanda onları yakalamak için inşa edilen araçları aktif olarak bozmaya çalışmasıdır. Bu yarış, neden statik tespit yaklaşımlarının, ister kural tabanlı olsun, isterse güncellenmeyen bir AI modeli olsun, her zaman geride kalacağından emin olacağından.

Codoxo最近 Deepfake Detection lançadı. Yüksek düzeyde, bu teknoloji nasıl tıbbi belgeleri ve görüntüleri analiz ediyor ve içeriklerin AI tarafından üretildiği veya değiştirildiği konusunda karar veriyor?

Temel tasarım ilkesi, Deepfake Detection’ı sağlık belgeleri için özel olarak inşa etmemizdir, genel amaçlı bir AI tespit aracını klinik bir bağlama uyarlamaktan ziyade. Bu ayrım önemlidir, çünkü tıbbi bir kayda veya teşhis görüntüsündeki sentetik içeriği gösteren sinyaller, diğer alanlardaki sinyallerden farklıdır.

Yüksek düzeyde, sistem, tam talep bağlamı ile birlikte tıbbi belgeleri ve görüntüleri analiz eder ve bunu saniyeler içinde yapar. Bir SIU soruşturmacısı şüpheli belgeleri yüklediğinde, AI, birden fazla boyutta aynı anda analiz çalıştırır. Sentetik veya değiştirilmiş içeriğin göstergelerini arar, talep tarihindeki klonlama ve çoğaltma kalıplarını kontrol eder ve belgelerin sağlayıcının geçmiş kalıplarıyla davranışsal tutarlılığını değerlendirir.

Değinilmesi gereken bir nokta, sistemin çalışabileceği formatların genişliğidir. PDF, Word ve XML’deki metin belgelerini, elektronik tabloları, tıbbi görüntüleri ve hatta el yazısı notları işler. Bu, uygulamada önemlidir, çünkü sahtecilik belgeleri tek bir düzenli formatta gelmez ve yalnızca bazılarını işleyen bir tespit sistemi, sofistike sahtekarların sonunda bulacağı boşlukları bırakır.

Bu analizden, sistem, 0 ile 100 arasında bir risk puanı üretir ve ayrıntılı açıklamalar eklenir, böylece soruşturmacı, puana hangi sinyallerin yol açtığını tam olarak anlar. Her aşamadaki hedef, eyleme geçirilebilir çıktılar üretmektir, daha genel bir sistemden ziyade, hızlı ve daha büyük bir doğrulukla bunu yapmaktır.

Platformunuz, klonlama tespiti, kısmi AI üretimi tanımı ve davranışsal çapraz referanslama gibi yetenekleri vurgulamaktadır. Bu sinyallerin, soruşturmacılar için anlamlı bir risk puanı üretmek üzere nasıl birleştiğini açıklar mısınız?

Her bir yetenek, farklı bir sahtecilik modelini hedef alır ve risk puanı, bu modellerin belirli bir durumda nasıl etkileşime girdiğini yansıtır.

Klonlama ve çoğaltma tespiti, bir gerçek kaydın birden fazla uydurma hastaya çoğaltılması senaryosunu ele alır. Bu, tek bir belgenin tek başına şüpheli görünmemesi, ancak tam talep nüfusunu karşılaştırdığınızda görünür hale gelen bir modeldir. Sistem, görünüşte benzersiz olan bir dizi kaydın aslında ortak bir kaynaktan türetilmiş türevler olduğunu ortaya çıkarabilir.

Kısmi AI üretimi tespiti önemlidir, çünkü sofistike sahtekarlar her zaman tüm kayıtları sıfırdan uydurmazlar. Daha yaygın ve daha zor tespit edilebilen bir model, bir gerçek hasta kaydını alıp AI kullanarak ek uydurma hizmetler veya prosedürler eklemektir. Gerçek bölümler belgenin inandırıcı görünmesini sağlar, ancak ek bölümler, sunulan bakım için talepleri temsil eder. Sistem, bu örnekleri özellikle tanımlamak için tasarlanmıştır.

Behavioral çapraz referanslama, incelenen belgeleri sağlayıcının tam talep tarihçesiyle bağlar. Belgeler, benzer vakalarda nasıl belgeler olduğunu tarihi olarak sunmuşsa, veya destekleyici kayıtların hacmi ve modeli aniden bazline saparsa, bu tutarsızlıklar sinyallerdir. Tek başlarına, hiçbiri kesin değildir. Birlikte, ağırlıklı ve risk puanı çıktısında açıklanmış, soruşturmacılara, manuel olarak geliştirmek için saatler veya günler alacak bir öncelikli, eyleme geçirilebilir sonuç sağlar. Bu, yalnızca sahtecilik içeriğini işaretleyen bir sistemden farklıdır, çünkü tüm üç sinyal katmanının kesişimi, diğer AI sistemlerinin yakalayamadığını yakalar.

Sonraki yıllarda, sağlık sigortacıları ve düzenleyiciler için endişe verici olabilecek bazı derin sahtecilik destekli sağlık sahteciliği şemaları nelerdir?

Benim en çok endişelendiğim senaryolar, ölçek ve inandırıcılık bakımından zor tespit edilenlerdir.

Davranışsal sağlık, gerçek bir zafiyettir. Terapi hizmetleri için belgeler büyük ölçüde anlatımsaldır, seans notları, tedavi planları ve ilerleme özetleri içerir. Laboratuvar değerleri yoktur, görüntüler yoktur. Sahtecilik yapan bir sağlayıcı, genel bir dil modeline erişimi varsa, olağanüstü hacimde klinik olarak inandırıcı davranışsal sağlık belgeleri üretebilir ve tek pratik tespit yöntemi, sentetik üretimin dilbilimsel ve yapısal imzalarını değerlendirebilen AI kullanmaktır.

Teşhis görüntüleri sahteciliği, diğer bir alandır. Ücretsiz ve erişilebilir AI araçları, tek bir orijinal görüntüden gerçekçi tıbbi görüntü varyantları üretebilir. Bu araçlar geliştikçe, sentetik çıktılar, özel amaçlı bir tespit olmadan gerçek taramalardan ayırt edilmeyecek kadar gerçekçi hale gelecektir. Ödeme akışlarında görüntü forensiği yeteneği olmayan paylar, bu noktada aldıkları görüntülerin gerçek olduğuna güveniyorlar.

Kimlik ve kimlik doğrulama sahteciliği konusunda da bir endişe vardır, burada AI tarafından üretilen belgeler, tıbbi olarak gerekli olmayan hizmetler için önceden yetkilendirme veya sahtecilik sağlayıcı kaydını destekler. Bu şemalar, sahteciliğin kendisiyle değil, taleplerde değil, alımda ortaya çıktığı için daha zor tespit edilir ve bu, zararı zaten yapılmadan önce yapılır.

Sağlık talepleri genellikle büyük miktarda belge ve destekleyici kanıtları içerir. Bir AI sistemi, sahtecilik taleplerini ödemeden önce durdurmak için bu bilgileri ne kadar hızlı bir şekilde değerlendirebilir?

Hız, aslında bir temel tasarım gereksinimidir, değil bir iyi bir özelliktir. Deepfake Detection, yalnızca talep pipeline’ın hızında çalışırsa pratikte yararlıdır. Analiz birkaç saat sürerse veya bir insan tarafından başlatılması gereken bir inceleme kuyruğuna ihtiyaç duyarsa, already prepay penceresini kaçırmışsınız demektir ve sistemden para çıktıktan sonra kurtarma çalışması yapmaya geri dönmüşsünüz.

Sistemimiz, analizi saniyeler içinde tamamlamak üzere tasarlanmıştır. Belgeler inceleme için sunulduğunda, AI, paralel olarak çalışır, ardışık olarak değil. Sentetik içerik analizi, klonlama kontrolleri ve davranışsal çapraz referanslama aynı anda gerçekleşir. Çıktı, bir risk puanıdır ve ayrıntılı açıklamalar eklenmiştir, böylece soruşturmacı, ham sinyalleri yorumlamak zorunda kalmaz. Öncelikli, eyleme geçirilebilir bir sonuç alır. Paralel mimari, bunu daha hızlı ve daha büyük bir doğrulukla yapabilmemizi sağlayan şeydir. Tüm üç sinyal katmanını aynı anda çalıştırmak, risk puanının tam bir resmini yansıttığını, yalnızca ilk ortaya çıkan bayrağı değil, anlamına gelir.

Genel olarak, Codoxo’nun tüm çalışmalarında savunduğumuz değişim, ödeme bütünlüğü müdahalesini mümkün olduğunca yukarı akışa taşımaktır. Ödeme yapılmadan önce sahtecilik talebini yakalamak, sonrasında geri kazanma işlemlerinden çok daha verimlidir. Geri kazanma pahalıdır, yavaştır ve genellikle tamamlanmaz. Önleme, belge ve kanıtların doğrulama aşamasında, tüm problemin ekonomisini değiştirir.

AI tarafından üretilen risk puanlarının, özel soruşturma birimleri ve ödeme bütünlüğü ekipleri tarafından anlaşılır ve güvenilirdir. Bunu nasıl garantileyebilirsiniz?

Açıklanabilirlik, bu alanda isteğe bağlı değildir. Bir SIU soruşturmacısı, bir risk puanına göre hareket edecekse, bu, bir talebi askıya almak, bir vaka açmak veya kovuşturma için bir referans oluşturmak anlamına geliyorsa, sistem ne buldu ve neden bulduğunu açıklamak zorundadır. Karanlık bir kutu çıktısı, “yüksek risk” demektir ve bu, yasal ve düzenleyici sorumlulukla bağlantılı bir iş akışında yararlı bir araç değildir.

Her risk puanı, sistemimiz tarafından üretilen, spesifik sahtecilik göstergeleri içerir, bunlar, puanı sürdüren sinyalleri, kalıpları ve ortaya çıkarılan tutarsızlıkları içerebilir. Soruşturmacı, puanı delillere geri takip edebilir. Bu düzeyde spesifiklik, yalnızca temel tespit, sağlık hizmetleri belgeleri için özel olarak inşa edilmiş olmasından dolayı mümkündür.

Ayrıca, özel istem yeteneği inşa ettik, bu, soruşturmacılara, analiz için özel soruşturma senaryoları ve benzersiz sahtecilik modelleri için olanak tanır. Bu, uygulamada önemlidir, çünkü sistem, tek boyutlu bir analiz çalıştırmaz ve soruşturmacılara genel çıktıları yorumlamalarını istemez. Bir vakada gerçekten aradıkları şey için sorguyu şekillendirebilirler, bu da sonuçların daha doğrudan yararlı ve açıklanabilir olmasını sağlar.

Düzenleyici tarafında, OIG, CMS ve eyalet kurumları, organizasyonların AI’yi sahtecilik önlemede nasıl kullandığını artan bir şekilde incelemekteler. Yönteminizin yorumlanabilir ve denetlenebilir olduğunu göstermek, sadece iyi bir uygulama değil, aynı zamanda sorumlu bir dağıtım bileşenidir ve bu, uyumluluk riskini azaltır.

Üretken AI geliştikçe, sahtekarlar daha da sofistike hale geleceklerdir. Codoxo, yeni sentetik tıbbi belgelerin ortaya çıkmasıyla birlikte modellerini nasıl sürekli olarak uyarlar?

Çünkü sahtecilik, doğası gereği adversatiftir. Tespit geliştikçe, diğer taraftaki taktikler evrilir. Bir kez eğitilen ve güncellenmeyen herhangi bir sistem, zaman içinde bozulur, çünkü sahtekarlar bunu tetikleyen şeyleri öğrenir ve ayarlar. Bu, herhangi bir statik tespit yaklaşımının, ister kural tabanlı olsun, isterse güncellenmeyen bir AI modeli olsun, her zaman geride kalacağı temel sorunudur. Araçların sofistike olması önemli değildir, temel mimari, tehdidi takip edemezse.

Yaklaşımımız, tespiti, sürekli güncellenen bir yetenek olarak değil, sabit bir ürün olarak tasarlamaktır. Yeni sahtecilik modelleri sisteme yüzeylendiğinde ve AI üretim teknikleri geliştikçe, bu modeller model geliştirmesine geri beslenir. Sistem, yalnızca mevcut tehdidi değil, ortaya çıkan tehdidi de tespit etmeyi daha iyi hale getirir. Bu, üretken AI’nin ilerleme hızına ve sahtekarların yeni yaklaşımlar denediğine, özellikle de tespit araçlarını bozmaya yönelik adversarial teknikler gibi trojan deepfake motorlarına karşı önemlidir.

Bu, sürekli bir yarış olacaktır. Bir final, çözülmüş durum yoktur. Verdiğimiz taahhüt, tespit yeteneklerini tehdidin güncel tutmaktır ve ajansik mimarimiz, bunu ölçeklenebilir şekilde yapmayı sağlar.

İleriye bakıldığında, derin sahtecilik tespiti, finans gibi endüstrilerde anti para aklama sistemleri gibi sağlık altyapısının standard bir bileşeni haline gelecektir. Sağlık verilerine güven ve doğrulama için tamamen yeni yaklaşımlar gerekli midir?

Evet, derin sahtecilik tespiti standard altyapı haline geleceğine inanıyorum ve bu zaman çizelgesi, çoğu endüstri profesyonelinin beklediğinden daha kısadır. AML çerçeveleri finansal hizmetlerde standard hale gelmeden önce, endüstri büyük ölçüde kural tabanlı tespite ve manuel incelemeye güveniyordu. Değişim, tehdidin明显 bir şekilde reaktif tespitin yetersiz olduğu bir ölçek ve düzenleyici ortamda gerçekleşti ve finansal kurumların sürekli güncellenen kontrolleri olmasını bekledi. Sağlık sektörü benzer bir dönemeç noktasına yaklaşıyor.

Şu anda xảyan şey, sahtecilik tehdidinin gerçek ve mevcut olduğu için şimdi Deepfake Detection’ı dağıtan paylar. Bu erken dağıtımlar, kaybedilenlerin önlenmesiyle ilgili kanıtlar ürettiği zaman, endüstri genelinde beklenti genişleyecektir.

İleriye bakıldığında, üretken AI geliştikçe, endüstri, belgelerin orijinini, oluşturulma anında nasıl doğrulayacağını yeniden düşünmek zorunda kalabilir, değilse de sonra. Bu, klinik kayıtların kriptografik doğrulamasını, EHR düzeyinde sağlayıcı kimlik doğrulamasını veya belgelerin orijinini izlenebilir kılan diğer mekanizmaları içerebilir. Tespit, talepler düzeyinde, mevcut tehdide bir yanıt gerektirir. Ancak kalıcı çözüm, doğrulamayı, tıbbi kayıtların nasıl oluşturulduğu ve iletiladığı altyapısına daha derinden inşa etmeyi gerektirebilir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Codoxo‘yu ziyaret edebilir.