Tiến sĩ Musheer Ahmed, PhD, Người sáng lập và Giám đốc điều hành của Codoxo – Loạt phỏng vấn

Tiến sĩ Musheer Ahmed, PhD, Người sáng lập và Giám đốc điều hành của Codoxo là một nhà công nghệ và doanh nhân tập trung vào việc áp dụng trí tuệ nhân tạo để giải quyết các vấn đề không hiệu quả trong hệ thống chăm sóc sức khỏe. Ông đã thành lập Codoxo dựa trên nghiên cứu được phát triển trong thời gian học PhD tại Viện Công nghệ Georgia, nơi ông đã xây dựng nền tảng cho một phương pháp tiếp cận bằng trí tuệ nhân tạo được cấp bằng sáng chế để phát hiện gian lận, lãng phí và lạm dụng trong các yêu cầu chăm sóc sức khỏe. Dưới sự lãnh đạo của ông, công ty đã phát triển thành một nhà cung cấp các giải pháp thanh toán toàn diện dựa trên trí tuệ nhân tạo, giúp các tổ chức chăm sóc sức khỏe xác định rủi ro sớm hơn và chuyển từ các cuộc kiểm toán phản ứng sang các giải pháp tiết kiệm chi phí chủ động. Kinh nghiệm trước đây của ông trong lĩnh vực thông tin bảo mật tại VeriSign (VRSN ), nơi ông đã làm việc về việc xác định các mối đe dọa mạng và lỗ hổng bảo mật mới nổi, đã định hình sự tập trung của ông vào việc sử dụng phân tích nâng cao và học máy để khám phá các mẫu ẩn trong các môi trường dữ liệu phức tạp.

Codoxo là một công ty chăm sóc sức khỏe trí tuệ nhân tạo tập trung vào việc giảm thiểu các vấn đề không hiệu quả và chi phí không cần thiết trong toàn bộ hệ thống chăm sóc sức khỏe thông qua Nền tảng Trí tuệ Pháp y của mình. Nền tảng này sử dụng các thuật toán được cấp bằng sáng chế và học máy để phân tích các khối lượng lớn dữ liệu yêu cầu, xác định hành vi đáng ngờ, các bất thường về hóa đơn và các mẫu gian lận mới nổi sớm hơn so với các hệ thống truyền thống. Bằng cách cho phép các tổ chức trả tiền chăm sóc sức khỏe, các cơ quan chính phủ và các nhà quản lý lợi ích dược phẩm can thiệp trước hoặc trong quá trình yêu cầu, Codoxo đang chuyển đổi ngành công nghiệp sang hướng đảm bảo thanh toán chủ động thay vì thu hồi sau này. Nền tảng tiết kiệm chi phí thống nhất rộng lớn hơn của nó tích hợp khai thác dữ liệu, giáo dục nhà cung cấp, quy trình kiểm toán và quản lý trường hợp, giúp các tổ chức cải thiện độ chính xác, giảm thanh toán quá mức và tối ưu hóa hoạt động đồng thời giải quyết hàng trăm tỷ đô la bị mất hàng năm do gian lận, lãng phí và lạm dụng.

Bạn đã thành lập Codoxo sau khi nghiên cứu về phát hiện gian lận chăm sóc sức khỏe trong thời gian học PhD tại Georgia Tech. Điều gì đã thuyết phục bạn rằng trí tuệ nhân tạo có thể thay đổi cơ bản cách phát hiện gian lận, lãng phí và lạm dụng trong các hệ thống chăm sóc sức khỏe?

Tôi đã bị thuyết phục không bởi một khoảnh khắc duy nhất, mà bởi việc đối mặt với thực tế rằng cách tiếp cận hiện có đã thất bại đến mức nào. Gian lận chăm sóc sức khỏe ở Mỹ đại diện cho khoảng 330 tỷ đô la bị mất hàng năm. Đó là nhiều hơn bất kỳ hình thức gian lận bảo hiểm nào khác trong nước, và vẫn còn các phương pháp phát hiện thống trị chỉ có thể bắt được những gì họ đã được đào tạo để tìm kiếm. Ngay cả khi trí tuệ nhân tạo bước vào bức tranh, hầu hết các cách tiếp cận vẫn phản ứng, khớp mẫu với các kế hoạch gian lận đã biết chứ không phải là việc phát hiện ra những kế hoạch chưa biết. Khoảnh khắc mà tôi nhận ra điều đó là khi tôi nhận ra rằng gian lận không phải là một vấn đề tĩnh. Những kẻ xấu thích nghi. Họ học cách kích hoạt một lá cờ và định tuyến xung quanh nó. Một hệ thống được xây dựng trên các quy tắc cố định là, theo định nghĩa, luôn ở phía sau.

Trí tuệ nhân tạo mang lại khả năng phát hiện các mẫu mà không ai nghĩ đến việc lập trình trước. Trong thời gian làm luận án tại Georgia Tech, tôi đã xây dựng các mô hình có thể xem xét toàn bộ lịch sử yêu cầu của một nhà cung cấp, xác định các bất thường về hành vi và kết nối các tín hiệu mà một nhà phân tích con người hoặc một động cơ quy tắc sẽ không bao giờ liên kết lại với nhau. Nhóm tư vấn JASON, nhóm tư vấn cho chính phủ Hoa Kỳ về khoa học và công nghệ, đã công nhận công việc đó như một giải pháp cho các khoảng trống thực sự trong cách dữ liệu chăm sóc sức khỏe được sử dụng cho tính toàn vẹn thanh toán. Sự công nhận đó cho tôi biết rằng vấn đề nghiêm trọng đến mức có thể xây dựng một công ty xung quanh nó.

Sự thuyết phục cốt lõi đã thúc đẩy tôi vào thời điểm đó là sự thuyết phục giống hệt như sự thuyết phục đang thúc đẩy những gì chúng tôi đang xây dựng tại Codoxo bây giờ: dữ liệu yêu cầu chăm sóc sức khỏe chứa tín hiệu bạn cần để bắt gian lận, nhưng bạn chỉ có thể trích xuất nó với trí tuệ nhân tạo có thể xem xét toàn bộ bức tranh, nhanh chóng và chính xác, thay vì kiểm tra các hộp.

Gian lận chăm sóc sức khỏe đã là một vấn đề nhiều tỷ đô la trong một thời gian dài, nhưng trí tuệ nhân tạo có khả năng tăng tốc nó một cách đáng kể. Làm thế nào sự xuất hiện của các công cụ có khả năng tạo ra tài liệu lâm sàng và hình ảnh chẩn đoán thuyết phục đã thay đổi cảnh quan mối đe dọa cho các công ty bảo hiểm và các đội đảm bảo thanh toán?

Nó đã thay đổi nó theo một cách cơ bản, và ngành công nghiệp vẫn chưa hoàn toàn hấp thụ mức độ quan trọng của sự thay đổi đó. Mô hình cũ của gian lận tài liệu yêu cầu nỗ lực thủ công. Một kẻ xấu thực hiện gian lận phải tạo ra các ghi chú một cách thủ công, thay đổi hình ảnh riêng lẻ và tạo ra hồ sơ có vẻ hợp lý đủ để tồn tại trong quá trình xem xét. Ma sát đó tạo ra một trần tự nhiên trên quy mô của bất kỳ kế hoạch nào.

Trí tuệ nhân tạo tạo ra đã loại bỏ trần đó. Ngày nay, bất kỳ ai cũng có thể yêu cầu một mô hình ngôn ngữ lớn tạo ra 50 ghi chú phiên điều trị cho điều trị lo âu và nhận được chúng trong ít hơn 5 phút. Những ghi chú đó sẽ sử dụng thuật ngữ lâm sàng phù hợp, theo một cấu trúc câu chuyện hợp lý và trông nhất quán về mặt nội bộ. Hầu hết các hệ thống phát hiện gian lận không được thiết kế để đánh giá liệu một tài liệu có phải là xác thực hay tổng hợp. Chúng được thiết kế để kiểm tra xem mã hóa đơn được áp dụng chính xác, đánh dấu các mẫu đã biết và khớp với các chữ ký gian lận hiện có. Vì vậy, tài liệu tổng hợp đi qua ngay cả trước một số hệ thống tuyên bố có thành phần trí tuệ nhân tạo.

Chúng tôi cũng đã thấy điều này với hình ảnh chẩn đoán. Một X-quang hợp pháp duy nhất có thể được sử dụng làm hạt giống cho hàng chục biến thể được tạo ra bởi AI, mỗi biến thể được gửi dưới một bệnh nhân được tạo giả khác. Một hệ thống không có khả năng so sánh hình ảnh sẽ thấy 50 trường hợp độc nhất, nhưng thực tế là một quét thực và 49 bản sao tổng hợp. Cảnh quan mối đe dọa đã chuyển từ các kẻ xấu bị cô lập sang những người có thể chạy các kế hoạch có thể lặp lại với gần như không có kỹ năng kỹ thuật nào.

Nhiều hệ thống phát hiện gian lận truyền thống dựa trên các mô hình dựa trên quy tắc và xem xét thủ công. Tại sao những cách tiếp cận này ngày càng không hiệu quả khi đối phó với hồ sơ y tế được tạo ra bởi AI hoặc hình ảnh chẩn đoán được thao túng?

Hầu hết các cách tiếp cận phát hiện gian lận, cho dù dựa trên quy tắc hay các thế hệ trí tuệ nhân tạo trước đó, hoạt động trên một giả định cơ bản bị lỗi ngay từ đầu: tất cả tài liệu nhập vào hệ thống đều được tạo bởi con người theo các quy trình lâm sàng thông thường. Một khi giả định đó bị phá vỡ, toàn bộ cách tiếp cận phát hiện sẽ bị phá vỡ cùng với nó.

Một động cơ quy tắc có thể đánh dấu một sự kết hợp mã không thể, một nhà cung cấp hóa đơn cho nhiều giờ hơn số giờ tồn tại trong một ngày, hoặc một thủ tục được thực hiện trên một bệnh nhân đã qua đời. Những việc này đều thực sự và hữu ích. Nhưng logic dựa trên quy tắc không thể xem xét một ghi chú tiến độ và xác định liệu nó được viết bởi một nhà lâm sàng đã thực sự nhìn thấy bệnh nhân hay được tạo ra bởi một mô hình AI chưa từng thực hành y học. Hai đầu ra có thể giống hệt về mặt cấu trúc.

Việc xem xét thủ công có cùng trần. Các nghiên cứu cho thấy rằng chỉ khoảng 34% người có thể xác định một deepfake ngay cả khi họ đã được thông báo rằng một deepfake có mặt và đang tích cực tìm kiếm nó. Một điều tra viên SIU đang xem xét một chồng ghi chú tiến độ không có đào tạo pháp y chuyên nghiệp để phát hiện văn bản tổng hợp, không có công cụ so sánh hình ảnh để phát hiện quét nhân bản, và không đủ giờ trong ngày để thực hiện mức độ kiểm tra đó trên mọi yêu cầu. Vấn đề về khối lượng alone làm cho việc xem xét thủ công toàn diện không thể, và điều đó đã đúng trước khi trí tuệ nhân tạo tạo ra bắt đầu tăng tốc khối lượng và sự tinh vi của tài liệu gian lận.

Có một mối đe dọa mới nổi mà tôi nghĩ là bị đánh giá thấp: những gì các nhà nghiên cứu gọi là động cơ deepfake trojan. Những thứ này là các tác nhân giống như virus được thiết kế đặc biệt để trung hòa phần mềm phát hiện, hoạt động thông qua các chiến thuật như phân tích hình ảnh bị phá vỡ hoặc kỹ thuật nhắc lại độc hại. Vì vậy, động lực đối lập không chỉ là những kẻ gian lận tạo ra các giả mạo tốt hơn. Trong một số trường hợp, họ đang tích cực cố gắng phá vỡ các công cụ được xây dựng để bắt họ. Đó là một phần của lý do tại sao các cách tiếp cận phát hiện tĩnh, cho dù dựa trên quy tắc hay một mô hình AI không được thiết kế để cập nhật, sẽ luôn bị tụt lại phía sau. Phương phòng thủ phải linh hoạt như phương tấn công.

Codoxo gần đây đã ra mắt Phát hiện Deepfake để giải quyết rủi ro mới nổi này. Ở mức độ cao, công nghệ phân tích tài liệu và hình ảnh y tế như thế nào để xác định liệu nội dung có thể được tạo ra hoặc thao túng bởi AI?

Nguyên tắc thiết kế cốt lõi là chúng tôi đã xây dựng Phát hiện Deepfake đặc biệt cho tài liệu chăm sóc sức khỏe chứ không phải là một công cụ phát hiện AI chung được chuyển đổi sang một ngữ cảnh lâm sàng. Điều đó có nghĩa là các mô hình được đào tạo trên các tín hiệu chăm sóc sức khỏe cụ thể, không được chuyển đổi từ các công cụ được xây dựng cho các ngành hoặc trường hợp sử dụng khác. Sự khác biệt này rất quan trọng vì các tín hiệu chỉ ra nội dung tổng hợp trong một hồ sơ y tế hoặc hình ảnh chẩn đoán khác với các tín hiệu liên quan trong các lĩnh vực khác.

Ở mức độ cao, hệ thống phân tích tài liệu và hình ảnh y tế cùng với toàn bộ bối cảnh yêu cầu, và nó làm như vậy trong vài giây. Khi một điều tra viên SIU tải lên tài liệu nghi ngờ, AI chạy phân tích trên nhiều chiều đồng thời. Nó tìm kiếm các chỉ số của nội dung tổng hợp hoặc thao túng, kiểm tra các mẫu nhân bản và sao chép trên lịch sử yêu cầu rộng lớn hơn của người trả tiền, và đánh giá sự nhất quán về hành vi giữa tài liệu và các mẫu lịch sử của nhà cung cấp.

Một điều đáng chú ý là phạm vi các định dạng mà hệ thống có thể làm việc. Nó xử lý tài liệu văn bản trong PDF, Word và XML, bảng tính, hình ảnh y tế và thậm chí cả ghi chú viết tay. Điều đó quan trọng trong thực tế vì tài liệu gian lận không đến trong một định dạng gọn gàng, và một hệ thống phát hiện mà chỉ bao phủ một số tài liệu mà các nhóm SIU nhận được sẽ để lại khoảng trống mà những kẻ gian lận tinh vi sẽ tìm thấy.

Từ tất cả phân tích đó, hệ thống tạo ra một điểm số rủi ro trên thang 0 đến 100 với các giải thích chi tiết đính kèm, vì vậy điều tra viên hiểu chính xác những tín hiệu nào đã thúc đẩy điểm số. Mục tiêu ở mọi bước là tạo ra đầu ra có thể hành động thay vì chỉ các cảnh báo, và làm điều đó nhanh hơn và chính xác hơn so với một hệ thống tổng quát hơn. Tốc độ quan trọng vì điểm can thiệp duy nhất thay đổi đáng kể kinh tế của gian lận là trước khi thanh toán được thực hiện.

Nền tảng của bạn nhấn mạnh các khả năng như phát hiện nhân bản, xác định tạo ra một phần bởi AI và tham chiếu chéo hành vi đối với lịch sử yêu cầu. Bạn có thể giải thích như thế nào các tín hiệu này kết hợp để tạo ra một điểm số rủi ro có ý nghĩa cho các điều tra viên?

Mỗi khả năng đó nhắm vào một mẫu gian lận khác nhau, và điểm số rủi ro phản ánh cách chúng tương tác trong một trường hợp cụ thể.

Phát hiện nhân bản và sao chép giải quyết kịch bản mà một hồ sơ thực sự được sao chép trên nhiều bệnh nhân được tạo giả. Điều khiến việc này khó bắt là các biến thể có thể tinh vi đến mức không có tài liệu nào nhìn đáng ngờ khi đứng riêng. Mẫu chỉ trở nên rõ ràng khi bạn đang so sánh trên toàn bộ dân số yêu cầu. Hệ thống của chúng tôi có thể đưa ra một tập hợp hồ sơ có vẻ độc nhất trên bề mặt nhưng thực sự là các dẫn xuất của một nguồn chung.

Xác định tạo ra một phần bởi AI quan trọng vì những kẻ gian lận tinh vi không luôn tạo ra hồ sơ hoàn toàn từ đầu. Một mẫu phổ biến hơn và khó bắt hơn là trộn, nghĩa là lấy một hồ sơ bệnh nhân hợp pháp và sử dụng AI để thêm các dịch vụ hoặc thủ tục được tạo giả. Các phần xác thực làm cho tài liệu trông đáng tin cậy, nhưng các phần được thêm đại diện cho các yêu cầu chăm sóc không bao giờ được cung cấp. Hệ thống của chúng tôi được thiết kế đặc biệt để tìm các trường hợp này.

Tham chiếu chéo hành vi kết nối tài liệu được xem xét với lịch sử yêu cầu đầy đủ của nhà cung cấp. Nếu tài liệu trình bày các câu chuyện lâm sàng không nhất quán với cách nhà cung cấp đã ghi chép các trường hợp tương tự trong quá khứ, hoặc nếu khối lượng và mẫu của các hồ sơ hỗ trợ đột ngột偏 khỏi baseline, những sự không nhất quán đó là tín hiệu. Mỗi tín hiệu riêng lẻ không phải là kết luận. Cùng nhau, được cân nhắc và giải thích trong đầu ra điểm số rủi ro, chúng cung cấp cho các điều tra viên một điểm khởi đầu có ý nghĩa sẽ mất hàng giờ hoặc hàng ngày để phát triển thủ công. Điều khiến điều này khác với một hệ thống chỉ đánh dấu nội dung được tạo ra bởi AI là sự kết hợp của các tín hiệu. Phân tích nội dung một mình có thể bỏ lỡ các tài liệu trộn. Phân tích hành vi một mình có thể bỏ lỡ một kẻ gian lận lần đầu tiên với không có mẫu trước đó. Đó là sự giao nhau của cả ba lớp tín hiệu đồng thời, được xử lý trong vài giây, bắt được những gì các hệ thống AI khác không thể.

Từ quan điểm của bạn, những kế hoạch gian lận chăm sóc sức khỏe được kích hoạt bởi deepfake nào là những kế hoạch mà các công ty bảo hiểm và các cơ quan quản lý nên theo dõi trong những năm tới?

Các kịch bản mà tôi lo lắng nhất là những kịch bản kết hợp quy mô với tính hợp lý theo cách khó theo dõi, ngay cả với phát hiện mạnh.

Sức khỏe hành vi là một điểm yếu thực sự. Tài liệu cho các dịch vụ trị liệu chủ yếu là tường thuật, bao gồm ghi chú phiên, kế hoạch điều trị và tóm tắt tiến độ. Không có giá trị phòng thí nghiệm để tham chiếu chéo, không có hình ảnh để kiểm tra. Một nhà cung cấp gian lận với quyền truy cập vào một mô hình ngôn ngữ tổng quát có thể tạo ra tài liệu chăm sóc sức khỏe hành vi có tính hợp lý lâm sàng với khối lượng phi thường, và cách thực tế duy nhất để phát hiện nó là sử dụng AI có thể đánh giá liệu tài liệu có hiển thị các chữ ký ngôn ngữ và cấu trúc của việc tạo ra tổng hợp.

Gian lận hình ảnh chẩn đoán là lĩnh vực khác mà tôi theo dõi chặt chẽ. Các công cụ AI miễn phí và có sẵn hiện có thể tạo ra các biến thể hình ảnh y tế thực tế từ một hình ảnh hạt giống duy nhất. Khi các công cụ này cải thiện, đầu ra tổng hợp sẽ trở nên khó phân biệt với các quét thực sự mà không có hình ảnh pháp y chuyên dụng. Những người trả tiền mà các quy trình làm việc không có khả năng pháp y hình ảnh đang hoạt động dựa trên niềm tin rằng các hình ảnh họ nhận được là thực sự.

Cũng có một mối quan tâm mới nổi về gian lận danh tính và chứng nhận, nơi tài liệu được tạo ra bởi AI hỗ trợ đăng ký nhà cung cấp gian lận hoặc ủy quyền trước cho các dịch vụ không bao giờ cần thiết về mặt y tế. Những kế hoạch này khó phát hiện hơn vì gian lận được nhúng vào quá trình nhập dữ liệu chứ không phải trong chính các yêu cầu, và khi nó xuất hiện trong dữ liệu hóa đơn, thiệt hại đã được thực hiện.

Yêu cầu chăm sóc sức khỏe thường liên quan đến khối lượng lớn tài liệu và bằng chứng hỗ trợ. Làm thế nào một hệ thống AI đánh giá thông tin đó nhanh chóng đủ để ngăn chặn các yêu cầu gian lận trước khi thanh toán được thực hiện?

Tốc độ thực sự là một yêu cầu thiết kế cốt lõi, không phải là một điều mong muốn. Cách duy nhất Phát hiện Deepfake hữu ích trong thực tế là nếu nó hoạt động với tốc độ của đường ống yêu cầu. Nếu phân tích mất hàng giờ hoặc yêu cầu con người khởi động một hàng đợi xem xét, bạn đã bỏ lỡ cửa sổ trước khi thanh toán, và bạn đang quay lại làm việc thu hồi sau khi tiền đã rời khỏi hệ thống.

Hệ thống của chúng tôi được thiết kế để hoàn thành phân tích trong vài giây. Khi tài liệu được gửi để xem xét, AI đang chạy đánh giá của nó song song chứ không phải tuần tự. Phân tích nội dung tổng hợp, kiểm tra sao chép và tham chiếu chéo hành vi đang diễn ra đồng thời chứ không phải trong một chuỗi. Đầu ra là một điểm số rủi ro với các giải thích chi tiết, vì vậy điều tra viên không cần phải giải thích các tín hiệu thô. Họ nhận được một kết quả được ưu tiên, có thể hành động. Kiến trúc song song là một phần của những gì cho phép chúng tôi làm điều này nhanh hơn và chính xác hơn. Chạy tất cả ba lớp tín hiệu đồng thời có nghĩa là điểm số rủi ro phản ánh toàn bộ hình ảnh của một trường hợp, không chỉ là lá cờ đầu tiên xuất hiện.

Điểm rộng hơn ở đây là sự thay đổi chúng tôi đang thúc đẩy trên tất cả công việc của Codoxo, những gì chúng tôi gọi là Điểm Không, là di chuyển can thiệp đảm bảo thanh toán càng xa lên dòng càng tốt. Phát hiện một yêu cầu gian lận trước khi thanh toán Dramatically hiệu quả hơn so với việc thu hồi một khoản thanh toán quá mức sau khi thực tế. Thu hồi là tốn kém, chậm và thường không đầy đủ. Phòng ngừa tại giai đoạn xác thực tài liệu và bằng chứng thay đổi kinh tế của toàn bộ vấn đề.

Công cụ phát hiện gian lận phải có thể giải thích được cho các điều tra viên, kiểm toán viên và các cơ quan quản lý. Làm thế nào bạn đảm bảo rằng các điểm số rủi ro được tạo ra bởi AI có thể được hiểu và tin cậy bởi Các đơn vị điều tra đặc biệt và các đội đảm bảo thanh toán?

Khả năng giải thích không phải là tùy chọn trong lĩnh vực này. Nếu một điều tra viên SIU đang hành động trên một điểm số rủi ro, cho dù đó có nghĩa là giữ một yêu cầu, mở một trường hợp, hoặc xây dựng một đề xuất cho truy tố, họ cần có thể giải thích những gì hệ thống đã tìm thấy và tại sao. Một đầu ra hộp đen chỉ nói “rủi ro cao” không phải là một công cụ hữu ích trong một quy trình làm việc có trách nhiệm pháp lý và quy định gắn liền với nó.

Mỗi điểm số rủi ro mà hệ thống của chúng tôi tạo ra bao gồm các chỉ số gian lận cụ thể, có thể bao gồm các tín hiệu đã thúc đẩy điểm số, các mẫu được xác định và các sự không nhất quán được đưa ra. Điều tra viên có thể theo dõi lý do từ điểm số trở lại bằng chứng. Mức độ cụ thể đó chỉ có thể có được vì phát hiện cơ bản được thiết kế đặc biệt cho tài liệu chăm sóc sức khỏe.

Chúng tôi cũng đã xây dựng khả năng nhắc lại tùy chỉnh, cho phép các điều tra viên tùy chỉnh phân tích cho các kịch bản điều tra cụ thể và các mẫu gian lận độc nhất. Điều đó quan trọng đối với khả năng giải thích trong thực tế vì nó có nghĩa là hệ thống không chạy một phân tích một kích cỡ phù hợp với tất cả và yêu cầu các điều tra viên giải thích các đầu ra chung chung. Họ có thể định hình câu hỏi dựa trên những gì họ đang tìm kiếm trong một trường hợp cụ thể, điều này làm cho kết quả trở nên hữu ích và dễ giải thích hơn cho các kiểm toán viên hoặc trong các thủ tục pháp lý.

Trên phía quản lý, OIG, CMS và các cơ quan nhà nước đang tăng cường giám sát cách các tổ chức sử dụng AI trong phòng ngừa gian lận. Việc chứng minh rằng phương pháp phát hiện của bạn là giải thích được và có thể kiểm toán được không chỉ là một thực hành tốt, mà còn là một thành phần của việc triển khai có trách nhiệm, giảm thiểu rủi ro tuân thủ.

Khi trí tuệ nhân tạo tạo ra tiếp tục cải thiện, những kẻ gian lận sẽ trở nên tinh vi hơn. Làm thế nào Codoxo thiết kế các mô hình của mình để liên tục thích nghi khi các hình thức mới của tài liệu y tế tổng hợp xuất hiện?

Thách thức là gian lận có tính chất đối lập. Khi phát hiện cải thiện, các chiến thuật ở phía bên kia sẽ phát triển. Bất kỳ hệ thống nào được đào tạo một lần và triển khai mà không cập nhật sẽ suy giảm theo thời gian, khi những kẻ gian lận học cách kích hoạt nó và điều chỉnh. Đó là vấn đề cơ bản giống hệt như vấn đề khiến bất kỳ cách tiếp cận phát hiện tĩnh nào, cho dù dựa trên quy tắc hay một mô hình AI không được thiết kế để cập nhật, đều không đầy đủ. Sự tinh vi của công cụ không quan trọng nếu kiến trúc cơ bản không thể theo kịp mối đe dọa.

Cách tiếp cận của chúng tôi là coi phát hiện như một khả năng được cập nhật liên tục chứ không phải là một sản phẩm cố định. Khi các mẫu gian lận mới xuất hiện trong hệ thống và khi các kỹ thuật tạo ra AI tiến bộ, những mẫu đó sẽ phản hồi vào việc cải thiện mô hình. Hệ thống được thiết kế để trở nên tốt hơn trong việc xác định mối đe dọa mới nổi, không chỉ là những mối đe dọa đã tồn tại tại thời điểm triển khai. Điều này rất quan trọng given tốc độ mà trí tuệ nhân tạo tạo ra đang tiến bộ và tốc độ mà những kẻ gian lận đang thử nghiệm các cách tiếp cận mới, bao gồm cả các kỹ thuật đối lập như động cơ deepfake trojan được thiết kế để phá vỡ các công cụ được xây dựng để bắt chúng. Cuộc cạnh tranh này sẽ tiếp tục. Không có trạng thái cuối cùng, đã được giải quyết. Cam kết chúng tôi đã thực hiện là giữ các khả năng phát hiện cập nhật với mối đe dọa, và kiến trúc của chúng tôi là điều cho phép chúng tôi làm điều đó với quy mô.

Nhìn вперед, bạn có tin rằng phát hiện deepfake sẽ trở thành một thành phần tiêu chuẩn của cơ sở hạ tầng chăm sóc sức khỏe, tương tự như cách các hệ thống chống rửa tiền hoạt động trong lĩnh vực tài chính, hoặc ngành công nghiệp sẽ cần các cách tiếp cận hoàn toàn mới để tin cậy và xác thực dữ liệu y tế?

Tôi nghĩ Phát hiện Deepfake sẽ trở thành cơ sở hạ tầng tiêu chuẩn, và thời gian cho điều đó ngắn hơn những gì hầu hết mọi người trong ngành mong đợi. Trước khi các khuôn khổ chống rửa tiền trở thành tiêu chuẩn trong dịch vụ tài chính, ngành công nghiệp cũng phụ thuộc nặng nề vào phát hiện dựa trên quy tắc và xem xét thủ công. Sự thay đổi xảy ra khi mối đe dọa đạt đến quy mô mà làm cho phát hiện phản ứng rõ ràng là không đầy đủ, và khi môi trường quản lý đã mã hóa hóa kỳ vọng rằng các tổ chức tài chính sẽ có các kiểm soát được cập nhật liên tục. Chăm sóc sức khỏe đang đến gần một điểm chuyển đổi tương tự.

Điều đang xảy ra là những người trả tiền đang triển khai phát hiện deepfake bây giờ đang làm như vậy vì mối đe dọa là thực và hiện tại, không phải vì quản lý yêu cầu. Khi những triển khai đầu tiên tạo ra bằng chứng về những tổn thất được ngăn chặn, và khi các kế hoạch gian lận được tạo ra bởi AI trở nên rõ ràng hơn trong các hành động thực thi và báo cáo công khai, kỳ vọng sẽ mở rộng trên toàn ngành.

Nhìn вперед, khi trí tuệ nhân tạo tạo ra tiếp tục cải thiện, ngành công nghiệp có thể cần phải suy nghĩ lại cách xác thực tính xác thực của tài liệu tại thời điểm tạo ra thay vì xác thực sau đó. Điều đó có thể có nghĩa là chứng nhận mật mã của hồ sơ y tế tại cấp độ hồ sơ điện tử, xác thực danh tính nhà cung cấp tích hợp vào quy trình tài liệu, hoặc các cơ chế khác làm cho nguồn gốc của một tài liệu có thể theo dõi được theo cách mà hiện tại nó không phải như vậy. Phát hiện tại cấp độ yêu cầu là một phản ứng cần thiết đối với mối đe dọa hiện tại. Nhưng giải pháp bền vững có thể đòi hỏi xây dựng xác thực sâu hơn vào cơ sở hạ tầng về cách hồ sơ y tế được tạo ra và truyền输. Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Codoxo.