Δρ. Musheer Ahmed, PhD, Ιδρυτής και Διευθύνων Σύμβουλος της Codoxo – Σειρά Συνεντεύξεων

Δρ. Musheer Ahmed, PhD, Ιδρυτής και Διευθύνων Σύμβουλος της Codoxo είναι τεχνολόγος και επιχειρηματίας που επικεντρώνεται στην εφαρμογή της τεχνητής νοημοσύνης για την επίλυση συστημικών ανεπαρκειών στην υγεία. Ίδρυσε την Codoxo με βάση την έρευνα που ανέπτυξε κατά τη διάρκεια του διδακτορικού του στο Georgia Institute of Technology, όπου έκτισε τις βάσεις μιας πατενταρισμένης προσεγγίσεως AI για την ανίχνευση απάτης, σπατάλης και κακοδιαχείρισης σε ιατρικές απαίτησεις. Υπό την ηγεσία του, η εταιρεία έχει εξελιχθεί σε παρόχо AI-κίνητων λύσεων για την ακεραιότητα των πληρωμών, βοηθώντας τους οργανισμούς υγείας να αναγνωρίζουν κινδύνους νωρίτερα και να μετατοπίσουν από τις αντιδραστικές ελέγχους προς την προληπτική διατήρηση του κόστους.

Codoxo είναι μια εταιρεία υγείας AI που επικεντρώνεται στην μείωση των ανεπαρκειών και των περιττών εξόδων σε όλο το σύστημα υγείας μέσω της πλατφόρμας Forensic AI. Η πλατφόρμα χρησιμοποιεί πατενταρισμένα αλγόριθμους και μηχανική μάθηση για να αναλύσει τεράστιους όγκους δεδομένων απαίτησεων, αναγνωρίζοντας υποψήφια συμπεριφορά, ανωμαλίες χρεώσεων και αναδυόμενους τύπους απάτης νωρίτερα από τα παραδοσιακά συστήματα. Ενεργοποιώντας τους ασφαλιστές υγείας, τις κυβερνητικές υπηρεσίες και τους διαχειριστές φαρμακευτικών οφελών να παρέμβουν πριν ή κατά τη διάρκεια της διαδικασίας απαίτησης, η Codoxo μετατοπίζει την βιομηχανία προς την προληπτική ακεραιότητα των πληρωμών αντί της αναδρομικής ανάκτησης.

Ιδρύσατε την Codoxo μετά από έρευνα για την ανίχνευση απάτης στην υγεία κατά τη διάρκεια του διδακτορικού σας στο Georgia Tech. Τι σας έκανε να πιστεύετε ότι η AI μπορεί να αλλάξει θεμελιωδώς τον τρόπο με τον οποίο ανιχνεύονται η απάτη, η σπατάλη και η κακοδιαχείριση στο σύστημα υγείας;

Γίνατε πεπεισμένος όχι από ένα μόνο момент, αλλά από την αντιμετώπιση του πόσο άσχημα αποτυγχάνει η υπάρχουσα προσέγγιση. Η απάτη στην υγεία στις ΗΠΑ αντιπροσωπεύει κάπου γύρω στα 330 δισεκατομμύρια δολάρια που χάνονται ετησίως. Αυτό είναι περισσότερο από κάθε άλλη μορφή ασφαλιστικής απάτης στη χώρα και ακόμη οι κυρίαρχες μεθόδοι ανίχνευσης μπορούσαν μόνο να πιάσουν αυτό για το οποίο είχαν εκπαιδευτεί. Ακόμη και όταν η AI μπήκε στην εικόνα, οι περισσότερες προσεγγίσεις ήταν αντιδραστικές, αντιστοιχίζοντας με γνωστά σχήματα απάτης αντί να επιφέρουν άγνωστα.

Η AI προσφέρει την ικανότητα να επιφέρουν μοτίβα που κανείς δεν σκέφτηκε να προγραμματίσει εκ των προτέρων. Κατά τη διάρκεια της διδακτορικής μου εργασίας στο Georgia Tech, έκτιζα μοντέλα που μπορούσαν να κοιτάξουν σε όλη την ιστορία απαίτησεων ενός παρόχου, να αναγνωρίσουν ανωμαλίες συμπεριφοράς και να συνδέσουν σήματα που ένας ανθρώπινος αναλυτής ή ένας κινητήρας κανόνων δεν θα μπορούσε ποτέ να συνδέσει. Η ομάδα συμβούλων JASON, η οποία συμβουλεύει την κυβέρνηση των ΗΠΑ για την επιστήμη και την τεχνολογία, αναγνώρισε αυτή την εργασία ως μια που αντιμετωπίζει πραγματικές δομικές лакκώσεις σε σχέση με τον τρόπο με τον οποίο χρησιμοποιούνται τα δεδομένα υγείας για την ακεραιότητα των πληρωμών.

Η βασική πεποίθηση που με οδήγησε τότε είναι η ίδια που οδηγεί αυτό που χτίζουμε στην Codoxo τώρα: τα δεδομένα απαίτησεων υγείας περιέχουν το σήμα που χρειάζεστε για να πιάσετε την απάτη, αλλά μπορείτε να το εξαγάγετε μόνο με AI που μπορεί να κοιτάξει την πλήρη εικόνα, γρήγορα και ακριβώς, αντί να ελέγχει τις κλασικές κατηγορίες.

Η απάτη στην υγεία έχει υπάρξει για καιρό ένα πρόβλημα δισεκατομμυρίων δολαρίων, αλλά η γεννητική AI φαίνεται να το επιταχύνει δραματικά. Πώς έχει αλλάξει η άνοδος των εργαλείων που μπορούν να παράγουν πειστική κλινική τεκμηρίωση και διαγνωστικές εικόνες τον τοπικό χάρτη απειλής για τους ασφαλιστές υγείας και τις ομάδες ακεραιότητας των πληρωμών;

Έχει αλλάξει με θεμελιώδη τρόπο και η βιομηχανία δεν έχει ακόμη πλήρως απορροφήσει πόσο σημαντική είναι αυτή η αλλαγή. Το παλιό μοντέλο της απάτης της τεκμηρίωσης απαιτούσε χειροκίνητο κόπο. Ένας κακόβουλος που διέπραττε απάτη έπρεπε να fabrikuje σημειώσεις μία προς μία, να αλλάξει εικόνες μεμονωμένα και να δημιουργήσει εγγραφές που ήταν πιθανές να επιβιώσουν της αναθεώρησης. Αυτή η τριβή δημιούργησε ένα φυσικό όριο στο μέγεθος του οποίουδήποτε σχήματος.

Η γεννητική AI αφαιρέθηκε αυτό το όριο. Σήμερα, ο καθένας μπορεί να ζητήσει από ένα μεγάλο μοντέλο γλώσσας να παράγει 50 σημειώσεις θεραπείας για την αντιμετώπιση της αγχωδής και να τις λάβει σε λιγότερο από πέντε λεπτά. Αυτές οι σημειώσεις θα χρησιμοποιούν κατάλληλη κλινική ορολογία, θα ακολουθούν μια πιθανή αφηγηματική δομή και θα φαίνονται εσωτερικά συνεπείς. Τα περισσότερα συστήματα ανίχνευσης απάτης δεν σχεδιάστηκαν ποτέ για να αξιολογήσουν εάν ένα έγγραφο είναι αυθεντικό ή συνθετικό. Σχεδιάστηκαν για να ελέγξουν εάν οι κωδικοί χρεώσεων εφαρμόστηκαν σωστά, να σημάνουν γνωστά μοτίβα και να αντιστοιχίσουν με υπάρχοντα σχήματα απάτης. Έτσι, η συνθετική τεκμηρίωση περνάει ακριβώς από, ακόμη και από κάποια συστήματα που ισχυρίζονται ότι έχουν συνθετικό στοιχείο.

Έχουμε δει αυτό και με τις διαγνωστικές εικόνες. Μια seule εικόνα X-ray μπορεί να χρησιμοποιηθεί ως σπόρος για δεκάδες AI-γεννημένες παραλλαγές, κάθε μία υποβεβλημένη υπό διαφορετική fabrikuje ασθενή. Ένα σύστημα χωρίς ικανότητα σύγκρισης εικόνων βλέπει 50 μοναδικές-εμφανιζόμενες περιπτώσεις, αλλά η πραγματικότητα είναι μια πραγματική σάρωση και 49 συνθετικές αντιγραφές. Ο τοπικός χάρτης απειλής έχει μετατοπιστεί από μεμονωμένους κακόβουλους σε άτομα που μπορούν να τρέχουν κλιμακωτά, επαναλαμβανόμενα σχήματα με σχεδόν keine τεχνική εμπειρία.

Πολλοί παραδοσιακοί μηχανισμοί ανίχνευσης απάτης βασίζονται σε μοντέλα που βασίζονται σε κανόνες και χειροκίνητη αναθεώρηση. Γιατί αυτές οι προσεγγίσεις γίνονται όλο και πιο αναποτελεσματικές όταν αντιμετωπίζουν AI-γεννημένα ιατρικά αρχεία ή χειρισμένες διαγνωστικές εικόνες;

Οι περισσότερες προσεγγίσεις ανίχνευσης απάτης, είτε βασισμένες σε κανόνες είτε σε προηγούμενες γενιές AI, λειτουργούν με μια θεμελιωδώς ελαττωματική υπόθεση αυτή τη στιγμή: ότι όλα τα έγγραφα που εισέρχονται στο σύστημα δημιουργήθηκαν από έναν άνθρωπο που ακολουθεί κανονικές κλινικές διαδικασίες. Μόλις αυτή η υπόθεση σπάσει, η ολόκληρη προσέγγιση ανίχνευσης σπάει μαζί της.

Ένας κινητήρας κανόνων μπορεί να σημάνει μια αδύνατη συνδυασμό κωδικών, einen παρόχο που χρεώνει για περισσότερες ώρες από ό,τι υπάρχουν σε μια μέρα, ή μια διαδικασία που εκτελείται σε έναν νεκρό ασθενή. Αυτά είναι όλα πραγματικά και χρήσιμα πιάματα. Αλλά η λογική των κανόνων δεν μπορεί να κοιτάξει μια πρόοδο σημείωση και να καθορίσει εάν γράφτηκε από einen κλινικό που είδε πραγματικά έναν ασθενή ή γεννήθηκε από ένα μοντέλο AI που δεν έχει ποτέ ασκηθεί στην ιατρική. Τα δύο εξόδους μπορούν να είναι δομικά ταυτόσημα.

Η χειροκίνητη αναθεώρηση έχει το ίδιο όριο. Μελετές δείχνουν ότι μόνο περίπου 34% των ανθρώπων μπορούν να αναγνωρίσουν ένα deepfake ακόμη και όταν τους έχει ειπωθεί ότι υπάρχει και είναι ενεργά αναζητώντας το. Ένας ερευνητής SIU που αναθεωρεί einen σωρό σημειώσεις προόδου δεν έχει ειδική forensική εκπαίδευση για την ανίχνευση συνθετικού κειμένου, keinen ικανότητα σύγκρισης εικόνων για την ανίχνευση κλωνοποιημένων σαρών και δεν έχει đủ ώρες στην ημέρα για να διεξάγει αυτό το επίπεδο σχολαστικότητας σε κάθε απαίτηση. Το πρόβλημα του όγκου μόνο κάνει την πλήρη χειροκίνητη αναθεώρηση αδύνατη, και αυτό ήταν αλήθεια πριν η γεννητική AI άρχισε να επιταχύνει τον όγκο και την σοφιστικέ της απάτης.

Υπάρχει επίσης μια αναδυόμενη απειλή που νομίζω ότι είναι υποτιμημένη: αυτό που οι ερευνητές ονομάζουν trojan deepfake κινητήρες. Αυτά είναι ιοειδείς πράκτορες που σχεδιάστηκαν ειδικά για να ουδετεροποιήσουν τον ανιχνευτή λογισμικού, εργαζόμενοι μέσω τακτικών όπως η αποσύνδεση της ανάλυσης εικόνων ή η malevolent προγραμματισμένη ανασύνθεση. Έτσι, η ανταγωνιστική δυναμική δεν είναι μόνο οι απάτηδες που γεννούν καλύτερα ψεύδη. Σε ορισμένες περιπτώσεις, προσπαθούν ενεργά να σπάσουν τα εργαλεία που χτίζονται για να τους πιάσουν. Αυτή η δυναμική του αγώνα είναι μέρος του λόγου για τον οποίο οι στατικές προσεγγίσεις ανίχνευσης, είτε βασισμένες σε κανόνες είτε σε ένα σταθερό μοντέλο AI, θα παραμείνουν πάντα πίσω. Η άμυνα πρέπει να είναι τόσο προσαρμοστική όσο και η επίθεση.

Η Codoxo πρόσφατα εξέδωσε Deepfake Detection για να αντιμετωπίσει αυτό το αναδυόμενο κίνδυνο. Σε υψηλό επίπεδο, πώς αναλύει η τεχνολογία τα ιατρικά έγγραφα και τις εικόνες για να καθορίσει εάν το περιεχόμενο μπορεί να έχει γεννηθεί ή να έχει χειριστεί από AI;

Η βασική αρχή σχεδιασμού είναι ότι χτίσαμε την ανίχνευση Deepfake ειδικά για την υγεία, και όχι για να προσαρμόσουμε ένα γενικό εργαλείο ανίχνευσης AI σε einen κλινικό контέκст. Αυτό σημαίνει ότι τα μοντέλα μας εκπαιδεύτηκαν σε σημάδια υγείας και όχι σε σημάδια άλλων βιομηχανιών ή άλλων περιπτώσεων. Αυτή η διάκριση έχει σημασία γιατί τα σημάδια που δείχνουν συνθετικό περιεχόμενο σε ένα ιατρικό αρχείο ή μια διαγνωστική εικόνα είναι διαφορετικά από τα σημάδια που είναι σχετικά σε άλλους τομείς.

Σε υψηλό επίπεδο, το σύστημα αναλύει τα ιατρικά έγγραφα και τις εικόνες μαζί με το πλήρες контέκστ της απαίτησης, και το κάνει σε δευτερόλεπτα. Όταν ένας ερευνητής SIU ανεβάζει υπόπτα έγγραφα, η AI εκτελεί ανάλυση σε πολλαπλά επίπεδα ταυτόχρονα. Κοιτάζει για ενδείξεις συνθετικού ή χειρισμένου περιεχομένου, ελέγχει για κλωνοποιημένα και διπλωμένα μοτίβα σε όλη την ιστορία απαίτησεων του ασφαλιστή και αξιολογεί την συμπεριφορική συνέπεια μεταξύ της τεκμηρίωσης και των ιστορικών μοτίβων του παρόχου.

Ένα πράγμα που αξίζει να σημειωθεί είναι το εύρος των μορφών που το σύστημα μπορεί να εργαστεί. Χειρίζεται έγγραφα κειμένου σε PDF, Word και XML, elektronikες πίνακες, ιατρικές εικόνες και ακόμη και χειρόγραφες σημειώσεις. Αυτό έχει σημασία στην πρακτική γιατί σημαίνει ότι η απάτη δεν έρχεται σε μια seule μορφή, και ένα σύστημα ανίχνευσης που καλύπτει μόνο μέρος του τι λαμβάνει η ομάδα SIU αφήνει κενά που οι σοφιστικοί απάτηδες θα βρουν.

Από αυτήν την ανάλυση, το σύστημα γεννάει einen κίνδυνο βαθμολογία από 0 έως 100 με λεπτομερείς εξηγήσεις, ώστε ο ερευνητής να κατανοήσει genau ποια σημάδια οδήγησαν στη βαθμολογία. Ο στόχος σε κάθε βήμα είναι να παράγει δράσιμα εξόδους και όχι απλά ενδείξεις, και να το κάνει γρηγορότερα και με μεγαλύτερη ακρίβεια από ένα γενικότερο σύστημα. Η ταχύτητα έχει σημασία γιατί το μόνο σημείο παρέμβασης που αλλάζει πραγματικά την οικονομία της απάτης είναι πριν από την πληρωμή.

Η πλατφόρμα σας υπογραμμίζει ικανότητες όπως η ανίχνευση κλωνοποίησης, η ταυτοποίηση της μερικής AI-γέννησης και η συμπεριφορική διασταύρωση με την ιστορία απαίτησεων. Μπορείτε να μας οδηγήσετε πώς αυτά τα σημάδια συνδυάζονται για να παράγουν μια σημαντική βαθμολογία κινδύνου για τους ερευνητές;

Κάθε μία από αυτές τις ικανότητες στοχεύει σε διαφορετικά σχήματα απάτης. Η βαθμολογία κινδύνου αντανακλά πώς αλληλεπιδρούν σε μια συγκεκριμένη περίπτωση.

Η ανίχνευση κλωνοποίησης και διπλώματος αντιμετωπίζει το σενάριο στο οποίο ένα αυθεντικό αρχείο αναπαράγεται σε πολλαπλά fabrikuje ασθενείς. Αυτό που κάνει αυτό το σχήμα δύσκολο να πιαστεί χωρίς AI είναι ότι οι παραλλαγές μπορούν να είναι τόσο λεπτές που κανένα έγγραφο δεν φαίνεται ύποπτο σε απομόνωση. Το μοτίβο γίνεται ορατό μόνο όταν κοιτάτε σε όλη την ιστορία απαίτησεων. Το σύστημά μας μπορεί να επιφέρει ότι ένα σύνολο εγγραφών που φαίνονται μοναδικές στην επιφάνεια είναι στην πραγματικότητα παραλλαγές ενός κοινού προέλευσης.

Η ταυτοποίηση της μερικής AI-γέννησης είναι σημαντική γιατί οι σοφιστικοί απάτηδες δεν fabricate πάντα ολόκληρα έγγραφα από την αρχή. Ένα πιο συνηθισμένο και δύσκολο να πιαστεί μοτίβο είναι το blending, που σημαίνει την λήψη ενός αυθεντικού αρχείου ασθενούς και την χρήση AI για να προσθέσετε fabrikuje πρόσθετες υπηρεσίες ή διαδικασίες. Τα αυθεντικά τμήματα κάνουν το έγγραφο να φαίνεται πιστό, αλλά τα πρόσθετα τμήματα αντιπροσωπεύουν απαίτηση για φροντίδα που δεν παρέχθηκε ποτέ. Το σύστημά μας είναι ειδικά σχεδιασμένο για να βρει αυτές τις περιπτώσεις.

Η συμπεριφορική διασταύρωση συνδέει την τεκμηρίωση που αναθεωρείται με την πλήρη ιστορία απαίτησεων του παρόχου. Εάν η τεκμηρίωση παρουσιάζει κλινικές αφηγήσεις που είναι ασυνεπείς με τον τρόπο με τον οποίο ο παρόχος έχει ιστορικά τεκμηριώσει παρόμοιες περιπτώσεις, ή εάν ο όγκος και το μοτίβο των υποστηρικτικών εγγραφών σαφώς απομακρύνεται από το baseline, αυτές οι ασυνεπείς είναι σημάδια. Από μόνες τους, καμία δεν είναι οριστική. Μαζί, με ζύγισμα και εξήγηση στην έξοδο της βαθμολογίας κινδύνου, δίνουν στους ερευνητές einen σημαντικό σημείο εκκίνησης που θα χρειαζόταν ώρες ή ημέρες για να αναπτύξουν χειροκίνητα. Αυτό που κάνει αυτό διαφορετικό από ένα σύστημα που απλά σημάνει AI-γεννημένο περιεχόμενο είναι η συνδυασμένη ανάλυση. Η ανάλυση περιεχομένου μόνο μπορεί να χάσει blended έγγραφα. Η συμπεριφορική ανάλυση μόνο μπορεί να χάσει einen πρώτο απάτηδη με κανένα προηγούμενο μοτίβο. Είναι η τομή όλων των τριών επιπέδων ταυτόχρονα, επεξεργασμένων σε δευτερόλεπτα, που πιάνει αυτό που άλλα συστήματα AI δεν μπορούν.

Από την οπτική σας, ποια είναι κάποια από τα πιο ανησυχητικά σχήματα απάτης που ενεργοποιούνται από deepfake που οι ασφαλιστές και οι ρυθμιστές πρέπει να παρακολουθούν τις επόμενες χρόνια;

Τα σενάρια που με ανησυχούν περισσότερο είναι αυτά που συνδυάζουν κλίμακα με πιστότητα σε τρόπους που είναι δύσκολο να ανιχνευθούν, ακόμη και με ισχυρή ανίχνευση.

Η ψυχική υγεία είναι một πραγματική ευπάθεια. Η τεκμηρίωση για τις υπηρεσίες θεραπείας είναι σε μεγάλο βαθμό αφηγηματική, συμπεριλαμβανομένων σημειώσεων συνεδριών, σχεδίων θεραπείας και περίληψης προόδου. Δεν υπάρχουν εργαστηριακές τιμές για να αναθεωρήσετε, δεν υπάρχουν εικόνες για να εξετάσετε. Ένας απάτηδης παρόχος με πρόσβαση σε ένα γενικό μοντέλο γλώσσας μπορεί να γεννήσει κλινικά πιστότητες τεκμηρίωση υγείας σε εξαιρετική κλίμακα, και ο μόνος πρακτικός τρόπος για να την ανιχνεύσει είναι να χρησιμοποιήσει AI που μπορεί να αξιολογήσει εάν η τεκμηρίωση δείχνει τις γλωσσικές και δομικές υπογραφές της συνθετικής γεννήσεως.

Η απάτη διαγνωστικών εικόνων είναι η άλλη περιοχή που παρακολουθώ στενά. Ελεύθερα και προσβάσιμα εργαλεία AI μπορούν τώρα να γεννήσουν πραγματικές ιατρικές εικόνες από одну seule εικόνα. Όσο αυτά τα εργαλεία βελτιώνονται, οι συνθετικές εξόδους θα γίνουν πιο δύσκολο να διακρίνουν από αυθεντικές σάρονες χωρίς ειδικά εργαλεία ανίχνευσης. Οι ασφαλιστές των οποίων οι ροές εργασίας δεν έχουν ικανότητα forensικής εικόνας λειτουργούν, σε αυτό το σημείο, με βάση την εμπιστοσύνη ότι οι εικόνες που λαμβάνουν είναι πραγματικές.

Υπάρχει επίσης μια αναδυόμενη ανησυχία γύρω από την απάτη ταυτοποίησης και πιστοποίησης, όπου AI-γεννημένα έγγραφα υποστηρίζουν την εγγραφή παρόχων ή την προηγούμενη εξουσιοδότηση για υπηρεσίες που δεν ήταν ποτέ ιατρικά απαραίτητες. Αυτά τα σχήματα είναι πιο δύσκολο να ανιχνευθούν γιατί η απάτη είναι ενσωματωμένη στη διαδικασία εισαγωγής και όχι στις απαίτησεις themselves, και μέχρι να εμφανιστεί στα δεδομένα χρεώσεων, η ζημία έχει ήδη γίνει.

Οι απαίτησεις υγείας συχνά περιλαμβάνουν μεγάλους όγκους τεκμηρίωσης και υποστηρικτικών στοιχείων. Πώς ένα σύστημα AI αξιολογεί αυτήν την πληροφορία αρκετά γρήγορα για να σταματήσει τις απατεώνες απαίτησεις πριν από την πληρωμή;

Η ταχύτητα είναι στην πραγματικότητα ένα βασικό απαιτούμενο, όχι ένα καλό να έχει. Το μόνο τρόπος με τον οποίο η ανίχνευση Deepfake είναι χρήσιμη στην πρακτική είναι εάν λειτουργεί με την ταχύτητα της πιπερίλης απαίτησης. Εάν η ανάλυση διαρκεί ώρες ή απαιτεί έναν άνθρωπο να ξεκινήσει μια ουρά αναθεώρησης, έχετε ήδη χάσει το παράθυρο πληρωμής και είστε πίσω στην ανάκτηση εργασίας μετά την πληρωμή.

Το σύστημά μας σχεδιάστηκε για να ολοκληρώσει την ανάλυση σε δευτερόλεπτα. Όταν τεκμηρίωση υποβάλλεται για αναθεώρηση, η AI εκτελεί την αξιολόγησή της παράλληλα και όχι σειριακά. Η ανάλυση συνθετικού περιεχομένου, η ανίχνευση κλωνοποίησης και η συμπεριφορική διασταύρωση συμβαίνουν ταυτόχρονα και όχι σε μια αλυσίδα. Η έξοδος είναι eine βαθμολογία κινδύνου με λεπτομερείς εξηγήσεις, ώστε ο ερευνητής δεν χρειάζεται να ερμηνεύσει raw σημάδια. Λαμβάνει einen προτεραιωμένο, δράσιμο αποτέλεσμα. Η παράλληλη αρχιτεκτονική είναι μέρος του που μας επιτρέπει να το κάνουμε αυτό γρηγορότερα και με μεγαλύτερη ακρίβεια. Η εκτέλεση όλων των τριών επιπέδων σημαδιών ταυτόχρονα σημαίνει ότι η βαθμολογία κινδύνου αντανακλά την πλήρη εικόνα της περίπτωσης, όχι μόνο το πρώτο σημάδι που εμφανίστηκε.

Το ευρύτερο σημείο εδώ είναι ότι η μετατόπιση που推ujeme σε όλο το έργο της Codoxo, αυτό που ονομάζουμε Point Zero, είναι η μετατόπιση της παρέμβασης της ακεραιότητας των πληρωμών όσο το δυνατόν πιο κοντά στην πηγή. Η πιάση μιας απατεώνας απαίτησης πριν από την πληρωμή είναι δραματικά πιο αποτελεσματική από την ανάκτηση μιας υπερπληρωμής μετά την πληρωμή. Η ανάκτηση είναι ακριβή, αργή και συχνά ατελής. Η πρόληψη στην مرحلة της τεκμηρίωσης και της επαλήθευσης των στοιχείων αλλάζει την οικονομία του ολόκληρου προβλήματος.

Τα εργαλεία ανίχνευσης απάτης πρέπει να είναι εξηγήσιμα στους ερευνητές, τους ελεγκτές και τους ρυθμιστές. Πώς διασφαλίζετε ότι οι βαθμολογίες κινδύνου που παράγονται από την AI μπορούν να κατανοηθούν και να εμπιστευτούν από τις Ειδικές Μονάδες Ερεύνης και τις ομάδες ακεραιότητας των πληρωμών;

Η εξηγήσιμη δεν είναι προαιρετική σε αυτόν τον τομέα. Εάν ένας ερευνητής SIU θα ενεργήσει σε μια βαθμολογία κινδύνου, είτε αυτό σημαίνει να κρατήσει μια απαίτηση, να ανοίξει μια περίπτωση ή να χτίσει μια αναφορά για δίωξη, πρέπει να είναι σε θέση να артиκουλάρει τι το σύστημα βρήκε και γιατί. Eine μαύρη-κουτί έξοδος που λέει “υψηλός κίνδυνος” δεν είναι ένα χρήσιμο εργαλείο σε μια ροή εργασίας που έχει νομική και ρυθμιστική ευθύνη που επισύναψη σε αυτό.

Κάθε βαθμολογία κινδύνου που παράγεται από το σύστημά μας περιλαμβάνει συγκεκριμένα σημάδια απάτης, τα οποία μπορούν να περιλαμβάνουν τα σημάδια που οδήγησαν στη βαθμολογία, τα μοτίβα που αναγνωρίστηκαν και τις ασυνεπείς που επιφέρθηκαν. Ο ερευνητής μπορεί να ακολουθήσει την ερμηνεία από τη βαθμολογία πίσω στην απόδειξη. Αυτό το επίπεδο λεπτομέρειας είναι δυνατό μόνο γιατί η ανίχνευση είναι ειδικά σχεδιασμένη για την υγεία.

Επίσης, χτίσαμε μια ικανότητα προσωποποιημένης προώθησης, η οποία επιτρέπει στους ερευνητές να προσαρμόσουν την ανάλυση για συγκεκριμένες περιπτώσεις ερεύνης και μοναδικά σχήματα απάτης. Αυτό είναι σημαντικό για την εξηγήσιμη στην πρακτική γιατί σημαίνει ότι το σύστημα δεν εκτελεί μια μια-μέγεθος-για-όλους ανάλυση και ζητά από τους ερευνητές να ερμηνεύσουν γενικές εξόδους. Μπορούν να σχήματιζουν την έρευνα με βάση αυτό που ψάχνουν σε μια συγκεκριμένη περίπτωση, το οποίο κάνει τα αποτελέσματα πιο χρήσιμα και πιο εύκολα να εξηγήσουν στους ελεγκτές ή στις νομικές διαδικασίες.

Στον ρυθμιστικό τομέα, OIG, CMS και κρατικές υπηρεσίες αυξάνουν τον έλεγχο για το πώς οι οργανισμοί χρησιμοποιούν την AI στην πρόληψη της απάτης. Η ικανότητα να αποδείξετε ότι η μεθοδολογία ανίχνευσης είναι ερμηνεύσιμη και ελέγξιμη δεν είναι μόνο καλή πρακτική, αλλά και ένα συστατικό της υπεύθυνης ανάπτυξης που μειώνει τον κίνδυνο συμμόρφωσης.

Όσο η γεννητική AI συνεχίζει να βελτιώνεται, οι απάτηδες θα γίνουν πιο σοφιστικοί. Πώς σχεδιάζει η Codoxo τα μοντέλα της για να συνεχίσει να προσαρμόζεται καθώς εμφανίζονται νέες μορφές συνθετικών ιατρικών εγγράφων;

Η πρόκληση είναι ότι η απάτη είναι ανταγωνιστική φύσης. Όσο η ανίχνευση βελτιώνεται, οι τακτικές στην άλλη πλευρά εξελίσσονται. Κάθε σύστημα που εκπαιδεύεται μια φορά και αναπτύσσεται χωρίς ενημέρωση θα χειροτερεύσει με την πάροδο του χρόνου, καθώς οι απάτηδες μαθαίνουν τι την προκαλεί και προσαρμόζουν. Αυτό είναι το ίδιο θεμελιώδες πρόβλημα που κάνει κάθε στατική προσέγγιση ανίχνευσης ανεπαρκή, είτε είναι βασισμένη σε κανόνες είτε σε ένα στατικό μοντέλο AI. Η σοφιστικότητα του εργαλείου δεν έχει σημασία εάν η υποκείμενη αρχιτεκτονική δεν μπορεί να跟ει τον κίνδυνο.

Η προσέγγισή μας είναι να αντιμετωπίσουμε την ανίχνευση ως μια συνεχώς ενημερωμένη ικανότητα και όχι ως ένα στατικό προϊόν. Όσο νέες απάτες εμφανίζονται στο σύστημα και όσο οι τεχνικές γεννήσεως AI εξελίσσονται, αυτές οι απάτες τροφοδοτούν την βελτίωση του μοντέλου. Το σύστημα σχεδιάστηκε για να γίνει καλύτερο στην ανίχνευση της αναδυόμενης απειλής, όχι μόνο των απειλών που υπήρχαν κατά την ανάπτυξη. Αυτό είναι σημαντικό δεδομένου του ρυθμού με τον οποίο η γεννητική AI προχωρά και του ρυθμού με τον οποίο οι απάτηδες πειραματίζονται με νέες προσεγγίσεις, συμπεριλαμβανομένων ορισμένων ανταγωνιστικών τεχνικών όπως οι trojan deepfake κινητήρες που σχεδιάστηκαν για να υπονομεύσουν την ανίχνευση.

Αυτή θα είναι μια συνεχής αναμέτρηση. Δεν υπάρχει τελικό, λυμένο κράτος. Η δέσμευση που έχουμε κάνει είναι να διατηρήσουμε τις ικανότητες ανίχνευσης τρέχουσες με τον κίνδυνο, και η αρχιτεκτονική μας είναι αυτό που το κάνει δυνατό σε κλίμακα.

Κοιτάζοντας μπροστά, πιστεύετε ότι η ανίχνευση deepfake θα γίνει ένα τυποποιημένο συστατικό της υποδομής υγείας, παρόμοιο με τον τρόπο με τον οποίο λειτουργούν τα συστήματα κατά της πλάνης χρημάτων στις финансиες, ή θα χρειαστεί η βιομηχανία ολοκαίνουργιες προσεγγίσεις για την εμπιστοσύνη και την επαλήθευση των ιατρικών δεδομένων;

Ναι, πιστεύω ότι η ανίχνευση Deepfake θα γίνει τυποποιημένη υποδομή, και ο χρονοδιαγραμματισμός για αυτό είναι συντομότερος από ό,τι πολλοί άνθρωποι στη βιομηχανία περιμένουν. Πριν από τα πλαίσια AML να γίνουν τυποποιημένα στις финансиες, η βιομηχανία εξαρτιόταν σε μεγάλο βαθμό από την ανίχνευση που βασίζεται σε κανόνες και την χειροκίνητη αναθεώρηση. Η μετατόπιση συνέβη όταν η απειλή έφτασε σε μια κλίμακα που έκανε την αντιδραστική ανίχνευση σαφώς ανεπαρκή, και όταν το ρυθμιστικό περιβάλλον κωδικοποίησε την προσδοκία ότι οι χρηματοοικονομικές εταιρείες θα είχαν συστηματικές, συνεχώς ενημερωμένες ελέγχους στη θέση τους. Η υγεία προσεγγίζει ένα παρόμοιο σημείο καμπής.

Αυτό που συμβαίνει ήδη είναι ότι οι ασφαλιστές που αναπτύσσουν την ανίχνευση deepfake τώρα το κάνουν γιατί η απειλή είναι πραγματική και παρούσα, όχι γιατί η ρύθμιση το απαιτεί. Όσο οι πρώτες αναπτύξεις παράγουν αποδείξεις των απωλειών που προλαμβάνονται, και όσο τα σχήματα απάτης που παράγονται από την AI γίνονται πιο ορατά στις ενέργειες επιβολής και στην δημόσια αναφορά, η προσδοκία θα εξαπλωθεί σε όλη τη βιομηχανία.

Κοιτάζοντας μπροστά, καθώς η γεννητική AI συνεχίζει να βελτιώνεται, η βιομηχανία μπορεί να χρειαστεί να ξανασκέφτεί πώς η αυθεντικότητα της τεκμηρίωσης καθιερώνεται στο σημείο δημιουργίας και όχι στην επαλήθευση μετά. Αυτό μπορεί να σημαίνει κρυπτογραφική επικύρωση των κλινικών εγγραφών στο επίπεδο του Ηλεκτρονικού Ιατρικού Αρχείου, επικύρωση ταυτότητας παρόχου που ενσωματώνεται στη ροή εργασίας της τεκμηρίωσης, ή άλλα μηχανισμοί που κάνουν την προέλευση ενός εγγράφου ιχνηλατούμενο με τρόπους που δεν είναι τώρα. Η ανίχνευση στην απαίτηση είναι μια απαραίτητη απάντηση στην τρέχουσα απειλή. Αλλά η ανθεκτική λύση μπορεί να απαιτήσει την κατασκευή της επαλήθευσης βαθύτερα στην υποδομή του πώς δημιουργούνται και μεταδίδονται τα ιατρικά αρχεία.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Codoxo.