Δρ. Jaime Bland, Συνιδρυτής και Διευθύνων Σύμβουλος της Aquila Health – Σειρά Συνεντεύξεων

Δρ. Jaime Bland, Συνιδρυτής και Διευθύνων Σύμβουλος της Aquila Health, είναι ένας ηγέτης τεχνολογίας υγείας που επικεντρώνεται στην αντιμετώπιση ενός από τα πιο επίμονες προβλήματα του κλάδου: τα θραυσματικά και μη προσιτά δεδομένα. Συνίδρυσε την Aquila Health για να δημιουργήσει μια ενιαία υποδομή δεδομένων που να επιτρέπει στους οργανισμούς υγείας να ξεπεράσουν τα συστήματα σε θυλάκους, αξιοποιώντας τη μηχανική μάθηση και την αναλυτική με δομή για να παράγει ενεργά δεδομένα ενώ διατηρεί την κλινική εποπτεία. Η εργασία της επικεντρώνεται στην βελτίωση της διαλειτουργικότητας, την ενεργοποίηση της πληροφόρησης υγείας σε επίπεδο πληθυσμού και την υποστήριξη της νωρίτερης ανίχνευσης των αναδυόμενων απειλών για την υγεία μέσω ολοκληρωμένων κλινικών, ασφαλιστικών και γενετικών δεδομένων.

Aquila Health είναι μια πλατφόρμα δεδομένων υγείας που οδηγείται από την τεχνητή νοημοσύνη και σχεδιασμένη για να ενοποιήσει διαφορετικές πηγές δεδομένων σε ένα ενιαίο, διαλειτουργικό σύστημα που υποστηρίζει τόσο την λειτουργική αποτελεσματικότητα όσο και την προηγμένη ανάλυση. Η πλατφόρμα καταναλώνει υψηλής όγκου μορφές δεδομένων υγείας όπως HL7 και FHIR, επιτρέποντας την άρτια ολοκλήρωση μεταξύ νοσοκομείων, συστημάτων δημόσιας υγείας και άλλων ενδιαφερόμενων. Συνδυάζοντας δομημένες προσεγγίσεις μηχανικής μάθησης με ένα μοντέλο επικύρωσης με ανθρώπινο παράγοντα, η Aquila επικεντρώνεται στην παροχή αξιόπιστων ερευνών για τη διαχείριση υγείας του πληθυσμού, την ανίχνευση ανωμαλιών και την λήψη αποφάσεων σε πραγματικό χρόνο, αντί να βασίζεται αποκλειστικά σε αδιαφανή συστήματα τεχνητής νοημοσύνης. Αυτό τοποθετεί την εταιρεία στο σημείο τομής της υποδομής δεδομένων και της εφαρμοσμένης τεχνητής νοημοσύνης, όπου η βελτίωση της ποιότητας και της προσιτότητας των δεδομένων είναι θεμελιώδους σημασίας για την απελευθέρωση του πλήρους potencial της νοημοσύνης υγείας.

Οδηγήσατε την CyncHealth μέσω μιας μαζικής ανάπτυξης, επεκτείνοντας τη διαλειτουργικότητα σε εκατομμύρια ιατρικά αρχεία και πολλαπλά κράτη, πριν ιδρύσετε την Aquila Health. Ποια ήταν τα βασικά όρια ή συστημικά σφάλματα που συναντήσατε κατά τη διάρκεια αυτού του ταξιδιού που σας οδήγησαν τελικά να χτίσετε την Aquila από το έδαφος;

Στην CyncHealth, περάσαμε χρόνια χτίζοντας την υποδομή για τη σύνδεση οργανισμών υγείας σε tutto το Νεμπράσκα και την Αϊόβα. Συνδέσαμε πάνω από 1.100 ιατρικά κέντρα και εκατομμύρια ιατρικά αρχεία, καλύπτοντας πληθυσμό άνω των πέντε εκατομμυρίων ανθρώπων.

Ωστόσο, συνεχίσαμε να αντιμετωπίζουμε το πρόβλημα ότι η σύνδεση των συστημάτων και η πραγματική αξιοποίηση των δεδομένων είναι δύο πολύ διαφορετικά προβλήματα. Για παράδειγμα, εργαστήκαμε για τη δημιουργία eines πίνακα ελέγχου για υπερβολικές δόσεις οπιοειδών που συντόνιζε δεδομένα που λάβαμε από πολλές πηγές. Χρειάστηκαν μήνες με εκατοντάδες ώρες εργασίας και συντονισμό μεταξύ πολλών ενδιαφερόμενων για να κάνουμε αυτό το ενιαίο ο δεδομένο σημείο κατανοητό σε ένα περιβάλλον δημόσιας υγείας και υγείας. Και μετά από όλα αυτά, το πλάνο ήταν ακόμη ατελές.

Αυτή η εμπειρία ήταν το σπέρμα για την Aquila. Ο παραδοσιακός τρόπος σύνδεσης των διεπαφών χωρίς κατανόηση της πληρότητας και της ποιότητας των δεδομένων δεν θα καλύψει τις ανάγκες με τις προόδους που έχουμε δει τα τελευταία χρόνια στην τεχνητή νοημοσύνη. Όταν η τεχνητή νοημοσύνη μπορεί να επιτύχει σε λίγες ώρες αυτό που παλιά χρειαζόταν μήνες και να το κάνει με υψηλότερη ποιότητα και με ένα κλάσμα του κόστους, πρέπει να χρησιμοποιήσετε αυτή τη γνώση για να ξαναχτίσετε από μια νέα βάση. Αυτό είναι αυτό που κάναμε με την Aquila, επικεντρωμένοι σε σύγχρονα εργαλεία που μειώνουν το κόστος της σύνδεσης, ώστε να μπορούμε να επικεντρωθούμε στην ολοκλήρωση του ολόκληρου πλάνου της υγείας – όχι μόνο των δεδομένων που προέρχονται από παραδοσιακές πηγές ΕΧΙ, αλλά του ολόκληρου πλάνου.

Η Aquila αναδύθηκε σχεδόν από την Stealth με μια πλατφόρμα που επικεντρώνεται στην ενοποίηση θραυσματικών δεδομένων υγείας σε ένα ενιαίο, έτοιμο για την τεχνητή νοημοσύνη στρώμα. Ποια ήταν τα βασικά τεχνικά βήματα που την έκαναν δυνατή τώρα, σε σύγκριση με λίγα χρόνια πριν;

Οι ικανότητες της τεχνητής νοημοσύνης οδήγησαν αυτή τη μεταβολή σχεδόν εξ ολοκλήρου.

Πέρασα χρόνια παρακολουθώντας τους ικανούς μηχανικούς να συμφωνούν με τα δεδομένα προτύπων, ένα προς ένα. Λειτουργούσε, αλλά αυτό το μοντέλο δεν μπορεί ποτέ να κλιμακωθεί. Δεν θα μπορούσατε να προσλάβετε αρκετούς μηχανικούς για να τα καταφέρετε γρήγορα αρκετά να παραμείνετε πίσω από τον όγκο και την ποικιλία των δεδομένων που παράγει η υγεία.

Αυτό που είναι διαφορετικό τώρα είναι ότι η τεχνητή νοημοσύνη μπορεί να κάνει το έργο της κανονικοποίησης συνεχώς στο επίπεδο των δεδομένων καθώς η πληροφορία κινείται μέσα στο σύστημα. Δεν είναι μια διαδικασία που εκτελείται τη νύχτα. Συμβαίνει σχεδόν σε πραγματικό χρόνο. Αυτό αλλάζει αυτό που είναι δυνατό για τους κλινικούς και τις ομάδες δημόσιας υγείας, επειδή τα δεδομένα που χρειάζονται είναι δομημένα και επικυρωμένα (κατανοητά) πριν φθάσουν σε αυτούς.

Οι κλινικοί είναι συνηθισμένοι να λαμβάνουν αποφάσεις χωρίς το πλήρες πλάνο του ασθενούς. Η δημόσια υγεία είναι συνηθισμένη να οδηγεί προγράμματα χωρίς πρόσφατα δεδομένα για να τα υποστηρίξουν. Η Aquila αλλάζει το τοπίο και παρέχει την ταχύτητα που καθιστά δυνατή την αποτελεσματική λήψη αποφάσεων με βάση τα δεδομένα σε όλη την υγεία.

Χτίσαμε το TREUE™ ως το πλαίσιο που οργανώνει κλινικά δεδομένα που προέρχονται από ΕΧΙ, εργαστήρια, δημόσια υγεία, ασφαλιστικά και κοινωνικά δεδομένα σε μια ενιαία δομή. Η τεχνητή νοημοσύνη δεν αντικαθιστά τη gute διακυβέρνηση των δεδομένων, την κάνει όμως κλιμακωτή για πρώτη φορά.

Έχετε τονίσει ότι η πραγματική πρόκληση στην τεχνητή νοημοσύνη υγείας δεν είναι τα μοντέλα, αλλά τα ίδια τα δεδομένα. Ποια είναι τα πιο κρίσιμα κενά στην τρέχουσα υποδομή δεδομένων υγείας που εμποδίζουν την τεχνητή νοημοσύνη από το να παράγει σημαντικά αποτελέσματα;

Ο κλάδος μιλάει για το μοντέλο τεχνητής νοημοσύνης, αλλά το μοντέλο δεν είναι το σκληρό μέρος.

Το σκληρό μέρος είναι ότι ένας ασθενής μπορεί να μπει σε τρία διαφορετικά ιδρύματα σε μια seule ημέρα και να εμφανιστεί ως τρεις διαφορετικοί άνθρωποι σε τρία διαφορετικά συστήματα. Τα εργαστήρια δεν ταιριάζουν με τις κλινικές σημειώσεις. Το αρχείο του ασφαλιστή έχει einen διαφορετικό αναγνωριστικό από το αρχείο του νοσοκομείου και η δημόσια υγεία χρησιμοποιεί ένα εντελώς διαφορετικό αναγνωριστικό. Μέχρι να ταξινομήσετε όλα αυτά χειροκίνητα, το κλινικό παράθυρο έχει κλείσει.

Ισχυρές τεχνικές συνδέσεις δεν μπορούν να διορθώσουν αρχεία που φτάνουν ατελή ή εκτός σειράς. Η τεχνητή νοημοσύνη δεν μπορεί να ανιχνεύσει ένα μοτίβο που δεν υπάρχει στα δεδομένα και δεν μπορεί να κάνει μια αξιόπιστη σύσταση από ένα αρχείο που λείπει το ήμισυ της ιστορικής ή τρέχουσας πληροφορίας που θα πρέπει να περιέχει.

Το κενό δεν είναι η επεξεργαστική ισχύς, είναι η εμπιστοσύνη στα υποκείμενα δεδομένα. Αυτό είναι αυτό που πρέπει να λυθεί πρώτα και η επίλυση του σε κλίμακα είναι όπου η τεχνητή νοημοσύνη μπορεί πραγματικά να βρει τη θέση της.

Η Aquila θέτει τον εαυτό της ως το “στρώμα προετοιμασίας δεδομένων” πριν από την κατάπωση της τεχνητής νοημοσύνης. Μπορείτε να μας οδηγήσετε μέσω αυτού του στρώματος στην πράξη, ιδιαίτερα όταν αντιμετωπίζετε πολύ ετερογενείς εισόδους όπως κλινικά αρχεία, δεδομένα ασφαλίσεων και δεδομένα σε πραγματικό χρόνο;

Χρησιμοποιώντας το παράδειγμα από πριν, σκεφτείτε τι φτάνει όταν μια συνάντηση ασθενούς παράγει δεδομένα. Λαμβάνετε ένα μήνυμα HL7 από το νοσοκομείο, ένα αρχείο ασφαλίσεων από τον ασφαλιστή, ένα αποτέλεσμα εργαστηρίου από ένα αναφορικό εργαστήριο που χρησιμοποιεί einen διαφορετικό αναγνωριστικό και μια αναφορά δημόσιας υγείας που αρχειοθετείται σε ένα εντελώς διαφορετικό χρονοδιάγραμμα. Κανένα από αυτά δεν σχεδιάστηκε για να συμφωνηθεί με το άλλο.

Το στρώμα προετοιμασίας μας, TREUE™, είναι αυτό που κάθεται μεταξύ αυτών των εισόδων και οποιασδήποτε ανάλυσης ή εφαρμογής τεχνητής νοημοσύνης. Η δουλειά του είναι να αξιολογήσει κάθε αρχείο καθώς φτάνει, να ταιριάξει ταυτότητες μεταξύ πηγών, να κανονικοποιήσει μορφές και να σημειώσει τι λείπει ή είναι ασυνεπές πριν τα δεδομένα προχωρήσουν περαιτέρω.

Στην πράξη, αυτό σημαίνει ότι ένας κλινικός που κοιτάζει έναν ασθενή εργάζεται από ένα αρχείο που έχει επικυρωθεί και ευθυγραμμιστεί μεταξύ πηγών, αντί να συμφωνεί χειροκίνητα τέσσερις διαφορετικές προβολές συστήματος κατά τη διάρκεια μιας συνάντησης φροντίδας. Για τις ομάδες δημόσιας υγείας, σημαίνει ότι τα σήματα των εξάρσεων δεν καθυστερούν από δεδομένα που φτάνουν σε διαφορετικές μορφές από διαφορετικές δικαιοδοσίες.

Είναι εργασία υποδομής. Δεν είναι γλάμψηουρό, αλλά τίποτα δεν λειτουργεί χωρίς αυτό.

Οι προδιαγραφές διαλειτουργικότητας όπως το Fast Healthcare Interoperability Resources (FHIR) και το United States Core Data for Interoperability (USCDI) υπάρχουν εδώ και χρόνια,ωστόσο η θραυσματικότητα παραμένει. Τι λείπει ακόμη από μια προοπτική προδιαγραφών και πώς αντιμετωπίζει η Aquila αυτά τα κενά διαφορετικά;

Το FHIR και το USCDI έδωσαν στον κλάδο μια κοινή γλώσσα για την ανταλλαγή δεδομένων. Αυτό ήταν σημαντική πρόοδος. Αλλά μια κοινή γλώσσα για την αποστολή δεδομένων δεν είναι το ίδιο πράγμα με δεδομένα που συμπεριφέρονται συνεχώς όταν φτάνουν.

Εδώ είναι το κενό: τα δεδομένα υγείας δεν προέρχονται από ένα domaine. Κλινικά συστήματα, δημόσιες υγειονομικές εγγραφές, εργαστήρια και κοινωνικά δεδομένα έχουν τις δικές τους απαιτήσεις διακυβέρνησης, χρονοδιαγράμματα και ορισμούς για το τι σημαίνει ένα πεδίο. Το FHIR δεν σας λέει πώς να συμφωνήσετε ένα σύνολο κοινωνικών δεδομένων με μια κλινική εγγραφή από eine διαφορετική δικαιοδοσία.

Αυτό που προστίθεται το TREUE™ είναι ένα ενιαίο πλαίσιο για το πώς τα δεδομένα από όλα αυτά τα domaine μπορούν να οργανωθούν και να επικυρωθούν μαζί, ενώ vẫn σεβόμαστε τις κανόνες διακυβέρνησης που ισχύουν για κάθε πηγή. Το αποτέλεσμα είναι δεδομένα που μπορούν πραγματικά να αναλυθούν μεταξύ domaine, όχι μόνο δεδομένα που έχουν μεταδοθεί επιτυχώς.

Η Aquila λειτουργεί σε περιβάλλοντα υψηλής συνέπειας όπου η αποτυχία δεν είναι μια επιλογή. Πώς σχεδιάζετε συστήματα τεχνητής νοημοσύνης που ισορροπούν την απόδοση σε πραγματικό χρόνο με αυστηρές απαιτήσεις περί διακυβέρνησης, ελέγχου και εμπιστοσύνης;

Πρέπει να χτίσετε τη διακυβέρνηση στην αρχιτεκτονική πριν γράψετε την πρώτη γραμμή του κώδικα της εφαρμογής. Δεν πρέπει να είναι ένα στρώμα που προστίθεται μετά.

Στα περιβάλλοντα υγείας και κυβερνήσεων, οι αποφάσεις που ενημερώνονται από αυτά τα δεδομένα επηρεάζουν την φροντίδα των ασθενών, την ανταπόκριση στις εξάρσεις και τον τρόπο με τον οποίο οι δημόσιες πηγές διατίθενται. Κάθε ενέργεια που λαμβάνεται στα δεδομένα πρέπει να είναι αναγνωρίσιμη και η πρόσβαση πρέπει να ελέγχεται στενά. Το σύστημα πρέπει να ικανοποιεί τις απαιτήσεις συμμόρφωσης των περιβαλλόντων στα οποία λειτουργεί.

Για την Aquila, αυτό σημαίνει λειτουργία μέσα σε υποδομές cloud κυβέρνησης, ελέγχους πρόσβασης zero-trust και πρακτικές ασφαλείας που ευθυγραμμίζονται με τα πρότυπα HIPAA και ομοσπονδιακών προτύπων. Έχουμε ενεργές συμβάσεις σε εξέλιξη με κρατικές κυβερνήσεις, ομοσπονδιακές υπηρεσίες και οργανισμούς υγείας, και αυτά τα περιβάλλοντα έχουν πολύ διαφορετικές απαιτήσεις συμμόρφωσης που η πλατφόρμα πρέπει να ικανοποιήσει ταυτόχρονα.

Το στοιχείο του ανθρώπινου παράγοντα είναι εξίσου σημαντικό. Η τεχνητή νοημοσύνη μπορεί να επιφέρει σήματα, αλλά οι κλινικοί εμπειρογνώμονες επικυρώνουν τις ανωμαλίες πριν οι αποφάσεις ληφθούν. Η τεχνολογία κάνει την ανίχνευση των σημάτων πιο γρήγορη. Δεν αντικαθιστά τη κρίση των ανθρώπων που πρέπει να ενεργήσουν πάνω σε αυτά.

Η πλατφόρμα σας υποστηρίζει ασφαλή, επί-συσκευής ανάπτυξη της τεχνητής νοημοσύνης και κυριαρχία δεδομένων. Πόσο σημαντική γίνεται η αποκεντρωποίηση στην τεχνητή νοημοσύνη υγείας, ιδιαίτερα με τις αυξανόμενες ανησυχίες περί ιδιωτικού απορρήτου και συμμόρφωσης με τους κανονισμούς;

Γίνεται απαραίτητη, και νομίζω ότι ο κλάδος μόλις αρχίζει να αντιλαμβάνεται το γιατί.

Οι οργανισμοί υγείας λειτουργούν υπό αυστηρές υποχρεώσεις ιδιωτικού απορρήτου. Ευαίσθητα δεδομένα ασθενών δεν μπορούν απλώς να κεντρώνονται και να επεξεργάζονται σε ένα κοινό περιβάλλον. Διαφορετικά κράτη έχουν διαφορετικές κανόνες. Οι ομοσπονδιακές υπηρεσίες έχουν διαφορετικές κανόνες. Τα διεθνή δεδομένα υγείας έχουν ακόμη ένα σύνολο περιορισμών. Κάθε αρχιτεκτονική που απαιτεί την μετακίνηση ευαίσθητων δεδομένων σε ένα κεντρικό σημείο θα συναντήσει αυτά τα τοίχωμα επανειλημμένα.

Η κατεύθυνση που πραγματικά λειτουργεί είναι η παραγωγή ερευνών κοντά στο σημείο όπου τα δεδομένα ήδη ζουν. Οι οργανισμοί μπορούν να συνεισφέρουν σε κοινή ανάλυση χωρίς να χάνουν τον έλεγχο των υποκείμενων δεδομένων. Αυτό είναι αυτό που επιτρέπουν τα ομοσπονδιακά μοντέλα.

Η πλατφόρμα μας είναι χτισμένη για να λειτουργήσει σε ένα ρυθμισμένο, αποκεντρωμένο περιβάλλον – διακυβέρνηση που ταξιδεύει με τα δεδομένα αντί να εφαρμόζεται σε ένα κεντρικό σημείο. Είναι μια πιο δύσκολη αρχιτεκτονική για να χτιστεί, αλλά είναι αυτή που είναι πραγματικά συμβατή με τον τρόπο που λειτουργεί η διακυβέρνηση των δεδομένων υγείας στην πράξη.

Πολλοί νεοί οργανισμοί της τεχνητής νοημοσύνης βασίζονται πολύ στις μαύρες κούκλες μοντέλα, ενώ η Aquila ενσωματώνει την επικύρωση με ανθρώπινο παράγοντα. Πού βλέπετε τη γραμμή μεταξύ αυτοματοποίησης και ανθρώπινης εποπτείας σε κλινικά συστήματα τεχνητής νοημοσύνης;

Ξεκίνησα την καριέρα μου ως νοσηλεύτρια. Αυτή η εμπειρία διαμορφώνει τον τρόπο που σκέφτομαι για το πού ανήκει η τεχνητή νοημοσύνη σε ένα κλινικό περιβάλλον και πού δεν ανήκει.

Η τεχνητή νοημοσύνη είναι πολύ καλή στο να ανιχνεύει μοτίβα σε μεγάλες βάσεις δεδομένων. Δεν είναι καλή στο να ξέρει τι σημαίνει ένα μοτίβο για einen συγκεκριμένο ασθενή με συγκεκριμένη ιστορία σε einen συγκεκριμένο κοινωνικό περιβάλλον. Αυτό είναι ακόμη μια κρίση ανθρώπινης κρίσης.

Ο σωστός ρόλος της τεχνητής νοημοσύνης σε κλινικά συστήματα είναι να επιφέρουν σήματα που ένας άνθρωπος μπορεί να χάσει σε όγκο, όχι να αντικαταστήσουν την κλινική κρίση που ακολουθεί. Στην Aquila, οι ανωμαλίες και οι έρευνες που σημειώνονται από το σύστημα πηγαίνουν σε κλινικούς και εμπειρογνώμονες για ανασκόπηση πριν οι αποφάσεις ληφθούν. Η τεχνολογία σας λέει πού να κοιτάξετε, και ο επαγγελματίας σας λέει τι σημαίνει.

Πού νομίζω ότι ανήκει η γραμμή: αυτοματοποιήστε την ανίχνευση, διατηρήστε την ερμηνεία με τους ανθρώπους που είναι υπεύθυνοι για το αποτέλεσμα.

Η Aquila εργάζεται σε δημόσια υγεία, κυβερνητικά συστήματα και ρυθμιζόμενους κλάδους. Πώς διαφέρουν οι απαιτήσεις για την υποδομή της τεχνητής νοημοσύνης μεταξύ αυτών των περιβαλλόντων σε σύγκριση με τις παραδοσιακές επιχειρηματικές αναπτύξεις της τεχνητής νοημοσύνης;

Σε μια τυπική επιχειρηματική ανάπτυξη της τεχνητής νοημοσύνης, συνήθως εργάζεστε μέσα σε ένα περιβάλλον δεδομένων ενός οργανισμού, ένα σύνολο κανόνων διακυβέρνησης, ένα πλαίσιο συμμόρφωσης.

Τα περιβάλλοντα δημόσιας υγείας και κυβερνήσεων είναι δομικά διαφορετικά. Εργάζεστε σε συντονισμό μεταξύ πολλών δικαιοδοσιών, πολλών υπηρεσιών, πολλών κλινικών ρυθμίσεων, που λειτουργούν σε διαφορετικά χρονοδιαγράμματα και υπό διαφορετικά νομικά πλαίσια. Ένα νοσοκομείο σε ένα κράτος, μια υπηρεσία δημόσιας υγείας σε ένα άλλο, ένα ομοσπονδιακό πρόγραμμα με τις δικές του απαιτήσεις δεδομένων. Όλα αυτά πρέπει να ανταλλάσσουν δεδομένα και να παράγουν έρευνες χωρίς καν ένα ενιαίο ον να έχει μη ελεγχόμενη πρόσβαση στα αρχεία του άλλου.

Η υποδομή πρέπει να υποστηρίζει επεξεργασία υψηλού όγκου ενώ διατηρεί αυστηρή εποπτεία σε όλα αυτά τα σύνορα. Πρέπει να ολοκληρωθεί με μορφές μηνυμάτων υγείας legacy, επειδή αυτά τα συστήματα δεν θα εξαφανιστούν. Και πρέπει να λειτουργεί αξιόπιστα σε περιβάλλοντα όπου η διακοπή λειτουργίας δεν είναι μόνο ένα προβλήμα επιχειρήσεων, αλλά και ένα προβλήμα ασφάλειας των ασθενών.

Αυτή η πολυπλοκότητα είναι το γιατί ξεκινήσαμε την Aquila με αυτά τα περιβάλλοντα αντί του παραδοσιακού επιχειρηματικού αγορά. Αν μπορείτε να χτίσετε υποδομή που λειτουργεί εδώ, λειτουργεί παντού.

Οι ικανότητες της τεχνητής νοημοσύνης συνεχίζουν να προοδεύουν γρηγορότερα από τα πλαίσια διακυβέρνησης. Ποια είναι οι ευθύνες των ιδρυτών και των κατασκευαστών πλατφορμών για να διασφαλίσουν ότι αυτά τα συστήματα αναπτύσσονται με ηθική και ασφάλεια από την πρώτη ημέρα;

Νομίζω ότι η ευθύνη είναι απλή, ακόμη και αν η ικανοποίηση της δεν είναι. Αν χτίζετε τεχνητή νοημοσύνη που επηρεάζει κλινικές αποφάσεις ή αποτελέσματα δημόσιας υγείας, δεν μπορείτε να αντιμετωπίζετε τη διακυβέρνηση ως ένα στοιχείο του οδικού χάρτη του προϊόντος που θα φτάσετε τελικά. Πρέπει να σχεδιαστεί από την αρχή.

Αυτό που σημαίνει πρακτικά είναι ότι κάθε ενέργεια στα δεδομένα πρέπει να είναι αναγνωρίσιμη. Τα μοντέλα πρέπει να είναι ερμηνεύσιμα αρκετά ώστε ένας κλινικός να μπορεί να κατανοήσει γιατί ένα σήμα σημειώθηκε. Οι κλινικοί εμπειρογνώμονες πρέπει να είναι μέρος της διαδικασίας ανασκόπησης, όχι μια σκέψη μετά. Και ο οργανισμός πρέπει να είναι ειλικρινής σχετικά με αυτό που το σύστημα μπορεί και δεν μπορεί να κάνει με αξιόπιστο τρόπο.

Έχω περάσει την καριέρα μου σε περιβάλλοντα όπου οι αποτυχίες των δεδομένων έχουν πραγματικές συνέπειες για πραγματικούς ανθρώπους. Αυτό διαμορφώνει τον τρόπο που σκέφτομαι γι’ αυτό. Οι ικανότητες προοδεύουν γρήγορα, και η ευθύνη για το πώς αναπτύσσονται δεν μπορεί να μείνει πίσω. Οι ιδρυτές που χτίζουν αυτά τα συστήματα πρέπει να κρατούν αυτό το πρότυπο για τον εαυτό τους, όχι να περιμένουν τους κανονισμούς να το επιβάλλουν.

Ευχαριστούμε για τη σοφία συζήτηση. Οι αναγνώστες που ενδιαφέρονται να εξερευνήσουν την πλατφόρμα και την προσέγγισή της στην υποδομή δεδομένων υγείας μπορούν να μάθουν περισσότερα επισκεπτόμενοι την Aquila Health.