Γουέντι Γκίλμπερτ, Αντιπρόεδρος Προϊόντων, Mark43 – Σειρά Συνεντεύξεων

Γουέντι Γκίλμπερτ, Αντιπρόεδρος Προϊόντων στην Mark43, φέρνει πάνω από δύο δεκαετίες εμπειρίας στην τεχνολογία δημόσιας ασφάλειας, με καριέρα που περιλαμβάνει ηγετικές θέσεις διαχείρισης προϊόντων σε οργανισμούς όπως η CentralSquare Technologies, η TriTech Software Systems και η VisionAIR. Έχοντας προοδευτικά προχωρήσει через ρόλους που επικεντρώνονται σε συστήματα διαχείρισης εγγραφών (RMS) και πλατφόρμες δημόσιας ασφάλειας, τώρα ηγείται της στρατηγικής προϊόντων στην Mark43, όπου είναι υπεύθυνη για τη διαμόρφωση της εξέλιξης των cloud-πρωτογενών λύσεων που χρησιμοποιούνται από υπηρεσίες επιβολής του νόμου. Η θητεία της αντανακλά μια βαθιά εξειδίκευση στη μετεξέλιξη του mission-critical λογισμικού για τους πρώτους απαντήσαντες, με έμφαση στη χρηστικότητα, τη συμμόρφωση και την επιχειρησιακή αποτελεσματικότητα σε περιβάλλοντα υψηλού κινδύνου.

Mark43 είναι ένας ηγέτης παροχέα cloud-πρωτογενών λύσεων δημόσιας ασφάλειας, που προσφέρει μια ολοκληρωμένη πλατφόρμα που περιλαμβάνει διαχείριση εγγραφών (RMS), υποβοηθούμενη διακοσμήτηση (CAD), αναλυτικά και κινητά εργαλεία που σχεδιάζονται για τις υπηρεσίες επιβολής του νόμου και τις υπηρεσίες έκτακτης ανάγκης. Χτισμένο σε αρχιτεκτονική SaaS, η πλατφόρμα επιτρέπει στις υπηρεσίες να ροκανίζουν τη γραπτή αναφορά, να διαχειρίζονται περιπτώσεις και να έχουν πρόσβαση σε δεδομένα σε πραγματικό χρόνο από οπουδήποτε, μειώνοντας σημαντικά το διοικητικό φορτίο και βελτιώνοντας τους χρόνους απόκρισης. Τα συστήματα της σχεδιάζονται για να αντικαταστήσουν την κληρονομική υποδομή με επεκτάσιμες, ασφαλείς και mobile-πρώτες λύσεις, βοηθώντας πάνω από εκατοντάδες υπηρεσίες να βελτιώσουν την ενημέρωση της κατάστασης, τη συνεργασία και τα συνολικά αποτελέσματα δημόσιας ασφάλειας.

Έχετε περάσει πάνω από δύο δεκαετίες κατασκευάζοντας προϊόντα σε εταιρείες όπως η VisionAIR, η TriTech, η CentralSquare και τώρα η Mark43. Πώς έχει εξελιχθεί η προοπτική σας για την τεχνολογία δημόσιας ασφάλειας, και τι feels θεμελιωδώς διαφορετικό για αυτήν την τρέχουσα κυματική κίνηση της υιοθέτησης του AI;

Η τεχνολογία έχει αλλάξει πολύ τις τελευταίες δύο δεκαετίες. Για το μεγαλύτερο μέρος αυτής της περιόδου, η τεχνολογία σχεδιάστηκε για να υποστηρίξει την αποστολή μετά το γεγονός. Τα συστήματα κατέγραψαν τι συνέβη, αλλά δεν βοήθησαν ενεργά να διαμορφώσουν τι θα συνέβαινε επόμενο. Αυτό είναι το θεμελιωδώς διαφορετικό τώρα.

Για πρώτη φορά, δεν προσθέτουμε απλώς τεχνολογία στις ροές εργασίας της δημόσιας ασφάλειας. Ανασχεδιάζουμε αυτά τα συστήματα ως AI-πρωτογενή από την αρχή, το οποίο αλλάζει εντελώς το ρόλο της τεχνολογίας. Κινουμεθα από συστήματα εγγραφών σε συστήματα δράσης. Αντί να καταγράφουμε απλώς τα περιστατικά, βοηθούμε τις υπηρεσίες να ερμηνεύουν, να προτεραιοποιούν και να ενεργούν σε πραγματικό χρόνο. Αυτό είναι η πρώτη φορά στην καριέρα μου που έχω δει την τεχνολογία να λειτουργεί στην ταχύτητα που αξίζει η δημόσια ασφάλεια, η οποία είναι να παραδώσει προϊόντα που μπορούν να μεταμορφώσουν τον τρόπο με τον οποίο λειτουργούν οι υπηρεσίες καθημερινά και τελικά να προσφέρουν καλύτερα αποτελέσματα δημόσιας ασφάλειας.

Η έρευνα της Mark43 δείχνει ισχυρή υποστήριξη για το AI μεταξύ των υπηρεσιών επιβολής του νόμου, αλλά και μια σαφή προσδοκία για ανθρώπινη εποπτεία. Τι σημαίνει η συμμετοχή ανθρώπων στην καθημερινή λειτουργία;

Σε κάθε απόφαση προϊόντων που λαμβάνουμε, η αρχή είναι σαφής. Το AI υποστηρίζει. Οι άνθρωποι αποφασίζουν.

Το AI μπορεί να δομήσει μια αναφορά, να επιφέρει συνδέσμους μεταξύ εγγραφών ή να υπογραμμίσει κρίσιμες πληροφορίες σε μια κλήση. Αλλά ένας αξιωματικός, ένας διακομιστής ή ένας ερευνητής είναι πάντα εκείνος που εφαρμόζει κρίση και λαμβάνει την απόφαση. Στην πράξη, αυτό σημαίνει ότι το AI επιταχύνει το μονοπάτι προς την ενημέρωση ενώ διατηρεί την ευθύνη με τον άνθρωπο. Σχεδιάζει, προτείνει και συνδέει, αλλά δεν αποφασίζει.

Αυτό είναι ιδιαίτερα σημαντικό στις ροές εργασίας CAD και RMS, όπου οι αποφάσεις έχουν πραγματικές συνέπειες. Ο ρόλος του AI είναι να μειώσει την τριβή και το γνωστικό φορτίο, ώστε οι επαγγελματίες της δημόσιας ασφάλειας να μπορέσουν να επικεντρωθούν σε όλα αυτά που απαιτούν την εμπειρογνωσία τους.

Μια επαναλαμβανόμενη ανησυχία είναι εάν οι αναφορές και οι αποφάσεις που υποστηρίζονται από το AI θα αντέξουν στο δικαστήριο. Πώς σχεδιάζετε συστήματα που δεν είναι μόνο λειτουργικά χρήσιμα αλλά και νομικά αδιαμφισβήτητα;

Ερχόμενος από ένα υπόβαθρο CAD και RMS, η νομική αδιαμφισβήτητη είναι όχι ένα “nice-to-have”. Αν οι εγγραφές από ένα σύστημα δεν μπορούν να σταθούν στο δικαστήριο, τα εργαλεία δεν είναι έτοιμα για χρήση δημόσιας ασφάλειας.

Αυτό ξεκινά με τη διαφάνεια. Κάθε AI-γεννημένο αποτέλεσμα πρέπει να συνδέεται απευθείας με τα πηγαία δεδομένα. Οι χρήστες πρέπει να μπορέσουν να ανατρέξουν ακριβώς από πού προέρχονται οι πληροφορίες, πώς γεννήθηκαν και πώς χρησιμοποιήθηκαν. Αν αυτό το σχήμα δεν είναι σαφές, το σύστημα δεν θα αντέξει στην εξέταση. Το σύστημα πρέπει επίσης να γνωρίζει τα όριά του. Όταν τα δεδομένα είναι ατελή, σχεδιάζουμε το AI να επιφέρει αυτό το κενό, όχι να προσπαθήσει να το λύσει μόνος του. Δεν υποψιάζεται.

Ένα άλλο κρίσιμο κομμάτι είναι η ευθυγράμμιση με τον τρόπο με τον οποίο λειτουργούν οι υπηρεσίες. Το AI δεν μπορεί να διευθύνει την πολιτική ή τη ροή εργασίας. Πρέπει να συμμορφώνεται με τις νομικές απαιτήσεις, τα πρότυπα αναφοράς και τις επιχειρησιακές πραγματικότητες κάθε υπηρεσίας.

Κάνουμε την διαμόρφωση απευθείας στο σύστημα. Οι επικυρώσεις συμμόρφωσης και οι άδειες AI μπορούν να οριστούν στο επίπεδο αναφοράς και κωδικού αδικήματος, ώστε οι υπηρεσίες να μπορέσουν να επιλέξουν πού η υποστήριξη AI είναι κατάλληλη και πού δεν είναι. Για παράδειγμα, μια υπηρεσία μπορεί να ενεργοποιήσει την υποστήριξη AI για περιστατικά χαμηλότερου επιπέδου ενώ να περιορίζει σε περιπτώσεις που φέρουν υψηλότερο εύρος αποδεικτικών στοιχείων.

Επίσης, διατηρούμε πλήρη διαφάνεια σχετικά με τον τρόπο με τον οποίο χρησιμοποιείται το AI. Κάθε περίπτωση συμμετοχής AI καταγράφεται και η πλήρης ιστορία σχεδίασης διατηρείται μέσα στην αναφορά. Αυτό δημιουργεί ένα σαφές, αναθεωρήσιμο αρχείο που υποστηρίζει τόσο την εσωτερική ευθύνη όσο και την εξωτερική νομική εξέταση.

Αυτά τα συστήματα πρέπει να αντέξουν στην εξέταση από τους εποπτές, δικηγόρους και το κοινό για να είναι λειτουργικά χρήσιμα και αποτελεσματικά.

Από την εμπειρία σας, πού το AI έχει ήδη παραδώσει μετρήσιμο όφελος στη δημόσια ασφάλεια σήμερα, και πού ακόμη δεν ανταποκρίνεται στις προσδοκίες;

Η πιο άμεση αξία είναι στις βασικές ροές εργασίας στις οποίες έχω δουλέψει όλη την καριέρα μου.

Η γραπτή αναφορά είναι απαραίτητη, αλλά είναι επίσης μια επιμονή αποστράτευση του χρόνου. Το AI αλλάζει αυτό, μετατρέποντας την τεκμηρίωση σε κάτι που συμβαίνει παράλληλα με τη δουλειά, όχι μετά. Αυτή είναι μια σημαντική μετατόπιση για τους αξιωματικούς και τις υπηρεσίες που διαχειρίζονται περιορισμοί προσωπικού.

Αλλά η μεγαλύτερη μετατόπιση συμβαίνει στο πώς οι υπηρεσίες μετακινούνται από την ενημέρωση στην δράση. Το AI μπορεί να επιφέρει τι είναι σημαντικό σε πραγματικό χρόνο, όχι μόνο μετά το γεγονός. Όπου βλέπω το κενό είναι όχι στην τεχνολογία. Είναι στο πώς οι οργανισμοί την λειτουργούν. Το AI απαιτεί σαφείς πολιτικές, διακυβέρνηση και εκπαίδευση για να είναι αποτελεσματικό. Οι υπηρεσίες που τη θεматриваί ως μια μεταμόρφωση της ροής εργασίας βλέπουν αποτελέσματα. Αν οι υπηρεσίες τη βλέπουν μόνο ως μια λειτουργία, δεν θα ξεκλειδώσει την ίδια ευκαιρία.

Η προκατάληψη παραμένει μια από τις πιο κρίσιμες προκλήσεις στο AI, ιδιαίτερα στις υπηρεσίες επιβολής του νόμου όπου τα ιστορικά δεδομένα μπορούν να αντανακλούν συστημικές προβλήματα. Πώς αντιμετωπίζει η Mark43 την προκατάληψη ενώ διατηρεί την ακρίβεια και την εμπιστοσύνη στα συστήματά της;

Η προκατάληψη είναι ένα πραγματικό πρόβλημα, ιδιαίτερα σε συστήματα που βασίζονται σε ιστορικά δεδομένα.

Από την πλευρά του προϊόντος, η απάντηση δεν είναι να αποκρύψει πώς λειτουργεί το σύστημα. Είναι να το κάνει πιο διαφανές και πιο ευθύνη. Εστιάζουμε στην βελτίωση της ποιότητας των δεδομένων στην είσοδο, την καθοδήγηση των εξόδων και την διασφάλιση ότι υπάρχει πάντα ανθρώπινη αναθεώρηση. Στα συστήματα CAD και RMS, καλύτερα δεδομένα οδηγούν σε καλύτερες αποφάσεις. Το AI πρέπει να ενισχύσει αυτό, όχι να το υπονομεύσει.

Ο στόχος είναι να εδραιώσει τις αποφάσεις σε πιο πλήρη και συνεπή πληροφορίες, διασφαλίζοντας ότι κάθε έξοδος μπορεί να εξεταστεί, να αναθεωρηθεί και να βελτιωθεί με την πάροδο του χρόνου.

Η διαφάνεια και η αναθεωρησιμότητα συχνά συζητιούνται ως απαιτήσεις για υπεύθυνο AI. Τι σημαίνει η πλήρης αναθεωρησιμότητα στην πράξη για τις υπηρεσίες που χρησιμοποιούν εργαλεία που υποστηρίζονται από το AI;

Στα συστήματα δημόσιας ασφάλειας, η αναθεωρησιμότητα έχει πάντα ήταν απαραίτητη. Το AI αυξάνει το όριο.

Για τις υπηρεσίες που χρησιμοποιούν το AI, πρέπει να υπάρχει πλήρης ορατότητα σε τι γεννήθηκε, ποια δεδομένα το ενημέρωσαν και πώς χρησιμοποιήθηκε. Τίποτα δεν πρέπει να υπάρχει χωρίς μια σαφή σύνδεση πίσω στο υποκείμενο αρχείο. Κάθε έξοδος πρέπει να είναι εξηγήσιμη. Κάθε βήμα πρέπει να είναι αναθεωρήσιμο. Αυτός είναι ο τρόπος με τον οποίο χτίζουμε συστήματα που μπορούν να εμπιστευτούν, όχι μόνο λειτουργικά, αλλά και δημόσια.

Πολυάριθμες υπηρεσίες δημόσιας ασφάλειας εξακολουθούν να βασίζονται σε κληρονομικά συστήματα και κατακερματισμένα δεδομένα. Πόσο σημαντική είναι η μετεξέλιξη της υποδομής πριν το AI μπορεί να παραδώσει σημαντικά αποτελέσματα;

Το AI είναι τόσο ισχυρό όσο και η βάση πάνω στην οποία βασίζεται. Έχω δουλέψει με περιβάλλοντα CAD και RMS κληρονομιάς για μεγάλο μέρος της καριέρας μου, και έχω δει από πρώτο χέρι πόσο τα κατακερματισμένα συστήματα περιορίζουν τι μπορούν να κάνουν οι υπηρεσίες. Οι ερευνητές που χρησιμοποιούν αυτά τα συστήματα συχνά πρέπει να ερωτήσουν πολλά εργαλεία μόνο για να κατανοήσουν μια単η περίπτωση. Αυτό δεν είναι βιώσιμο.

Το AI εξαρτάται από συνδεδεμένα, προσιτά δεδομένα. Αν τα συστήματα είναι απομονωμένα ή απαιτούν χειροκίνητες εργασίες, το AI δεν μπορεί να παραδώσει σημαντικά αποτελέσματα. Γίνεται ένα άλλο επίπεδο πολυπλοκότητας αντί για ένα πολλαπλασιαστή δύναμης. Η σύγχρονη, cloud-πρωτογενής υποδομή ξεκλειδώνει τη δυνατότητα για το AI σε ολόκληρη την συνδεδεμένη πλατφόρμα.

Υπάρχει αυξανόμενη ενδιαφέρον για συστήματα AI που μπορούν να λάβουν δράση αντί να παρέχουν μόνο ενημερώσεις. Βλέπετε ένα μέλλον όπου το AI συμμετέχει ενεργά σε ροές εργασίας όπως η διαχείριση περιπτώσεων ή η διακοσμήτηση, και πού πρέπει να οριστούν τα όρια;

Το AI θα συνεχίσει να κινείται βαθύτερα στις ροές εργασίας, ιδιαίτερα σε περιοχές όπως η διαχείριση κλήσεων, η τριχοτόμηση και η διαχείριση περιπτώσεων. Θα συντονίζει ολοένα και περισσότερο τις ροές εργασίας, θα προτεραιοποιήσει δράσεις και θα επιφέρει το επόμενο βήμα σε πραγματικό χρόνο. Ωστόσο, στη δημόσια ασφάλεια, θα πρέπει να υπάρχουν σαφείς περιορισμοί. Το AI μπορεί να προτείνει, να προτεραιοποιήσει και να επιφέρει κρίσιμες πληροφορίες. Μπορεί να μειώσει τον χρόνο που απαιτείται για να μεταβεί από την ενημέρωση στη δράση. Αλλά οι αποφάσεις που επηρεάζουν τις ζωές των ανθρώπων πρέπει να παραμείνουν με τους εκπαιδευμένους επαγγελματίες. Ο στόχος μας είναι η σαφήνεια και η εμπιστοσύνη στη σωστή στιγμή.

Η εμπιστοσύνη του κοινού είναι απαραίτητη στην αστυνομία, ιδιαίτερα όταν εισαγωγούνται νέες τεχνολογίες. Ποια είναι τα πιο αποτελεσματικά μέτρα για να διασφαλιστεί ότι το AI ενισχύει την εμπιστοσύνη αντί να την υπονομεύει;

Αναγνωρίζουμε ότι η εμπιστοσύνη είναι κάτι που οι υπηρεσίες δημόσιας ασφάλειας εργάζονται για να κερδίσουν κάθε μέρα. Η τεχνολογία πρέπει να ανταποκριθεί σε αυτόν τον ίδιο πρότυπο. Για το AI, αυτό ξεκινά με τη διαφάνεια και τη διαφάνεια. Οι χρήστες πρέπει να κατανοήσουν τι κάνει το σύστημα και γιατί. Απαιτεί επίσης συνέπεια, διακυβέρνηση και την ικανότητα να αναθεωρήσουν τα αποτελέσματα με την πάροδο του χρόνου. Κάνουμε με μια ανάδραση απευθείας από το πεδίο, γιατί η εμπιστοσύνη καθιερώνεται μέσω της πραγματικής χρήσης και της συνεχούς επικύρωσης.

Κοιτάζοντας μπροστά τις επόμενες quelques χρόνια, πώς περιμένετε ότι ο ρόλος του AI στη δημόσια ασφάλεια θα εξελιχθεί από την διοικητική υποστήριξη προς τη λήψη αποφάσεων σε πραγματικό χρόνο;

Το AI θα γίνει ενσωματωμένο σε όλη τη διάρκεια της δημόσιας ασφάλειας, από τη στιγμή που μια κλήση έρχεται μέχρι το πώς μια περίπτωση επιλύεται. Η μεγαλύτερη μετατόπιση θα είναι πόσο γρήγορα οι υπηρεσίες μπορούν να μετακινούνται από την ενημέρωση στη δράση. Αυτό έχει πάντα ήταν η πρόκληση στα συστήματα CAD και RMS. Κινουμεθα προς ένα μοντέλο όπου το σύστημα κατανοεί πώς λειτουργεί η υπηρεσία σας, προβλέπει τα πρώτα βήματα σε μια ροή εργασίας και βοηθά στην εκτέλεσή τους, ενώ παραμένει ανθρώπινο-κεντρικό.

Ο ρόλος του AI είναι να μειώσει το διοικητικό φορτίο, να ενοποιήσει τα κατακερματισμένα συστήματα, να επιφέρει τις σωστές πληροφορίες στη σωστή στιγμή και να υποστηρίξει καλύτερες αποφάσεις υπό πίεση. Το AI δεν μπορεί να αντικαταστήσει την εμπειρία. Βοηθά να διασφαλίσει ότι οι άνθρωποι στην πρώτη γραμμή είναι καλύτερα ενημερωμένοι, προετοιμασμένοι και υποστηριζόμενοι σε κάθε απόφαση που λαμβάνουν.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Mark43.