Wendy Gilbert, Phó Chủ tịch cấp cao về Sản phẩm, Mark43 – Loạt phỏng vấn

Wendy Gilbert, Phó Chủ tịch cấp cao về Sản phẩm tại Mark43, mang lại hơn hai thập kỷ kinh nghiệm trong công nghệ an toàn công cộng, với sự nghiệp bao gồm các vai trò lãnh đạo quản lý sản phẩm tại các tổ chức như CentralSquare Technologies, TriTech Software Systems và VisionAIR. Với sự tiến bộ ổn định qua các vai trò tập trung vào hệ thống quản lý hồ sơ (RMS) và nền tảng an toàn công cộng, cô hiện đang lãnh đạo chiến lược sản phẩm tại Mark43, nơi cô chịu trách nhiệm định hình sự phát triển của các giải pháp đám mây bản địa được sử dụng bởi các cơ quan thực thi pháp luật. Thời gian của cô phản ánh sự chuyên môn hóa sâu sắc trong việc hiện đại hóa phần mềm quan trọng cho các nhân viên đầu tiên, với trọng tâm vào khả năng sử dụng, tuân thủ và hiệu quả hoạt động trong môi trường áp lực cao.

Mark43 là nhà cung cấp hàng đầu về phần mềm an toàn công cộng bản địa đám mây, cung cấp một nền tảng tích hợp bao gồm quản lý hồ sơ (RMS), điều phối hỗ trợ máy tính (CAD), phân tích và công cụ di động được thiết kế cho các cơ quan thực thi pháp luật và dịch vụ khẩn cấp. Được xây dựng trên kiến trúc SaaS, nền tảng cho phép các cơ quan简化 việc viết báo cáo, quản lý vụ việc và truy cập dữ liệu thời gian thực từ bất kỳ nơi nào, giảm đáng kể khối lượng công việc hành chính và cải thiện thời gian phản hồi. Các hệ thống của nó được thiết kế để thay thế cơ sở hạ tầng cũ bằng các giải pháp có thể mở rộng, bảo mật và di động đầu tiên, giúp hàng trăm cơ quan nâng cao nhận thức về tình hình, hợp tác và kết quả an toàn công cộng tổng thể.

Bạn đã dành hơn hai thập kỷ xây dựng sản phẩm trên các công ty như VisionAIR, TriTech, CentralSquare và hiện tại là Mark43. Quan điểm của bạn về công nghệ an toàn công cộng đã thay đổi như thế nào, và điều gì cơ bản khác biệt về làn sóng áp dụng AI hiện tại?

Công nghệ đã thay đổi rất nhiều trong hai thập kỷ qua. Đối với hầu hết thời gian đó, công nghệ được thiết kế để hỗ trợ nhiệm vụ sau khi thực tế. Các hệ thống đã ghi lại những gì đã xảy ra, nhưng chúng không tích cực giúp định hình những gì nên xảy ra tiếp theo. Đó là điều cơ bản khác biệt bây giờ.

Đối với lần đầu tiên, chúng tôi không chỉ thêm công nghệ vào các quy trình làm việc an toàn công cộng. Chúng tôi đang tưởng tượng lại những hệ thống đó như các hệ thống AI bản địa từ đầu, điều này hoàn toàn thay đổi vai trò của công nghệ. Chúng tôi đang chuyển từ các hệ thống hồ sơ sang các hệ thống hành động. Thay vì chỉ ghi lại các sự cố, chúng tôi đang giúp các cơ quan giải thích, ưu tiên và hành động theo thời gian thực. Đây là lần đầu tiên trong sự nghiệp của tôi, tôi đã thấy công nghệ thực sự hoạt động với tốc độ an toàn công cộng xứng đáng, đó là cung cấp các sản phẩm có thể biến đổi cách các cơ quan hoạt động hàng ngày và cuối cùng mang lại kết quả an toàn công cộng tốt hơn.

Nghiên cứu của Mark43 cho thấy sự hỗ trợ mạnh mẽ cho AI trong các cơ quan thực thi pháp luật, nhưng cũng có một kỳ vọng rõ ràng về sự giám sát của con người. Sự tham gia có ý nghĩa của con người thực sự trông như thế nào trong các hoạt động hàng ngày?

Trong mọi quyết định sản phẩm chúng tôi đưa ra, nguyên tắc là rõ ràng. AI hỗ trợ. Con người quyết định.

AI có thể cấu trúc một báo cáo, hiển thị các liên kết trên các hồ sơ hoặc nhấn mạnh thông tin quan trọng trong một cuộc gọi. Nhưng một sĩ quan, một người điều phối hoặc một điều tra viên luôn là người áp dụng phán quyết và đưa ra quyết định. Trong thực tế, điều đó có nghĩa là AI tăng tốc đường dẫn đến thông tin trong khi giữ trách nhiệm với con người. Nó dự thảo, đề xuất và kết nối, nhưng nó không quyết định.

Điều đó đặc biệt quan trọng trong các quy trình làm việc CAD và RMS, nơi các quyết định mang lại hậu quả thực sự. Vai trò của AI là giảm ma sát và tải nhận thức để các chuyên gia an toàn công cộng có thể tập trung vào tất cả những gì đòi hỏi chuyên môn của họ.

Một mối quan ngại lặp đi lặp lại là liệu các báo cáo và quyết định được hỗ trợ bởi AI sẽ đứng vững trước tòa án. Làm thế nào bạn thiết kế các hệ thống không chỉ hữu ích về mặt hoạt động mà còn có thể chứng minh được về mặt pháp lý?

Đến từ một nền tảng CAD và RMS, tính chứng minh là không phải là “tùy chọn”. Nếu hồ sơ từ một hệ thống không thể đứng vững trước tòa án, các công cụ đó không sẵn sàng cho sử dụng an toàn công cộng.

Điều này bắt đầu với tính minh bạch. Mỗi đầu ra được tạo bởi AI phải được liên kết trực tiếp với dữ liệu nguồn của nó. Người dùng cần phải có thể theo dõi chính xác thông tin đến từ đâu, nó được tạo ra như thế nào và nó được sử dụng như thế nào. Nếu chuỗi đó không rõ ràng, hệ thống sẽ không đứng vững dưới sự kiểm tra. Hệ thống cũng cần biết giới hạn của nó. Khi dữ liệu không đầy đủ, chúng tôi thiết kế AI để hiển thị khoảng trống đó, không cố gắng giải quyết nó một mình. Nó không đoán.

Một phần quan trọng khác là sự phù hợp với cách các cơ quan thực sự hoạt động. AI không thể quy định chính sách hoặc quy trình làm việc. Nó phải tuân thủ các yêu cầu pháp lý, tiêu chuẩn báo cáo và thực tế hoạt động của từng cơ quan.

Chúng tôi xây dựng tính cấu hình trực tiếp vào hệ thống. Xác thực tuân thủ và quyền của AI có thể được đặt ở cấp độ báo cáo và mã tội, vì vậy các cơ quan có thể chọn nơi hỗ trợ AI là phù hợp và nơi không phù hợp. Ví dụ, một cơ quan có thể kích hoạt hỗ trợ AI cho các sự cố cấp thấp trong khi hạn chế nó trong các trường hợp mang tiêu chuẩn bằng chứng cao hơn.

Chúng tôi cũng duy trì tính minh bạch đầy đủ về cách AI được sử dụng. Mỗi trường hợp tham gia AI được ghi lại và toàn bộ lịch sử dự thảo được bảo tồn trong báo cáo. Điều đó tạo ra một hồ sơ rõ ràng, có thể xem xét được hỗ trợ cả trách nhiệm giải trình nội bộ và kiểm tra pháp lý bên ngoài.

Các hệ thống này phải đứng vững trước sự kiểm tra của các giám sát viên, luật sư và công chúng để trở nên hữu ích về mặt hoạt động và hiệu quả.

Từ kinh nghiệm của bạn, AI đã mang lại giá trị có thể đo lường được trong an toàn công cộng ở đâu ngày nay, và nó vẫn còn thiếu sót so với kỳ vọng ở đâu?

Giá trị trực tiếp nhất là trong các quy trình làm việc cốt lõi mà tôi đã làm việc trong suốt sự nghiệp của mình.

Viết báo cáo là điều cần thiết, nhưng nó cũng là một cản trở dai dẳng về thời gian. AI đang thay đổi điều đó bằng cách biến việc ghi chép thành một điều gì đó xảy ra cùng với công việc, không phải sau đó. Đó là một sự thay đổi có ý nghĩa đối với các sĩ quan và cơ quan quản lý các hạn chế về nhân sự.

Tuy nhiên, sự thay đổi lớn hơn đang xảy ra trong cách các cơ quan chuyển từ thông tin sang hành động. AI có thể hiển thị những gì quan trọng trong thời gian thực, không chỉ sau khi thực tế. Tôi thấy khoảng trống không phải ở công nghệ. Đó là trong cách các tổ chức vận hành nó. AI đòi hỏi các chính sách rõ ràng, quản trị và đào tạo để trở nên hiệu quả. Các cơ quan coi nó như một biến đổi quy trình làm việc đang thấy kết quả. Nếu các cơ quan chỉ coi nó như một tính năng, nó sẽ không mở khóa cơ hội tương tự.

Thành kiến vẫn là một trong những thách thức quan trọng nhất trong AI, đặc biệt là trong thực thi pháp luật nơi dữ liệu lịch sử có thể phản ánh các vấn đề hệ thống. Mark43 tiếp cận việc giảm thiểu thành kiến như thế nào trong khi vẫn duy trì độ chính xác và niềm tin trong các hệ thống của mình?

Thành kiến là một mối quan ngại thực sự, đặc biệt là trong các hệ thống dựa trên dữ liệu lịch sử.

Từ góc độ sản phẩm, câu trả lời không phải là che giấu cách hệ thống hoạt động. Đó là làm cho nó trở nên minh bạch và trách nhiệm hơn. Chúng tôi tập trung vào việc cải thiện chất lượng dữ liệu tại điểm nhập, làm cho đầu ra nhất quán và đảm bảo luôn có sự xem xét của con người. Trong các hệ thống CAD và RMS, dữ liệu tốt hơn dẫn đến quyết định tốt hơn. AI nên củng cố điều đó, không làm suy yếu nó.

Mục tiêu là dựa trên các quyết định vào thông tin đầy đủ và nhất quán hơn, đồng thời đảm bảo mọi đầu ra có thể được kiểm tra, kiểm toán và cải thiện theo thời gian.

Minh bạch và khả năng kiểm toán thường được thảo luận như các yêu cầu cho AI có trách nhiệm. Full kiểm toán trông như thế nào trong thực tế cho các cơ quan sử dụng công cụ hỗ trợ AI?

Trong các hệ thống an toàn công cộng, khả năng kiểm toán đã luôn là điều cần thiết. AI nâng cao tiêu chuẩn.

Đối với các cơ quan sử dụng AI, nên có tầm nhìn đầy đủ về những gì được tạo ra, dữ liệu nào thông báo cho nó và nó được sử dụng như thế nào. Không có gì nên tồn tại mà không có một liên kết rõ ràng trở lại hồ sơ cơ bản. Mọi đầu ra nên có thể giải thích được. Mọi bước nên có thể xem xét được. Đó là cách bạn xây dựng các hệ thống có thể được tin cậy, không chỉ về mặt hoạt động mà còn về mặt công khai.

Nhiều cơ quan an toàn công cộng vẫn phụ thuộc vào các hệ thống cũ và dữ liệu phân mảnh. Làm thế nào quan trọng là việc hiện đại hóa cơ sở hạ tầng trước khi AI có thể thực sự mang lại kết quả có ý nghĩa?

AI chỉ mạnh mẽ như nền tảng nó dựa vào. Tôi đã làm việc với các môi trường CAD và RMS cũ trong phần lớn sự nghiệp của mình, và tôi đã thấy trực tiếp cách các hệ thống phân mảnh hạn chế những gì các cơ quan có thể làm. Các điều tra viên sử dụng những hệ thống này thường phải truy vấn nhiều công cụ chỉ để hiểu một vụ việc duy nhất. Đó không phải là bền vững.

AI phụ thuộc vào dữ liệu kết nối và có thể truy cập được. Nếu các hệ thống bị cô lập hoặc yêu cầu các giải pháp thủ công, AI không thể mang lại kết quả có ý nghĩa. Nó trở thành một lớp phức tạp khác thay vì một nhân tố nhân lên. Cơ sở hạ tầng hiện đại, bản địa đám mây mở ra khả năng cho AI trên toàn nền tảng kết nối.

Có sự quan tâm ngày càng tăng đối với các hệ thống AI có thể hành động thay vì chỉ cung cấp thông tin chi tiết. Bạn có thấy một tương lai nơi AI tích cực tham gia vào các quy trình làm việc như quản lý vụ việc hoặc điều phối, và đâu nên đặt ranh giới?

AI sẽ tiếp tục di chuyển sâu hơn vào các quy trình làm việc, đặc biệt là trong các lĩnh vực như xử lý cuộc gọi, phân loại và quản lý vụ việc. Nó sẽ ngày càng phối hợp các quy trình làm việc, ưu tiên các hành động và hiển thị các bước tiếp theo tốt nhất theo thời gian thực. Tuy nhiên, trong an toàn công cộng, sẽ cần có ranh giới rõ ràng. AI có thể đề xuất, ưu tiên và nâng cao thông tin quan trọng. Nó có thể giảm thời gian cần thiết để chuyển từ thông tin sang hành động. Nhưng các quyết định ảnh hưởng đến cuộc sống của con người phải vẫn nằm với các chuyên gia được đào tạo. Mục tiêu của chúng tôi là sự rõ ràng và tự tin vào đúng thời điểm.

Sự tin tưởng của công chúng là điều cần thiết trong việc thực thi pháp luật, đặc biệt là khi các công nghệ mới được giới thiệu. Những biện pháp bảo vệ nào là hiệu quả nhất để đảm bảo AI củng cố sự tin tưởng thay vì làm suy yếu nó?

Chúng tôi nhận ra rằng sự tin tưởng là điều mà các cơ quan an toàn công cộng làm việc để kiếm được mỗi ngày. Công nghệ phải đáp ứng tiêu chuẩn đó. Đối với AI, điều đó bắt đầu với tính minh bạch và tính nhất quán. Người dùng cần hiểu hệ thống đang làm gì và tại sao. Nó cũng đòi hỏi sự nhất quán, quản trị và khả năng xem xét kết quả theo thời gian. Chúng tôi xây dựng với một vòng phản hồi trực tiếp từ lĩnh vực, vì sự tin tưởng được thiết lập thông qua sử dụng thực tế và xác nhận liên tục.

Nhìn вперед trong vài năm tới, bạn kỳ vọng vai trò của AI trong an toàn công cộng sẽ phát triển như thế nào từ hỗ trợ hành chính đến việc ra quyết định theo thời gian thực?

AI sẽ trở nên nhúng sâu vào toàn bộ vòng đời an toàn công cộng, từ khoảnh khắc một cuộc gọi đến đến cách một vụ việc được giải quyết. Sự thay đổi lớn nhất sẽ là tốc độ mà các cơ quan có thể chuyển từ thông tin sang hành động. Đó đã luôn là thách thức trong các hệ thống CAD và RMS. Chúng tôi đang chuyển hướng đến một mô hình nơi hệ thống hiểu cách cơ quan của bạn hoạt động, dự đoán các bước đầu tiên trong một quy trình làm việc và giúp thực hiện chúng, tất cả trong khi vẫn tập trung vào con người.

Vai trò của AI là giảm gánh nặng hành chính, thống nhất các hệ thống phân mảnh, hiển thị thông tin đúng vào đúng thời điểm và hỗ trợ việc ra quyết định tốt hơn dưới áp lực. AI không thể thay thế kinh nghiệm. Nó giúp đảm bảo những người ở tuyến đầu được thông tin tốt hơn, chuẩn bị tốt hơn và được hỗ trợ trong mọi quyết định họ đưa ra.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Mark43.