Ben Ha, Giám đốc Kiến trúc Giải pháp, Chính phủ, Pháp lý và Tuân thủ, Veritone – Loạt phỏng vấn

Ben Ha là Giám đốc Kiến trúc Giải pháp cho bộ phận Chính phủ, Pháp lý và Tuân thủ của Veritone. Ben có hơn 15 năm kinh nghiệm trong ngành công nghiệp phần mềm, chủ yếu trong vai trò bán hàng kỹ thuật. Ben đã làm việc với khách hàng trong không gian chính phủ và pháp lý trong 4 năm qua.

Veritone thiết kế các giải pháp AI lấy con người làm trung tâm. Phần mềm và dịch vụ của Veritone cho phép các cá nhân tại nhiều thương hiệu lớn và nổi tiếng nhất trên thế giới hoạt động hiệu quả hơn, tăng tốc quyết định và tăng lợi nhuận.

Làm thế nào Veritone’s iDEMS tích hợp với các hệ thống thực thi pháp luật hiện có và những hiệu quả cụ thể mà nó mang lại?

Các cơ quan thực thi pháp luật (LEA) hiện có thường có dữ liệu từ nhiều nguồn khác nhau, như hệ thống camera đeo trên người, hệ thống quản lý video và các camera và thiết bị khác. iDEMS cho phép LEA xây dựng kết nối với các hệ thống hiện có thông qua API hoặc các đường dẫn tích hợp khác. Sau đó, nó ảo hóa trên các hệ thống đó, cho phép lực lượng thực thi pháp luật giữ dữ liệu chính ở nơi nó thuộc về trong các hệ thống nguồn. Trong ứng dụng Veritone Investigate, người dùng có quyền truy cập vào tệp proxy độ phân giải thấp mà họ có thể sử dụng để xem, chia sẻ, tìm kiếm, phân tích, v.v. Vì dữ liệu nằm ở một vị trí trung tâm, người dùng dễ dàng hơn trong việc thực hiện quá trình điều tra mà không cần chuyển đổi giữa các ứng dụng riêng biệt.

Veritone Investigate cũng cho phép người dùng tận dụng khả năng nhận thức AI để phân tích nội dung bên trong. Nói cách khác, LEA có thể sử dụng AI để cấu trúc dữ liệu không cấu trúc, cung cấp thông tin siêu dữ liệu giúp tìm kiếm dễ dàng hơn. Hầu hết các hệ thống chỉ hoạt động như lưu trữ dữ liệu và không chứa thông tin về các từ được nói hoặc khuôn mặt hoặc đối tượng bên trong nội dung. Với Investigate và giải pháp iDEMS, AI được tích hợp sẵn và chạy tự động khi nhập, loại bỏ nhu cầu xem hoặc nghe nội dung thủ công để có được ngữ cảnh, tăng tốc quá trình điều tra.

Các yêu cầu kỹ thuật cho các cơ quan thực thi pháp luật để triển khai Veritone’s iDEMS là gì?

LEA không cần có các yêu cầu kỹ thuật đáng kể để triển khai Veritone’s iDEMS – trên thực tế, giải pháp sẽ hoạt động với hầu hết mọi cơ quan thực thi pháp luật, bất kể họ có những hệ thống nào. Vì Veritone có các bộ chuyển đổi nhập liệu có thể kết nối với các API khác nhau, điều duy nhất LEA cần là ai đó có quyền truy cập vào các hệ thống hiện có. Ngoài ra, iDEMS là dựa trên đám mây và LEA sẽ cần một kết nối internet tốc độ cao và trình duyệt web hiện đại.

Bạn có thể cung cấp thêm thông tin về cách Veritone Track khác biệt với các công nghệ nhận dạng khuôn mặt truyền thống về độ chính xác và hiệu quả?

Công nghệ nhận dạng khuôn mặt truyền thống dựa trên các đặc điểm khuôn mặt có thể nhìn thấy (mắt, mũi, miệng, v.v.) để xác định một người quan tâm. Vấn đề là nếu video không chụp được khuôn mặt của người đó, công nghệ không thể xác định hoặc theo dõi cá nhân đó. Ví dụ, nếu cảnh quay chỉ chụp lưng của ai đó, khuôn mặt của người đó bị che bởi mặt nạ hoặc mũ, hoặc video không có góc tối ưu của khuôn mặt, công nghệ nhận dạng khuôn mặt sẽ không hoạt động.

Ngược lại, Veritone Track xử lý các đối tượng quan tâm tiềm năng như các đối tượng giống con người (HLO) trong một quá trình được gọi là HLO. Thông qua HLO, Veritone Track có thể xây dựng một “dấu vân tay người” duy nhất cho cá nhân đó dựa trên các thuộc tính có thể phân biệt về mặt trực quan. Những thuộc tính có thể phân biệt về mặt trực quan này có thể là mũ, kính, ba lô hoặc nếu họ đang cầm gì trong tay, thậm chí là sự tương phản màu sắc giữa quần áo và giày của họ. Nó cũng xem xét loại cơ thể của người đó, chẳng hạn như chiều dài tay, vóc dáng, cân nặng, v.v.

Sau khi xây dựng dấu vân tay người đó, Veritone Track kết hợp công việc cảnh sát truyền thống thông qua một vòng lặp con người kiểm tra và xác nhận các kết quả tiềm năng. Cuối cùng, phương pháp này chính xác và hiệu quả hơn các công nghệ nhận dạng khuôn mặt truyền thống.

Làm thế nào việc sử dụng các đối tượng giống con người (HLO) trong Veritone Track tăng cường quá trình xác định so với sử dụng nhận dạng khuôn mặt?

Sử dụng HLO tăng cường quá trình xác định vì nó không yêu cầu LEA phải có quyền truy cập vào các biến số giống như nhận dạng khuôn mặt truyền thống, tức là khuôn mặt người hoàn toàn có thể nhìn thấy. Veritone Track linh hoạt vì nó sẽ sử dụng bất kỳ thông tin nào có sẵn, bất kể chất lượng của cảnh quay, độ phân giải hoặc góc (trên cao trên trần nhà hoặc ở mức mắt) của camera. Mặc dù có những lợi thế của Veritone Track, nhưng nó và nhận dạng khuôn mặt không loại trừ lẫn nhau – LEA có thể sử dụng cả hai công nghệ cùng một lúc. Ví dụ, LEA có thể sử dụng Veritone Track để xây dựng dấu vân tay người từ một lượng lớn video chất lượng thấp hơn trong khi chạy nhận dạng khuôn mặt trên các mẫu video quay từ phía trước của một người quan tâm tiềm năng.

Làm thế nào hệ thống AI của Veritone giúp tăng tốc các cuộc điều tra đồng thời duy trì các tiêu chuẩn cao về xử lý bằng chứng?

Veritone Investigate, Veritone Track hoặc tất cả các ứng dụng thuộc lĩnh vực công của Veritone sử dụng AI để tăng tốc đáng kể các quy trình thủ công cho LEA, giảm thời gian từ vài tuần hoặc vài ngày xuống chỉ còn vài giờ, điều này ngày càng quan trọng giữa tình trạng thiếu hụt nhân sự đang diễn ra. Mặc dù tốc độ được tăng tốc, Veritone vẫn duy trì các tiêu chuẩn cao về xử lý bằng chứng bằng cách không hoàn toàn tin tưởng vào đầu ra của AI. Những giải pháp này để lại quyết định cuối cùng cho điều tra viên con người để xem xét kết quả cuối cùng. Công nghệ của Veritone cũng cho phép con người tuân thủ các tiêu chuẩn cao về xử lý bằng chứng và chuỗi lưu giữ. Tương tự, chúng có các đường dẫn kiểm toán tích hợp, vì vậy LEA có thể xem cách điều tra viên đến được kết quả cuối cùng. Đơn giản là AI không thay thế con người – nó chỉ tăng cường khả năng của họ.

AI trong thực thi pháp luật gây ra lo ngại về việc truy bức sai trái đối với các nhóm thiểu số, đặc biệt là với các thành phố như Detroit, Michigan đang trải qua nhiều vụ bắt giữ sai trong ít hơn 1 năm. Veritone giải quyết những thách thức đạo đức này như thế nào?

Trước hết, Veritone luôn sử dụng các rào cản và biện pháp an toàn để giảm thiểu khả năng truy bức sai trái. Ví dụ, Veritone Track không sử dụng các dấu hiệu sinh trắc học như đặc điểm khuôn mặt để xây dựng dấu vân tay người mà dựa vào quần áo, loại cơ thể, v.v. Thứ hai, những công cụ này không bao giờ thu thập dữ liệu từ internet, mạng xã hội hoặc các cơ sở dữ liệu lớn như Cơ quan Hộ chiếu để thu thập dữ liệu. Khi một LEA sử dụng các giải pháp của chúng tôi trong một vụ án hoặc cuộc điều tra đang hoạt động, nó chỉ có thể so sánh bằng chứng ảnh hoặc video được tải lên với cơ sở dữ liệu của những kẻ phạm tội đã bị bắt. Trong trường hợp của Detroit, Michigan, lực lượng thực thi pháp luật đã sử dụng một giải pháp thu thập dữ liệu từ khắp internet mà không có một điều tra viên con người “trong vòng lặp” để xác nhận kết quả, dẫn đến việc truy bức sai trái đối với những công dân vô tội.

Bạn có thể giải thích thêm về cách Veritone đảm bảo độ chính xác của các manh mối được tạo ra?

Veritone’s AI tạo ra các manh mối tiềm năng mà các điều tra viên con người có thể theo đuổi. Mặc dù AI cung cấp cho điều tra viên những phát hiện và kết quả hữu ích, nhưng người đó vẫn đưa ra quyết định cuối cùng. Một lần nữa, trường hợp của Detroit, Michigan cho thấy lực lượng thực thi pháp luật tin tưởng vào nhận dạng khuôn mặt một mình để thực hiện công việc. Niềm tin mù quáng này cuối cùng đã gây ra vấn đề vì các mô hình này dựa trên dữ liệu dẫn đến sự thiên vị về mặt dân tộc hoặc chủng tộc.

Hơn nữa, dữ liệu mà Veritone chọn để đào tạo các động cơ và mô hình AI của mình là đại diện cho nội dung. Trước khi đào tạo dữ liệu, Veritone sẽ xóa các yếu tố video và âm thanh nhạy cảm từ các nguồn như camera đeo trên người, video trong xe, cảnh quay CCTV, v.v., hoặc sử dụng dữ liệu công khai không nhạy cảm. Tương tự, Veritone sẽ xác nhận kết quả với phản hồi của khách hàng để cải thiện liên tục.

Làm thế nào Veritone xử lý khả năng AI duy trì các thành kiến hiện có trong dữ liệu thực thi pháp luật?

Veritone sử dụng một phương pháp đa mô hình làm việc với nhiều nhà cung cấp bên thứ ba khác nhau để có được một góc nhìn lớn hơn thay vì chỉ dựa vào một mô hình AI duy nhất. Đặc biệt, phương pháp này cho phép Veritone tiêu chuẩn hóa trong một loại AI nhận thức nhất định, chẳng hạn như chuyển ngữ, dịch, nhận dạng khuôn mặt, phát hiện đối tượng hoặc nhận dạng văn bản. Bằng cách tận dụng “sự khôn ngoan của đám đông”, Veritone có thể chạy cùng một nội dung chống lại nhiều mô hình trong cùng một loại AI nhận thức để giúp bảo vệ chống lại các thành kiến.

Các bước được thực hiện để đảm bảo rằng các ứng dụng AI của Veritone không xâm phạm quyền riêng tư?

Có hai phương pháp hay nhất mà các ứng dụng AI của Veritone tuân theo để đảm bảo chúng không xâm phạm quyền riêng tư. Một: dữ liệu của khách hàng vẫn là dữ liệu của khách hàng mọi lúc. Họ có quyền quản lý, xóa hoặc làm bất cứ điều gì họ muốn với dữ liệu của mình. Mặc dù dữ liệu của khách hàng chạy trong môi trường đám mây an toàn của Veritone, nhưng họ vẫn giữ quyền sở hữu hoàn toàn. Hai: Veritone không bao giờ sử dụng dữ liệu của khách hàng mà không có sự cho phép hoặc đồng ý của họ. Đặc biệt, Veritone không sử dụng dữ liệu của khách hàng để đào tạo lại các mô hình AI. An ninh và quyền riêng tư là những vấn đề quan trọng nhất, và khách hàng sẽ chỉ làm việc với các mô hình đã được đào tạo trước đó sử dụng dữ liệu đã xóa tất cả thông tin nhạy cảm, sinh trắc học và nhận dạng cá nhân.

Làm thế nào Veritone cân bằng nhu cầu phát triển công nghệ nhanh chóng với các xem xét đạo đức và tác động xã hội?

Khi phát triển AI với tốc độ nhanh, xu hướng là sử dụng càng nhiều dữ liệu càng tốt và liên tục thu thập nó để cải thiện và phát triển. Mặc dù cách tiếp cận này có thể dẫn đến sự trưởng thành nhanh chóng của mô hình AI, nhưng nó cũng mở ra nhiều vấn đề về đạo đức, quyền riêng tư và xã hội.

Để đạt được điều này, Veritone luôn tìm kiếm AI tốt nhất. Trong cơn sốt AI tạo ra, Veritone đã có quyền truy cập sớm vào công nghệ từ OpenAI và các đối tác khác. Tuy nhiên, thay vì thúc đẩy và triển khai các giải pháp mới ngay lập tức, chúng tôi đã hỏi: “Khách hàng của chúng tôi sẽ sử dụng AI trong một trường hợp sử dụng thích hợp như thế nào?” Nói cách khác, sau khi kiểm tra sứ mệnh và điểm đau của LEA, chúng tôi đã xác định cách áp dụng AI tạo ra một cách có trách nhiệm, giữ con người ở trung tâm trong khi cho phép người dùng đạt được mục tiêu và vượt qua thách thức của họ.

Ví dụ, Veritone Investigate có một mô hình ngôn ngữ lớn riêng và cách ly mạng có thể tóm tắt các cuộc trò chuyện hoặc nội dung được nói. Nếu một camera đeo trên người chụp một sự cố hoặc một điều tra viên phỏng vấn ai đó, Veritone Investigate có thể chuyển văn bản nội dung đó và tự động tóm tắt nó, điều này rất hữu ích cho các thám tử hoặc điều tra viên cần cung cấp một bản tóm tắt của toàn bộ cuộc phỏng vấn trong một đoạn ngắn cho văn phòng công tố hoặc truy tố. Tuy nhiên, người đó vẫn có cơ hội để xem xét đầu ra được tạo bởi AI và thực hiện các chỉnh sửa và thay đổi cần thiết trước khi nộp.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Veritone.