Ben Ha, Giám đốc Kiến trúc Giải pháp, Chính phủ, Pháp lý & Tuân thủ, Veritone – Loạt Phỏng vấn

Ben Ha là Giám đốc Kiến trúc Giải pháp cho bộ phận Chính phủ, Pháp lý và Tuân thủ của Veritone. Ben có hơn 15 năm kinh nghiệm trong ngành công nghiệp phần mềm, chủ yếu trong vai trò bán hàng kỹ thuật trước. Ben đã làm việc với khách hàng trong không gian chính phủ và pháp lý trong 4 năm qua.

Veritone thiết kế các giải pháp trí tuệ nhân tạo tập trung vào con người. Phần mềm và dịch vụ của Veritone giúp các cá nhân tại nhiều thương hiệu lớn và nổi tiếng nhất trên thế giới hoạt động hiệu quả hơn, tăng tốc quá trình ra quyết định và tăng lợi nhuận.

Làm thế nào Veritone’s iDEMS tích hợp với các hệ thống thực thi pháp luật hiện có, và nó mang lại những hiệu quả cụ thể nào?

Các cơ quan thực thi pháp luật (LEAs) thường có dữ liệu từ nhiều nguồn khác nhau, như hệ thống camera đeo trên người, hệ thống quản lý video và các camera và thiết bị khác. iDEMS cho phép LEAs xây dựng kết nối với các hệ thống hiện có thông qua API hoặc các đường dẫn tích hợp khác. Sau đó, nó ảo hóa trên các hệ thống này, cho phép cơ quan thực thi pháp luật giữ dữ liệu chính ở nơi nó thuộc về trong các hệ thống nguồn. Trong ứng dụng Veritone Investigate, người dùng có quyền truy cập vào tệp proxy độ phân giải thấp mà họ có thể sử dụng để xem, chia sẻ, tìm kiếm, phân tích, v.v. Bởi vì dữ liệu được tập trung ở một vị trí, người dùng dễ dàng hơn trong việc thực hiện quá trình điều tra mà không cần chuyển đổi giữa các ứng dụng bị cô lập.

Veritone Investigate cũng cho phép người dùng tận dụng nhận thức trí tuệ nhân tạo để phân tích nội dung bên trong. Nói cách khác, LEAs có thể sử dụng trí tuệ nhân tạo để cấu trúc dữ liệu không cấu trúc, cung cấp thông tin siêu dữ liệu giúp tìm kiếm dễ dàng hơn. Hầu hết các hệ thống chỉ hoạt động như lưu trữ dữ liệu và không chứa thông tin về các từ được nói hoặc khuôn mặt hoặc đối tượng bên trong nội dung. Với Investigate và giải pháp iDEMS, trí tuệ nhân tạo được tích hợp sẵn và chạy tự động khi nhập, loại bỏ nhu cầu xem hoặc nghe nội dung thủ công để có được ngữ cảnh, tăng tốc quá trình điều tra.

Các yêu cầu kỹ thuật cho các cơ quan thực thi pháp luật để triển khai Veritone’s iDEMS là gì?

LEAs không cần có các yêu cầu kỹ thuật đáng kể để triển khai Veritone’s iDEMS – trên thực tế, giải pháp sẽ hoạt động với hầu như bất kỳ LEA nào, bất kể họ có những hệ thống nào. Bởi vì Veritone có các bộ chuyển đổi nhập mà có thể kết nối với các API khác nhau, điều duy nhất LEA sẽ cần là ai đó có quyền truy cập vào các hệ thống hiện có. Ngoài ra, iDEMS là dựa trên đám mây, và LEA sẽ cần một kết nối internet tốc độ cao và một trình duyệt web hiện đại.

Có thể cung cấp thêm chi tiết về cách Veritone Track khác biệt với các công nghệ nhận dạng khuôn mặt truyền thống về độ chính xác và hiệu quả?

Nhận dạng khuôn mặt truyền thống dựa trên các đặc điểm khuôn mặt có thể nhìn thấy (mắt, mũi, miệng, v.v.) để xác định một người quan tâm. Vấn đề là nếu video không chụp khuôn mặt của người đó, công nghệ không thể xác định hoặc theo dõi cá nhân đó. Ví dụ, nếu footage chỉ chụp lưng của ai đó, khuôn mặt của người đó bị che bởi mặt nạ hoặc áo choàng, hoặc video không có góc tối ưu của khuôn mặt, nhận dạng khuôn mặt sẽ không hoạt động.

Thay vào đó, Veritone Track coi các đối tượng quan tâm tiềm năng là các đối tượng trong một quá trình được gọi là các đối tượng giống con người (HLOs). Thông qua HLOs, Veritone Track có thể xây dựng một “dấu vân tay người” duy nhất của cá nhân đó dựa trên các thuộc tính có thể phân biệt về mặt trực quan. Những thuộc tính có thể phân biệt về mặt trực quan này có thể là một chiếc mũ, kính, ba lô hoặc nếu họ đang mang gì đó trong tay, thậm chí là sự tương phản màu sắc giữa quần áo và giày của họ. Nó cũng xem xét loại cơ thể của người đó, ví dụ như chiều dài cánh tay, vóc dáng, trọng lượng, v.v.

Sau khi xây dựng dấu vân tay người đó, Veritone Track kết hợp công việc cảnh sát truyền thống thông qua một vòng lặp con người xem xét và xác minh các kết quả phù hợp tiềm năng. Cuối cùng, phương pháp này chính xác và hiệu quả hơn các công nghệ nhận dạng khuôn mặt truyền thống.

Làm thế nào việc sử dụng các đối tượng giống con người (HLOs) trong Veritone Track tăng cường quá trình xác định so với sử dụng nhận dạng khuôn mặt?

Sử dụng HLOs tăng cường quá trình xác định vì nó không yêu cầu LEA phải có quyền truy cập vào các biến số giống như nhận dạng khuôn mặt truyền thống, tức là một khuôn mặt người hoàn toàn có thể nhìn thấy. Veritone Track linh hoạt ở chỗ nó sẽ sử dụng bất kỳ thông tin nào có sẵn bất kể chất lượng của footage, độ phân giải hoặc góc (cao trên trần nhà hoặc ở mức mắt) của camera. Mặc dù những lợi thế của Veritone Track, nó và nhận dạng khuôn mặt không loại trừ lẫn nhau – LEAs có thể sử dụng cả hai công nghệ đồng thời. Ví dụ, LEAs có thể sử dụng Veritone Track để xây dựng một dấu vân tay người từ một lượng lớn video chất lượng thấp hơn trong khi chạy nhận dạng khuôn mặt trên mẫu video của các bức ảnh chụp từ phía trước của một người quan tâm tiềm năng.

Làm thế nào hệ thống trí tuệ nhân tạo của Veritone giúp tăng tốc các cuộc điều tra đồng thời duy trì các tiêu chuẩn cao về xử lý bằng chứng?

Veritone Investigate, Veritone Track, hoặc tất cả các ứng dụng thuộc lĩnh vực công của Veritone sử dụng trí tuệ nhân tạo để tăng tốc đáng kể các quá trình thủ công cho LEAs, giảm từ vài tuần hoặc vài ngày xuống chỉ còn vài giờ, điều này ngày càng quan trọng trong bối cảnh tình trạng thiếu nhân viên đang diễn ra. Mặc dù tốc độ tăng tốc này, Veritone vẫn duy trì các tiêu chuẩn cao về xử lý bằng chứng bằng cách không hoàn toàn tin tưởng vào đầu ra của trí tuệ nhân tạo. Những giải pháp này để lại quyết định cuối cùng cho điều tra viên con người để xem xét kết quả cuối cùng. Công nghệ của Veritone cũng cho phép con người tuân thủ các tiêu chuẩn cao về xử lý bằng chứng và chuỗi lưu giữ. Tương tự, họ có các đường dẫn kiểm toán tích hợp, vì vậy LEA có thể xem cách điều tra viên đến với kết quả cuối cùng. Nói đơn giản, trí tuệ nhân tạo không thay thế con người – nó chỉ tăng cường khả năng của họ.

Trí tuệ nhân tạo trong thực thi pháp luật gây ra lo ngại về việc truy tố sai các nhóm thiểu số, đặc biệt là với các thành phố như Detroit, Michigan đang trải qua nhiều vụ bắt giữ sai trong ít hơn 1 năm. Làm thế nào Veritone giải quyết những thách thức đạo đức này?

Đầu tiên, Veritone luôn sử dụng các rào cản và biện pháp an toàn để giảm thiểu khả năng truy tố sai. Ví dụ, Veritone Track không sử dụng các dấu hiệu sinh trắc học như đặc điểm khuôn mặt để xây dựng dấu vân tay người mà dựa vào quần áo, loại cơ thể, v.v. Thứ hai, những công cụ này không bao giờ thu thập dữ liệu từ internet, truyền thông xã hội hoặc các cơ sở dữ liệu lớn như Cơ quan Cấp giấy phép. Khi một LEA sử dụng các giải pháp của chúng tôi trong một vụ việc hoặc cuộc điều tra hoạt động, nó chỉ có thể so sánh bằng chứng ảnh hoặc video được tải lên với cơ sở dữ liệu của những người phạm tội đã bị bắt. Trong trường hợp của những gì đã xảy ra ở Detroit, Michigan, cơ quan thực thi pháp luật đã sử dụng một giải pháp thu thập dữ liệu từ khắp internet mà không có một điều tra viên con người “trong vòng lặp” để xác thực kết quả, dẫn đến việc truy tố sai các công dân vô tội.

Có thể giải thích thêm về cách trí tuệ nhân tạo của Veritone đảm bảo độ chính xác của các manh mối được tạo ra?

Trí tuệ nhân tạo của Veritone tạo ra các manh mối tiềm năng mà các điều tra viên con người có thể theo đuổi. Mặc dù trí tuệ nhân tạo cung cấp cho điều tra viên những phát hiện và kết quả hữu ích, người đó vẫn đưa ra quyết định cuối cùng. Lại nữa, vụ việc ở Detroit, Michigan, đã thấy cơ quan thực thi pháp luật tin tưởng vào nhận dạng khuôn mặt một mình để thực hiện công việc. Sự tin tưởng mù quáng này cuối cùng đã gây ra vấn đề vì những mô hình này dựa trên dữ liệu dẫn đến sự thiên vị về mặt dân tộc hoặc chủng tộc.

Hơn nữa, dữ liệu mà Veritone chọn để đào tạo các động cơ và mô hình trí tuệ nhân tạo của nó là đại diện cho nội dung. Trước khi đào tạo dữ liệu, Veritone sẽ xóa các yếu tố video và âm thanh nhạy cảm từ các nguồn như camera đeo trên người, video trong xe, footage CCTV, v.v., hoặc sử dụng dữ liệu công khai không nhạy cảm. Tương tự, Veritone sẽ xác thực kết quả với phản hồi của khách hàng để cải thiện liên tục.

Làm thế nào Veritone xử lý khả năng trí tuệ nhân tạo sẽ duy trì các thiên vị hiện có trong dữ liệu thực thi pháp luật?

Veritone sử dụng một phương pháp đa mô hình hoạt động với nhiều nhà cung cấp bên thứ ba khác nhau để có được một góc nhìn lớn hơn thay vì chỉ dựa vào một mô hình trí tuệ nhân tạo. Đặc biệt, phương pháp này cho phép Veritone tiêu chuẩn hóa trong một danh mục cụ thể của nhận thức trí tuệ nhân tạo, chẳng hạn như chuyển văn bản thành giọng nói, dịch, nhận dạng khuôn mặt, phát hiện đối tượng hoặc nhận dạng văn bản. Bằng cách tận dụng “sự khôn ngoan của đám đông”, Veritone có thể chạy cùng một nội dung chống lại nhiều mô hình trong cùng một danh mục nhận thức trí tuệ nhân tạo để giúp bảo vệ chống lại các thiên vị.

Các bước nào được thực hiện để đảm bảo rằng các ứng dụng trí tuệ nhân tạo của Veritone không xâm phạm quyền riêng tư?

Có hai phương pháp hay nhất mà các ứng dụng trí tuệ nhân tạo của Veritone tuân theo để đảm bảo chúng không xâm phạm quyền riêng tư. Một: dữ liệu của khách hàng vẫn là dữ liệu của khách hàng mọi lúc. Họ có quyền quản lý, xóa hoặc làm bất cứ điều gì họ muốn với dữ liệu của mình. Mặc dù dữ liệu của khách hàng chạy trong môi trường đám mây được bảo mật của Veritone, họ vẫn giữ toàn quyền sở hữu. Hai: Veritone không bao giờ sử dụng dữ liệu của khách hàng mà không có sự cho phép hoặc đồng ý của họ. Đặc biệt, Veritone không sử dụng dữ liệu của khách hàng để đào tạo lại các mô hình trí tuệ nhân tạo. Bảo mật và quyền riêng tư là tối quan trọng, và khách hàng sẽ chỉ làm việc với các mô hình đã được đào tạo trước sử dụng dữ liệu đã được xóa tất cả thông tin nhạy cảm, sinh trắc học và thông tin nhận dạng cá nhân.

Làm thế nào Veritone cân bằng nhu cầu phát triển công nghệ nhanh chóng với các xem xét đạo đức và tác động xã hội?

Khi phát triển trí tuệ nhân tạo với tốc độ nhanh, xu hướng là sử dụng càng nhiều dữ liệu càng tốt và liên tục thu thập nó để cải thiện và phát triển. Mặc dù cách tiếp cận như vậy có thể dẫn đến sự trưởng thành nhanh chóng của mô hình trí tuệ nhân tạo, nhưng nó cũng mở ra nhiều vấn đề về đạo đức, quyền riêng tư và xã hội.

Để đạt được điều này, Veritone luôn tìm kiếm trí tuệ nhân tạo tốt nhất. Trong thời kỳ sốt sắng về trí tuệ nhân tạo tạo sinh, Veritone đã có quyền truy cập sớm vào công nghệ từ OpenAI và các đối tác khác. Tuy nhiên, thay vì thúc đẩy và triển khai các giải pháp mới ngay lập tức, chúng tôi đã hỏi, “Khách hàng của chúng tôi sẽ sử dụng trí tuệ nhân tạo như thế nào trong một trường hợp sử dụng thích hợp?” Nói cách khác, sau khi kiểm tra nhiệm vụ và điểm đau của LEAs, chúng tôi đã xác định cách áp dụng Trí tuệ nhân tạo tạo sinh một cách có trách nhiệm, giữ con người ở trung tâm trong khi cho phép người dùng đạt được mục tiêu và vượt qua thách thức của họ.

Ví dụ, Veritone Investigate có một mô hình ngôn ngữ lớn riêng và cách ly mạng có thể tóm tắt các cuộc trò chuyện hoặc nội dung được nói. Nếu một camera đeo trên người chụp một sự kiện hoặc một điều tra viên phỏng vấn ai đó, Veritone Investigate có thể chuyển văn bản nội dung đó và tự động tóm tắt nó, điều này rất hữu ích cho các thám tử hoặc điều tra viên cần cung cấp tóm tắt một cuộc phỏng vấn toàn bộ trong một đoạn ngắn cho văn phòng công tố hoặc truy tố. Tuy nhiên, người đó vẫn có cơ hội xem xét đầu ra được tạo bởi trí tuệ nhân tạo để thực hiện các chỉnh sửa và thay đổi cần thiết trước khi gửi.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Veritone.