Ben Ha, Direktur Arsitek Solusi, Pemerintah, Hukum & Kepatuhan divisi, Veritone – Seri Wawancara

Ben Ha adalah Direktur Arsitek Solusi untuk divisi Pemerintah, Hukum dan Kepatuhan Veritone. Ben memiliki lebih dari 15 tahun pengalaman di industri perangkat lunak, terutama dalam peran pra-penjualan teknis. Ben telah bekerja dengan klien di ruang pemerintah dan hukum selama 4 tahun terakhir.

Veritone merancang solusi AI yang berpusat pada manusia. Perangkat lunak dan layanan Veritone memungkinkan individu di banyak merek terbesar dan paling dikenal di dunia untuk beroperasi lebih efisien, mempercepat pengambilan keputusan, dan meningkatkan profitabilitas.

Bagaimana Veritone’s iDEMS terintegrasi dengan sistem penegakan hukum yang ada, dan apa efisiensi spesifik yang diperkenalkannya?

Badan penegakan hukum (LEA) sistem yang ada biasanya memiliki data dari berbagai sumber, seperti sistem kamera yang dipakai, sistem manajemen video, dan kamera lainnya. iDEMS memungkinkan LEA untuk membangun koneksi dalam sistem yang ada dengan API atau jalur integrasi lainnya. Kemudian, iDEMS memvirtualisasi di atas sistem tersebut, memungkinkan penegakan hukum untuk menjaga data master di tempatnya di sistem sumber. Di dalam aplikasi Veritone Investigate, pengguna memiliki akses ke file proksi resolusi rendah yang dapat digunakan untuk melihat, berbagi, mencari, menganalisis, dan lain-lain. Karena data berada di satu lokasi sentral, lebih mudah bagi pengguna untuk melalui proses penyelidikan tanpa beralih antara aplikasi yang terisolasi.

Veritone Investigate juga memungkinkan pengguna untuk menggunakan kognisi AI untuk menganalisis apa yang ada di dalam konten itu sendiri. Dengan kata lain, LEA dapat menggunakan AI untuk mengatur data yang tidak terstruktur, memberikan informasi metadata yang membuat menemukan hal-hal lebih mudah. Sebagian besar sistem hanya berfungsi sebagai penyimpanan data dan tidak mengandung informasi tentang kata-kata yang diucapkan atau wajah atau objek di dalam konten. Dengan Investigate dan solusi iDEMS, AI secara asli dibangun dan berjalan secara otomatis saat penggunaan, menghilangkan kebutuhan untuk secara manual menonton atau mendengarkan konten untuk mendapatkan konteks, mempercepat proses penyelidikan.

Apa persyaratan teknis untuk badan penegakan hukum untuk mengimplementasikan Veritone’s iDEMS?

LEA tidak perlu memiliki persyaratan teknis yang signifikan untuk mengimplementasikan iDEMS Veritone – sebenarnya, solusi ini akan bekerja dengan hampir semua ukuran LEA, terlepas dari sistem apa yang mereka miliki. Karena Veritone memiliki adapter penggunaan yang dapat terhubung dengan berbagai API, satu-satunya hal yang dibutuhkan LEA adalah seseorang dengan akses ke sistem yang ada. Selain itu, iDEMS berbasis cloud, dan LEA akan membutuhkan koneksi internet berkecepatan tinggi dan browser web modern.

Bisakah Anda memberikan lebih banyak detail tentang bagaimana Veritone Track membedakan diri dari teknologi pengenalan wajah tradisional dalam hal akurasi dan efisiensi?

Teknologi pengenalan wajah tradisional bergantung pada fitur wajah yang terlihat (mata, hidung, mulut, dll.) untuk mengidentifikasi orang yang dicari. Masalahnya adalah jika video tidak menangkap wajah orang tersebut, teknologi tidak dapat mengidentifikasi atau melacak individu tersebut. Misalnya, jika footage hanya menangkap seseorang dari belakang, wajah orang tersebut tertutup oleh topeng atau hoodie, atau video tidak memiliki sudut yang optimal dari wajah, pengenalan wajah tidak akan bekerja.

Sebaliknya, Veritone Track mengobati orang yang dicari sebagai objek dalam proses yang dikenal sebagai objek manusia (HLO). Melalui HLO, Veritone Track dapat membangun “sidik jari orang” unik dari individu tersebut berdasarkan atribut yang dapat dibedakan secara visual. Atribut yang dapat dibedakan secara visual ini bisa berupa topi, kacamata, tas belanja, atau jika mereka membawa sesuatu di tangan mereka, bahkan kontras warna antara pakaian dan sepatu mereka. Ini juga mempertimbangkan jenis tubuh orang tersebut, misalnya panjang lengan, postur, berat, dll.

Setelah membangun sidik jari orang tersebut, Veritone Track mengintegrasikan kerja polisi tradisional melalui loop manusia yang meninjau dan memverifikasi kemungkinan kesamaan. Pada akhirnya, metode ini lebih akurat dan efisien daripada teknologi pengenalan wajah tradisional.

Bagaimana penggunaan objek manusia (HLO) dalam Veritone Track meningkatkan proses identifikasi dibandingkan dengan menggunakan pengenalan wajah?

Menggunakan HLO meningkatkan proses identifikasi karena tidak memerlukan LEA untuk memiliki akses ke variabel yang sama seperti pengenalan wajah tradisional, yaitu wajah manusia yang terlihat sepenuhnya. Veritone Track fleksibel karena akan menggunakan informasi apa pun yang tersedia, terlepas dari kualitas footage, resolusi, atau sudut (tinggi di langit-langit atau pada tingkat mata) kamera. Meskipun kelebihan Veritone Track, teknologi ini dan pengenalan wajah tidak saling eksklusif – LEA dapat menggunakan keduanya secara bersamaan. Misalnya, LEA dapat menggunakan Veritone Track untuk membangun sidik jari orang dari jumlah besar video dengan kualitas rendah sementara menjalankan pengenalan wajah pada sampel video tembakan depan dari orang yang dicari.

Bagaimana sistem AI yang ditenagai Veritone membantu dalam mempercepat penyelidikan sambil mempertahankan standar tinggi penanganan bukti?

Veritone Investigate, Veritone Track, atau semua aplikasi sektor publik Veritone menggunakan AI untuk secara dramatis mempercepat proses manual untuk LEA, mengurangi pekerjaan yang sebelumnya membutuhkan minggu atau hari menjadi beberapa jam, yang semakin penting di tengah kekurangan staf yang berkelanjutan. Meskipun kecepatan yang dipercepat, Veritone mempertahankan standar tinggi penanganan bukti dengan tidak sepenuhnya mempercayai output AI. Solusi ini meninggalkan keputusan akhir kepada penyelidik manusia untuk meninjau hasil akhir. Teknologi Veritone juga memungkinkan manusia untuk mematuhi standar tinggi penanganan bukti dan rantai kepemilikan. Selain itu, mereka memiliki jejak audit yang terintegrasi, sehingga LEA dapat melihat bagaimana penyelidik mencapai hasil akhir. Dengan singkat, AI tidak menggantikan manusia – itu hanya meningkatkan kemampuan mereka.

AI dalam penegakan hukum menimbulkan kekhawatiran tentang penindakan yang salah terhadap minoritas, terutama dengan kota seperti Detroit, Michigan mengalami penangkapan yang salah dalam waktu kurang dari 1 tahun. Bagaimana Veritone menangani tantangan etika ini?

Pertama, Veritone selalu menggunakan pengaman dan langkah-langkah keamanan untuk meminimalkan kemungkinan penindakan yang salah. Misalnya, Veritone Track tidak menggunakan penanda biometrik seperti fitur wajah untuk membangun sidik jari orang tetapi bergantung pada pakaian, jenis tubuh, dll. Kedua, alat ini tidak pernah mengambil data dari internet, media sosial, atau basis data besar seperti Badan Imigrasi untuk mendapatkan data. Ketika LEA menggunakan solusi kami dalam kasus atau penyelidikan yang aktif, mereka hanya dapat membandingkan bukti foto atau video yang diunggah dengan basis data pelanggar yang diketahui dengan catatan penangkapan. Dalam kasus apa yang terjadi di Detroit, Michigan, penegakan hukum menggunakan solusi yang mengambil data dari seluruh internet tanpa penyelidik manusia yang “dalam loop” untuk memvalidasi hasilnya, menghasilkan penindakan yang salah terhadap warga negara yang tidak bersalah.

Bisakah Anda menjelaskan bagaimana Veritone’s AI memastikan akurasi dari petunjuk yang dihasilkan?

AI Veritone menghasilkan petunjuk potensial yang dapat dikejar oleh penyelidik manusia. Sementara AI memberikan penyelidik temuan dan hasil yang berguna, orang tersebut masih membuat keputusan akhir. Lagi, kasus Detroit, Michigan, melihat penegakan hukum mempercayai pengenalan wajah saja untuk melakukan pekerjaan. Kepercayaan ini pada akhirnya bermasalah karena model-model ini bergantung pada data yang menghasilkan bias yang terkait dengan demografi atau ras.

Lagipula, data yang Veritone pilih untuk melatih mesin dan model AI mereka adalah representatif dari konten. Sebelum melatih data, Veritone akan menghapus elemen video dan audio yang sensitif dari sumber seperti kamera yang dipakai, video di dalam mobil, footage CCTV, dll., atau menggunakan data yang tersedia secara umum yang tidak sensitif. Selain itu, Veritone akan memvalidasi hasil dengan umpan balik pelanggan untuk perbaikan terus-menerus.

Bagaimana Veritone menangani potensi AI untuk memperkuat bias yang ada dalam data penegakan hukum?

Veritone menggunakan pendekatan multi-model yang bekerja dengan banyak penyedia pihak ketiga yang berbeda untuk mendapatkan perspektif yang lebih besar daripada hanya bergantung pada satu model AI. Dengan cara ini, Veritone dapat memstandarisasi dalam kategori AI kognisi tertentu, seperti transkripsi, terjemahan, pengenalan wajah, deteksi objek, atau pengenalan teks. Dengan menggunakan “kebijaksanaan kerumunan”, Veritone dapat menjalankan konten yang sama melawan beberapa model dalam kategori AI kognisi yang sama untuk membantu melindungi terhadap bias.

Apa langkah-langkah yang diambil untuk memastikan bahwa aplikasi AI Veritone tidak melanggar hak privasi?

Ada dua praktik terbaik yang diikuti oleh aplikasi AI Veritone untuk memastikan mereka tidak melanggar hak privasi. Pertama: data pelanggan tetap menjadi data pelanggan setiap saat. Mereka memiliki hak untuk mengelola, menghapus, atau melakukan apa pun yang mereka inginkan dengan data mereka. Meskipun data pelanggan berjalan di lingkungan cloud yang dihosting oleh Veritone, mereka tetap mempertahankan kepemilikan penuh. Kedua: Veritone tidak pernah menggunakan data pelanggan tanpa izin atau persetujuan mereka. Secara khusus, Veritone tidak menggunakan data pelanggan untuk melatih kembali model AI. Keamanan dan privasi sangat penting, dan pelanggan hanya akan bekerja dengan model yang telah dilatih sebelumnya yang menggunakan data yang dihapus dari semua informasi biometrik dan identitas pribadi yang sensitif.

Bagaimana Veritone menyeimbangkan kebutuhan akan kemajuan teknologi yang cepat dengan pertimbangan etika dan dampak sosial?

Ketika mengembangkan AI dengan kecepatan yang cepat, kecenderungan adalah menggunakan sebanyak mungkin data dan terus-menerus mengumpulkannya untuk meningkatkan dan tumbuh. Meskipun pendekatan seperti itu cenderung menghasilkan pematangan model AI yang dipercepat, itu membuka berbagai kekhawatiran etika, privasi, dan dampak sosial.

Untuk itu, Veritone selalu mencari AI terbaik. Selama kegembiraan AI generatif, Veritone memiliki akses awal ke teknologi dari OpenAI dan mitra lainnya. Namun, alih-alih mendorong maju dan menerapkan solusi baru segera, kami bertanya, “Bagaimana pelanggan kami sebenarnya akan menggunakan AI dalam kasus penggunaan yang tepat?” Dengan kata lain, setelah memeriksa misi dan poin sakit LEA, kami menentukan bagaimana menerapkan AI Generatif dengan cara yang bertanggung jawab yang menjaga manusia di pusat sementara memungkinkan pengguna untuk mencapai tujuan mereka dan mengatasi tantangan.

Sebagai contoh, Veritone Investigate memiliki model bahasa besar yang terisolasi dan pribadi yang dapat meringkas percakapan lisan atau konten. Jika kamera yang dipakai menangkap insiden atau penyelidik mewawancarai seseorang, Veritone Investigate dapat menranskrip konten dan secara otomatis meringkasnya, yang sangat berguna bagi detektif atau penyelidik yang perlu memberikan ringkasan wawancara lengkap dalam satu paragraf singkat kepada jaksa atau penuntutan. Namun, orang tersebut masih memiliki kesempatan untuk meninjau output yang dihasilkan AI untuk membuat perubahan dan penyuntingan yang diperlukan sebelum pengajuan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Veritone.