David Maher, CTO of Intertrust – Seri Wawancara

David Maher menjabat sebagai Wakil Presiden Eksekutif dan Chief Technology Officer di Intertrust. Dengan lebih dari 30 tahun pengalaman dalam sistem terdistribusi tepercaya, sistem aman, dan manajemen risiko, Dave telah memimpin upaya R&D dan memegang posisi kepemimpinan kunci di seluruh anak perusahaan perusahaan. Ia pernah menjabat sebagai presiden Seacert Corporation, sebuah Otoritas Sertifikat untuk media digital dan IoT, dan Presiden whiteCryption Corporation, pengembang sistem untuk pertahanan perangkat lunak. Ia juga menjabat sebagai co-ketua Marlin Trust Management Organization (MTMO), yang mengawasi ekosistem manajemen hak digital independen di dunia.

Intertrust mengembangkan inovasi yang memungkinkan sistem operasi terdistribusi untuk mengamankan dan mengatur data dan perhitungan di jaringan terbuka, yang menghasilkan paten dasar tentang komputasi terdistribusi tepercaya.

Awalnya berakar pada penelitian, Intertrust telah berkembang menjadi perusahaan yang berfokus pada produk yang menawarkan layanan komputasi tepercaya yang mengintegrasikan operasi perangkat dan data, terutama untuk IoT dan AI. Pasar mereka termasuk distribusi media, identitas dan autentikasi perangkat, manajemen energi digital, analitik, dan keamanan penyimpanan cloud.

Bagaimana kita dapat menutup celah kepercayaan AI dan mengatasi kekhawatiran publik yang semakin meningkat tentang keamanan dan keandalan AI?

Transparansi adalah kualitas yang paling penting yang saya percaya akan membantu mengatasi kekhawatiran yang semakin meningkat tentang AI. Transparansi termasuk fitur yang membantu konsumen dan teknolog memahami apa mekanisme AI yang merupakan bagian dari sistem yang kita interaksikan, apa pedigrinya, bagaimana model AI dilatih, apa guardrail yang ada, apa kebijakan yang diterapkan dalam pengembangan model, dan apa jaminan lain yang ada untuk keamanan dan keamanan suatu mekanisme. Dengan transparansi yang lebih besar, kita akan dapat mengatasi risiko dan masalah yang nyata dan tidak terganggu oleh ketakutan dan spekulasi yang tidak rasional.

Apa peran autentikasi metadata dalam memastikan kepercayaan keluaran AI?

Autentikasi metadata membantu meningkatkan kepercayaan kita bahwa jaminan tentang model AI atau mekanisme lainnya adalah dapat diandalkan. Kartu model AI adalah contoh dari koleksi metadata yang dapat membantu mengevaluasi penggunaan mekanisme AI (model, agen, dll.) untuk tujuan tertentu. Kita perlu menetapkan standar untuk kejelasan dan kelengkapan untuk kartu model dengan standar untuk pengukuran kuantitatif dan asersi yang diautentikasi tentang kinerja, bias, sifat data pelatihan, dll.

Bagaimana organisasi dapat memitigasi risiko bias dan halusinasi AI dalam model bahasa besar (LLM)?

Red teaming adalah pendekatan umum untuk mengatasi risiko ini dan risiko lainnya selama pengembangan dan sebelum rilis model. Awalnya digunakan untuk mengevaluasi sistem aman, pendekatan ini sekarang menjadi standar untuk sistem berbasis AI. Ini adalah pendekatan sistem untuk manajemen risiko yang dapat dan harus mencakup seluruh siklus hidup sistem, dari pengembangan awal hingga penerapan lapangan, yang mencakup seluruh rantai pasokan pengembangan. Terutama kritis adalah klasifikasi dan autentikasi data pelatihan yang digunakan untuk model.

Apa langkah yang dapat diambil perusahaan untuk menciptakan transparansi dalam sistem AI dan mengurangi risiko yang terkait dengan masalah “black box”?

Pahami bagaimana perusahaan akan menggunakan model dan apa jenis kewajiban yang mungkin dimiliki dalam penerapan, baik untuk penggunaan internal atau penggunaan oleh pelanggan, baik langsung maupun tidak langsung. Kemudian, pahami apa yang saya sebut sebagai pedigrinya dari mekanisme AI yang akan diterapkan, termasuk asersi pada kartu model, hasil uji tim merah, analisis diferensial pada penggunaan khusus perusahaan, apa yang telah dievaluasi secara formal, dan apa yang telah menjadi pengalaman orang lain. Pengujian internal menggunakan rencana uji komprehensif dalam lingkungan yang realistis sangat diperlukan. Praktik terbaik sedang berkembang dalam area yang masih baru ini, sehingga penting untuk tetap mengikuti.

Bagaimana sistem AI dapat dirancang dengan pedoman etika dan apa tantangan yang dihadapi dalam mencapai hal ini di berbagai industri?

Ini adalah area penelitian, dan banyak yang mengklaim bahwa konsep etika dan versi AI saat ini tidak sesuai karena etika adalah konsep yang berbasis, dan mekanisme AI sebagian besar didorong oleh data. Misalnya, aturan sederhana yang dipahami manusia, seperti “jangan curang”, sulit untuk dijamin. Namun, analisis yang cermat tentang interaksi dan konflik tujuan dalam pembelajaran berbasis tujuan, pengecualian data yang mencurigakan dan disinformasi, dan membangun aturan yang mengharuskan penggunaan filter keluaran yang memaksa guardrail dan menguji pelanggaran prinsip etika seperti mengadvokasi atau menyatakan simpati terhadap penggunaan kekerasan dalam konten keluaran harus dipertimbangkan. Demikian pula, pengujian yang ketat untuk bias dapat membantu menyelaraskan model dengan prinsip etika. Lagi, banyak dari ini dapat konseptual, sehingga perlu hati-hati untuk menguji efek dari suatu pendekatan karena mekanisme AI tidak akan “memahami” instruksi seperti manusia.

Apa risiko dan tantangan utama yang dihadapi AI di masa depan, terutama ketika mengintegrasikan lebih banyak dengan sistem IoT?

Kita ingin menggunakan AI untuk mengotomatisasi sistem yang mengoptimalkan proses infrastruktur kritis. Misalnya, kita tahu bahwa kita dapat mengoptimalkan distribusi dan penggunaan energi menggunakan pembangkit listrik virtual, yang mengoordinasikan ribuan elemen produksi, penyimpanan, dan penggunaan energi. Ini hanya praktis dengan otomatisasi besar dan penggunaan AI untuk membantu dalam pengambilan keputusan menit. Sistem akan mencakup agen dengan tujuan optimasi yang bertentangan (misalnya, untuk kepentingan konsumen vs penyedia). Keamanan dan keamanan AI akan sangat penting dalam penerapan sistem tersebut secara luas.

Apa jenis infrastruktur yang diperlukan untuk mengidentifikasi dan mengautentikasi entitas dalam sistem AI dengan aman?

Kita akan memerlukan infrastruktur yang kuat dan efisien yang memungkinkan entitas yang terlibat dalam mengevaluasi semua aspek sistem AI dan penerapannya untuk menerbitkan klaim yang berwenang dan autentik tentang sistem AI, pedigrinya, data pelatihan yang tersedia, provenance data sensor, insiden dan peristiwa yang mempengaruhi keamanan, dll. Infrastruktur tersebut juga perlu membuatnya efisien untuk memverifikasi klaim dan asersi oleh pengguna sistem yang mencakup mekanisme AI dan oleh elemen dalam sistem otomatis yang membuat keputusan berdasarkan keluaran dari model AI dan pengoptimasi.

Apakah Anda dapat membagikan wawasan tentang apa yang sedang Anda kerjakan di Intertrust dan bagaimana itu terkait dengan apa yang telah kita diskusikan?

Kami melakukan penelitian dan merancang teknologi yang dapat menyediakan infrastruktur manajemen kepercayaan yang diperlukan dalam pertanyaan sebelumnya. Kami secara khusus mengatasi masalah skala, latensi, keamanan, dan interoperabilitas yang muncul dalam sistem IoT yang mencakup komponen AI.

Bagaimana PKI (Public Key Infrastructure) Intertrust mengamankan perangkat IoT, dan apa yang membuatnya dapat diskalakan untuk penerapan besar?

PKI kami dirancang khusus untuk manajemen kepercayaan sistem yang mencakup pemerintahan perangkat dan konten digital. Kami telah menerapkan miliaran kunci kriptografi dan sertifikat yang menjamin kepatuhan. Penelitian kami saat ini mengatasi skala dan jaminan yang diperlukan untuk otomatisasi industri besar dan infrastruktur kritis dunia, termasuk praktik terbaik untuk penerapan “zero-trust” dan autentikasi perangkat dan data yang dapat menampung triliunan sensor dan generator peristiwa.

Apa yang memotivasi Anda untuk bergabung dengan inisiatif AI NIST, dan bagaimana keterlibatan Anda menyumbang pada pengembangan standar AI yang dapat dipercaya dan aman?

NIST memiliki pengalaman dan kesuksesan yang luar biasa dalam mengembangkan standar dan praktik terbaik dalam sistem aman. Sebagai Peneliti Utama untuk US AISIC dari Intertrust, saya dapat mendukung standar dan praktik terbaik yang penting dalam mengembangkan sistem manajemen kepercayaan yang mencakup mekanisme AI. Dari pengalaman sebelumnya, saya sangat menghargai pendekatan yang diambil NIST untuk mempromosikan kreativitas, kemajuan, dan kerja sama industri sambil membantu merumuskan dan menyebarkan standar teknis penting yang mempromosikan interoperabilitas. Standar ini dapat memacu adopsi teknologi yang bermanfaat sambil mengatasi risiko yang dihadapi masyarakat.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Intertrust.