Reid Blackman, Ph.D, Pendiri dan CEO Virtue Consultants – Seri Wawancara

Reid Blackman adalah Pendiri dan CEO Virtue Consultants. Dalam kapasitas itu, ia telah bekerja dengan perusahaan untuk mengintegrasikan etika dan mitigasi risiko etika ke dalam budaya perusahaan dan pengembangan, penerapan, dan pengadaan produk teknologi yang muncul. Ia juga merupakan Penasihat Senior di Ernst & Young dan duduk di Dewan Penasihat Kecerdasan Buatan mereka, dan merupakan anggota Inisiatif Desain yang Terintegrasi secara Etis dari IEEE.

Karya Reid telah diprofilkan di The Wall Street Journal dan Dell Perspectives dan ia telah menyumbangkan tulisan-tulisan untuk The Harvard Business Review, TechCrunch, VentureBeat, dan Majalah Risiko & Kepatuhan. Ia telah dikutip dalam berbagai artikel berita, dan ia secara teratur berbicara di berbagai tempat termasuk Forum Ekonomi Dunia, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University, dan AIG.

Anda adalah Profesor Filsafat di Colgate University dari 2009 hingga 2018. Pada titik mana Anda mulai mengintegrasikan etika AI ke dalam kelas Anda?

Saya sering mengajar kursus Filsafat Sosial dan Politik, di mana saya membahas Marx. Salah satu klaim sentral Marx adalah bahwa kapitalisme akhirnya akan memberi jalan bagi komunisme, karena peningkatan besar dalam “sarana produksi.” Dengan kata lain, kapitalisme mendorong efisiensi yang lebih besar dalam nama persaingan dan membuka pasar baru, yang berarti peningkatan dalam penciptaan teknologi yang dapat menghasilkan lebih dan lebih dalam waktu yang lebih singkat. Marx juga memprediksi bahwa ini akan semakin memasukkan uang ke tangan beberapa orang dan mendorong lebih banyak orang ke dalam kemiskinan, pada titik struktur kapitalis akan dibalik oleh revolusi yang dipimpin oleh massa yang semakin banyak. Semua ini menyebabkan diskusi sekitar etika teknologi yang menghilangkan kebutuhan akan tenaga kerja manusia, yang merupakan elemen sentral dari etika AI.

Cerita sampingan kecil jika Anda tertarik: Kembali pada 2002 saya adalah mahasiswa pascasarjana yang memimpin diskusi tentang Marx dengan mahasiswa sarjana di Northwestern University. Pada suatu titik, seorang siswa mengangkat tangannya dan berkata, “Akhirnya kita tidak akan membutuhkan manusia untuk melakukan pekerjaan apa pun.” Kelas itu bingung. Saya bingung. Jadi saya berkata, “Baik, lalu siapa yang akan melakukan pekerjaan itu?” Ia menjawab dengan cara yang sangat faktual: “robot.” Kelas itu meledak dalam tawa. Saya menahan tawa saya. Tapi itu cukup jelas siapa yang mendapatkan tawa terakhir.

Pada 2018, Anda meluncurkan Virtue Consultants, sebuah konsultasi etika yang memberdayakan Pemimpin Data dan AI untuk mengidentifikasi dan mitigasi risiko etika dari produk mereka. Apa yang menginspirasi Anda untuk memulai perjalanan kewirausahaan ini?

Kecemburuan. Yah, sort of. Saya memulai perusahaan grosir kembang api ketika saya masih mahasiswa pascasarjana, saya pikir sekitar 2003 atau 2004. Itu berjalan lebih baik dari yang saya antisipasi, dan perusahaan itu masih ada, meskipun sekarang saya hanya sebagai penasihat dan tidak lagi mengurus operasional sehari-hari. Bagaimanapun, itu relevan karena itu menjelaskan bagaimana saya menjadi mentor untuk startup di program kewirausahaan Colgate (disebut TIA, Thought Into Action, dipimpin oleh dua VC yang luar biasa, Andy Greenfield dan Wills Hapworth, yang menjalankan TIA Ventures). Sebagai mentor, saya melihat siswa memulai proyek-proyek yang menarik saat mereka mencoba memahami bagaimana membangun dan menskala startup mereka, dan saya pikir, “Saya ingin itu!” Tapi apa yang akan menjadi ventura baru saya? Itu harus berbicara tentang cinta saya terhadap filsafat dan etika, dan hal pertama yang masuk akal adalah konsultasi etika. Saya tidak melihat pasar untuk layanan tersebut pada saat itu, karena tidak ada yang bisa dilihat, dan jadi saya menunggu. Dan kemudian Cambridge Analytica, dan BLM, dan #MeToo membuat headline nasional, dan tiba-tiba ada kesadaran yang lebih besar tentang kebutuhan.

Seberapa pentingkah bagi perusahaan untuk memperkenalkan Pernyataan Etika AI?

Pernyataan Etika AI tidaklah penting, tetapi itu adalah alat yang sangat berguna untuk menetapkan tujuan Anda. Ketika Anda memperkenalkan program etika AI ke dalam organisasi Anda, Anda ingin mengidentifikasi dan mitigasi serta mengelola berbagai risiko etika, reputasi, regulasi, dan hukum. Itu adalah fungsi utamanya. Pernyataan etika membantu dalam merumuskan apa yang akan terlihat seperti ketika Anda memiliki infrastruktur, proses, dan praktik yang ada untuk mencapai fungsi tersebut. Sejauh strategi membutuhkan tujuan – yang selalu dilakukan – Pernyataan Etika AI adalah cara yang bagus untuk merumuskan tujuan-tujuan tersebut, meskipun itu bukan satu-satunya cara.

Bagaimana perusahaan dapat memastikan bahwa pernyataan etika tersebut dipindahkan ke dalam proses dan praktik?
Pernyataan etika hanya langkah kecil ke arah yang benar. Jika Anda ingin melanjutkan, langkah alami berikutnya adalah melakukan penilaian tentang di mana Anda berada relatif terhadap tujuan yang dirumuskan dalam pernyataan tersebut. Setelah Anda tahu di mana celah-celah terbesar dan paling berisiko – yaitu, di mana Anda paling berisiko gagal mencapai tujuan Anda – maka Anda dapat mulai merancang solusi untuk menyempitkan celah-celah tersebut. Mungkin itu adalah komite etika. Mungkin itu adalah proses due diligence selama pengembangan produk. Mungkin itu adalah menjadi lebih baik dalam menangani data di departemen non-produk, seperti pemasaran dan SDM. Mungkin itu adalah semua hal tersebut dan lebih.

Apa solusi yang harus diimplementasikan perusahaan untuk menghindari bias ke dalam algoritma AI yang sebenarnya?

Ada sejumlah alat teknis di luar sana untuk mengidentifikasi bias, tetapi mereka terbatas. Mereka akan memungkinkan Anda untuk membandingkan output model Anda dengan puluhan metrik kuantitatif yang telah ditawarkan dalam literatur etika ML akademis, tetapi Anda harus berhati-hati karena metrik-metrik tersebut tidak kompatibel satu sama lain. Jadi, keputusan etika substantif perlu dibuat: mana, jika ada, dari metrik-metrik ini yang tepat dalam konteks ini?

Selain menggunakan alat seperti itu, dilengkapi dengan cara yang bertanggung jawab untuk menjawab pertanyaan tersebut, tim produk akan melakukan dengan baik untuk memikirkan di mana bias dapat masuk sebelum mereka mulai membangun. Bagaimana bisa itu dikandung atau tercermin dalam set data pelatihan? Bagaimana tentang menentukan fungsi objektif? Apa tentang menentukan ambang batas? Ada banyak tempat bias dapat masuk. Pemikiran sebelumnya tentang di mana itu bisa ada dalam proyek saat ini dan bagaimana itu bisa masuk ke sana sangat penting untuk mengidentifikasi dan mitigasi bias.

Perusahaan AI terkenal karena didominasi oleh pria kulit putih yang mungkin secara tidak sengaja memprogram bias ke dalam sistem AI. Untuk menghindari ini, apa jenis sifat yang harus dicari oleh departemen sumber daya manusia?

Saya sangat mendukung kesempatan yang lebih besar dan keanekaragaman yang lebih besar di antara insinyur dan tim produk secara umum. Namun, saya pikir ini melihat hal-hal melalui lensa yang salah. Masalah utama ketika datang ke algoritma yang bias adalah bukan bahwa bias seorang pria kulit putih menyebabkan kode yang bias. Itu adalah bahwa set data pelatihan yang bias. Bahkan, sebuah makalah baru dari Columbia – “Programmer yang Bias? Atau Data yang Bias? Eksperimen Lapangan dalam Mengoperasikan Etika AI” – menyimpulkan bahwa “[p]rogrammer yang memahami bimbingan teknis berhasil mengurangi bias,” dan bahwa “[p]rediksi algoritma oleh programmer AI perempuan dan minoritas tidak menunjukkan bias algoritma atau diskriminasi yang lebih sedikit.” Jadi, sementara HR harus memperhatikan masalah keanekaragaman, itu jauh dari jelas bahwa strategi untuk mengurangi output AI yang bias harus terutama – apalagi, secara eksklusif – fokus pada keputusan perekrutan dalam kaitannya dengan upaya keanekaragaman.

Bisakah Anda membahas apa itu due diligence risiko etika dan mengapa perusahaan harus mengimplementasikannya?

Due diligence risiko etika adalah upaya untuk menemukan berbagai risiko etika yang dapat diwujudkan dengan produk yang Anda buat, termasuk bagaimana itu diterapkan, bagaimana itu digunakan dan disalahgunakan, dll. Anda ingin fokus pada fitur produk – baik yang dimilikinya dan yang tidak – dan cara-cara fitur tersebut dapat menyebabkan, ketika diterapkan dalam konteks yang berbeda, kesalahan etika. Ketika itu dilakukan dengan baik, itu adalah inspeksi yang sistematis dan menyeluruh. Tentu saja, sementara Anda dapat mencoba melihat sekitar sudut, ada kemungkinan beberapa hal yang Anda lewatkan, yang mengapa pemantauan terus-menerus sangat penting.

Mengenai mengapa perusahaan harus mengimplementasikannya: mereka hanya perlu mempertimbangkan risiko etika, reputasi, regulasi, dan hukum untuk tidak melakukannya. Pikirkan tentang Optum dalam berita dan di bawah penyelidikan regulasi untuk algoritma yang bias (diduga) yang merekomendasikan kepada praktisi kesehatan untuk memberi perhatian lebih kepada pasien kulit putih daripada pasien kulit hitam yang lebih sakit. Atau Goldman Sachs, di bawah penyelidikan untuk batas kredit untuk Kartu Apple, yang (diduga) mendiskriminasi wanita. Atau perangkat lunak perekrutan Amazon, yang dibatalkan karena kekhawatiran tentang bias sebelum diterapkan. Atau IBM yang digugat oleh Los Angeles karena (diduga) menggunakannya. data yang dikumpulkan dari Aplikasi Cuaca mereka. Atau Facebook…

Apakah ada yang lain yang ingin Anda bagikan tentang Virtue Consultants?

Virtue membantu pemimpin senior mempraktekan etika AI, apakah itu membantu mendidik dan meningkatkan keterampilan orang-orang tentang topik tersebut, menulis Pernyataan Etika AI, membuat dan menerapkan kerangka risiko etika AI yang dapat diambil, atau hanya berfungsi sebagai penasihat tentang etika AI. Jika itu terdengar menarik, orang-orang harus datang dan mengatakan halo.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut tentang Reid harus mengunjungi Reid Blackman, atau Anda dapat mengunjungi Virtue Consultants.