Reid Blackman, Ph.D, Pendiri dan CEO Virtue Consultants – Seri Wawancara

Reid Blackman adalah Pendiri dan CEO Virtue Consultants. Dalam kapasitas itu, ia bekerja dengan perusahaan untuk mengintegrasikan etika dan mitigasi risiko etika ke dalam budaya perusahaan dan pengembangan, penerapan, dan pengadaan produk teknologi yang muncul. Ia juga merupakan Penasihat Senior di Ernst & Young dan duduk di Dewan Penasihat Kecerdasan Buatan mereka, dan merupakan anggota Inisiatif Desain yang Terkait dengan Etika IEEE.

Karya Reid telah diprofilkan di The Wall Street Journal dan Dell Perspectives dan ia telah menyumbangkan tulisan-tulisan ke The Harvard Business Review, TechCrunch, VentureBeat, dan Risk & Compliance Magazine. Ia telah dikutip dalam berbagai artikel berita, dan ia secara teratur berbicara di berbagai tempat termasuk The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University, dan AIG.

Anda adalah Profesor Filsafat di Colgate University dari 2009 hingga 2018. Kapan Anda mulai memasukkan etika kecerdasan buatan ke dalam kelas Anda?

Saya sering mengajar kursus Filsafat Sosial dan Politik, di mana saya membahas Marx. Salah satu klaim sentral Marx adalah bahwa kapitalisme akhirnya akan memberi jalan bagi komunisme, karena peningkatan besar dalam “sarana produksi.” Dengan kata lain, kapitalisme mendorong efisiensi yang lebih besar dalam nama kompetisi dan membuka pasar baru, yang berarti peningkatan dalam penciptaan teknologi yang dapat menghasilkan lebih dan lebih dalam waktu yang lebih singkat. Marx juga memprediksi bahwa ini akan semakin memasukkan uang ke tangan beberapa orang dan mendorong lebih banyak orang ke dalam kemiskinan, pada titik di mana struktur kapitalis akan dibalik oleh revolusi yang dipimpin oleh massa yang semakin banyak. Semua ini menyebabkan diskusi sekitar etika teknologi yang menghilangkan kebutuhan akan tenaga kerja manusia, yang merupakan elemen sentral dari etika kecerdasan buatan.

Cerita sampingan kecil jika Anda tertarik: Kembali pada 2002 saya adalah mahasiswa pascasarjana yang memimpin diskusi tentang Marx dengan mahasiswa sarjana di Northwestern University. Pada suatu titik, seorang mahasiswa mengangkat tangannya dan berkata, “Akhirnya kita tidak akan membutuhkan manusia untuk melakukan pekerjaan apa pun.” Kelas itu bingung. Saya bingung. Jadi saya berkata, “Baik, lalu siapa yang akan melakukan pekerjaan itu?” Ia menjawab dengan cara yang sangat faktual: “Robot.” Kelas itu meledak dalam tawa. Saya menahan tawa saya. Tapi jelas siapa yang tertawa terakhir.

Pada 2018, Anda meluncurkan Virtue Consultants, sebuah konsultasi etika yang memberdayakan Pemimpin Data dan Kecerdasan Buatan untuk mengidentifikasi dan memitigasi risiko etika dari produk mereka. Apa yang menginspirasi Anda untuk memulai perjalanan kewirausahaan ini?

Iri. Yah, semacam. Saya memulai perusahaan grosir kembang api ketika saya masih mahasiswa pascasarjana, saya pikir sekitar 2003 atau 2004. Itu berjalan lebih baik dari yang saya antisipasi, dan perusahaan itu masih ada, meskipun sekarang saya hanya sebagai penasihat dan tidak lagi mengurus operasional sehari-hari. Namun, itu relevan karena menjelaskan bagaimana saya menjadi mentor untuk startup di program kewirausahaan Colgate (disebut TIA, Thought Into Action, dipimpin oleh dua VC yang luar biasa, Andy Greenfield dan Wills Hapworth, yang menjalankan TIA Ventures). Sebagai mentor, saya melihat siswa memulai proyek-proyek menarik ketika mereka mencoba memahami bagaimana membangun dan menskalakan startup mereka, dan saya pikir, “Saya ingin itu!” Tapi apa yang akan menjadi ventura baru saya? Itu harus terkait dengan cinta saya terhadap filsafat dan etika, dan hal pertama yang masuk akal adalah konsultasi etika. Saya tidak melihat pasar untuk layanan seperti itu pada saat itu, karena tidak ada, jadi saya menunggu. Lalu Cambridge Analytica, BLM, dan #MeToo membuat headline nasional, dan tiba-tiba ada kesadaran yang lebih besar tentang kebutuhan akan itu.

Seberapa pentingkah bagi perusahaan untuk memperkenalkan Pernyataan Etika Kecerdasan Buatan?

Pernyataan Etika Kecerdasan Buatan tidaklah penting, tetapi itu adalah alat yang sangat berguna untuk menetapkan tujuan Anda. Ketika Anda memperkenalkan program etika kecerdasan buatan ke dalam organisasi Anda, Anda ingin mengidentifikasi dan memitigasi serta mengelola berbagai risiko etika, reputasional, regulatif, dan hukum. Itulah fungsinya. Pernyataan etika membantu dalam merumuskan apa yang akan terlihat seperti ketika Anda memiliki infrastruktur, proses, dan praktik yang ada untuk mencapai fungsi itu. Sejauh mana strategi membutuhkan tujuan – yang selalu ada – Pernyataan Etika Kecerdasan Buatan adalah cara yang baik untuk merumuskan tujuan-tujuan itu, meskipun itu bukan satu-satunya cara.

Bagaimana perusahaan dapat memastikan bahwa pernyataan etika diterjemahkan ke dalam proses dan praktik?

Pernyataan etika hanya langkah kecil ke arah yang benar. Jika Anda ingin melanjutkan, langkah alami berikutnya adalah melakukan penilaian tentang di mana Anda berada relatif terhadap tujuan yang dirumuskan dalam pernyataan itu. Setelah Anda tahu di mana celah-celah terbesar dan berisiko – yaitu, di mana Anda paling berisiko gagal mencapai tujuan Anda – maka Anda dapat mulai merancang solusi untuk menutup celah-celah itu. Mungkin itu adalah komite etika. Mungkin itu adalah proses due diligence selama pengembangan produk. Mungkin itu adalah menjadi lebih baik dalam menangani data di departemen non-produk, seperti pemasaran dan SDM. Kemungkinan besar itu adalah semua hal itu dan lebih.

Apa solusi yang harus diterapkan perusahaan untuk menghindari bias dalam algoritma kecerdasan buatan yang sebenarnya?

Ada sejumlah alat teknis di luar sana untuk mengidentifikasi bias, tetapi mereka terbatas. Mereka akan memungkinkan Anda untuk membandingkan output model Anda dengan puluhan metrik kuantitatif yang telah ditawarkan dalam literatur etika kecerdasan buatan, tetapi Anda harus berhati-hati karena metrik-metrik itu tidak kompatibel satu sama lain. Jadi, keputusan etika substantif perlu dibuat: mana, jika ada, dari metrik-metrik itu yang tepat dalam konteks ini?

Di samping menggunakan alat seperti itu, yang dilengkapi dengan cara yang bertanggung jawab untuk menjawab pertanyaan itu, tim produk akan melakukan dengan baik untuk memikirkan di mana bias dapat masuk sebelum mereka mulai membangun. Bagaimana bisa itu terkandung atau tercermin dalam set data pelatihan? Bagaimana tentang menentukan fungsi objektif? Apa tentang menentukan ambang? Ada banyak tempat di mana bias dapat masuk. Pertimbangan tentang di mana itu bisa ada dalam proyek saat ini dan bagaimana itu bisa masuk ke sana sangat penting untuk mengidentifikasi dan memitigasi bias.

Perusahaan kecerdasan buatan terkenal karena didominasi oleh pria kulit putih yang mungkin tanpa sengaja memprogram beberapa bias ke dalam sistem kecerdasan buatan. Untuk menghindari ini, apa jenis sifat yang harus dicari oleh departemen sumber daya manusia?

Saya sangat mendukung kesempatan yang lebih besar dan keragaman yang lebih besar di antara insinyur dan tim produk secara umum. Namun, saya pikir ini melihat hal-hal dari lensa yang salah. Masalah utama ketika datang ke algoritma yang bias adalah tidak bahwa beberapa bias pria kulit putih menyebabkan kode yang bias. Itu adalah bahwa set data pelatihan yang bias. Faktanya, sebuah makalah baru dari Columbia – “Pengembang yang Bias? Atau Data yang Bias? Eksperimen Lapangan dalam Mengoperasikan Etika Kecerdasan Buatan” – menyimpulkan bahwa “[p]engembang yang memahami panduan teknis berhasil mengurangi bias,” dan bahwa “[p]rediksi algoritmik oleh pengembang kecerdasan buatan perempuan dan minoritas tidak menunjukkan bias algoritmik atau diskriminasi yang lebih sedikit.” Jadi, sementara HR harus memperhatikan masalah keragaman, itu jauh dari jelas bahwa strategi untuk mengurangi output kecerdasan buatan yang bias harus terutama – atau bahkan secara eksklusif – fokus pada keputusan perekrutan yang terkait dengan upaya keragaman.

Bisakah Anda membahas apa itu due diligence risiko etika dan mengapa perusahaan harus menerapkannya?

Due diligence risiko etika adalah upaya untuk menemukan berbagai risiko etika yang dapat direalisasikan dengan produk yang Anda ciptakan, termasuk bagaimana produk itu diterapkan, bagaimana produk itu mungkin digunakan dan disalahgunakan, dan sebagainya. Anda ingin fokus pada fitur produk – baik yang dimiliki maupun yang tidak dimiliki – dan cara-cara tersebut dapat menyebabkan kesalahan etika ketika diterapkan dalam berbagai konteks. Ketika itu dilakukan dengan baik, itu adalah inspeksi yang sistematis dan menyeluruh. Tentu saja, sementara Anda dapat mencoba melihat sekitar sudut, ada kemungkinan beberapa hal yang akan Anda lewatkan, yang mengapa pemantauan terus-menerus sangat penting.

Perusahaan hanya perlu mempertimbangkan risiko etika, reputasional, regulatif, dan hukum untuk tidak melakukannya. Pikirkan tentang Optum dalam berita dan di bawah penyelidikan regulatif untuk algoritma yang bias (diduga) yang merekomendasikan kepada praktisi kesehatan untuk membayar lebih banyak perhatian kepada pasien kulit putih daripada pasien kulit hitam yang lebih sakit. Atau Goldman Sachs (GS ), di bawah penyelidikan untuk batas kredit Kartu Apple (AAPL ), yang (diduga) mendiskriminasi wanita. Atau perangkat lunak perekrutan Amazon (AMZN ), yang dibatalkan karena kekhawatiran tentang bias sebelum diterapkan. Atau IBM yang digugat oleh Los Angeles karena (diduga) mengambil data yang dikumpulkan dari Aplikasi Cuaca mereka secara tidak sah. Atau Facebook (META ) …

Apakah ada yang lain yang ingin Anda bagikan tentang Virtue Consultants?

Virtue membantu pemimpin senior mempraktekan etika kecerdasan buatan, apakah itu membantu mendidik dan meningkatkan keterampilan orang-orang tentang topik tersebut, menulis Pernyataan Etika Kecerdasan Buatan, menciptakan dan menerapkan kerangka risiko etika kecerdasan buatan yang dapat diambil tindakan, atau hanya berfungsi sebagai penasihat tentang etika kecerdasan buatan. Jika itu terdengar menarik, orang-orang harus datang dan mengatakan halo.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut tentang Reid harus mengunjungi Reid Blackman, atau Anda bisa mengunjungi Virtue Consultants.