Alyssa Simpson Rochwerger, Co-Penulis Buku Real World AI – Seri Wawancara

Alyssa Rochwerger adalah seorang pemimpin produk yang berfokus pada pelanggan dan berdedikasi untuk membangun produk yang dapat memecahkan masalah sulit bagi orang-orang nyata. Ia telah menjabat beberapa peran kepemimpinan produk untuk organisasi pembelajaran mesin. Ia pernah menjabat sebagai Wakil Presiden Produk untuk Figure Eight (diakuisisi oleh Appen), Wakil Presiden AI dan Data di Appen, dan Direktur Produk di IBM Watson. Baru-baru ini, ia meninggalkan ruang ini untuk mengejar impiannya menggunakan teknologi untuk meningkatkan kesehatan. Saat ini, ia menjabat sebagai Direktur Produk di Blue Shield of California, di mana ia dikelilingi oleh banyak data, masalah sulit, dan tidak ada kecuali kesempatan untuk membuat dampak positif.

Kami membahas buku barunya: Dunia Nyata AI: Panduan Praktis untuk Pembelajaran Mesin yang Bertanggung Jawab

Di pengantar buku, Anda menjelaskan bagaimana sebagai manajer produk IBM, Anda pertama kali mengalami masalah dengan sistem AI yang mengeluarkan informasi yang bias. Seberapa besar panggilan bangun tidur ini untuk Anda tentang bias AI?

Saya tidak akan menyebutnya sebagai panggilan bangun tidur, melainkan sebagai pengalaman pertama saya dalam membangun produk berbasis pembelajaran mesin (saya baru beberapa bulan di posisi ini) dan saya belum memiliki pengetahuan yang cukup tentang bagaimana teknologi ini bekerja untuk mengatasi bias yang tidak diinginkan. Ini adalah pengalaman yang membuka mata saya dan membuat saya lebih menyadari masalah ini – dan membuat saya lebih waspada ke depan. Keadilan, akses, dan inklusi adalah topik yang saya minati – dan telah lama saya minati – saya bahkan memenangkan penghargaan di kuliah untuk advokasi saya bagi mahasiswa dengan disabilitas. Pengalaman ini di IBM membantu saya memahami dari perspektif teknis bagaimana mudahnya bias sosial sistemik dapat dikodekan ke dalam produk berbasis pembelajaran mesin jika tim tidak secara aktif mengatasi. Saya senang bekerja di lembaga yang sangat peduli dengan keadilan dan mengalokasikan sumber daya untuk mengatasi.

Apa yang Anda pelajari secara pribadi saat melakukan penelitian dan menulis buku ini?

Dari sisi pribadi – saya harus mencari waktu untuk menulis buku ini sambil berganti pekerjaan, memiliki anak berusia 1 tahun, dan menghadapi COVID. Saya belajar bagaimana mencari waktu untuk membuat ini menjadi prioritas, dan bagaimana meminta bantuan dari keluarga saya yang memberi saya waktu untuk memberikan perhatian pada penulisan buku.

Dari sisi profesional – sangat menyenangkan memiliki banyak partisipan yang dengan sukarela dan murah hati berbagi cerita mereka dengan kami untuk dipublikasikan. Profesional pembelajaran mesin dalam pengalaman saya adalah kelompok orang yang sangat berpikiran dan murah hati – yang mau membantu orang lain dan berbagi kesalahan dan pelajaran yang dipelajari. Sayangnya, banyak dari cerita-cerita ini tidak dapat dimasukkan dalam buku ini atau harus disamarkan secara signifikan, karena kekhawatiran untuk mempublikasikan informasi di balik layar yang dapat membuat perusahaan atau individu terlihat buruk jika diambil dari sudut pandang yang salah. Meskipun ini memang biasa, secara pribadi saya merasa ini sangat disayangkan – saya adalah seorang yang besar dalam belajar dan tumbuh dari pengalaman dan kesalahan masa lalu jika dapat membantu orang lain.

Apa yang Anda harapkan orang-orang akan pelajari dari membaca buku ini?

Saya berharap orang-orang akan memahami bahwa pembelajaran mesin tidaklah menakutkan atau sulit dipahami. Bahwa ini adalah teknologi yang kuat tetapi juga rapuh yang membutuhkan bimbingan dan struktur untuk berhasil memecahkan masalah sulit. Juga bahwa penggunaan etis dan bertanggung jawab dari teknologi ini sangat penting untuk kematangan dan kesuksesan – dan bahwa fokus pada mengatasi bias berbahaya sejak awal adalah kunci untuk kesuksesan bisnis.

Salah satu contoh bias gender AI yang digambarkan dalam buku adalah kartu kredit Apple (AAPL ) yang mengeluarkan batas kredit yang lebih rendah untuk perempuan daripada laki-laki. Ini adalah contoh bagaimana menghilangkan gender sebagai pilihan gagal untuk mempertimbangkan variabel lain yang dapat berfungsi sebagai proksi untuk gender. Contoh ini menunjukkan bahwa tanpa input “gender” mustahil untuk mengetahui bahwa hasilnya bias sampai setelah produk akhir dirilis. Apa saja jenis input data yang Anda percaya tidak boleh dihilangkan untuk menghindari bias terhadap gender atau minoritas?

Tidak ada aturan yang keras dan cepat – setiap set data, kasus penggunaan, dan situasi berbeda. Saya akan mendorong praktisi untuk memasuki detail dan nuansa dari masalah yang akan dipecahkan oleh algoritma pembelajaran mesin – dan apa bias berbahaya yang dapat dikodekan ke dalam keputusan tersebut.

Buku ini menjelaskan bagaimana tanggung jawab utama saat berkomunikasi dengan tim AI adalah untuk mendefinisikan hasil yang penting bagi bisnis dengan tepat. Menurut Anda, seberapa sering bisnis gagal dalam tugas ini?

Saya akan mengatakan bahwa dalam pengalaman saya, sebagian besar waktu, hasilnya tidak didefinisikan atau hanya didefinisikan pada tingkat yang longgar atau tinggi. Memasuki detail tentang hasil yang spesifik adalah cara yang mudah untuk menyiapkan tim untuk sukses sejak awal.

Buku ini berbicara tentang pentingnya menyadari bahwa sistem AI bukanlah sistem “Set it and forget it”. Bisa Anda jelaskan secara singkat?

Ini adalah kesalahan klasik yang dilakukan oleh sebagian besar perusahaan saat meluncurkan sistem ML baru ke produksi. Kenyataan berubah – waktu berlalu, apa yang benar kemarin (data pelatihan) mungkin tidak benar besok. Ini tergantung pada keadaan, tetapi dalam sebagian besar kasus, penting untuk dapat belajar dan menyesuaikan diri serta membuat keputusan yang lebih baik berdasarkan informasi yang lebih baru.

Sistem produk berbasis pembelajaran mesin pada dasarnya adalah pengambil keputusan. Untuk membandingkannya dengan contoh manusia – ini seperti wasit dalam pertandingan sepak bola yang sangat penting. Banyak kali, jika wasit tersebut terlatih dengan baik dan berpengalaman, wasit membuat keputusan yang baik dan pertandingan berlanjut – tetapi terkadang, wasit tersebut membuat keputusan yang buruk – atau tidak yakin apa keputusan yang harus dibuat – dan perlu kembali untuk meninjau video – bertanya kepada beberapa orang lain untuk membuat keputusan tentang suatu permainan. Sistem produk ML membutuhkan umpan balik, pelatihan, dan terkadang tidak yakin. Mereka membutuhkan opsi cadangan untuk jatuh kembali serta informasi baru untuk dipelajari untuk menjadi lebih baik seiring waktu. Seorang wasit yang baik akan belajar seiring waktu dan menjadi lebih baik dalam membuat penilaian.

Bisa Anda berbicara tentang pentingnya membuat tim yang berfungsi untuk mengidentifikasi masalah yang paling baik dipecahkan dengan menggunakan AI?

Teknologi pembelajaran mesin sangat cocok untuk masalah yang sangat sulit dan spesifik yang tidak dapat dipecahkan dengan pendekatan lain. Setiap masalah yang sulit – membutuhkan tim untuk sukses. Ketika perusahaan baru dalam AI – seringkali ada narasi yang salah bahwa seorang ilmuwan pembelajaran mesin, atau bahkan tim pembelajaran mesin, dapat memecahkan masalah dengan sendirinya. Saya tidak pernah menemukan itu benar. Membutuhkan tim dengan latar belakang dan pendekatan yang berbeda untuk memecahkan masalah yang sulit – dan tentu saja untuk mengimplementasikan teknologi pembelajaran mesin dengan sukses ke produksi.

Terima kasih atas wawancara yang luar biasa, bagi pembaca (terutama eksekutif bisnis) yang ingin mempelajari lebih lanjut, saya sarankan mereka membaca buku Dunia Nyata AI: Panduan Praktis untuk Pembelajaran Mesin yang Bertanggung Jawab.