Grace Yee, Direktur Senior Inovasi Etis (Etika AI dan Aksesibilitas) di Adobe – Seri Wawancara

Grace Yee adalah Direktur Senior Inovasi Etis (Etika AI dan Aksesibilitas) di Adobe (ADBE ), yang memimpin pekerjaan global dan organisasi untuk mengembangkan proses, alat, pelatihan, dan sumber daya lainnya untuk membantu memastikan bahwa inovasi AI yang dipimpin oleh Adobe terus berkembang sesuai dengan nilai-nilai inti dan prinsip etika Adobe. Grace memajukan komitmen Adobe untuk membangun dan menggunakan teknologi secara bertanggung jawab, dengan menempatkan etika dan inklusivitas di semua pekerjaan perusahaan dalam mengembangkan AI. Sebagai bagian dari pekerjaan ini, Grace mengawasi Komite Etika AI dan Dewan Pengawas Adobe, yang membuat rekomendasi untuk membantu memandu tim pengembangan Adobe dan meninjau fitur dan produk AI baru untuk memastikan mereka sesuai dengan prinsip-prinsip akuntabilitas, tanggung jawab, dan transparansi Adobe. Prinsip-prinsip ini membantu memastikan kita membawa fitur AI yang didukung ke pasar sambil meminimalkan hasil yang berbahaya dan bias. Grace juga bekerja dengan tim kebijakan untuk mempromosikan advokasi yang membantu membentuk kebijakan publik, hukum, dan peraturan sekitar AI untuk kepentingan masyarakat.

Sebagai bagian dari komitmen Adobe untuk aksesibilitas, Grace membantu memastikan bahwa produk Adobe inklusif dan dapat diakses oleh semua pengguna, sehingga siapa pun dapat membuat, berinteraksi, dan terlibat dengan pengalaman digital. Di bawah kepemimpinannya, Adobe bekerja dengan kelompok pemerintah, asosiasi perdagangan, dan komunitas pengguna untuk mempromosikan dan memajukan kebijakan dan standar aksesibilitas, mengembangkan solusi industri yang berdampak.

Apakah Anda dapat memberitahu kami tentang perjalanan Adobe selama lima tahun terakhir dalam membentuk Etika AI? Apa saja tonggak penting yang telah mendefinisikan evolusi ini, terutama di tengah kemajuan pesat seperti AI generatif?

Lima tahun yang lalu, kami memformalkan proses Etika AI kami dengan menetapkan prinsip-prinsip Etika AI kami, yaitu akuntabilitas, tanggung jawab, dan transparansi, yang berfungsi sebagai dasar untuk proses tata kelola Etika AI kami. Kami mengumpulkan tim yang beragam dan fungsional dari seluruh dunia untuk mengembangkan prinsip-prinsip yang dapat dijalankan dan tahan lama.

Dari sana, kami mengembangkan proses tinjauan yang komprehensif untuk mengidentifikasi dan meminimalkan risiko dan bias potensial pada awal siklus pengembangan AI. Proses penilaian ini telah membantu kami mengidentifikasi dan menangani fitur dan produk yang dapat memperkuat bias dan stereotip yang berbahaya.

Saat AI generatif muncul, kami menyesuaikan penilaian Etika AI kami untuk mengatasi tantangan etika baru. Proses iteratif ini telah memungkinkan kami untuk tetap di depan potensi masalah, memastikan teknologi AI kami dikembangkan dan diterapkan secara bertanggung jawab. Komitmen kami untuk belajar terus dan berkolaborasi dengan berbagai tim di seluruh perusahaan telah menjadi kunci dalam mempertahankan relevansi dan efektivitas program Etika AI kami, sehingga meningkatkan pengalaman yang kami berikan kepada pelanggan kami dan mempromosikan inklusivitas.

Bagaimana prinsip-prinsip Etika AI Adobe—akuntabilitas, tanggung jawab, dan transparansi—diterjemahkan ke dalam operasional sehari-hari? Apakah Anda dapat membagikan contoh tentang bagaimana prinsip-prinsip ini telah memandu proyek AI Adobe?

Kami mematuhi komitmen Etika AI Adobe dalam fitur AI yang didukung dengan menerapkan praktik rekayasa yang kuat yang memastikan inovasi yang bertanggung jawab, sambil terus mengumpulkan umpan balik dari karyawan dan pelanggan kami untuk memungkinkan penyesuaian yang diperlukan.

Fitur AI baru menjalani penilaian etika yang menyeluruh untuk mengidentifikasi dan meminimalkan bias dan risiko potensial. Ketika kami memperkenalkan Adobe Firefly, keluarga model AI generatif kami, itu menjalani evaluasi untuk meminimalkan pembuatan konten yang dapat memperkuat stereotip yang berbahaya. Evaluasi ini adalah proses iteratif yang berkembang berdasarkan kolaborasi erat dengan tim produk, mengintegrasikan umpan balik dan pembelajaran untuk tetap relevan dan efektif. Kami juga melakukan latihan penemuan risiko dengan tim produk untuk memahami dampak potensial dan merancang mekanisme pengujian dan umpan balik yang sesuai.

Bagaimana Adobe menangani kekhawatiran sehubungan dengan bias dalam AI, terutama dalam alat yang digunakan oleh basis pengguna global dan beragam? Apakah Anda dapat memberikan contoh tentang bagaimana bias diidentifikasi dan diminimalkan dalam fitur AI tertentu?

Kami terus mengembangkan penilaian dan proses tinjauan Etika AI kami dalam kolaborasi erat dengan tim produk dan teknik. Penilaian Etika AI yang kami miliki beberapa tahun yang lalu berbeda dengan yang kami miliki sekarang, dan saya antisipasi perubahan tambahan di masa depan. Pendekatan iteratif ini memungkinkan kami untuk mengintegrasikan pembelajaran baru dan menangani kekhawatiran etika yang muncul saat teknologi seperti Firefly berkembang.

Sebagai contoh, ketika kami menambahkan dukungan multibahasa ke Firefly, tim saya menyadari bahwa itu tidak menghasilkan output yang diinginkan dan beberapa kata diblokir secara tidak sengaja. Untuk meminimalkan hal ini, kami bekerja sama dengan tim internasionalisasi dan penutur asli untuk memperluas model kami dan mencakup istilah dan konotasi khusus negara.

Komitmen kami untuk mengembangkan pendekatan penilaian kami seiring kemajuan teknologi adalah yang membantu Adobe menjaga keseimbangan antara inovasi dan tanggung jawab etika. Dengan mempromosikan proses yang inklusif dan responsif, kami memastikan teknologi AI kami memenuhi standar tertinggi transparansi dan integritas, memberdayakan kreator untuk menggunakan alat kami dengan kepercayaan.

Dengan keterlibatan Anda dalam membentuk kebijakan publik, bagaimana Adobe menavigasi persimpangan antara peraturan AI yang berubah cepat dan inovasi? Apa peran Adobe dalam membentuk peraturan ini?

Kami secara aktif terlibat dengan pembuat kebijakan dan kelompok industri untuk membantu membentuk kebijakan yang menyeimbangkan inovasi dengan pertimbangan etika. Pembahasan kami dengan pembuat kebijakan berfokus pada pendekatan kami terhadap AI dan pentingnya mengembangkan teknologi untuk meningkatkan pengalaman manusia. Regulator mencari solusi praktis untuk menangani tantangan saat ini dan dengan menyajikan kerangka kerja seperti prinsip-prinsip Etika AI kami—dikembangkan secara kolaboratif dan diterapkan secara konsisten dalam fitur AI yang didukung—kami memfasilitasi diskusi yang lebih produktif. Sangat penting untuk membawa contoh konkret ke meja yang menunjukkan bagaimana prinsip-prinsip kami bekerja dalam aksi dan menunjukkan dampak dunia nyata, bukan hanya membicarakan konsep abstrak.

Apa pertimbangan etika yang diprioritaskan oleh Adobe saat menyumberkan data pelatihan, dan bagaimana memastikan bahwa dataset yang digunakan etis dan cukup kuat untuk kebutuhan AI?

Di Adobe, kami memprioritaskan beberapa pertimbangan etika kunci saat menyumberkan data pelatihan untuk model AI kami. Sebagai bagian dari upaya kami untuk merancang Firefly agar aman secara komersial, kami melatihnya pada dataset konten berlisensi seperti Adobe Stock, dan konten domain publik di mana hak cipta telah kedaluwarsa. Kami juga fokus pada keberagaman dataset untuk menghindari memperkuat bias dan stereotip yang berbahaya dalam output model kami. Untuk mencapai ini, kami berkolaborasi dengan tim yang beragam dan ahli untuk meninjau dan mengkurasi data. Dengan mematuhi praktik-praktik ini, kami berusaha untuk menciptakan teknologi AI yang tidak hanya kuat dan efektif tetapi juga etis dan inklusif bagi semua pengguna.

Menurut Anda, seberapa penting transparansi dalam berkomunikasi kepada pengguna tentang bagaimana sistem AI Adobe seperti Firefly dilatih dan apa jenis data yang digunakan?

Transparansi sangat penting ketika berkomunikasi kepada pengguna tentang bagaimana fitur AI generatif Adobe seperti Firefly dilatih, termasuk jenis data yang digunakan. Ini membangun kepercayaan dan kepercayaan diri dalam teknologi kami dengan memastikan pengguna memahami proses di balik pengembangan AI generatif kami. Dengan terbuka tentang sumber data kami, metode pelatihan, dan pengaman etika yang kami miliki, kami memberdayakan pengguna untuk membuat keputusan yang tepat tentang bagaimana mereka berinteraksi dengan produk kami. Transparansi ini tidak hanya selaras dengan prinsip-prinsip Etika AI inti kami tetapi juga memfasilitasi hubungan kolaboratif dengan pengguna kami.

Saat AI terus berkembang, terutama AI generatif, apa yang Anda pikir akan menjadi tantangan etika paling signifikan yang dihadapi perusahaan seperti Adobe di masa depan?

Saya percaya bahwa tantangan etika paling signifikan bagi perusahaan seperti Adobe adalah meminimalkan bias yang berbahaya, memastikan inklusivitas, dan mempertahankan kepercayaan pengguna. Potensi AI untuk tidak sengaja memperkuat stereotip atau menghasilkan konten yang berbahaya dan menyesatkan adalah kekhawatiran yang memerlukan kewaspadaan dan pengaman yang kuat. Misalnya, dengan kemajuan baru-baru ini dalam AI generatif, lebih mudah bagi “aktor jahat” untuk menciptakan konten menipu, menyebarkan informasi yang salah, dan memanipulasi opini publik, yang melemahkan kepercayaan dan transparansi.

Untuk mengatasi ini, Adobe mendirikan Inisiatif Autentikasi Konten (CAI) pada 2019 untuk membangun ekosistem digital yang lebih dapat dipercaya dan transparan bagi konsumen. CAI menerapkan solusi kami untuk membangun kepercayaan online–disebut Kredensial Konten. Kredensial Konten mencakup “bahan” atau informasi penting seperti nama pembuat, tanggal pembuatan gambar, alat yang digunakan untuk membuat gambar, dan setiap edit yang dilakukan sepanjang jalan. Ini memungkinkan pengguna untuk menciptakan rantai kepercayaan dan autentikasi digital.

Saat AI generatif terus berkembang, akan semakin penting untuk mempromosikan adopsi luas Kredensial Konten untuk memulihkan kepercayaan dalam konten digital.

Apa saran yang Anda berikan kepada organisasi lain yang baru mulai memikirkan tentang kerangka etika untuk pengembangan AI?

Saran saya akan dimulai dengan menetapkan prinsip-prinsip yang jelas, sederhana, dan praktis yang dapat memandu upaya Anda. Seringkali, saya melihat perusahaan atau organisasi fokus pada apa yang terlihat baik dalam teori, tetapi prinsip-prinsip mereka tidak praktis. Alasannya prinsip-prinsip kami telah bertahan uji waktu adalah karena kami merancangnya untuk dapat dijalankan. Ketika kami menilai fitur AI yang didukung, tim produk dan teknik kami tahu apa yang kami cari dan standar apa yang kami harapkan dari mereka.

Saya juga merekomendasikan organisasi untuk datang ke dalam proses ini dengan mengetahui bahwa itu akan menjadi iteratif. Saya mungkin tidak tahu apa yang akan ditemukan oleh Adobe dalam lima atau sepuluh tahun, tetapi saya tahu bahwa kami akan mengembangkan penilaian kami untuk memenuhi inovasi tersebut dan umpan balik yang kami terima.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Adobe.