Andrew Pery, Evangelis Etika, ABBYY – Seri Wawancara

Andrew Pery, adalah Evangelis Etika di ABBYY, sebuah perusahaan kecerdasan digital. Mereka memberdayakan organisasi untuk mengakses wawasan berharga, namun sering sulit diperoleh, tentang operasi mereka yang memungkinkan transformasi bisnis yang sebenarnya.

ABBYY baru-baru ini meluncurkan Inisiatif Global untuk Meningkatkan Pengembangan Kecerdasan Buatan yang Dapat Dipercaya. Kami memutuskan untuk bertanya kepada Andrew tentang etika dalam kecerdasan buatan, penyalahgunaan kecerdasan buatan, dan apa yang dapat dilakukan industri kecerdasan buatan tentang kekhawatiran ini di masa depan.

Apa yang awalnya memicu minat Anda dalam etika kecerdasan buatan?

Apa yang awalnya memicu minat saya dalam etika kecerdasan buatan adalah minat yang mendalam dalam persimpangan hukum dan teknologi kecerdasan buatan. Saya memulai karir saya di sistem peradilan pidana, mewakili terdakwa yang tidak memiliki kemampuan finansial untuk membayar jasa hukum. Kemudian saya beralih ke teknologi yang fokus pada penerapan pencarian lanjutan dan kecerdasan buatan dalam praktik hukum. Sebagai seorang profesional yang bersertifikat dalam privasi data, saya sangat bersemangat tentang hukum privasi dan penggunaan teknologi kecerdasan buatan yang sesuai dengan dan meningkatkan hak-hak privasi.

Teknologi pengenalan wajah sering disalahgunakan oleh sumber otoritas, termasuk pemerintah AS. Seberapa besar kekhawatiran sosial ini harusnya?

Implikasi teknologi pengenalan wajah harusnya menjadi kekhawatiran sosial yang signifikan karena teknologi ini dapat memengaruhi banyak hak dasar, termasuk hak ekonomi, sosial, dan keamanan.

Ada bukti yang jelas dan kuat bahwa algoritma pengenalan wajah tidak dapat diandalkan. Sebuah studi NIST tentang algoritma pengenalan wajah menemukan bahwa orang Afrika-Amerika memiliki kemungkinan 100 kali lebih besar untuk salah diidentifikasi. Sebuah studi serupa oleh Sekolah Hukum Georgetown menemukan bahwa algoritma pengenalan wajah berbasis foto wajah menghasilkan persentase tinggi hasil positif palsu yang terkait dengan individu Afrika-Amerika, dan studi MIT 2018 tentang Perangkat Lunak Pengenalan Wajah Amazon (AMZN ) menemukan bahwa sementara pria kulit putih diidentifikasi dengan akurasi 99%, individu berkulit gelap menghasilkan hingga 35% hasil positif palsu.

Ini adalah alasan mengapa regulator mulai mengambil langkah untuk melarang penggunaan teknologi pengenalan wajah, terutama dalam konteks pengawasan dan pemprofilan. Misalnya, Senat California mengesahkan larangan penggunaan teknologi pengenalan wajah dan metode biometrik lainnya.

Ada juga momentum dalam komunitas teknologi untuk mengurangi pemasaran perangkat lunak pengenalan wajah. IBM mengumumkan bahwa mereka akan berhenti menjual perangkat lunak pengenalan wajah, dengan alasan bahwa itu melanggar hak asasi manusia dan kebebasan dasar. Microsoft (MSFT ) juga mengumumkan keputusan serupa untuk menghentikan penjualan teknologi pengenalan wajahnya, juga dengan alasan hak asasi manusia yang mendasar.

Perangkat lunak COMPAS yang telah digunakan oleh pengadilan AS untuk penilaian risiko kriminal telah salah mengidentifikasi pelaku kejahatan minoritas yang terlihat sebagai lebih mungkin untuk melakukan kejahatan lagi daripada pelaku kejahatan kulit putih. Apakah menggunakan kecerdasan buatan dalam pengadilan harus menjadi pilihan?

Studi tentang COMPAS menemukan bahwa itu tidak lebih baik dalam memprediksi kejahatan daripada orang-orang yang memilih secara acak. Sementara analitik prediktif memberikan nilai signifikan dalam konteks komersial, telah terbukti bahwa itu menghasilkan ketidakadilan dalam penerapannya pada keadilan pidana. Ini jelas dalam laporan yang diterbitkan oleh Pro Publica yang menemukan bahwa COMPAS, perangkat lunak yang paling populer digunakan oleh pengadilan AS untuk penilaian risiko kriminal, salah mengidentifikasi pelaku kejahatan minoritas yang terlihat sebagai lebih mungkin untuk melakukan kejahatan lagi dengan tingkat dua kali lipat daripada pelaku kejahatan kulit putih.

Ketidakadilan ini memicu Jaksa Agung Eric Holder untuk mempertanyakan kesetaraan dan mengungkapkan kekhawatiran tentang ketidakadilan potensial yang timbul dari penerapan teknologi kecerdasan buatan untuk memprediksi tingkat kejahatan kembali dalam populasi pelaku kejahatan.

Bagaimana masyarakat dapat menghindari pemrograman tidak sengaja bias negatif ke dalam sistem kecerdasan buatan?

Pertama, harus ada pengakuan bahwa kecerdasan buatan mungkin memiliki kecenderungan untuk menghasilkan bias tidak disengaja yang disebut bias tidak sadar. Mengurangi dampak buruknya memerlukan pendekatan holistik yang terdiri dari pengembangan pedoman etika kecerdasan buatan, seperti yang diusulkan oleh Kerangka Etika OECD. Ini didasarkan pada tujuh prinsip dasar termasuk keagenan manusia dan pengawasan, kekuatan teknis dan keamanan, privasi dan tata kelola, transparansi, keanekaragaman dan nondiskriminasi, kesejahteraan sosial dan akuntabilitas.

Kedua, ketaatan terhadap kerangka hukum yang melindungi terhadap pemprofilan otomatis sangat penting. Misalnya, Uni Eropa telah memiliki sejarah panjang dalam menghormati dan melindungi hak-hak privasi, dengan ekspresi paling baru dan paling kuat adalah Peraturan Perlindungan Data Umum (GDPR) yang secara khusus melindungi terhadap pengambilan keputusan otomatis.

Ketiga, perlu ada akuntabilitas industri untuk bagaimana teknologi kecerdasan buatan dikembangkan dan komitmen untuk memberikan transparansi tanpa memengaruhi hak-hak IP mereka. Ada perkembangan positif di sini. Misalnya, Partnership on AI adalah organisasi dengan lebih dari 80 anggota di 13 negara yang didedikasikan untuk penelitian dan diskusi tentang masalah kecerdasan buatan utama.

Terakhir, organisasi teknologi harus mempertahankan komitmen untuk melakukan asesmen dampak bias sebelum rilis komersial algoritma kecerdasan buatan, terutama ketika aplikasinya memengaruhi hak-hak privasi dan keamanan. Pertanyaan yang harus dipertimbangkan oleh pemimpin teknologi sebelum merilis aplikasi kecerdasan buatan yang baru termasuk: Apakah data yang digunakan untuk melatih teknologi ini cukup beragam? Bagaimana bias dapat dideteksi? Bagaimana itu diuji dan oleh siapa? Apa insentif pengembang? Siapa yang akan mendapat keuntungan komersial dari itu?

Sangat penting untuk diingat bahwa solusi kecerdasan buatan mencerminkan data yang mendasarinya, sehingga memastikan bahwa data ini tidak bias dan mencerminkan keanekaragaman konstituen yang akan dilayani oleh solusi tersebut sangat kritis. Dalam kata-kata peneliti kecerdasan buatan Professor Joanna Bryson, “jika data yang mendasarinya mencerminkan stereotip, atau jika Anda melatih kecerdasan buatan dari budaya manusia, Anda akan menemukan bias. Dan jika kita tidak berhati-hati, kita berisiko mengintegrasikan bias tersebut ke dalam program komputer yang semakin mengambil alih pengoperasian segala sesuatu dari rumah sakit hingga sekolah hingga penjara – program yang seharusnya menghilangkan bias tersebut pada awalnya.”

ABBYY baru-baru ini meluncurkan Inisiatif Global untuk Meningkatkan Pengembangan Kecerdasan Buatan yang Dapat Dipercaya. Seberapa penting inisiatif ini bagi masa depan ABBYY?

Keputusan untuk mengembangkan inisiatif global untuk kecerdasan buatan yang dapat dipercaya adalah keputusan penting yang didorong oleh keyakinan kami bahwa sebagai organisasi yang teknologinya memengaruhi perusahaan di seluruh dunia dan melayani puluhan ribu pengguna individu, kami memiliki kewajiban untuk menjadi warga perusahaan yang baik dengan hati nurani sosial. Ini tidak hanya membantu membangun kepercayaan yang lebih besar dari pelanggan dan mitra global kami, tetapi juga membantu memastikan bahwa teknologi kami terus memiliki dampak yang mendalam dengan cara yang menguntungkan kebaikan bersama.

Ini juga membuat bisnis yang baik untuk mempromosikan dan mendukung penggunaan kecerdasan buatan yang dapat dipercaya. Ini memperkuat ekuitas merek kami, membangun kepercayaan dengan konstituen pelanggan dan ekosistem mitra global kami. Kepercayaan diterjemahkan menjadi bisnis berulang dan pertumbuhan yang berkelanjutan.

Bagian dari inisiatif ini adalah ABBYY yang berkomitmen untuk memupuk budaya yang mempromosikan penggunaan etis kecerdasan buatan dan utilitas sosialnya. Apa yang perlu dilakukan oleh perusahaan lain untuk memupuk budaya serupa?

Perusahaan teknologi perlu membangun kerangka kerja untuk penggunaan etis kecerdasan buatan. Tingkat komitmen ini tergantung pada aplikasi yang dimaksudkan dari algoritma kecerdasan buatan. Cara terbaik untuk mengukur dampaknya adalah dengan menerapkan prinsip tidak menyebabkan kerusakan dan memiliki komitmen dari atas ke bawah untuk penggunaan kecerdasan buatan yang dapat dipercaya.

Sangat penting juga adalah komitmen terhadap transparansi. Sementara hak-hak IP harus seimbang dengan prinsip kecerdasan buatan yang dapat dipercaya, pentingnya transparansi dan akuntabilitas untuk penggunaan kecerdasan buatan yang bertanggung jawab harus diartikulasikan dan dikomunikasikan secara jelas di seluruh organisasi.

Salah satu inisiatif yang ABBYY telah komitmenkan adalah mengirimkan teknologi kecerdasan buatan yang secara sosial dan ekonomi bermanfaat. Ini dapat menjadi keseimbangan yang sulit untuk dicapai. Bagaimana perusahaan dapat mengimplementasikan ini?

Pemimpin dapat mencapai keseimbangan ini dengan mempertimbangkan rekomendasi yang ditawarkan oleh Deloitte: Merancang etika ke dalam kecerdasan buatan dimulai dengan menentukan apa yang penting bagi pemangku kepentingan seperti pelanggan, karyawan, regulator, dan masyarakat umum. Perusahaan harus menetapkan komite tata kelola dan penasihat kecerdasan buatan yang terdiri dari pemimpin fungsional dan penasihat eksternal yang akan berinteraksi dengan kelompok kerja multi-pemangku kepentingan dan menetapkan serta mengawasi tata kelola solusi yang ditenagai kecerdasan buatan, termasuk desain, pengembangan, penerapan, dan penggunaannya.

Bagaimana kami menyeimbangkan kepentingan komersial kami dan kebaikan sosial paling baru ditunjukkan selama pandemi Coronavirus. Kami membuat banyak teknologi kami tersedia secara gratis atau dengan harga diskon untuk membantu individu dan organisasi mengatasi krisis, mempertahankan kelangsungan bisnis, dan mendukung pelanggan mereka di tengah-tengah keadaan yang tidak terduga.

Kami juga baru-baru ini membuat kerangka teknologi kami tersedia melalui NeoML, perpustakaan pembelajaran mesin lintas platform yang open-source yang memungkinkan pengembang perangkat lunak untuk memanfaatkan model yang terbukti dan dapat diandalkan untuk memajukan inovasi kecerdasan buatan.

Apakah Anda dapat membagikan pandangan tentang menggunakan kecerdasan buatan untuk aplikasi pelacakan kontak COVID-19 dan kebutuhan untuk menyeimbangkan hak privasi?

Ini adalah masalah yang sangat mengganggu. Ada yang berpendapat bahwa implementasi aplikasi pelacakan seluler merupakan gangguan yang tidak diinginkan terhadap hak-hak privasi. Di sisi lain, ketika datang ke keselamatan publik, ada batasan pada hak-hak secara umum. Ini adalah pertukaran antara hak-hak dan tanggung jawab. Namun, hak-hak tidak absolut. Pengendalian wabah pandemik global memerlukan tindakan terkoordinasi dan penerapan sumber daya dan teknologi yang dapat digunakan secara bertanggung jawab untuk melindungi populasi secara keseluruhan.

Keseimbangan antara hak-hak privasi individu dan kebaikan bersama diakui dalam kerangka hukum. Misalnya, GDPR mengidentifikasi enam dasar untuk pemrosesan informasi pribadi yang sah, termasuk ketentuan bahwa ketika pemrosesan itu tidak terhindarkan untuk kepentingan publik, pemrosesan tersebut PII dibenarkan tanpa mendapatkan persetujuan subyek data.

Lebih lanjut, Butir 46 GDPR secara langsung menetapkan bahwa pemrosesan PII dibenarkan tanpa mendapatkan persetujuan subyek data dalam keadaan darurat kemanusiaan, termasuk wabah. Namun, perlu diingat bahwa Butir 46 menafsirkan penerapan ketentuan kepentingan publik sangat sempit, dengan catatan bahwa itu hanya boleh terjadi ketika tidak dapat didasarkan pada dasar hukum lain.

Terlepas dari keseimbangan antara hak-hak privasi dan kepentingan publik, juga penting bagi sektor teknologi dan pembuat kebijakan untuk mengimplementasikan pedoman yang etis, transparan, dan adil yang terkait dengan penggunaan profil kecerdasan buatan dan berbagi informasi kesehatan yang sangat sensitif. Perusahaan teknologi besar seperti Google (GOOGL ) dan Facebook (META ) telah memulai inisiatif untuk melacak pergerakan pengguna untuk mengidentifikasi bagaimana virus menyebar dan mengevaluasi efektivitas tindakan jarak sosial.

Saya percaya bahwa selama informasi tersebut dianonimkan, penggunaannya memiliki utilitas sosial.

Apakah ada yang ingin Anda bagikan tentang Inisiatif Global ABBYY untuk Meningkatkan Pengembangan Kecerdasan Buatan yang Dapat Dipercaya?

Peraturan cenderung tertinggal dari inovasi teknologi, oleh karena itu, perusahaan perlu mengambil peran proaktif dalam memupuk transparansi dan akuntabilitas dengan teknologi kecerdasan buatan dan bagaimana mereka memengaruhi hak-hak privasi dan keamanan. Inisiatif kami mencerminkan komitmen kami dalam upaya ini. Sejak awal, kami telah menciptakan teknologi inovatif yang melestarikan informasi berharga dan mengubahnya menjadi pengetahuan yang dapat ditindaklanjuti.

Lebih lanjut, penggunaan etis teknologi kecerdasan buatan tidak hanya harus dipertimbangkan dari dasar hukum, tetapi juga sebagai kewajiban moral dan imperatif bisnis. Jika solusi Anda memiliki jangkauan yang luas dan memengaruhi fungsi bisnis kritis, harus menjadi standar industri untuk transparan dalam penerapan teknologi kecerdasan buatan.

Terima kasih banyak atas jawaban Anda untuk pertanyaan-pertanyaan penting ini. Untuk melihat prinsip-prinsip panduan dan pendekatan ABBYY untuk mematuhi dan mendukung kecerdasan buatan yang dapat dipercaya silakan klik di sini. Siapa saja yang ingin mempelajari lebih lanjut tentang ABBYY secara umum dapat mengunjungi situs web ABBYY.