Kelompok Penasihat Teknologi Mendesak Pembatasan Penggunaan AI di Pentagon

Pentagon telah membuat niatnya untuk berinvestasi besar-besaran dalam kecerdasan buatan (AI) jelas, dengan menyatakan bahwa AI akan membuat militer AS lebih kuat dan tangguh terhadap ancaman keamanan nasional. Seperti yang dilaporkan oleh Engadget, pada hari Kamis yang lalu, Dewan Inovasi Pertahanan mendorong sejumlah pedoman etika yang diusulkan untuk penggunaan AI di militer. Daftar proposal tersebut termasuk strategi untuk menghindari bias yang tidak diinginkan dan AI yang dapat diatur yang akan memiliki prosedur pemberhentian darurat untuk mencegah AI menyebabkan kerusakan yang tidak perlu.

Wired melaporkan bahwa Dewan Inovasi Pertahanan dibentuk oleh Administrasi Obama untuk membimbing Pentagon dalam memperoleh pengalaman dan bakat industri teknologi. Dewan tersebut saat ini dipimpin oleh mantan CEO Google (GOOGL ), Eric Schmidt. Departemen tersebut baru-baru ini ditugaskan untuk menetapkan pedoman untuk implementasi etika AI dalam proyek militer. Pada hari Kamis, dewan tersebut mengeluarkan pedoman dan rekomendasi mereka untuk ditinjau. Laporan tersebut mencatat bahwa saatnya untuk memiliki diskusi serius tentang penggunaan AI dalam konteks militer sekarang sebelum insiden serius yang memerlukan adanya pedoman tersebut.

Menurut Artificial Intelligence News, seorang pejabat militer yang baru-baru ini menyatakan bahwa Pentagon tertinggal dalam hal penggunaan AI. Pentagon bertujuan untuk menutup kesenjangan ini dan telah menyatakan bahwa pengembangan dan perluasan AI di militer adalah prioritas nasional. Ahli etika AI khawatir bahwa dalam keinginan Pentagon untuk menjadi pemimpin di AI, sistem AI mungkin digunakan dengan cara yang tidak etis. Sementara berbagai dewan etika AI independen telah membuat saran mereka sendiri, Dewan Inovasi Pertahanan telah mengusulkan setidaknya lima prinsip yang harus diikuti militer dalam mengembangkan dan menerapkan sistem AI.

Prinsip pertama yang diusulkan oleh dewan tersebut adalah prinsip bahwa manusia harus selalu bertanggung jawab atas penggunaan, penerapan, dan hasil dari setiap platform kecerdasan buatan yang digunakan dalam konteks militer. Ini mengingatkan pada kebijakan 2012 yang mensyaratkan bahwa manusia harus selalu menjadi bagian dari proses pengambilan keputusan ketika kekuatan mematikan dapat digunakan. Ada beberapa prinsip lain dalam daftar yang memberikan saran umum seperti memastikan bahwa sistem AI selalu dibangun oleh insinyur yang memahami dan mendokumentasikan program mereka dengan baik. Prinsip lain menyarankan bahwa sistem AI militer harus selalu diuji untuk keandalan mereka. Pedoman ini tampaknya merupakan kesadaran umum, tetapi dewan ingin menekankan pentingnya.

Prinsip lain dalam daftar tersebut terkait dengan pengendalian bias untuk algoritma AI dan kemampuan AI untuk mendeteksi jika kerusakan yang tidak diinginkan dapat terjadi dan untuk secara otomatis memutuskan. Pedoman tersebut menentukan bahwa jika kerusakan yang tidak perlu akan terjadi, AI harus dapat memutuskan diri dan memiliki operator manusia untuk mengambil alih. Draf prinsip juga merekomendasikan bahwa output AI harus dapat dilacak sehingga analis dapat melihat apa yang menyebabkan AI membuat keputusan tertentu.

Set rekomendasi yang dikeluarkan oleh dewan tersebut menekankan dua ide yang berbeda. Prinsip-prinsip tersebut mencerminkan fakta bahwa AI akan menjadi integral bagi masa depan operasi militer, tetapi bahwa banyak AI masih bergantung pada manajemen dan pengambilan keputusan manusia.

Sementara Pentagon tidak harus mengadopsi rekomendasi dewan tersebut, tampaknya Pentagon mengambil rekomendasi tersebut secara serius. Seperti yang dilaporkan oleh Wired, direktur Pusat Kecerdasan Buatan Gabungan, Letnan Jenderal Jack Shanahan, menyatakan bahwa rekomendasi dewan tersebut akan membantu Pentagon dalam “memenuhi standar etika tertinggi sebagaimana yang tercantum dalam strategi AI Departemen Pertahanan, sambil menerima sejarah kuat militer AS dalam menerapkan pengujian dan standar pengembangan teknologi yang ketat.”

Industri teknologi secara keseluruhan masih ragu-ragu untuk menggunakan AI dalam pembuatan perangkat keras dan perangkat lunak militer. Karyawan Microsoft (MSFT ) dan Google telah memprotes kolaborasi dengan entitas militer, dan Google baru-baru ini memutuskan untuk tidak memperbarui kontrak yang membuat mereka berkontribusi pada Proyek Maven. Sejumlah CEO, ilmuwan, dan insinyur juga telah menandatangani janji tidak untuk “berpartisipasi dalam atau mendukung pengembangan, pembuatan, perdagangan, atau penggunaan senjata otonom mematikan”. Jika Pentagon mengadopsi pedoman yang diusulkan oleh dewan tersebut, hal tersebut dapat membuat industri teknologi lebih bersedia untuk berkolaborasi dalam proyek, meskipun hanya waktu yang akan menentukan.