Kecerdasan Buatan Dapat Menghindari Perilaku Tidak Diinginkan Dengan Algoritma Baru

Seiring dengan berkembangnya algoritma kecerdasan buatan dan sistem yang menjadi lebih canggih dan mengambil tanggung jawab yang lebih besar, menjadi semakin penting untuk memastikan bahwa sistem kecerdasan buatan menghindari perilaku berbahaya dan tidak diinginkan. Baru-baru ini, tim peneliti dari University of Massachusetts Amherst dan Stanford menerbitkan sebuah makalah yang menunjukkan bagaimana perilaku kecerdasan buatan yang spesifik dapat dihindari, melalui penggunaan teknik yang menghasilkan instruksi matematika yang tepat yang dapat digunakan untuk mengatur perilaku kecerdasan buatan.

Menurut TechXplore, penelitian ini didasarkan pada asumsi bahwa perilaku tidak adil/tidak aman dapat didefinisikan dengan fungsi dan variabel matematika. Jika ini benar, maka seharusnya memungkinkan peneliti untuk melatih sistem untuk menghindari perilaku tersebut. Tim peneliti bertujuan untuk mengembangkan toolkit yang dapat digunakan oleh pengguna kecerdasan buatan untuk menentukan perilaku yang ingin dihindari, dan memungkinkan insinyur kecerdasan buatan untuk melatih sistem yang dapat menghindari tindakan tidak diinginkan saat digunakan dalam skenario dunia nyata.

Phillip Thomas, penulis pertama makalah dan asisten profesor ilmu komputer di U of Michigan Amherst, menjelaskan bahwa tim peneliti bertujuan untuk menunjukkan bahwa perancang algoritma pembelajaran mesin dapat membuatnya lebih mudah bagi pengguna kecerdasan buatan untuk menjelaskan perilaku tidak diinginkan dan membuatnya sangat mungkin bahwa sistem kecerdasan buatan akan menghindari perilaku tersebut.

Tim peneliti menguji teknik mereka dengan menerapkannya pada masalah umum dalam ilmu data, yaitu bias gender. Tim peneliti bertujuan untuk membuat algoritma yang digunakan untuk memprediksi GPA mahasiswa lebih adil dengan mengurangi bias gender. Tim peneliti menggunakan dataset eksperimental dan menginstruksikan sistem kecerdasan buatan mereka untuk menghindari pembuatan model yang secara keseluruhan meremehkan/mengoverestimasi GPA untuk satu gender. Sebagai hasil dari instruksi peneliti, algoritma menciptakan model yang lebih baik dalam memprediksi GPA mahasiswa dan memiliki bias sistemik yang jauh lebih sedikit daripada model sebelumnya. Model prediksi GPA sebelumnya menderita bias karena model pengurangan bias sering terlalu terbatas untuk digunakan, atau tidak ada pengurangan bias yang digunakan sama sekali.

Algoritma lain juga dikembangkan oleh tim peneliti. Algoritma ini diimplementasikan dalam pompa insulin otomatis, dan algoritma ini dimaksudkan untuk menyeimbangkan kinerja dan keamanan. Pompa insulin otomatis perlu memutuskan seberapa besar dosis insulin yang harus diberikan kepada pasien setelah makan. Pompa idealnya akan mengirimkan dosis insulin yang cukup besar untuk menjaga kadar gula darah tetap terkendali. Dosis insulin yang diberikan harus tidak terlalu besar atau terlalu kecil.

Algoritma pembelajaran mesin sudah mahir dalam mengidentifikasi pola dalam respons individu terhadap dosis insulin, tetapi metode analisis yang ada tidak memungkinkan dokter untuk menentukan hasil yang harus dihindari, seperti kecelakaan gula darah rendah. Sebaliknya, tim peneliti dapat mengembangkan metode yang dapat dilatih untuk memberikan dosis insulin yang tetap dalam batas-batas ekstrem, mencegah baik underdosing atau overdosing. Meskipun sistem ini belum siap untuk diuji pada pasien nyata, kecerdasan buatan yang lebih canggih berdasarkan pendekatan ini dapat meningkatkan kualitas hidup bagi mereka yang menderita diabetes.

Dalam makalah penelitian, peneliti menyebut algoritma ini sebagai algoritma “Seledonian”. Ini merujuk pada tiga hukum robotika yang dijelaskan oleh penulis fiksi ilmiah Isaac Asimov. Implikasinya adalah bahwa sistem kecerdasan buatan “tidak boleh melukai manusia atau, melalui ketidakaktifan, membiarkan manusia terluka.” Tim peneliti berharap bahwa kerangka kerja mereka akan memungkinkan peneliti dan insinyur kecerdasan buatan untuk mengembangkan berbagai algoritma dan sistem yang menghindari perilaku berbahaya. Emma Brunskill, penulis senior makalah dan asisten profesor ilmu komputer di Stanford, menjelaskan kepada TechXplore:

“Kami ingin memajukan kecerdasan buatan yang menghormati nilai-nilai pengguna manusia dan membenarkan kepercayaan yang kita tempatkan pada sistem otonom.”