Etika & Teknologi: Apakah AI Membutuhkan Pilot di Helm?

Ringkasan: Kemajuan dalam teknologi AI percakapan memerlukan keseimbangan kepentingan yang hati-hati yang mendorong inovasi sambil mengurangi potensi dampak berbahaya.

Daya Pikat AI Percakapan

Peluncuran ChatGPT-3 telah menarik minat yang belum pernah terjadi sebelumnya dengan lebih dari 100 juta pengguna aktif per bulan.

Konsumen dan organisasi sama-sama menyadari betapa kemajuan dalam AI percakapan berpotensi mengubah hampir setiap aspek kehidupan pribadi dan interaksi profesional kita. Aplikasi lanjutan pembelajaran mendalam ChatGPT-3 menghasilkan percakapan mirip manusia yang meyakinkan dengan hasil yang mengesankan. Dalam tes terbaru, ChatGPT-3 lulus  Ujian Perizinan Medis AS dan ujian MBA dari salah satu sekolah bisnis paling bergengsi.

Manfaat bisnis AI percakapan sangat besar sehingga Microsoft telah menginvestasikan $ 10 miliar untuk Open AI untuk mempercepat aplikasi komersial ChatGPT-3. Microsoft bermaksud untuk “biaya tambahan” produknya dengan kemampuan percakapan ChatGPT-3.

Kegembiraan irasional

Tapi mari kita tarik napas dalam-dalam sebelum kita membiarkan teknologi transformatif seperti itu berkembang pesat. Terlepas dari kegunaan potensialnya, ChatGPT-3 masih dalam tahap awal dengan banyak ketidaksempurnaan. Kegembiraan kita mungkin terbukti terlalu dini. Dengan tidak adanya analisis yang berarti, adopsi AI percakapan yang tidak terkekang tanpa pagar peraturan dan pengawasan manusia dapat membawa kita ke dunia distopia, yang diramalkan oleh novelis Inggris Aldous Huxley. Terlalu mengandalkan teknologi tanpa memahami dampak sosio-ekonominya dapat menimbulkan konsekuensi yang serius, meskipun tidak diinginkan, seperti pekerjaan, pendidikan, inklusivitas, dan keadilan.

Lagi pula, meskipun Chat-GPT-3 selangkah lebih maju, kemampuan "kognitif" -nya didasarkan pada kumpulan data yang sudah ada sebelumnya, dengan bias bawaan yang dapat diperkuat yang menghasilkan segudang potensi bahaya. ChatGPT-3 memiliki "sisi gelap” yang seharusnya memprihatinkan dan menekan tombol jeda sebelum proliferasi lebih lanjut dari teknologi konsekuensial tersebut.

Risiko atau peluang?

Perlu ada keseimbangan antara risiko yang terkait dengan penerapan AI percakapan dan potensi peluangnya. Jika digunakan dengan cara yang bijaksana, dengan regulasi AI yang berarti yang mempertimbangkan pendekatan berbasis risiko dengan pengawasan yang kuat, maka potensi manfaat AI percakapan dapat terwujud. Ini harus dikerahkan sebagai kemitraan yang berpusat pada manusia dengan aplikasi AI percakapan yang memperkaya pengalaman di tempat kerja. Seperti semua inovasi sebelumnya, AI memiliki potensi untuk menciptakan kebutuhan akan keterampilan baru dan membuat pekerjaan tertentu lebih bermanfaat.

Apa peran legislator?

Demokratisasi teknologi AI menyiratkan bahwa publik otoritas harus mengambil peran proaktif dalam mengatur penggunaannya.  Ketakutan yang terkait dengan inovasi yang mengganggu adalah nyata. Terlepas dari kehebatannya, kecerdasan buatan tetap bergantung pada manusia, apakah akan menggunakannya atau mengaturnya. Pasti ada pilot yang memimpin, hanya saja kita belum tahu persis arah yang dia tuju. Ada peningkatan momentum untuk regulasi AI yang komprehensif, terutama rancangan Undang-Undang Kecerdasan Buatan UE. Dengan potensi penerapan AI percakapan di mana-mana, seperti ChatGPT-3, momentum untuk regulasi dan tata kelola yang lebih ketat tumbuh bersama UE untuk memastikan bahwa langkah-langkah dilembagakan yang akan melarang penerapan spesifik AI percakapan yang dianggap melanggar hak asasi manusia.