Pengaruh AI yang Mengkhawatirkan: Apakah Kita Menyerahkan Terlalu Banyak Kekuasaan?

AI secara perlahan (atau tidak terlalu perlahan tergantung pada pengalaman pribadi) membenamkan diri ke dalam kehidupan sehari-hari kita, mempengaruhi pasar kerja, media, pemerintahan, dan bahkan narasi budaya kita. Sementara banyak diskusi seputar kecerdasan buatan fokus pada ancaman dramatis yang tiba-tiba—seperti kecerdasan buatan umum (AGI) yang tidak terkendali atau deepfakes—ada risiko lain yang lebih berbahaya: pengurangan kekuasaan manusia secara bertahap.

Studi terbaru yang dipimpin oleh Jan Kulveit dari Universitas Charles di Praha dan Raymond Douglas dari Telic Research menunjukkan bagaimana kemajuan AI yang bertahap secara perlahan mengikis kontrol manusia atas sistem sosial yang kritis. Alih-alih pemberontakan AI yang terbuka, kita menyaksikan pergeseran sistemik yang perlahan di mana AI semakin menggantikan keputusan manusia di bidang-bidang kritis seperti ekonomi, pemerintahan, dan budaya. Ketika teknologi ini dioptimalkan untuk efisiensi, nilai pasar, dan akurasi prediktif, kekuasaan manusia secara perlahan dipinggirkan.

Mengapa hal ini penting? Karena mekanisme yang menjaga masyarakat kita sejalan dengan nilai-nilai manusia—partisipasi ekonomi, ekspresi budaya, dan pemerintahan demokratis—berisiko melampaui kontrol kita. Jika tidak diatasi, peran AI yang semakin besar dalam pengambilan keputusan dapat menyebabkan masa depan di mana pengaruh manusia dimarginalkan, dan kemampuan kita untuk membentuk masa depan kita sendiri secara signifikan melemah.

Bagaimana AI Membentuk Ekonomi

Studi tersebut mengingatkan kita bahwa otomatisasi yang digerakkan oleh AI sedang membentuk tenaga kerja global, secara perlahan menggantikan tenaga kerja manusia di seluruh industri. Sementara alat-alat yang ditenagai oleh AI dapat meningkatkan produktivitas dan mengurangi biaya, mereka juga memindahkan kekuatan keuangan dari pekerja, secara fundamental mengubah aliran kekayaan. Dengan mesin melakukan tugas-tugas yang sebelumnya bergantung pada kognisi dan keahlian manusia, model pekerjaan tradisional mulai runtuh, menyebabkan ketidaksetaraan dan pemutusan hubungan kerja yang meningkat.

Laporan oleh Dana Moneter Internasional (IMF) menunjukkan bahwa AI akan mempengaruhi hampir 40% pekerjaan di seluruh dunia, menggantikan beberapa dan melengkapi yang lain.

Salah satu konsekuensi ekonomi besar dari dominasi AI adalah konsentrasi kekayaan. Perusahaan yang mengembangkan dan mengontrol sistem AI berpotensi mendapat keuntungan yang tidak proporsional, sementara pekerja menemukan diri mereka dengan kesempatan yang lebih sedikit. Perubahan ini berisiko menciptakan dunia di mana kekuatan keuangan terkonsentrasi di antara perusahaan yang digerakkan oleh AI, meminggirkan tenaga kerja manusia sebagai kekuatan sekunder dalam perekonomian.

Kekhawatiran lain adalah peran AI yang semakin besar dalam pengambilan keputusan ekonomi. Dari prediksi pasar saham hingga alokasi sumber daya, sistem AI beroperasi dengan kecepatan dan kompleksitas yang melampaui kemampuan manusia. Sementara ini dapat menyebabkan strategi keuangan yang dioptimalkan, ini juga menghilangkan penilaian manusia dari keputusan kritis, meningkatkan risiko ketidakstabilan ekonomi. Tanpa pengawasan yang tepat, pasar yang digerakkan oleh AI dapat memprioritaskan efisiensi dan keuntungan atas kesejahteraan sosial yang lebih luas, menciptakan sistem yang menguntungkan entitas yang digerakkan oleh AI pada biaya tenaga kerja.

Ketika AI Menentukan Kreativitas

AI tidak hanya membantu kreativitas manusia—ia secara aktif membentuk lanskap budaya. Di bidang seperti musik, sastra, dan film, konten yang dihasilkan oleh AI menjadi lebih umum, mempengaruhi tidak hanya apa yang diproduksi tetapi juga bagaimana audiens berinteraksi dengan seni. Sementara alat-alat AI dapat membantu seniman manusia dengan memberikan teknik dan inspirasi baru, mereka juga memperkenalkan risiko yang dapat mengubah fundamental ekspresi kreatif.

Salah satu kekhawatiran utama adalah potensi konten yang dihasilkan oleh AI untuk mengalahkan kreativitas manusia. Dengan sistem AI yang dapat menghasilkan musik, artikel, dan karya seni visual dalam skala yang belum pernah terjadi sebelumnya, perbedaan antara konten yang dibuat oleh manusia dan mesin mulai memburuk. Ini menimbulkan pertanyaan tentang orisinalitas, kepemilikan, dan nilai artistik—jika algoritma menentukan proses kreatif, apakah ekspresi manusia menjadi usang?

Kekhawatiran lain adalah homogenisasi budaya. Model AI menghasilkan konten berdasarkan data yang ada, yang berarti mereka cenderung memperkuat tren dominan melalui bias AI daripada mendorong inovasi sejati. Dalam jangka panjang, produksi budaya yang dioptimalkan untuk keterlibatan dan keberhasilan algoritmik dapat menyebabkan lanskap di mana orisinalitas dikorbankan untuk efisiensi.

Di luar ekspresi artistik, AI juga mempengaruhi narasi sosial. Berita yang dikurasi oleh AI, moderasi konten otomatis, dan rekomendasi media yang ditargetkan membentuk wacana publik, menyaring apa yang dilihat dan diinteraksi oleh orang-orang. Ini menciptakan kenyataan di mana AI tidak hanya memperkuat beberapa pandangan tetapi juga menentukan narasi budaya mana yang berkembang dan mana yang memudar. Jika tidak diatasi, pengaruh AI yang semakin besar atas media dan komunikasi dapat mengikis keanekaragaman dan otonomi ekspresi budaya yang digerakkan oleh manusia.

AI dan Masa Depan Pemerintahan

AI juga menjadi kekuatan yang kuat dalam pengambilan keputusan politik dan birokratis, dari polisi prediktif hingga layanan sosial yang otomatis. Pemerintah di seluruh dunia mengintegrasikan AI ke dalam kerangka administratif mereka, mengoptimalkan operasi untuk efisiensi dan skalabilitas. Namun, perubahan ini juga menimbulkan kekhawatiran tentang erosi partisipasi warga dan pengaruh demokratis.

Salah satu kekhawatiran utama yang ditekankan oleh tim peneliti adalah bahwa ketika AI menjadi lebih terintegrasi ke dalam pemerintahan, negara-negara mungkin memprioritaskan efisiensi teknologi atas hak asasi manusia dan keterlibatan warga. Pengambilan keputusan yang digerakkan oleh AI dapat merampingkan birokrasi, tetapi juga dapat mendepersonalisasi layanan publik, mengurangi akuntabilitas dan transparansi. Misalnya, sistem otomatis untuk distribusi kesejahteraan atau penilaian kasus hukum mungkin memprioritaskan efisiensi data atas kebutuhan nuansa individu.

Ada juga risiko bahwa negara-negara yang digerakkan oleh AI berkembang menjadi entitas seperti perusahaan, di mana pemerintahan dioptimalkan untuk stabilitas institusional daripada kebaikan publik. Pengawasan yang digerakkan oleh AI, penegakan hukum prediktif, dan pembuatan kebijakan yang otomatis dapat menyebabkan pemerintah yang beroperasi dengan input warga yang berkurang, lebih lanjut mengurangi pengaruh manusia dalam pemerintahan.

Apakah Ini Hanya Kepanikan AI Lain?

Skeptis mungkin berargumen bahwa AI hanya kemajuan teknologi lain, serupa dengan revolusi industri sebelumnya. Namun, studi tersebut menekankan bahwa ini bukan tentang dominasi AI yang tiba-tiba, melainkan pergeseran struktural dalam cara kekuasaan beroperasi dalam masyarakat. Tidak seperti gangguan teknologi sebelumnya, AI tidak hanya mengubah industri—ia secara aktif menggantikan peran manusia dalam proses pengambilan keputusan di berbagai sektor sosial.

Pengikisan kekuasaan manusia secara perlahan tidak memerlukan kecerdasan buatan super untuk berbahaya. Bahkan tanpa niat jahat yang terbuka, sistem AI secara bertahap menggantikan penilaian manusia, menyebabkan masa depan di mana orang memiliki kontrol yang semakin berkurang atas kekuatan yang membentuk kehidupan mereka. Tantangan bukanlah menghentikan kemajuan AI, melainkan memastikan bahwa AI tetap sejalan dengan nilai-nilai manusia dan bahwa manusia mempertahankan kontrol yang berarti atas fungsi sosial yang kritis.

Untuk mitigasi risiko pengurangan kekuasaan manusia yang gradual, tim tersebut menyarankan bahwa kita memerlukan langkah-langkah proaktif untuk menjaga pengaruh manusia dalam sistem ekonomi, budaya, dan pemerintahan.

• Implementasikan kebijakan untuk pengawasan manusia: Pemerintah dan lembaga harus memastikan bahwa keputusan yang digerakkan oleh AI tetap transparan dan tunduk pada tinjauan manusia. Mekanisme harus ada untuk mencegah AI membuat pilihan otonom yang mempengaruhi hak-hak dasar.
• Perkuat partisipasi demokratis: Ketika AI mengambil peran yang lebih besar dalam pemerintahan, lembaga demokratis harus beradaptasi. Ini bisa termasuk sistem pemungutan suara yang dibantu oleh AI yang dirancang untuk meningkatkan keterlibatan warga daripada menguranginya.
• Preservasi pengaruh manusia dalam domain kreatif dan ekonomi: Regulasi harus diperkenalkan untuk mempertahankan keseimbangan antara konten yang dihasilkan oleh AI dan konten yang dibuat oleh manusia, memastikan bahwa kreativitas dan tenaga kerja manusia tidak terlindas.

Studi tersebut menekankan bahwa risiko pengurangan kekuasaan yang gradual bukanlah hipotesis jauh—ini sudah berlangsung. Mengatasi masalah ini memerlukan kerja sama internasional, penelitian tentang keselarasan AI secara sistematis, dan wacana publik yang aktif tentang peran AI dalam membentuk masyarakat kita. Masa depan tidak ditentukan, dan dengan intervensi yang tepat, kita dapat memastikan bahwa AI meningkatkan kekuasaan manusia daripada menguranginya.