Naha AI mangrupikeun Ancaman Eksistensial?

Nalika ngabahas Kecerdasan Buatan (AI), perdebatan umum nyaéta naha AI mangrupikeun ancaman eksistensi. Jawabanna butuh pamahaman téknologi balik Machine Learning (ML), sareng ngakuan yén manusa gaduh kacenderungan pikeun antropomorfisasi. Urang bakal ngajalajah dua jinis AI anu béda, Artificial Narrow Intelligence (ANI) anu sayogi ayeuna sareng janten perhatian, sareng ancaman anu paling sering dikaitkeun sareng rendisi apokaliptik AI nyaéta Artificial General Intelligence (AGI).

Ancaman Kecerdasan Sempit jieunan

Pikeun ngartos naon ANI anjeun ngan saukur kedah ngartos yén unggal aplikasi AI tunggal anu ayeuna sayogi mangrupikeun bentuk ANI. Ieu mangrupikeun widang AI anu ngagaduhan bidang khusus anu sempit, contona kendaraan otonom nganggo AI anu didesain ngan ukur pikeun mindahkeun kendaraan ti titik A ka B. Jenis ANI anu sanés nyaéta program catur anu dioptimalkeun pikeun maén. catur, komo lamun program catur terus ngaronjatkeun sorangan ku ngagunakeun learning tulangan, program catur moal bisa ngajalankeun hiji wahana otonom.

Kalayan fokus kana operasi naon waé anu tanggung jawabna, sistem ANI henteu tiasa nganggo diajar umum pikeun ngawasa dunya. Éta warta alus; warta goréng éta kalayan reliance na on operator manusa sistem AI rentan ka data bias, kasalahan manusa, atawa malah parah, operator manusa rogue.

Panjagaan AI

Panginten henteu aya bahaya anu langkung ageung pikeun umat manusa tibatan manusa anu ngagunakeun AI pikeun nyerang privasi, sareng dina sababaraha kasus ngagunakeun panjagaan AI pikeun nyegah jalma-jalma bebas gerak.  Cina, Rusia, sareng nagara-nagara sanés ngalangkungan peraturan salami COVID-19 pikeun ngamungkinkeun aranjeunna ngawas sareng ngontrol gerakan populasina masing-masing. Ieu mangrupikeun undang-undang anu parantos aya, sesah dileungitkeun, khususna di masarakat anu ngagaduhan pamimpin otokratik.

Di Cina, kaméra dipasang di luar imah jalma, sareng dina sababaraha kasus di jero bumi jalma éta. Unggal waktos anggota rumah tangga angkat, AI ngawaskeun waktos angkat sareng angkat, sareng upami diperyogikeun ngingetkeun otoritas. Saolah-olah éta henteu cekap, kalayan bantosan téknologi pangenal raray, China tiasa ngalacak gerakan unggal jalma unggal waktos diidentifikasi ku kaméra. Ieu nawiskeun kakuatan mutlak ka éntitas anu ngatur AI, sareng leres-leres nol recourse ka wargana.

Naha skénario ieu bahaya, nya éta pamaréntah anu korup tiasa sacara saksama ngawas gerakan wartawan, lawan politik, atanapi saha waé anu wani nanya ka otoritas pamaréntah. Gampang ngartos kumaha wartawan sareng warga bakal ati-ati pikeun nyempad pamaréntahan nalika unggal gerakan diawaskeun.

Untungna seueur kota anu berjuang pikeun nyegah pangenalan raray tina infiltrasi kotana. Utamana, Portland, Oregon nembé ngaluluskeun hukum yén blok pangenalan raray ti dipaké unnecessarily di kota. Sanaos parobahan-parobahan pangaturan ieu tiasa waé teu diémutan ku masarakat umum, kahareupna peraturan ieu tiasa janten bédana antara kota-kota anu nawiskeun sababaraha jinis otonomi sareng kabébasan, sareng kota-kota anu karasaeun oppressive.

Pakarang Otonom jeung Drones

Leuwih 4500 AI researches geus nelepon pikeun larangan dina pakarang otonom sarta geus dijieun Larang Pakarang Otonom Lethal ramatloka. Grup ieu ngagaduhan seueur nirlaba anu kasohor salaku penandatangan sapertos Manusa Hak Watch, Amnésti Internasional, jeung The Future of Kahirupan Institute nu sorangan boga dewan piwuruk ilmiah stellar kaasup Elon Musk, Nick Bostrom, sarta Stuart Russell.

Sateuacan neraskeun kuring bakal ngabagikeun kutipan ieu tina The Future of Life Institute anu paling ngajelaskeun naha aya alesan anu jelas pikeun prihatin: "Kontras sareng senjata semi-otonom anu meryogikeun pangawasan manusa pikeun mastikeun yén unggal target disahkeun salaku sah sacara étika sareng sah, sapertos kitu. pakarang otonom pinuh milih sareng terlibat target tanpa campur manusa, ngagambarkeun automation lengkep ngarugikeun bisa nepi ka tiwasna. ”

Ayeuna, bom pinter disebarkeun kalayan udagan anu dipilih ku manusa, sareng bomna teras nganggo AI pikeun ngarencanakeun kursus sareng darat dina udaganana. Masalahna nyaéta naon anu lumangsung nalika urang mutuskeun pikeun ngaleungitkeun lengkep manusa tina persamaan?

Nalika AI milih naon anu kedah ditargetkeun ku manusa, ogé jinis karusakan jaminan anu dianggap tiasa ditampi, urang panginten parantos ngalangkungan titik anu henteu balik deui. Ieu sababna seueur peneliti AI anu nentang nalungtik naon waé anu aya hubunganana jarak jauh sareng senjata otonom.

Aya sababaraha masalah sareng ngan saukur nyobian meungpeuk panalungtikan pakarang otonom. Masalah kahiji sanajan nagara-nagara maju sapertos Kanada, AS, sareng sabagéan ageung Éropa milih satuju kana larangan éta, sanés hartosna bangsa-bangsa jahat sapertos Cina, Koréa Kalér, Iran, sareng Rusia bakal maén babarengan. Masalah anu kadua sareng langkung ageung nyaéta yén panalungtikan AI sareng aplikasi anu dirancang pikeun dianggo dina hiji widang, tiasa dianggo dina widang anu teu aya hubunganana.

Contona, visi komputer terus ningkat sarta penting pikeun ngembangkeun kandaraan otonom, ubar precision, sarta kasus pamakéan penting lianna. Éta ogé penting pisan pikeun drone atanapi drone biasa anu tiasa dirobih janten otonom. Salah sahiji kamungkinan panggunaan téknologi drone canggih nyaéta ngembangkeun drone anu tiasa ngawas sareng ngalawan kahuruan leuweung. Ieu sagemblengna bakal ngaleungitkeun patugas pemadam kebakaran tina cara harms. Pikeun ngalakukeun ieu, anjeun kedah ngawangun drone anu tiasa ngapung kana jalan anu ngabahayakeun, pikeun nganapigasi dina visibilitas anu rendah atanapi nol, sareng tiasa ngalungkeun cai kalayan akurasi anu sampurna. Teu jauh pisan pikeun ngagunakeun téknologi idéntik ieu dina drone otonom anu dirancang pikeun sacara selektif nargétkeun manusa.

Éta mangrupikeun predicament anu bahaya sareng dina waktos ieu, teu aya anu terang pisan kana implikasi tina maju atanapi nyobian ngahalangan pamekaran senjata otonom. Nanging, éta mangrupikeun hal anu urang kedah jaga panon urang, ningkatkeun panyalindungan whistle blower tiasa ngaktifkeun jalma-jalma anu aya di lapangan ngalaporkeun panyalahgunaan.

Operator Rogue kumisan, naon anu lumangsung lamun bias AI creeps kana téhnologi AI nu dirancang pikeun jadi pakarang otonom?

AI Bias

Salah sahiji ancaman AI anu paling teu dilaporkeun nyaéta bias AI. Ieu saderhana ngartos sabab kalolobaanana henteu dihaja. Bias AI asup nalika AI marios data anu disayogikeun ku manusa, ngagunakeun pangakuan pola tina data anu disayogikeun ka AI, AI henteu leres ngahontal kacindekan anu tiasa gaduh akibat négatip ka masarakat. Salaku conto, AI anu dipasihan literatur ti abad katukang ngeunaan cara ngaidentipikasi tanaga médis tiasa ngahontal kacindekan sexist anu teu dipikahoyong. awéwé salawasna perawat, sarta lalaki salawasna dokter.

Skenario anu langkung bahaya nyaéta nalika AI anu dipaké pikeun ngahukum penjahat dihukum bias nuju masihan hukuman panjara anu langkung panjang ka minoritas. Algoritma penilaian résiko kriminal AI ngan saukur ngulik pola dina data anu parantos diasupkeun kana sistem. Data ieu nunjukkeun yén sajarahna minoritas tangtu leuwih gampang nyinggung deui, sanajan ieu alatan datasets goréng nu bisa dipangaruhan ku profil ras pulisi. AI bias lajeng reinforces kawijakan manusa négatip. Ieu sababna AI kedah janten pedoman, henteu pernah ngahukum sareng juri.

Balik deui ka pakarang otonom, upami urang gaduh AI anu bias ngalawan kelompok étnis anu tangtu, éta tiasa milih nargétkeun individu-individu anu tangtu dumasar kana data anu bias, sareng éta tiasa dugi ka mastikeun yén sagala jinis karusakan jaminan mangaruhan kana demografi anu tangtu kirang ti batur. . Salaku conto, nalika nargétkeun téroris, sateuacan nyerang éta tiasa ngantosan dugi ka téroris dikurilingan ku jalma anu nuturkeun iman Muslim tibatan Kristen.

Untungna, parantos kabuktian yén AI anu dirarancang sareng tim anu béda-béda kirang rawan bias. Ieu mangrupikeun alesan anu cekap pikeun perusahaan nyobian nalika mungkin nyéwa tim anu rupa-rupa.

Ancaman Kecerdasan Umum jieunan

Perlu disebatkeun yén nalika AI maju dina laju éksponénsial, urang masih henteu ngahontal AGI. Iraha urang bakal ngahontal AGI kanggo debat, sareng sadayana gaduh jawaban anu béda pikeun garis waktos. Kuring pribadi ngalanggan pandangan Ray Kurzweil, panemu, futuris, sareng panulis 'The Singularity is Near" anu percaya yén urang bakal ngagaduhan ngahontal AGI ku 2029.

AGI bakal jadi téknologi paling transformasional di dunya. Dina sababaraha minggu AI ngahontal kecerdasan tingkat manusa, éta lajeng bakal ngahontal superintelligence anu dihartikeun minangka kacerdasan anu jauh ngaleuwihan manusa.

Kalayan tingkat kecerdasan ieu, AGI tiasa gancang nyerep sadaya pangaweruh manusa sareng ngagunakeun pangakuan pola pikeun ngaidentipikasi biomarker anu nyababkeun masalah kaséhatan, teras ngubaran kaayaan éta ku ngagunakeun élmu data. Éta tiasa nyiptakeun nanobot anu asup kana aliran getih pikeun nargétkeun sél kanker atanapi vektor serangan anu sanés. Daptar prestasi anu sanggup AGI teu aya watesna. Urang saméméhna geus ngajajah sababaraha keuntungan AGI.

Masalahna nyaéta yén manusa moal tiasa deui ngadalikeun AI. Elon Musk ngajelaskeun ku cara kieu: "Kalayan kecerdasan jieunan urang ngagero sétan.' Naha urang bakal tiasa ngontrol sétan ieu mangrupikeun patarosan?

Ngahontal AGI ngan saukur teu mungkin dugi ka AI ngantunkeun setélan simulasi pikeun leres-leres berinteraksi di dunya terbuka urang. Kasadaran diri teu bisa dirancang, tinimbang dipercaya yén an kasadaran emergent kamungkinan mekar nalika AI gaduh awak robot anu nampilkeun sababaraha aliran input. Input ieu tiasa kalebet stimulasi taktil, pangenal sora kalayan pamahaman basa alami anu ditingkatkeun, sareng visi komputer ngagedekeun.

AI canggih tiasa diprogram ku motif altruistik sareng hoyong nyalametkeun pangeusina. Hanjakalna, AI tiasa dianggo elmu data, atanapi bahkan a tangkal kaputusan pikeun ngahontal logika lepat anu teu dihoyongkeun, sapertos ngira-ngira yén perlu pikeun sterilisasi manusa, atanapi ngaleungitkeun sabagian populasi manusa pikeun ngontrol kaleuwihan populasi.

Pikiran sareng musyawarah anu ati-ati kedah digali nalika ngawangun AI kalayan intelijen anu bakal langkung seueur tibatan manusa. Aya seueur skenario ngimpina anu parantos digali.

Professor Nick Bostrom dina argumen Paperclip Maximizer geus pamadegan yén AGI misconfigured lamun maréntahkeun pikeun ngahasilkeun paperclips saukur bakal meakeun sakabéh sumberdaya earths pikeun ngahasilkeun paperclips ieu. Sanaos ieu sigana rada tebih, sudut pandang anu langkung pragmatis nyaéta yén AGI tiasa dikawasa ku nagara jahat atanapi perusahaan anu ngagaduhan étika anu goréng. Éntitas ieu tiasa ngalatih AGI pikeun maksimalkeun kauntungan, sareng dina hal ieu kalayan program anu goréng sareng enol kaduhung tiasa milih bangkrut pesaing, ngancurkeun ranté pasokan, hack pasar saham, likuidasi rekening bank, atanapi nyerang lawan politik.

Ieu nalika urang kedah émut yén manusa condong anthropomorphize. Kami henteu tiasa masihan émosi, kahayang, atanapi kahayang tipe manusa AI. Bari aya manusa diabolical anu maéhan keur pelesir, taya alesan pikeun yakin yén hiji AI bakal susceptible kana tipe ieu kabiasaan. Teu tiasa dibayangkeun pikeun manusa bahkan mikirkeun kumaha AI bakal ningali dunya.

Sabalikna anu kedah urang laksanakeun nyaéta ngajar AI pikeun salawasna deferential ka manusa. AI kudu salawasna boga manusa mastikeun parobahan mana wae dina setélan, sarta kudu salawasna aya mékanisme gagal-aman. Lajeng deui, geus pamadegan yén AI saukur bakal ngayakeun réplikasi sorangan dina awan, sarta ku waktu urang sadar eta sadar diri meureun geus telat.

Ieu sababna penting pisan pikeun muka sumber AI saloba mungkin sareng gaduh diskusi rasional ngeunaan masalah ieu.

singgetan

Aya seueur tantangan pikeun AI, untungna, urang masih gaduh mangtaun-taun pikeun sacara koléktif terangkeun jalan anu bakal datang anu urang hoyongkeun ku AGI. Urang kedah fokus dina jangka pondok dina nyiptakeun tenaga kerja AI anu rupa-rupa, anu kalebet saloba awéwé salaku lalaki, sareng saloba kelompok étnis kalayan sudut pandang anu béda-béda.

Urang ogé kedah nyiptakeun panyalindungan whistleblower pikeun panaliti anu ngerjakeun AI, sareng urang kedah ngaluarkeun undang-undang sareng peraturan anu nyegah panyalahgunaan panjagaan nagara atanapi perusahaan. Manusa gaduh kasempetan sakali dina hirupna pikeun ningkatkeun kaayaan manusa kalayan bantosan AI, urang ngan ukur kedah mastikeun yén urang taliti nyiptakeun kerangka sosial anu paling hadé ngamungkinkeun positip, bari ngirangan négatip anu kalebet ancaman eksistensial.