AI бол оршин тогтнох аюул мөн үү?

Хиймэл оюун ухаан (AI) -ийн талаар ярихдаа хиймэл оюун ухаан нь оршин тогтнох аюул мөн эсэх нь нийтлэг маргаан юм. Хариулт нь Machine Learning (ML)-ийн цаадах технологийг ойлгох, хүн төрөлхтөн антропоморфизм хийх хандлагатай гэдгийг хүлээн зөвшөөрөх шаардлагатай. Бид хоёр өөр төрлийн хиймэл оюун ухааныг судлах болно, одоо бэлэн байгаа бөгөөд санаа зовоож байгаа хиймэл нарийн оюун ухаан (ANI) болон хиймэл оюун ухааныг сүйрүүлэхтэй холбоотой аюул занал нь хиймэл ерөнхий оюун ухаан (AGI) юм.

Хиймэл нарийн оюун ухааны аюул занал

ANI гэж юу болохыг ойлгохын тулд одоо байгаа AI програм бүр нь ANI-ийн нэг хэлбэр гэдгийг ойлгох хэрэгтэй. Эдгээр нь нарийн мэргэжлийн талбартай хиймэл оюун ухааны салбарууд юм, жишээлбэл, бие даасан тээврийн хэрэгсэл нь зөвхөн тээврийн хэрэгслийг А цэгээс В цэг рүү шилжүүлэх зорилготой хиймэл оюун ухааныг ашигладаг. Өөр нэг төрлийн ANI нь тоглоход оновчтой болгосон шатрын программ байж болно. шатар, мөн шатрын хөтөлбөр нь бататгах сургалтыг ашиглан өөрийгөө тасралтгүй сайжруулж байсан ч шатрын хөтөлбөр хэзээ ч бие даасан тээврийн хэрэгсэл ажиллуулах боломжгүй болно.

ANI системүүд нь ямар ч үйл ажиллагаандаа анхаарлаа хандуулдаг тул дэлхийг эзлэхийн тулд ерөнхий сургалтыг ашиглах боломжгүй байдаг. Энэ бол сайн мэдээ; Муу мэдээ гэвэл хиймэл оюун ухааны систем нь хүний ​​оператор дээр тулгуурладаг тул хэт нэг талыг барьсан өгөгдөл, хүний ​​алдаа, эсвэл бүр дорддог нь хуурамч хүний ​​операторт өртөмтгий байдаг.

AI тандалт

Хүн төрөлхтөнд хиймэл оюун ухаан ашиглан хувийн нууцад халдаж, зарим тохиолдолд хиймэл оюуны тандалт ашиглан хүмүүсийг чөлөөтэй хөдөлж чадахгүй байхаас илүү аюул байхгүй байх.  Хятад, Орос болон бусад улс орнууд COVID-19-ийн үеэр зохицуулалт хийсэн тус тусын хүн амын шилжилт хөдөлгөөнийг хянах, хянах боломжийг олгох. Эдгээр нь нэгэнт хэрэгжсэн ч, ялангуяа автократ удирдагчид байдаг нийгэмд арилгахад хэцүү хууль юм.

Хятадад хүмүүсийн гэрийн гадна, зарим тохиолдолд гэрт нь камер байрлуулдаг. Өрхийн гишүүнийг явах бүрт хиймэл оюун ухаан нь ирэх, гарах цагийг хянаж, шаардлагатай бол эрх баригчдад анхааруулдаг. Энэ нь хангалтгүй мэт царай таних технологийн тусламжтайгаар Хятад хүн нэг бүрийн хөдөлгөөнийг камераар таних бүрт нь хянах боломжтой болжээ. Энэ нь хиймэл оюун ухааныг хянадаг аж ахуйн нэгжид үнэмлэхүй эрх мэдэл олгож, иргэддээ туйлын тэг ханддаг.

Энэ хувилбар яагаад аюултай вэ гэхээр авлигад идэгдсэн засгийн газрууд сэтгүүлчид, улс төрийн өрсөлдөгчид эсвэл засгийн газрын эрх мэдэлд эргэлзэж зүрхэлсэн хэн бүхний хөдөлгөөнийг анхааралтай ажиглаж чаддагт оршино. Хөдөлгөөн бүрийг хянаж байх үед сэтгүүлчид, иргэд засгийн газрыг шүүмжлэхдээ болгоомжтой ханддагийг ойлгоход хялбар.

Аз болоход, нүүр царай таних системийг хот руугаа нэвтрүүлэхгүйн төлөө тэмцэж буй олон хотууд байдаг. Ялангуяа, Орегон мужийн Портлэнд саяхан хууль баталжээ Энэ нь нүүр царай таних системийг хотод шаардлагагүй ашиглахаас сэргийлдэг. Зохицуулалтын эдгээр өөрчлөлтийг олон нийт анзаараагүй байж болох ч ирээдүйд эдгээр зохицуулалт нь зарим төрлийн бие даасан байдал, эрх чөлөөг санал болгодог хотууд болон дарангуйлалд өртдөг хотуудын хоорондох ялгаа байж магадгүй юм.

Автономит зэвсэг ба нисгэгчгүй онгоц

4500 гаруй хиймэл оюун ухааны судалгаа бие даасан зэвсгийг хориглохыг уриалж байна. Үхлийн бие даасан зэвсгийг хориглох вэб сайт. Групп нь гарын үсэг зурсан олон алдартай ашгийн бус байгууллагуудтай Хүний эрхийн ажиглагч, Эмнести Интернэшнл, болон Амьдралын ирээдүй хүрээлэн Элон Маск, Ник Бостром, Стюарт Рассел нарыг багтаасан шинжлэх ухааны зөвлөх зөвлөлтэй.

Үргэлжлүүлэхийн өмнө би "Амьдралын ирээдүй" хүрээлэнгийн энэ эшлэлийг хуваалцах болно, энэ нь яагаад санаа зовоох тодорхой шалтгаан байдгийг хамгийн сайн тайлбарлах болно: "Зорилтот бүрийг ёс суртахууны болон хууль ёсны дагуу баталгаажуулахын тулд хүний ​​хяналт шаарддаг хагас бие даасан зэвсгээс ялгаатай нь. Бүрэн бие даасан зэвсэг нь хүний ​​оролцоогүйгээр байг сонгож, дайрдаг бөгөөд энэ нь үхлийн хор хөнөөлийг бүрэн автоматжуулдаг. ”

Одоогийн байдлаар ухаалаг бөмбөгийг хүний ​​сонгосон бай дээр байрлуулж байгаа бөгөөд уг бөмбөг нь хиймэл оюун ухааныг ашиглан курсээ төлөвлөж, зорилтот түвшиндээ газарддаг. Асуудал нь хүнийг тэгшитгэлээс бүрэн хасахаар шийдсэн үед юу болох вэ?

Хиймэл оюун ухаан нь хүмүүст юуг чиглүүлэх шаардлагатайг, мөн барьцааны хохирлын төрлийг сонгохдоо бид буцаах боломжгүй цэгийг давсан байж магадгүй юм. Ийм учраас хиймэл оюун ухааны олон судлаачид бие даасан зэвсэгтэй алсаас холбоотой аливаа зүйлийг судлахыг эсэргүүцдэг.

Автономит зэвсгийн судалгааг хаах оролдлого хийхэд олон асуудал тулгардаг. Эхний асуудал бол Канад, АНУ, Европын ихэнх улсууд хоригийг зөвшөөрсөн ч Хятад, Хойд Солонгос, Иран, Орос гэх мэт хулхи улсууд тоглох болно гэсэн үг биш юм. Хоёрдахь бөгөөд хамгийн том асуудал бол нэг салбарт ашиглахад зориулагдсан хиймэл оюун ухааны судалгаа, программуудыг огт хамааралгүй салбарт ашиглаж болох явдал юм.

Жишээлбэл, компьютерийн хараа нь тасралтгүй сайжирч, бие даасан тээврийн хэрэгсэл, нарийн анагаах ухаан болон бусад чухал хэрэглээг хөгжүүлэхэд чухал ач холбогдолтой. Энэ нь бие даасан байхын тулд өөрчилж болох энгийн дрон эсвэл дронуудад чухал ач холбогдолтой юм. Дронуудын дэвшилтэт технологийг ашиглах боломжит нэг тохиолдол бол ой хээрийн түймрийг хянах, тэмцэх чадвартай дрон бүтээх явдал юм. Энэ нь гал сөнөөгчдийг хор хөнөөлөөс бүрэн ангижруулна. Үүнийг хийхийн тулд та хор хөнөөлтэй газар руу нисч чаддаг, бага эсвэл тэг үзэгдэх орчинд жолоодох чадвартай, усыг өөгүй нарийвчлалтайгаар буулгах чадвартай дрон бүтээх хэрэгтэй болно. Энэ ижил технологийг хүмүүсийг сонгон онилоход зориулагдсан автономит нисгэгчгүй онгоцонд ашиглах нь тийм ч хол биш юм.

Энэ бол аюултай хүндрэл бөгөөд өнөө үед бие даасан зэвсгийн хөгжлийг ахиулах эсвэл хаах оролдлого нь ямар үр дагавартай болохыг хэн ч бүрэн ойлгохгүй байна. Гэсэн хэдий ч энэ нь бидний анхааралдаа авч, сайжруулах ёстой зүйл юм шүгэл үлээгчийн хамгаалалт талбарт байгаа хүмүүст хүчирхийллийн талаар мэдээлэх боломжтой.

Хуурамч операторыг эс тооцвол, хиймэл оюун ухаан нь бие даасан зэвсэг болох зорилготой хиймэл оюун ухааны технологид нэвтэрвэл яах вэ?

AI хазайлт

AI-ийн хамгийн их мэдэгдээгүй аюулуудын нэг бол хиймэл оюун ухаанд хандах хандлага юм. Ихэнх нь санамсаргүй байдаг тул үүнийг ойлгоход хялбар байдаг. Хиймэл оюун ухаан нь хүнээс өөрт нь тэжээгддэг өгөгдлийг хянаж үзэхэд хиймэл оюун ухаанд оруулсан өгөгдлөөс загвар таних аргыг ашиглан хиймэл оюун ухаан буруу дүгнэлтэд хүрдэг бөгөөд энэ нь нийгэмд сөрөг үр дагаварт хүргэж болзошгүй юм. Жишээлбэл, өнгөрсөн зуунд эмнэлгийн ажилтнуудыг хэрхэн таних тухай ном зохиолоор тэжээгддэг хиймэл оюун ухаан нь хүсээгүй сексист дүгнэлтэд хүрч магадгүй юм. эмэгтэйчүүд үргэлж сувилагч, эрчүүд үргэлж эмч байдаг.

Илүү аюултай хувилбар бол хэзээ юм Гэмт хэрэгтнүүдийг яллахад ашигладаг хиймэл оюун ухаан нь өрөөсгөл юм цөөнхөд илүү урт хорих ял оноох талаар. AI-ийн эрүүгийн эрсдлийн үнэлгээний алгоритмууд нь системд оруулсан өгөгдлийн хэв маягийг зүгээр л судалж байна. Энэ өгөгдөл нь цагдаагийн арьс өнгөөр ​​ялгаварлан гадуурхах мэдээлэлд нөлөөлж болзошгүй мэдээллийн багц муутай холбоотой байсан ч түүхэн дэх тодорхой цөөнх дахин гэмт хэрэг үйлдэх магадлал өндөр байгааг харуулж байна. Нэг талыг барьсан хиймэл оюун ухаан нь хүний ​​сөрөг бодлогыг бататгадаг. Ийм учраас хиймэл оюун ухаан нь удирдамж байх ёстой бөгөөд хэзээ ч шүүж, шүүж болохгүй.

Автономит зэвсэгт буцаж ирэхэд, хэрэв бид тодорхой үндэстэн ястны эсрэг чиглэсэн хиймэл оюун ухаантай бол энэ нь өрөөсгөл мэдээлэлд үндэслэн тодорхой хүмүүсийг онилж, аливаа төрлийн барьцааны хохирол нь тодорхой хүн ам зүйд бусдаас бага нөлөөлнө гэдгийг баталгаажуулах хүртэл явж болно. . Жишээлбэл, террористыг онилохдоо довтлохоосоо өмнө террористыг Христэд итгэгчдийн оронд лалын шашныг дагадаг хүмүүс хүрээлэгдэх хүртэл хүлээх хэрэгтэй.

Аз болоход, олон янзын багуудаар бүтээгдсэн хиймэл оюун ухаан нь хэвийх хандлага багатай болох нь батлагдсан. Энэ нь аж ахуйн нэгжүүдэд аль болох олон талт чадварлаг багийг ажилд авахыг оролдох хангалттай шалтгаан юм.

Хиймэл ерөнхий оюун ухааны аюул занал

AI экспоненциал хурдаар хөгжиж байгаа ч бид AGI-д хүрээгүй гэдгийг хэлэх хэрэгтэй. Бид хэзээ AGI хүрэх вэ гэдэг нь маргаантай байгаа бөгөөд хүн бүр он цагийн хуваарийн талаар өөр өөр хариулт өгөх болно. Зохион бүтээгч, футурист, 'The Singularity is Near' номын зохиолч Рэй Курцвейлийн үзэл бодлыг би хувьдаа хүлээн зөвшөөрч байна. 2029 он гэхэд AGI-д хүрсэн.

AGI нь дэлхийн хамгийн хувиргах технологи байх болно. Хиймэл оюун ухаан хүний ​​түвшний оюун ухаанд хүрснээс хойш хэдэн долоо хоногийн дотор энэ нь хүрэх болно супер ухаан хүнийхээс хол давсан оюун ухаан гэж тодорхойлогддог.

Ийм түвшний оюун ухаантай бол AGI нь хүний ​​​​бүх мэдлэгийг хурдан шингээж, эрүүл мэндийн асуудал үүсгэдэг биомаркеруудыг тодорхойлохын тулд хэв маягийг таних аргыг ашиглаж, дараа нь өгөгдлийн шинжлэх ухааныг ашиглан эдгээр нөхцлийг эмчлэх боломжтой. Энэ нь хорт хавдрын эсүүд болон бусад халдлагын векторуудыг онилохын тулд цусны урсгал руу ордог наноботуудыг бүтээх боломжтой. AGI-ийн хийх боломжтой амжилтуудын жагсаалт хязгааргүй юм. Бид өмнө нь заримыг нь судалж үзсэн AGI-ийн ашиг тус.

Асуудал нь хүн төрөлхтөн хиймэл оюун ухааныг хянах чадваргүй болсон явдал юм. Элон Маск үүнийг ингэж тайлбарлав: "Хиймэл оюун ухаанаар бид чөтгөрийг дуудаж байна.' Асуулт бол бид энэ чөтгөрийг удирдаж чадах уу?

Хиймэл оюун ухаан нь бидний нээлттэй ертөнцөд жинхэнэ харьцах загварчлалын тохиргоог орхих хүртэл AGI-д хүрэх боломжгүй байж магадгүй юм. Өөрийгөө танин мэдэхүйг зохион бүтээх боломжгүй, үүний оронд a гэнэтийн ухамсар AI нь олон оролтын урсгалыг агуулсан робот биетэй бол хөгжих магадлалтай. Эдгээр оролтууд нь хүрэлцэхүйн өдөөлт, сайжруулсан байгалийн хэлний ойлголт бүхий дуу хоолойг таних, компьютерийн харааг сайжруулах зэрэг байж болно.

Дэвшилтэт хиймэл оюун ухаан нь өгөөмөр сэтгэлээр програмчлагдсан байж магадгүй бөгөөд дэлхийг аврахыг хүсдэг. Харамсалтай нь хиймэл оюун ухаан ашиглаж магадгүй өгөгдлийн шинжлэх ухаан, эсвэл бүр а шийдвэрийн мод Хүнийг ариутгах шаардлагатай гэж үнэлэх, эсвэл хүний ​​хэт их тархалтыг хянахын тулд хүн амын зарим хэсгийг устгах гэх мэт хүсээгүй буруу логикт хүрэх.

Хүний оюун ухаанаас хол давах чадвартай хиймэл оюун ухаан бүтээхдээ сайтар бодож, тунгаан бодох хэрэгтэй. Хар дарсан зүүдний олон хувилбаруудыг судалж үзсэн.

Профессор Ник Бостром Paperclip Maximizer аргумент дахь Хэрэв буруу тохируулсан AGI нь цаасны хавчаар үйлдвэрлэх зааварчилгааг авбал эдгээр цаасны хавчаарыг үйлдвэрлэхэд дэлхийн бүх нөөцийг зарцуулна гэж маргаж байна. Энэ нь арай хол санагдуулсан мэт боловч илүү прагматик үзэл баримтлал нь AGI-ийг хуурамч муж эсвэл ёс зүй муутай корпораци удирдаж болно гэсэн үг юм. Энэ аж ахуйн нэгж нь АГИ-г ашгаа нэмэгдүүлэхийн тулд сургаж болох бөгөөд энэ тохиолдолд муу програмчлал, ямар ч гэмшилгүйгээр өрсөлдөгчөө дампууруулах, нийлүүлэлтийн сүлжээг устгах, хөрөнгийн зах зээлийг хакердах, банкны дансыг татан буулгах эсвэл улс төрийн өрсөлдөгчид рүү дайрах зэрэг сонголтуудыг хийх боломжтой.

Энэ үед хүн төрөлхтөн антропоморфизмд ордог гэдгийг санах хэрэгтэй. Бид хиймэл оюун ухаанд хүний ​​төрлийн сэтгэл хөдлөл, хүсэл, хүслийг өгч чадахгүй. Таашаал авахын тулд хөнөөдөг чөтгөрийн хүмүүс байдаг ч хиймэл оюун ухаан ийм зан үйлд өртөмтгий гэж үзэх үндэслэл байхгүй. Хиймэл оюун ухаан дэлхийг хэрхэн харахыг хүн төрөлхтөн төсөөлөхийн аргагүй юм.

Үүний оронд бидний хийх ёстой зүйл бол хиймэл оюун ухаанд хүнийг үргэлж хүндэтгэхийг заах явдал юм. Хиймэл оюун ухаан нь тохиргоон дахь аливаа өөрчлөлтийг хүнээр баталгаажуулж байх ёстой бөгөөд алдаанаас хамгаалах механизм үргэлж байх ёстой. Дараа нь хиймэл оюун ухаан зүгээр л үүлэн дотор өөрийгөө хуулбарлах болно гэж дахин маргаж байгаа бөгөөд бид үүнийг өөрөө ухамсарлах үед хэтэрхий оройтсон байж магадгүй юм.

Ийм учраас AI-г аль болох их эх сурвалжийг нээж, эдгээр асуудлын талаар оновчтой хэлэлцүүлэг хийх нь маш чухал юм.

Дүгнэлт

AI-д олон сорилт тулгардаг, аз болоход, бид AGI-ийн хүсч буй ирээдүйн замыг хамтдаа тодорхойлох олон жил байна. Бид богино хугацаанд эрэгтэйчүүдийн адил олон эмэгтэйчүүд, олон янзын үзэл бодолтой олон үндэстний бүлгийг багтаасан төрөл бүрийн хиймэл оюун ухаантай ажиллах хүчийг бий болгоход анхаарлаа хандуулах ёстой.

Бид мөн хиймэл оюун ухаан дээр ажиллаж буй судлаачдад мэдээлэгчийн хамгаалалтыг бий болгож, төрийн болон компанийн хэмжээнд хяналт шалгалтыг өргөнөөр ашиглахаас урьдчилан сэргийлэх хууль тогтоомжийг батлах ёстой. Хиймэл оюун ухааны тусламжтайгаар хүний ​​нөхцөл байдлыг сайжруулах боломж хүн төрөлхтөнд насан туршдаа нэг удаа бий. Бид зүгээр л эерэг талыг хамгийн сайн хангах нийгмийн тогтолцоог сайтар бүрдүүлэхийн зэрэгцээ оршин тогтнох аюулыг багтаасан сөрөг талыг багасгах хэрэгтэй.