Тайлбарлахуйц хиймэл оюун ухаан нь найдвартай, найдвартай байдлыг хэрхэн нэмэгдүүлдэг вэ?

Хиймэл оюун ухаан (AI) нь аж ахуйн нэгжүүд даяар ардчилалтай болохын хэрээр энэ нь бидний оршин тогтнох материалд аажмаар шингэж байна. Энэхүү ардчиллын нэг чухал тал бол эцсийн хэрэглэгчид AI-ийн ямар нэгэн дүгнэлтэд хүрэхийн тулд ашиглаж буй үйл явц, механизм эсвэл хүссэн үр дүнд хүрэхийн тулд хэрхэн ажиллаж байгааг бүрэн ойлгох чадвартай байх явдал юм. Хүн төрөлхтөн бидэнд технологийн дэвшлийг хурдасгасан аливаа үзэгдлийн “яагаад”, “яаж”-ыг нь илрүүлэх хэрэгцээ гүн гүнзгий бий. AI-ийн хүрээнд энэхүү ойлголтыг "тайлбарлах боломжтой" гэж нэрлэдэг.

Тайлбарлах чадвар яагаад цаг үеийн шаардлага болоод байна вэ?

Ихэнхдээ бид хиймэл оюун ухаанд "хар хайрцаг" гэж ханддаг бөгөөд бид зөвхөн оролт, гаралтын талаар мэддэг боловч хаа нэгтээ ашигласан процессууд бидэнд алга болдог. Гүнзгий суралцахад суурилсан таамаглалын нарийн төвөгтэй систем, Байгалийн хэлний боловсруулалт (NLP) гэх мэт хиймэл оюун ухааны хамгийн түгээмэл хэлбэрийг дэмждэг алгоритмууд нь хамгийн чадварлаг дадлагажигчдад хүртэл хийсвэр байдаг нь энэ асуудлыг улам бүр нэмэгдүүлж байгаа явдал юм.

Итгэлцэл ба ил тод байдал: Хэрэглэгчид хиймэл оюун ухааны таамаглалд итгэхийн тулд энэ нь тодорхой түвшний тайлбартай байх ёстой. Жишээлбэл, хэрэв эмч хиймэл оюун ухааны таамаглал дээр үндэслэн эмчилгээг санал болгох ёстой бол тэр таамаглалдаа итгэлтэй байх ёстой. Банк зээл олгохоос татгалзах, зөвшөөрөх шийдвэрт бүрэн итгэлтэй байх ёстой бөгөөд үүнийг бүх оролцогч талуудад зөвтгөх чадвартай байх ёстой. Шалгах, ажилд авахад ашигладаг хиймэл оюун ухаан нь үндсэн механизм нь өргөдөл гаргагчийн бүх бүлэгт шударга, тэгш үйлчилдэг гэдгийг батлах ёстой.

AI-г илүү хүн болгож, үрчлэлтийг нэмэгдүүлнэ: Mckinsey-д  2020 онд хиймэл оюун ухааны төлөв байдлын тайлан Үйлдвэрлэгч нь өөрсдийн аюулгүй байдлын талаар хиймэл оюун ухаанаас гаргасан дүгнэлтэд итгэх шаардлагатай үйлдвэрийн ажилчдаа хүлээн авахын тулд маш ил тод загвар ашигладаг болохыг бид мэдэж байна.. Хиймэл оюун ухааныг хурдан нэвтрүүлэхийн тулд сонирхогч талуудыг худалдан авах нь энгийн цэгийн шийдлүүдээс аж ахуйн нэгжийн түвшинд хүрч, оруулсан хөрөнгө оруулалтаас хамгийн их ашиг хүртэхэд гол саад болдог. Тоглолтыг илүү олон үзэгчдэд тайлбарлаж чадвал энэ нь ихээхэн хөнгөвчилдөг. Бизнесийн үүднээс тайлбарлах нь хэрэглэгчийн ерөнхий туршлагыг сайжруулж, хэрэглэгчийн сэтгэл ханамжийг нэмэгдүүлдэг. IBM-ийн Бизнесийн үнэ цэнийн судалгааны үр дүнгээс үзэхэд шилдэг менежерүүдийн 68 хувь нь ойрын гурван жилийн хугацаанд хиймэл оюун ухаанаас илүү тайлбар шаардах болно гэж үйлчлүүлэгчид үзэж байна.

Хязгаарлагдмал байдлыг илрүүлж, загварын гүйцэтгэлийг сайжруулах:  Хөгжүүлэгч нь тухайн загварын гүйцэтгэлийг хэрхэн сайжруулах, түүнийг хэрхэн дибаг хийх, нарийн тохируулах талаар мэдэх ёстой. Тодорхой тайлбарлах хүрээ нь шаардлагатай нарийвчилсан дүн шинжилгээ хийх хамгийн чухал хэрэгслүүдийн нэг юм.

Илүү хурц, сайтар бөөрөнхий ойлголт авах:  AI-ийн бичсэн жорыг бүрэн ойлгохын тулд 360 градусын бүрэн харах шаардлагатай. Жишээлбэл, хэрэв хиймэл оюун ухааныг хөрөнгө оруулалтын шийдвэр гаргахад ашигладаг бол энэ сургаалыг бусад салбарт шилжүүлэхийн тулд үүний цаад учир шалтгааныг мэдэж, шийдвэр гаргахад учирч болзошгүй бэрхшээлийг ойлгох хэрэгтэй. AI хэрхэн ажилладаг талаар сайн ойлголттой байх нь шийдвэр гаргагчдад шинэ хэрэглээний тохиолдлуудыг илрүүлэх боломжийг олгоно.

Дүрэм журам ба хариуцлага: GDPR зэрэг хэд хэдэн дүрэм журам нь автоматжуулсан шийдвэр гаргах үйл явцаас үүсэх хариуцлагын асуудлыг шийдвэрлэхэд тайлбар өгөх эрхийг шаарддаг. Автономит тээврийн хэрэгсэл гэх мэт системүүдэд ямар нэг зүйл буруу болвол амь нас, эд хөрөнгөө алдахад хүргэдэг үндсэн шалтгааныг олж мэдэх шаардлагатай бөгөөд үүнийг хар хайрцагны системд тодорхойлоход хэцүү байх болно.

AI хэрхэн илүү ойлгомжтой байх вэ?

Тайлбарлах боломжтой хиймэл оюун ухааны системүүд (XAI) нь загварыг бүхэлд нь тайлбарлах эсвэл зарим алгоритмын тусламжтайгаар хувь хүний ​​таамаглалын үндэслэлийг тайлбарлахад чиглэсэн янз бүрийн арга техникийг ашиглан боловсруулагдсан болно.

Үндсэндээ тайлбарлах бүх арга техникүүд нь:

• Загварыг бие даасан бүрэлдэхүүн хэсгүүдэд задлах)
• Загварын таамаглалыг дүрслэн харуулах (жишээ нь загвар нь автомашиныг тодорхой брэндийнх гэж ангилсан бол түүнийг дарцаглахад хүргэсэн хэсгийг онцлон харуулах)
• Тайлбар Уул уурхай (хиймэл оюун ухааны алгоритмын таамаглалыг тайлбарласан холбогдох өгөгдлийг олохын тулд машин сургалтын техникийг ашиглах).

Прокси загварчлал гэж нэрлэгддэг ийм техникт шийдвэрийн мод гэх мэт илүү энгийн бөгөөд ойлгомжтой загварыг илүү нарийн AI загварыг ойролцоогоор төлөөлөхөд ашигладаг. Эдгээр хялбаршуулсан тайлбарууд нь загварын талаар өндөр түвшний ойлголтыг өгдөг боловч заримдаа зарим нарийн ширийн зүйлийг дарж чаддаг.

Өөр нэг хандлагыг "дизайнаар тайлбарлах чадвар" гэж нэрлэдэг Энэ арга нь хиймэл оюун ухааны сүлжээг шинэ загвараар зохион бүтээх, сургахад хязгаарлалт тавьдаг бөгөөд энэ нь ерөнхий сүлжээг жижиг бөгөөд энгийн тайлбарлах боломжтой хэсгүүдээс бий болгохыг оролддог. Энэ нь тайлбарлах боломжтой нарийвчлалын түвшинг хооронд нь харьцуулж, өгөгдөл судлаачийн хэрэглүүрээс тодорхой хандлагыг хязгаарладаг. Энэ нь бас тооцоолол их шаарддаг байж магадгүй.

Хиймэл оюун ухааны сургалт, туршилт нь орон нутгийн тайлбарлах загвар (LIME) болон Shapley Additive Explanations (SHAP) зэрэг үл мэдэгдэх өгөгдөл баталгаажуулах арга техникийг ашиглах боломжтой бөгөөд эдгээрийг F оноо, нарийвчлал болон бусад хэмжигдэхүүнийг ашиглан өндөр нарийвчлалд хүрэхийн тулд тохируулсан байх ёстой. Мэдээжийн хэрэг, бүх үр дүнг олон төрлийн өгөгдөл ашиглан хянаж, баталгаажуулах ёстой. Жишээлбэл, LIME ашиглан байгууллагууд машин сурах гэх мэт ил тод бус алгоритмуудын таамаглалыг дуурайдаг түр зуурын загваруудыг бий болгож чаддаг. Дараа нь эдгээр LIME загварууд нь өгөгдсөн өгөгдлийн багц болон түүний харгалзах гаралт дээр тулгуурлан өргөн хүрээний сэлгэлтүүдийг үүсгэж, дараа нь шийдвэр болон/эсвэл таамаглал бүрийн тайлбарын бүрэн жагсаалтын хамт энгийн бөгөөд илүү тайлбарлах боломжтой загваруудыг сургахад ашиглаж болно. Тоглоомын онол, ялангуяа хамтын ажиллагааны тоглоомын онолын үндэс суурьтай SHAP хүрээ нь . Энэ нь зээлийн оновчтой хуваарилалтыг тоглоомын онол болон тэдгээрийн үр удам дахь Шеплигийн анхны утгыг ашиглан орон нутгийн тайлбартай хослуулсан.

Үндсэн үйл ажиллагаа

Гэсэн хэдий ч илүү стратегийн түвшинд хиймэл оюун ухааны найдвартай байдлын тогтолцоо нь өөрчлөгдөж буй нөхцөл байдлын үед загварууд өөрчлөгдөхийн зэрэгцээ ашиглалтын эхэн үед болон цаг хугацааны явцад зохих үр дүнд хүрэхэд чиглэсэн өргөн багц зарчмуудыг агуулсан байх ёстой. Наад зах нь эдгээр хүрээ нь дараахь зүйлийг агуулсан байх ёстой.

• Хагархай илрүүлэх – бүх өгөгдлийн багцыг өрөөсгөл болон ялгаварлан гадуурхах шинж чанаруудаас цэвэрлэж, сургалтын загварт хэрэглэхэд зохих жин, үзэмжийг өгөх ёстой;
• Хүний оролцоо – Операторууд алгоритмын гаралтыг үргэлж судалж, тайлбарлах чадвартай байх ёстой, ялангуяа загварыг хууль сахиулах болон иргэний эрх чөлөөг хамгаалахад ашиглах үед;
• Үндэслэл – бүх таамаглал нь хөндлөнгийн ажиглагчдад үр дүнг гаргах үйл явц, шалгуурыг хэмжих боломжийг олгохын тулд угаасаа өндөр ил тод байдлыг шаарддаг шалгалтыг тэсвэрлэх чадвартай байх ёстой;
• Нөхөн үржих чадвар – Найдвартай AI загварууд нь таамаглалдаа тууштай байх ёстой бөгөөд шинэ өгөгдөлтэй тулгарах үед өндөр түвшний тогтвортой байдлыг харуулах ёстой.

Гэхдээ XAI-ийг зөвхөн ашиг орлогыг нэмэгдүүлэх хэрэгсэл гэж үзэх биш, харин байгууллагууд өөрсдийн бүтээлийн нийгэмд үзүүлэх нөлөөг тайлбарлаж, зөвтгөх боломжийг хангахын тулд хариуцлага тооцох ёстой.