Тайлбарлахуйц хиймэл оюун ухаан гэж юу вэ?

Хиймэл оюун ухаан (AI) илүү төвөгтэй болж, нийгэм даяар өргөн тархаж байгаа тул хамгийн чухал үйл явц, аргуудын нэг нь тайлбарлах боломжтой (AI) бөгөөд заримдаа XAI гэж нэрлэгддэг. 

Тайлбарлахуйц хиймэл оюун ухааныг дараахь байдлаар тодорхойлж болно.

• Хүний хэрэглэгчдэд машин сургалтын алгоритмын үр дүнг ойлгож, итгэхэд нь туслах процесс, аргуудын багц. 

Таны таамаглаж байгаагаар хиймэл оюун ухааны алгоритмууд нь хэвийх, алдаатай алгоритмууд болон бусад асуудлуудыг дагуулдаг олон салбарыг хянадаг тул энэ тайлбар нь маш чухал юм. Тайлбарлах боломжтой ил тод байдлыг бий болгосноор дэлхий хиймэл оюун ухааны хүчийг жинхэнэ утгаар нь ашиглаж чадна. 

Нэрнээс нь харахад тайлбарлаж болохуйц хиймэл оюун ухаан нь хиймэл оюун ухааны загвар, түүний нөлөөлөл, боломжит гажуудлыг тодорхойлоход тусалдаг. Энэ нь хиймэл оюун ухаанаар ажилладаг шийдвэр гаргах үйл явц дахь загварын нарийвчлал, шударга байдал, ил тод байдал, үр дүнг тодорхойлоход чухал үүрэг гүйцэтгэдэг. 

Өнөөгийн хиймэл оюун ухаанд суурилсан байгууллагууд үйлдвэрлэлд AI загварт итгэх итгэл, итгэлийг бий болгохын тулд тайлбарлах боломжтой хиймэл оюун ухааны үйл явцыг үргэлж ашиглах ёстой. Тайлбартай хиймэл оюун ухаан нь өнөөгийн хиймэл оюун ухааны орчинд хариуцлагатай компани болоход чухал ач холбогдолтой.

Өнөөгийн хиймэл оюун ухааны системүүд маш дэвшилттэй байдаг тул хүмүүс алгоритм хэрхэн үр дүнд хүрсэнийг эргэн харахын тулд ихэвчлэн тооцооллын процесс явуулдаг. Энэ үйл явц нь "хар хайрцаг" болж, ойлгох боломжгүй гэсэн үг юм. Эдгээр тайлагдашгүй загваруудыг өгөгдлөөс шууд боловсруулахад тэдний дотор юу болж байгааг хэн ч ойлгохгүй. 

Хиймэл оюун ухааны системүүд тайлбарлах боломжтой хиймэл оюун ухаанаар хэрхэн ажилладагийг ойлгосноор хөгжүүлэгчид систем нь зохих ёсоор ажиллаж байгаа эсэхийг баталгаажуулж чадна. Энэ нь загвар нь зохицуулалтын стандартад нийцэж байгаа эсэхийг шалгахад тусалж болох бөгөөд энэ нь загварыг эсэргүүцэх эсвэл өөрчлөх боломжийг олгодог. 

Зураг: Доктор Мэтт Турек/DARPA

AI ба XAI хоёрын ялгаа

Зарим гол ялгаанууд нь "ердийн" хиймэл оюун ухааныг тайлбарлах боломжтой хиймэл оюун ухаанаас салгахад тусалдаг боловч хамгийн чухал нь XAI нь ML үйл явц дахь шийдвэр бүрийг хянах, тайлбарлах боломжтой болгоход туслах тусгай арга, аргуудыг хэрэгжүүлдэг. Харьцуулбал, ердийн хиймэл оюун ухаан нь ихэвчлэн ML алгоритмыг ашиглан үр дүндээ хүрдэг боловч алгоритм хэрхэн үр дүнд хүрснийг бүрэн ойлгох боломжгүй юм. Тогтмол хиймэл оюун ухааны хувьд үнэн зөв эсэхийг шалгах нь туйлын хэцүү бөгөөд үүний үр дүнд хяналт, хариуцлага, аудитын чадвар алдагддаг. 

Тайлбарлахуйц хиймэл оюун ухааны ашиг тус 

Тайлбар болохуйц хиймэл оюун ухааныг нэвтрүүлэх гэж буй аливаа байгууллагад дараах олон давуу талууд бий. 

• Илүү хурдан үр дүн: Тайлбарлахуйц хиймэл оюун ухаан нь байгууллагуудад бизнесийн үр дүнг оновчтой болгох загваруудыг системтэйгээр хянаж, удирдах боломжийг олгодог. Загварын гүйцэтгэлийг байнга үнэлж, сайжруулах, загвар боловсруулалтыг нарийн тохируулах боломжтой.
  
• Эрсдэлийг бууруулах: Тайлбарлах боломжтой хиймэл оюун ухааны процессуудыг хэрэгжүүлснээр та өөрийн хиймэл оюун ухааны загваруудыг тайлбарлах боломжтой, ил тод болгохыг баталгаажуулдаг. Та зохицуулалт, дагаж мөрдөх, эрсдэл болон бусад шаардлагуудыг удирдаж, гарын авлагын шалгалтын зардлыг багасгаж чадна. Энэ бүхэн нь санамсаргүй таамаглалын эрсдлийг бууруулахад тусалдаг. 
• Итгэлийг бий болгох: Тайлбарлах боломжтой хиймэл оюун ухаан нь хиймэл оюун ухаанд итгэх итгэлийг бий болгоход тусалдаг. AI загваруудыг үйлдвэрлэлд хурдан оруулж, та тайлбарлах, тайлбарлах боломжтой байдлыг хангаж, загварын үнэлгээний үйл явцыг хялбарчилж, илүү ил тод болгох боломжтой. 

Тайлбарлахуйц хиймэл оюун ухаанд зориулсан техникүүд

Бүх байгууллагууд анхаарч үзэх ёстой XAI аргачлалууд байдаг бөгөөд тэдгээр нь үндсэн гурван аргаас бүрдэнэ. таамаглалын нарийвчлал, мөрдөх чадварБолон шийдвэрийн ойлголт. 

Гурван аргын эхнийх нь, таамаглалын нарийвчлал, AI-г өдөр тутмын үйл ажиллагаанд амжилттай ашиглахад зайлшгүй шаардлагатай. Симуляци хийх боломжтой бөгөөд XAI гаралтыг сургалтын өгөгдлийн багц дахь үр дүнтэй харьцуулах боломжтой бөгөөд энэ нь таамаглалын үнэн зөвийг тодорхойлоход тусалдаг. Үүнд хүрэх хамгийн түгээмэл аргуудын нэг бол машин сургалтын алгоритмаар ангилагчдыг урьдчилан таамаглах аргыг тайлбарладаг Local Interpretable Model-Agnostic Explanations (LIME) юм. 

Хоёр дахь арга нь мөрдөх чадвар, шийдвэр гаргах арга замыг хязгаарлах, түүнчлэн машин сургалтын дүрэм, онцлогуудыг нарийсгах замаар хүрдэг. Хамгийн түгээмэл мөрдөх арга техникүүдийн нэг бол DeepLIFT буюу Deep Learning Important FeaTures юм. DeepLIFT нь нейрон бүрийн идэвхжлийг түүний лавлагаа нейронтой харьцуулж, идэвхжүүлсэн нейрон бүрийн хоорондох ул мөрийг харуулдаг. Энэ нь мөн тэдгээрийн хоорондын хамаарлыг харуулдаг. 

Гурав дахь болон эцсийн арга бол шийдвэрийн ойлголт, бусад хоёр аргаас ялгаатай нь хүн рүү чиглэсэн. Шийдвэр гаргах тухай ойлголт нь байгууллагыг, ялангуяа хиймэл оюун ухаантай ажилладаг багийг сургаж, хиймэл оюун ухаан хэрхэн, яагаад шийдвэр гаргадаг болохыг ойлгох боломжийг олгох явдал юм. Энэ арга нь системд итгэх итгэлийг бий болгоход маш чухал юм. 

Тайлбарлах боломжтой хиймэл оюун ухааны зарчмууд

XAI болон түүний зарчмуудыг илүү сайн ойлгохын тулд АНУ-ын Худалдааны яамны нэг хэсэг болох Үндэсний Стандартын Хүрээлэн (NIST) тайлбарлах боломжтой хиймэл оюун ухааны дөрвөн зарчмын тодорхойлолтыг өгдөг. 

1. AI систем нь гаралт бүрт нотлох баримт, дэмжлэг эсвэл үндэслэлийг өгөх ёстой. 
2. AI систем нь хэрэглэгчдэд ойлгомжтой тайлбар өгөх ёстой. 
3. Тайлбар нь системийн үр дүнд хүрэхийн тулд ашигласан үйл явцыг үнэн зөв тусгасан байх ёстой. 
4. AI систем нь зөвхөн зориулалтын дагуу ажиллах ёстой бөгөөд үр дүнд нь хангалттай итгэлгүй үед гаралт өгөх ёсгүй. 

Эдгээр зарчмуудыг бүр цааш нь зохион байгуулж болно: 

• Утгатай: Утгатай байх зарчимд хүрэхийн тулд хэрэглэгч өгсөн тайлбарыг ойлгох ёстой. Энэ нь хиймэл оюун ухааны алгоритмыг өөр өөр төрлийн хэрэглэгчид ашиглаж байгаа тохиолдолд хэд хэдэн тайлбар байж болно гэсэн үг юм. Жишээлбэл, өөрөө жолооддог автомашины хувьд нэг тайлбар нь ... "Хиймэл оюун ухаан зам дээрх гялгар уутыг чулуу гэж ангилсан тул мөргөхгүйн тулд арга хэмжээ авсан." Хэдийгээр энэ жишээ жолоочийн хувьд тохирох боловч асуудлыг засах гэж байгаа AI хөгжүүлэгчийн хувьд тийм ч ашигтай биш байх болно. Энэ тохиолдолд хөгжүүлэгч яагаад буруу ангилсныг ойлгох ёстой. 
• Тайлбарын нарийвчлал: Гаралтын нарийвчлалаас ялгаатай нь тайлбарын нарийвчлал нь гаралтдаа хэрхэн хүрсэнийг үнэн зөв тайлбарлах AI алгоритмыг агуулдаг. Жишээлбэл, зээлийг батлах алгоритм нь өргөдөл гаргагчийн оршин суугаа газар дээр үндэслэсэн шийдвэр байсан бол түүний орлогод үндэслэсэн шийдвэрээ тайлбарласан бол тайлбар нь буруу байх болно. 
• Мэдлэгийн хязгаар: AI-ийн мэдлэгийн хязгаарт хоёр аргаар хүрч болох бөгөөд энэ нь системийн туршлагаас гадуурх оролтыг хамардаг. Жишээлбэл, шувууны төрлийг ангилах систем барьж, түүнд алимны зургийг өгсөн бол энэ нь шувуу биш гэдгийг тайлбарлах чадвартай байх ёстой. Хэрэв системд бүдгэрсэн зураг өгөгдсөн бол тухайн зураг дээрх шувууг таньж чадахгүй байна, эсвэл түүнийг таних нь маш бага итгэл үнэмшилтэй байна гэж мэдээлэх боломжтой байх ёстой. 

Тайлбарлах боломжтой хиймэл оюун ухаан дахь өгөгдлийн үүрэг

Тайлбарлах боломжтой хиймэл оюун ухааны хамгийн чухал бүрэлдэхүүн хэсгүүдийн нэг бол өгөгдөл юм. 

дагуу Google-ийнӨгөгдөл болон тайлбарлах боломжтой хиймэл оюун ухааны тухайд "AI системийг үндсэн сургалтын өгөгдөл, сургалтын үйл явц, түүнчлэн түүний үр дүнд бий болсон AI загвараар хамгийн сайн ойлгодог." Энэхүү ойлголт нь сургагдсан хиймэл оюун ухааны загварыг сургахад ашигласан өгөгдлийн багцад буулгах чадвараас гадна өгөгдлийг сайтар судлах чадвараас хамаарна. 

Загварын тайлбарыг сайжруулахын тулд сургалтын өгөгдөлд анхаарлаа хандуулах нь чухал юм. Багууд алгоритмыг сургахад ашигласан өгөгдлийн гарал үүсэл, түүнийг олж авахтай холбоотой хууль ёсны байдал, ёс зүй, өгөгдөлд байж болох гажуудал, буруу зөрүүг багасгахын тулд юу хийж болохыг тодорхойлох ёстой. 

Өгөгдөл ба XAI-ийн өөр нэг чухал тал бол системд хамааралгүй өгөгдлийг оруулахгүй байх явдал юм. Үүнд хүрэхийн тулд сургалтын багц эсвэл оролтын өгөгдөлд хамааралгүй өгөгдлийг оруулах ёсгүй. 

Тайлбарлах, хариуцлагатай болгохын тулд Google-с хэд хэдэн туршлагыг санал болгосон: 

• Тайлбарлах боломжийг эрэлхийлэх сонголтоо төлөвлө
• Тайлбарлах чадварыг хэрэглэгчийн туршлагын гол хэсэг гэж үзнэ
• Загварыг тайлбарлах боломжтой болгох
• Төгсгөлийн зорилго болон эцсийн даалгаврыг тусгахын тулд хэмжигдэхүүнийг сонгоно уу
• Сургалтанд хамрагдсан загварыг ойлгох
• Загварын хэрэглэгчдэд тайлбар өгөх
• AI системийг зориулалтын дагуу ажиллаж байгаа эсэхийг шалгахын тулд олон туршилт явуулна уу 

Эдгээр зөвлөмжийг дагаж мөрдвөл танай байгууллага тайлбарлах боломжтой хиймэл оюун ухаанд хүрч чадна, энэ нь орчин үеийн нөхцөлд хиймэл оюун ухаанд суурилсан аливаа байгууллагын түлхүүр юм.