Хиймэл оюун
Өсгөж, тайрах AI стратеги нь хиймэл оюун ухааны эрчим хүчний хэрэглээг бууруулж байгаа бололтой
Хүний тархи "ургаж, тайрах" стратегиар ажилладаг бөгөөд эхлээд асар их хэмжээний мэдрэлийн холболтоор эхэлж, дараа нь ашиглагдаагүй холболтуудыг цаг хугацааны явцад тайрдаг. Саяхан хиймэл оюун ухааны судалгааны баг энэ аргыг хиймэл оюун ухааны системд хэрэглэсэн бөгөөд энэ нь хиймэл оюун ухааныг сургахад шаардагдах эрчим хүчний хэмжээг эрс бууруулж болохыг тогтоожээ.
Судлаачдын баг Принстоны их сургуулиас саяхан хиймэл оюун ухааны системийг сургах шинэ аргыг бүтээжээ. Энэхүү сургалтын шинэ арга нь нарийвчлалын хувьд салбарын стандартад нийцэх эсвэл давах чадвартай мэт боловч уламжлалт машин сургалтын загвараас хамаагүй бага тооцоолох хүчин чадал, тиймээс бага эрчим хүч зарцуулснаар үүнийг хийх боломжтой юм. Принстоны судлаачид хоёр өөр нийтлэлийн явцад сүлжээг нейронууд болон холболтуудыг нэмэх замаар хэрхэн хөгжүүлэхийг харуулсан. Ашиглагдаагүй холболтуудыг цаг хугацааны явцад тайрч, загварын хамгийн үр дүнтэй, үр дүнтэй хэсгүүдийг үлдээсэн.
Принстоны цахилгааны инженерийн профессор Нираж Жа Принстоны мэдээнд судлаачдын боловсруулсан загвар нь "мөр ба тайрах парадигм" дээр ажилладаг гэж тайлбарлав. Жа тайлбарласнаар хүний тархи гурван настайдаа хамгийн нарийн төвөгтэй байдаг бөгөөд энэ үеэс хойш тархи шаардлагагүй синаптик холболтыг таслаж эхэлдэг. Үүний үр дүнд бүрэн хөгжсөн тархи нь бидний өдөр тутам хийдэг ер бусын нарийн төвөгтэй бүх ажлыг гүйцэтгэх чадвартай боловч хамгийн дээд үедээ байсан бүх синапсынхаа тал орчим хувийг ашигладаг. Жа болон бусад судлаачид хиймэл оюун ухааны сургалтыг сайжруулахын тулд энэхүү стратегийг дуурайсан.
“Бидний арга барил бол ургаж, тайрах парадигм гэж нэрлэдэг зүйл юм. Энэ нь биднийг нялх байхаас эхлээд хөлд орох хүртэл тархи хийдэгтэй төстэй юм. Гурав дахь жилдээ хүний тархи тархины эс хоорондын холбоог тасалж эхэлдэг. Энэ үйл явц нь насанд хүрсэн хүртэл үргэлжилдэг бөгөөд ингэснээр бүрэн хөгжсөн тархи нь синаптик оргил үедээ бараг тал хувьтай ажилладаг. Насанд хүрэгчдийн тархи нь бидний өгсөн ямар ч сургалтанд зориулагдсан байдаг. Энэ нь нялх хүүхдийн тархи шиг ерөнхий зорилготой сурахад тийм ч сайн биш юм."
Өсөн нэмэгдэж буй болон тайрах техникийн ачаар урьд өмнө шаардлагатай байсан тооцооллын хүчин чадлын багахан хэсгийг ашиглан өгөгдлийн хэв маягийн талаар сайн таамаглал дэвшүүлж болно. Судлаачид утас, ухаалаг цаг гэх мэт жижиг төхөөрөмжүүдэд машин сургалтыг нэвтрүүлэхэд чухал ач холбогдолтой тул эрчим хүчний хэрэглээ болон тооцооллын зардлыг бууруулах аргуудыг хайж олохыг зорьж байна. Машин сургалтын алгоритмуудын зарцуулсан эрчим хүчний хэмжээг багасгах нь тус салбарт нүүрстөрөгчийн ул мөрийг багасгахад тусална. Уг нийтлэлийн анхны зохиогч Сяолян Дай үүлэнд дамжих нь маш их эрчим хүч шаарддаг тул загваруудыг орон нутагт сургах шаардлагатай гэж тайлбарлав.
Эхний судалгааны явцад судлаачид мэдрэлийн сүлжээг зохион бүтээх, хамгийн өндөр гүйцэтгэлтэй сүлжээг эхнээс нь дахин бүтээхэд ашиглаж болох мэдрэлийн сүлжээ үүсгэх хэрэгсэл боловсруулахыг оролдсон. Энэ хэрэгслийг NeST (Мэдрэлийн сүлжээний синтезийн хэрэгсэл) гэж нэрлэдэг байсан бөгөөд энэ нь хэдхэн мэдрэлийн эсүүд болон холболтуудаар хангагдсан үед сүлжээнд илүү олон нейрон нэмж оруулснаар нарийн төвөгтэй байдал нь хурдан нэмэгддэг. Сүлжээ нь сонгосон шалгуур үзүүлэлтийг хангасны дараа цаг хугацааны явцад өөрийгөө тайрч эхэлдэг. Өмнөх сүлжээний загварууд нь тайрах арга техникийг ашигладаг байсан бол Принстоны судлаачдын боловсруулсан арга нь сүлжээг авч, "нялхас" "хөлд" хүртэл, эцэст нь "насанд хүрэгчдийн тархи" хүртэлх хөгжлийн үе шатуудыг дуурайсан анхны арга юм.
Хоёр дахь илтгэлийн үеэр судлаачид Калифорниа-Берклигийн их сургуулийн баг болон Facebook-ийн багтай хамтран Хамелеон хэмээх хэрэгслийг ашиглан техникээ сайжруулсан. Хамелеон нь хүссэн төгсгөлийн цэг, хүссэн үр дүнгээс эхэлж, зөв төрлийн мэдрэлийн сүлжээг бий болгохын тулд буцаж ажиллах чадвартай. Энэ нь сүлжээг гараар тохируулахтай холбоотой ихэнх таамаглалыг арилгаж, инженерүүдэд нэн даруй хэрэг болох эхлэлийн цэгүүдийг өгдөг. Хамелеон янз бүрийн нөхцөлд янз бүрийн архитектурын гүйцэтгэлийг урьдчилан таамаглаж байна. Хамелеон болон NeST тогтолцоог хослуулах нь тооцооллын өндөр нөөцгүй судалгааны байгууллагуудад мэдрэлийн сүлжээний давуу талыг ашиглахад тусална.
