AI судлаачид хиймэл оюун ухааныг илүү ёс суртахуунтай болгохын тулд хиймэл оюун ухаанд өгөөжөө өгөхийг санал болгож байна

Intel, Google Brain, OpenAI зэрэг компаниуд болон хиймэл оюун ухаан хөгжүүлэх лабораториудаас бүрдсэн хиймэл оюун ухааны судлаачдын баг хиймэл оюун ухааныг ёс зүйтэй ашиглахад туслах урамшуулал ашиглахыг зөвлөж байна. Судлаачдын баг саяхан хиймэл оюун ухааныг ёс суртахуунтай ашиглах талаар хэд хэдэн санал гаргасан бөгөөд хиймэл оюун ухаан дахь буруу ойлголтыг олж илрүүлсэн хүмүүсийг шагнаж урамшуулах нь хиймэл оюун ухааныг шударга болгох үр дүнтэй арга байж болох талаар санал оруулсан байна.

VentureBeat-ийн мэдээлснээр, АНУ болон Европын янз бүрийн компаниудын судлаачид хиймэл оюун ухааныг хөгжүүлэх ёс зүйн удирдамж, зааварчилгааг хэрхэн биелүүлэх талаар санал болгохоор нэгджээ. Судлаачдын дэвшүүлсэн саналуудын нэг нь хиймэл оюун ухааны программуудад буруу ойлголт өгсөн хөгжүүлэгчдэд урамшуулал санал болгох явдал байв. гэсэн гарчигтай нийтлэлд санал тавьсан.Найдвартай хиймэл оюун ухааны хөгжилд: Баталгаажуулах боломжтой нэхэмжлэлийг дэмжих механизмууд".

Судлаачдын баг шийдвэрлэх гэж найдаж буй өрөөсгөл байдлын жишээ болгон эрүүл мэндийн тусламж үйлчилгээний хэрэглээнээс эхлээд хууль сахиулах байгууллагын ашигладаг нүүр царай таних систем хүртэлх бүх зүйлд өрөөсгөл мэдээлэл, алгоритмууд илэрсэн байна. Ийм гажуудлын нэг тохиолдол бол АНУ-ын Хууль зүйн яамнаас коронавирусын тахлын эсрэг шоронгийн хүн амын тоог бууруулахад хоригдлуудыг ангилж, алийг нь гэр рүү нь явуулахыг шийдэхэд саяхан ашигласан эрсдэлийн үнэлгээний PATTERN хэрэгсэл юм.

Компьютерийн программ дахь хүсээгүй зан үйлийг илрүүлсэн хөгжүүлэгчдийг урамшуулах практик байдаг хуучин нэг, гэхдээ энэ нь хиймэл оюун ухааны ёс зүйн зөвлөл нь хиймэл оюун ухааны гажуудалтай тэмцэх сонголт болох санааг нухацтай дэвшүүлсэн анхны тохиолдол байж магадгүй юм. Хиймэл оюун ухааныг ёс суртахууны хувьд баталгаажуулах хангалттай хэвшмэл ойлголтыг олоход хиймэл оюун ухаан хөгжүүлэгчид хангалттай байх магадлал багатай ч энэ нь компаниудад ерөнхий буруу ойлголтыг бууруулж, хиймэл оюун ухааны системд ямар төрлийн гажуудлыг алдаж байгааг ойлгоход тусална.

Баримт бичгийн зохиогчид алдааны шагналын тухай ойлголтыг хиймэл оюун ухаанд хэвийх, аюулгүй байдлын урамшуулал ашиглан өргөжүүлэх боломжтой бөгөөд энэ аргыг зөв ашигласнаар илүү сайн баримтжуулсан өгөгдлийн багц, загвар гаргах боломжтой гэж тайлбарлав. Баримт бичиг нь загвар болон өгөгдлийн хязгаарлалтыг илүү сайн тусгах болно. Судлаачид ижил санааг тайлбарлах чадвар, аюулгүй байдал, нууцлалын хамгаалалт гэх мэт бусад хиймэл оюун ухааны шинж чанаруудад ашиглаж болохыг тэмдэглэжээ.

AI-ийн ёс зүйн зарчмуудын талаар илүү олон хэлэлцүүлэг өрнөж байгаа тул дангаараа зарчим хангалттай биш бөгөөд хиймэл оюун ухааныг ёс зүйтэй байлгахын тулд арга хэмжээ авах шаардлагатайг олон хүн тэмдэглэж байна. Уг нийтлэлийн зохиогчид “Аж үйлдвэр, эрдэм шинжилгээний салбарт мөрдөгдөж буй дүрэм журам, хэм хэмжээ нь хариуцлагатай хиймэл оюун ухааны хөгжлийг хангахад хангалтгүй” гэж тэмдэглэжээ. Google Brain-ийн үүсгэн байгуулагч, хиймэл оюун ухааны салбарын удирдагч Эндрю Нг мөн тунгалаг Зөвхөн удирдамжийн зарчмууд нь хиймэл оюун ухааныг хариуцлагатай, шударгаар ашиглах чадварыг хангах чадваргүй тул тэдгээрийн олонх нь илүү тодорхой, хэрэгжүүлэх боломжтой санаа байх ёстой гэж үзэж байна.

Хосолсон судалгааны багийнхны гаргасан хазайлттай шагналын агнуурын тухай зөвлөмж нь ёс зүйн зарчмаас хальж, ёс зүйн үйл ажиллагааны талбарт шилжих оролдлого юм. Судалгааны баг мөн хиймэл оюун ухааны салбарт ёс суртахууны үйл ажиллагаа явуулахад түлхэц болох хэд хэдэн бусад зөвлөмжийг гаргажээ.

Судалгааны багийнхан хиймэл оюун ухааны хэрэглээгээ илүү ёс зүйтэй болгохын тулд компаниуд дагаж мөрдөх хэд хэдэн зөвлөмжийг гаргажээ. Тэд хиймэл оюун ухаанд тохиолдсон тохиолдлын мэдээллийн нэгдсэн санг бий болгож, AI-н олон нийтийн дунд хуваалцахыг санал болгож байна. Үүний нэгэн адил судлаачид аудитын мөрийг бий болгож, эдгээр мөрүүд нь хиймэл оюун ухааны платформ дээр аюулгүй байдлын чухал програмуудыг бий болгох, байрлуулахтай холбоотой мэдээллийг хадгалах ёстой гэж судлаачид санал болгож байна.

Судалгааны баг хүмүүсийн хувийн нууцыг хадгалахын тулд шифрлэгдсэн харилцаа холбоо, нэгдсэн сургалт, дифференциал нууцлал зэрэг нууцлалд суурилсан арга техникийг ашиглахыг санал болгов. Үүнээс гадна судалгааны багийнхан нээлттэй эхийн хувилбаруудыг өргөн ашиглах, арилжааны хиймэл оюун ухааны загваруудыг сайтар нягтлан шалгахыг санал болгов. Эцэст нь эрдэм шинжилгээний ажилтнууд техник хангамжийн гүйцэтгэлийн нэхэмжлэлийг баталгаажуулахын тулд засгийн газрын санхүүжилтийг нэмэгдүүлэхийг судалгааны баг санал болгож байна.