AI-ийн инженерүүд ташаа мэдээлэл түгээж буй хүмүүсийн зорилгыг илрүүлэх аргыг боловсруулжээ

Дижитал эрин зуунд ташаа мэдээлэлтэй тэмцэх нь нарийн төвөгтэй асуудал юм. Зөвхөн ташаа мэдээллийг олж тогтоох, шошголох, залруулахаас гадна нэхэмжлэл гаргах үүрэгтэй хүмүүсийн санаа зорилгыг ялгах ёстой. Хүн өөрийн мэдэлгүй ташаа мэдээлэл тарааж, эсвэл дараа нь бодит мэт мэдээлсэн ч тухайн асуудлаар санал бодлоо илэрхийлж байж болно. Саяхан Дартмут дахь хиймэл оюун ухаан судлаач, инженерүүдийн баг "хуурамч мэдээ"-ний тайлангаас санал гаргахад ашиглаж болох тогтолцоог бүтээжээ.

ScienceDaily мэдээлснээр, Дартмут багийнхны судалгаа саяхан Journal of Experimental & Theorical Artificial Intelligence сэтгүүлд нийтлэгдсэн байна. Өмнөх судалгаанууд хуурамч мэдээг олж илрүүлэх, хууран мэхлэлттэй тэмцэх оролдлого хийж байсан ч энэ нь мэдээний нийтлэл дэх илтгэгчийн зорилгыг тодорхойлох зорилготой анхны судалгаа байж магадгүй юм. Бодит түүхийг янз бүрийн хууран мэхлэх хэлбэр болгон мушгин гуйвуулж болох ч, хууран мэхлэх зорилготой байсан эсэхийг ялгах нь чухал юм. Судалгааны багийнхан буруу ташаа мэдээллийг авч үзэхэд санаа зорилго чухал гэж үзэж байгаа тул төөрөгдүүлэх зорилготой байсан тохиолдолд л хууран мэхлэх боломжтой. Хэрэв хувь хүн худал мэдээлэл тарааж байгаагаа ойлгоогүй эсвэл зүгээр л саналаа хэлж байсан бол хууран мэхлэлт байж болохгүй.

Дартмутын Тейерийн инженерийн сургуулийн инженерийн профессор Жужин Сантос Жр. ScienceDaily-д тайлбарлав Тэдний загвар яагаад хууран мэхлэх санааг ялгахыг оролддог вэ?

“Сонсогчдыг зориудаар төөрөгдүүлэх гэсэн хууран мэхлэлт нь санамсаргүй алдаанаас хамаагүй том аюул учруулдаг. Бидний мэдэж байгаагаар бидний алгоритм бол заль мэхийг илрүүлж, нэгэн зэрэг хорлонтой үйлдлийг хор хөнөөлгүй үйлдлээс ялгаж салгах цорын ганц арга юм."

Загвараа бүтээхийн тулд судалгааны баг хууран мэхлэх сэтгэхүйн онцлогт дүн шинжилгээ хийсэн. Үүний үр дүнд бий болсон алгоритм нь хүний ​​өмнөх аргументууд болон одоогийн мэдэгдлүүдийн хоорондын зөрүүд анхаарлаа төвлөрүүлснээр бусад харилцааны хэлбэрээс хууран мэхлэх санааг ялгаж чадна. Судалгааны багийн бүтээсэн загварт хүн өмнөх аргументуудаас хэрхэн хазайж байгааг хэмжихэд ашиглаж болох их хэмжээний өгөгдөл хэрэгтэй. Багийн загвараа сургахдаа ашигласан сургалтын өгөгдөл нь маргаантай сэдвүүдийн талаархи санал асуулгын дүнгээс бүрддэг. Эдгээр маргаантай асуудлаар 100 гаруй хүн санал бодлоо илэрхийлжээ. Мэдээллийг мөн 20 зохиомол шүүмж, 400 бодит тоймоос бүрдсэн 800 өөр зочид буудлын тоймоос авсан.

Сантогийн хэлснээр судлаачдын боловсруулсан тогтолцоог мэдээллийн байгууллага, уншигчдад "хуурамч мэдээ"-ний агуулгад дүн шинжилгээ хийх боломжийг олгохын тулд сайжруулж, хэрэглэж болно. Уншигчид нийтлэлийг үзэл бодол байгаа эсэхийг шалгаж, логик аргумент ашигласан эсэхийг өөрсдөө тодорхойлох боломжтой. Сантос мөн хэлэхдээ, баг нь ташаа мэдээлэл, долгионы нөлөөг судлахыг хүсч байна.

Түгээмэл соёл нь хэн нэгнийг худал хэлж байгааг илтгэх шинж тэмдэг болох нүүрний хувирал гэх мэт аман бус зан үйлийг ихэвчлэн дүрсэлдэг боловч эдгээр зан үйлийн зөвлөмжүүд нь худал хэлэх найдвартай үзүүлэлт биш гэдгийг судалгааны зохиогчид тэмдэглэжээ. Уг цаасны хамтран зохиогч Дэчин Ли тайлбарласнаар тэдний судалгаа үндэслэлийн зорилгод суурилсан загвар нь зан үйл, үг хэллэгийн ялгаанаас илүү худал хэлэхийг илүү сайн илтгэдэг болохыг тогтоожээ. Ли тайлбарлахдаа, учир шалтгааны загварууд нь "санаатай худал хуурмагийг бусад төрлийн мэдээллийн гажуудлаас ялгахад илүү сайн байдаг".

Дартмут судлаачдын хийсэн ажил бол хиймэл оюун ухаантай ташаа мэдээлэлтэй тэмцэх сүүлийн үеийн цорын ганц дэвшил биш юм. Clickbait гарчигтай мэдээний нийтлэлүүд нь ихэвчлэн ташаа мэдээллийг нуун дарагдуулдаг. Жишээлбэл, тэд ихэвчлэн өөр үйл явдал тохиолдоход нэг зүйл тохиолдсоныг илтгэдэг.

AINews мэдээлэв, Аризона мужийн их сургууль болон Пенн мужийн их сургуулийн судлаачдын баг товшилтыг илрүүлэх хиймэл оюун ухаан бүтээхийн тулд хамтран ажилласан. Судлаачид хүмүүсээс өөрсдийн clickbait гарчиг бичихийг хүссэнээс гадна clickbait гарчиг үүсгэх программ зохиожээ. Дараа нь гарчигны хоёр хэлбэрийг машин эсвэл хүмүүс бичсэн эсэхээс үл хамааран clickbait гарчгийг үр дүнтэй илрүүлэх загварыг сургахад ашигласан.

Судлаачдын үзэж байгаагаар тэдний алгоритм нь бусад хиймэл оюун ухаантай харьцуулахад товшилтын гарчгийг илрүүлэхэд ойролцоогоор 14.5% илүү нарийвчлалтай байсан. Төслийн ахлах судлаач, Пенн мужийн Мэдээллийн шинжлэх ухаан, технологийн коллежийн дэд профессор Донгвон Ли тэдний туршилт хиймэл оюун ухаанаар өгөгдөл үүсгэж, түүнийгээ сургалтын системд буцааж оруулах нь ашиг тустайг хэрхэн харуулж байгааг тайлбарлав.

Ли тайлбарлав: "Бид машинаар үүсгэсэн товшилтын сургалтын өгөгдлийг сургалтын дамжуулах хоолойд буцааж өгч, гүйцэтгэлийг сайжруулахын тулд олон төрлийн машин сургалтын загваруудыг сургах боломжтойг амжилттай харуулсан тул энэ үр дүн маш сонирхолтой юм" гэж тайлбарлав.