Facebook-ийн хиймэл оюун ухаан хэрхэн ташаа мэдээлэл тарааж, ардчилалд заналхийлж байна вэ?

LinkedIn-ийн хиймэл оюун ухааны судалгааг удирдаж байсан Дан Тункеланг хэлэхдээ: "Зөвлөмжүүд шийдвэр гаргахад нөлөөлөх хүч чадалтай болсон тэр мөчид тэд спам илгээгчид, луйварчид болон бусад хүмүүсийн бай болж хувирдаг."

Энэ бол Facebook зэрэг нийгмийн сүлжээний компаниудад тулгарч буй бэрхшээл юм. Facebook ашигладаг далд санал товшилт, үзэлт болон бусад хэмжигдэхүйц хэрэглэгчийн зан төлөвийг хянах. Үүнийг "зөвлөмжийн хөдөлгүүр" гэж тодорхойлсон зүйлийг зохион бүтээхэд ашигладаг бөгөөд энэ нь хэн, хэзээ ямар контентыг үзэхийг шийдэх эцсийн хүч чадалтай AI систем юм.

Facebook нь хэрэглэгчийн оролцоог нэмэгдүүлэхийн тулд санал болгох хөдөлгүүрээ оновчтой болгосон бөгөөд энэ нь Facebook платформ дээр наасан цаг хугацаагаар хэмжигддэг. Цаг хугацааг дээд зэргээр нэмэгдүүлэх нь санал болгож буй зүйлийн чанар, үнэн зөв байдал зэрэг бусад бүх хүчин зүйлээс чухал ач холбогдолтой.

Энэхүү систем нь нийгмийг хагалан бутаргах, улс төрийн сонгуулийг бужигнуулах зорилгоор Оросын тролльуудын бичсэн гарчиг байсан ч танин мэдэхүйн гажуудлыг ашиглан хэрэглэгчдийг татан оролцуулдаг сенсаци үүсгэсэн гарчгийг урамшуулах зорилготой юм.

Facebook AI-г хэрхэн ашигладаг

Фэйсбүүк хэрэглэгчдийнхээ юу харж, харьцахаа шийдэхийн тулд хиймэл оюун ухааныг хэрхэн ашигладаг талаар ойлголт дутмаг байдаг. Баталгаажуулах талбар гэж юу болохыг эхлээд ойлгох хэрэгтэй. Өнөөдөр сэтгэл судлал тайлбарладаг энэ нь:

Баталгаажуулалтын хазайлт нь өмнөх итгэл үнэмшил, үнэлэмжийг батлах эсвэл дэмжих байдлаар мэдээллийг хайх, тайлбарлах, дэмжих, эргэн санах хандлага юм.

Хэрэглэгчид мэдээлэл дээр дарах магадлал өндөр байдаг гэдгийг Facebook ойлгож байгаа бөгөөд энэ нь хүний ​​​​хувьд үнэн зөвийг баталгаажуулах хандлагатай байдаг. Энэ нь хуйвалдааны онолыг дэлгэрүүлэх, үнэн зөв эсэхээс үл хамааран хэрэглэгчдэд зөвхөн харахыг хүссэн зүйлээ халбагаар хооллодог цуурай танхимуудыг бий болгох аюултай жишгийг бий болгож байна.

A MIT-ийн судалгаа Твиттер дэх хуурамч мэдээ бодит мэдээллээс 6 дахин хурдан тархдаг болохыг харуулж чадсан.

Энэ нь твиттер, фэйсбүүк хоёулаа зэвсэглэж болно гэсэн үг. Твиттер нь хэн нэгэнд зориудаар хандах боломжийг олгодог дагах Нарийхан эсвэл өрөөсгөл үзэл бодолтой байдаг тул Facebook үүнийг нэг алхам урагшлуулж байна. Фэйсбүүк дэх хэрэглэгч одоогоор харж буй зүйлийг хянах эсвэл хэмжих ямар ч арга байхгүй бөгөөд үүнийг Facebook-ийн зөвлөгч систем, хэрэглэгчийн оролцоог хэрхэн хэмжиж, мөн энэ хэрэглэгчийн оролцоог хэрхэн оновчтой болгох зэргээр бүхэлд нь хянадаг.

Фэйсбүүк хэрэглэгчдийнхээ хүслийг тодорхойлж, урьдчилан таамаглахыг хичээдэг. Хэрэглэгчийн хараахан мэдээгүй байгаа мэдээ нь хэрэглэгчдэд хэр зэрэг таалагдах эсвэл дургүй байхыг Facebook тооцоолдог. Хэрэглэгчийн оролцоо алдагдахаас зайлсхийхийн тулд Facebook дараа нь оролцооны түвшинг бууруулж болзошгүй мэдээний хэсгүүдийг тойрч гарахын оронд баталгаажуулах гажуудлыг агуулсан мэдээ мэдээллээр хангах замаар хэрэглэгчийг татан оролцуулж, илүү олон товшилт, сэтгэгдэл, лайк даралтыг баталгаажуулдаг. хувьцаа.

Facebook мөн ижил төстэй санал бодолтой оролцогчид (найзууд) автоматаар тааруулахын тулд хэрэглэгчийн түүхэн үйлдэл, санал бодлыг автоматжуулсан хамтарсан шүүлтүүрийг ашигладаг. Facebook нь таны харахыг хүсч буй зүйлсийн тохиргоог автоматаар болон математикийн аргаар урьдчилан таамаглаж, эрэмбэлсэн туслах функцийг ашигладаг.

Энэ нь хэрэглэгчид туулайн нүхэнд унахад хүргэдэг бөгөөд тэд хуурамч мэдээнд баригдаж, тэдний өрөөсгөл ойлголтыг бэхжүүлсэн контентоор тэжээгддэг. Үзүүлсэн контент нь угаасаа таны товшсон зүйлд нөлөөлөх зорилготойгоор бүтээгдсэн. Эцсийн эцэст, хэрэв та Билл Гейтс вакцин ашиглан хүн амыг бичил схемд оруулахыг оролдсон гэж үзэж байгаа бол Facebook яагаад таныг платформоос салгахад хүргэж болзошгүй зөрчилтэй нотлох баримтуудыг өгөх ёстой гэж? Хэрэв та тодорхой улс төрийн нэр дэвшигчийг дэмжиж байгаа бол яагаад Facebook энэ нэр дэвшигчийн талаарх таны эерэг үзэл бодолтой зөрчилдөж болзошгүй мэдээг санал болгох ёстой гэж?

Энэ нь хангалтгүй байсан юм шиг Facebook бас "нийгмийн баталгаа" гэж нэрлэгддэг зүйлийг ашигладаг. Нийгмийн баталгаа бол олон түмний үйлдлийг ард түмэн дагадаг гэсэн ойлголт юм. Өөр олон хүмүүс тодорхой байдлаар биеэ авч явдаг тул энэ нь зөв зан үйл байх ёстой гэсэн санаа юм.

Facebook нь энэ нийгмийн баталгааг дуртай, сэтгэгдэл эсвэл хуваалцах хүрээнд өгдөг. Зөвхөн тодорхой найзууд нь мэдээний сувгийн зүйлийг харж болох тул (хэрэв тэд хэрэглэгчдийн мэдээллийн сувгийг тусгайлан хайгаагүй бол) нийгмийн баталгаа нь зөвхөн баталгаажуулах буруу ойлголтыг бэхжүүлэхэд үйлчилдэг.

Facebook бас ашигладаг шүүлтүүрийн бөмбөлөгүүд зөрчилдөөнтэй, зөрчилтэй, эсвэл сорилттой үзэл бодолд өртөхийг хязгаарлах.

Facebook зар

Сэжиггүй Facebook хэрэглэгчид байж магадгүй Өөрийн мэдэлгүй зар дээр дарах тэдэнд зар сурталчилгаа үзүүлж байна. Үүний шалтгаан нь маш энгийн, хэрэв зар байгаа бол зар сурталчилгааны татгалзлыг зөвхөн хамгийн түрүүнд үзүүлсэн хүн л харна. Хэрэв тэр хэрэглэгч зарыг хуваалцвал найзуудын жагсаалтад байгаа хүн бүр "хуваалцах"-ыг мэдээний мэдээллийн хэрэгслээр харах болно. Хэрэглэгчид тэр даруй хамгаалалтаа орхиж, зар гэж юу болох, тэдний мэдээллийн суваг дээр органик байдлаар юу гарч ирэхийг ялгаж чадахгүй.

Facebook-ийн хувьцаанууд

Харамсалтай нь байдал улам дорддог. Хэрэв хэрэглэгч нэгэн зэрэг контент хуваалцдаг 1000 найзтай бол зөвлөх систем нь ихэнхдээ нотлогдоогүй хуйвалдааны онолуудаас бүрддэг байсан ч ижил үзэл бодолтой цөөнхийн контентыг эрэмбэлэх болно. Дараа нь хэрэглэгч эдгээр мэдээний сувгийг хүн бүр харж байна гэсэн хуурмаг байдалд орох болно. Энэхүү мэдээний фэйдтэй холбогдсоноор эдгээр хэрэглэгчид бие биенийхээ нийгмийн баталгааг оновчтой болгож байна.

Хэрэв хэрэглэгч өөр хэрэглэгчийг төөрөгдүүлсэн эсвэл хуурамч зүйлийн талаар тодруулахыг оролдвол мэдээний сувгаар сэтгэгдэл бичих эсвэл холбогдох үйлдэл нь анхны хэрэглэгчдийн оролцооны хугацааг уртасгадаг. Энэхүү санал хүсэлтийн гогцоо нь Facebook-ийн хэрэглэгчдийг нэмэлт хуурамч мэдээгээр татахад хүргэдэг.

Энэ нь хэрэглэгчийг зөвхөн харж байгаа зүйлдээ итгэхэд сургадаг шүүлтүүрийн хөөс болох цуурай камер үүсгэдэг. Үнэн бол зүгээр л хуурмаг зүйл юм.

Асуудлын ноцтой байдал

10 сая гаруй хүн мэдээний сувгаар ажиллаж байна Ромын пап Франциск 2016 онд Трампыг сонгохыг дэмжсэн гэж мэдэгдэв. Үүнийг нотлох баримт байхгүй, зүгээр л Оросоос гарсан хуурамч мэдээ байсан ч энэ нь сүүлийн гурван сарын хугацаанд Facebook дээр хамгийн их хуваалцагдсан мэдээ байв. 2016 оны сонгууль хүртэл.

Энэхүү мэдээг өөрийгөө "Интернет судалгааны агентлаг" гэж нэрлэдэг Оросын троллийн ферм бүтээжээ. Яг энэ байгууллага нь Твиттер, фэйсбүүк сайтууд дээр хар арьст хүмүүсийн амь нас чухал гэдгийг гутаан доромжлох, Америкийн улс төрчдийн талаар худал мэдээлэл тараасан хуурамч мэдээг зэвсгээр сурталчлах, түгээх үүрэгтэй байв.

Тагнуулын сонгон шалгаруулах хорооноос гаргасан 85 хуудас тайлан Оросын идэвхтэй арга хэмжээнүүдийн кампанит ажил, хөндлөнгийн оролцооны талаар дэлгэрэнгүй тайлбарласан бөгөөд ихэнх нь хуваагдмал хуурамч мэдээ тараасан, 2016 оны АНУ-ын сонгуульд нөлөөлөх цорын ганц зорилготой суртал ухуулга юм.

2020 оны сонгууль дөхөж, асуудал улам хурцдаж байна. Холбооны мөрдөх товчооны зөвлөгөөний дараа 2020 оны XNUMX-р сард Facebook, Twitter олон нийтийн сүлжээний хаягуудыг хаасан Оросын төрийн суртал ухуулгын хүчин чармайлттай холбоотой PeaceData нэртэй мэдээллийн байгууллагын хувьд.

Харамсалтай нь дансыг хаах нь түр зуурын бөгөөд үр дүнгүй шийдэл юм. ОХУ-ын хаягууд нь ихэвчлэн эрчүүдэд чиглэсэн дур булаам профайлтай эмэгтэйчүүд, эсвэл байнгын нийтлэлийн түүхтэй хэрэглэгчийн акаунтыг хулгайлсан хүмүүсээс дургүйцдэг найзын хүсэлт хэлбэрээр байдаг. Эдгээр хулгайлагдсан дансууд нь суртал ухуулга эсвэл хуйвалдааны онолууд давамгайлах хүртлээ аажмаар улс төрийн албан тушаалд шилждэг.

Сэжиггүй хэрэглэгч найзынхаа бүртгэлд халдсаныг мэдээгүй байж магадгүй. Хэрэв тэр хэрэглэгч хуйвалдааны онолд өртөмтгий бол Оросын тролль гэдэг нь ихэвчлэн бот байдаг хуурамч мэдээний нийтлэлд оролцож болно, дараа нь лайк эсвэл сэтгэгдлийн хэлбэрээр нийгмийн нэмэлт нотолгоо өгдөг.

Технологи болон хиймэл оюун ухаан хэрхэн ажилладаг талаар хамгийн бага ойлгодог хүмүүс эмзэг бүлгийнхэн байдаг. Санал өгөх хамгийн өндөр магадлалтай хүн ам болох 65-аас дээш хүн ам ч хуурамч мэдээ тараах магадлал өндөр байна. Нью Йорк Таймс сонинд мэдээлсэн байна.

Судалгаанаас харахад 65 ба түүнээс дээш насны фэйсбүүк хэрэглэгчид 29 ба түүнээс доош насны насанд хүрэгчдийнхээс долоо дахин олон хуурамч мэдээллийн сайтаас нийтлэл нийтэлдэг байна. Дижитал медиа бичиг үсгийн мэдлэг дутмаг байгаа нь энэ насныхан бодит мэдээлэл, үнэн зөв байдалд үндэслээгүй, зөвхөн хэрэглэгчийн оролцоонд тулгуурласан мэдээний сувагт бэлтгэгдээгүй байна.

Муу жүжигчид бидний танин мэдэхүйн өрөөсгөл хандлагыг ашигладаг Facebook-ийн зөвлөмжийн системийг ашиглаж байна. Эдгээр байгууллагууд хуйвалдааны онол, суртал ухуулга түгээхийн тулд Facebook-ийн хиймэл оюун ухааныг урвуулан ашиглахыг оновчтой болгосон. Эхэндээ гэм зэмгүй мэт санагдаж болох хуйвалдааны онолыг ихэвчлэн цагаан арьстны давамгайлал, хэт барууны үндсэрхэг үзэл эсвэл юүлүүр болгон ашигладаг. QAnon Либерал педофилуудаас дэлхийг аврахыг оролдсон Трампыг хамарсан хачирхалтай хуйвалдааны онол нь бодит байдал дээр ямар ч үндэслэлгүй хуйвалдаан юм.

Дүгнэлт

Фэйсбүүк асуудал байгаа гэдгийг тодорхой мэдэж байгаа бөгөөд тэд олон нийтэд ил болсон стратеги зарлалаа Энэ нь Facebook-ийн Олон нийтийн стандартыг зөрчсөн контентыг устгахад чиглэгддэг. Асуудал нь дансуудыг устгах нь түр зуурын зогсоох арга хэмжээ бөгөөд дансуудыг роботууд бөөнөөр үүсгэх эсвэл хэрэглэгчийн бүртгэлийг хакердах үед үр дүнгүй байдаг. Энэ нь мөн буруу мэдээлэл тарааж байгаагаа мэддэггүй энгийн хэрэглэгчдийн дийлэнх хувийг хуваалцаж байгаа асуудлыг шийдэж чадахгүй.

Анхааруулах шошго нэмэх нь сошиал медиа аваргууд консерватив үзэлтнүүдийн эсрэг байр суурьтай байдаг гэсэн хуйвалдааны онолыг бататгахад л хангалттай. хуурамч мэдээнд өртөмтгий.

Энэхүү шийдэл нь зөвхөн хэрэглэгчийн оролцоог хэмждэг төдийгүй үнэнийг хүргэж, өөрийгөө танин мэдэхүйг сайжруулах замаар хэрэглэгчийн аз жаргалд зориулан оновчтой болгосон шинэ зөвлөгч байх ёстой.

Энэ хооронд Facebook тэр замаар явах ёстой Твиттер улс төрийн сурталчилгааг хориглох шийдвэр гаргасан.

Эцэст нь нэг чухал асуултыг асуух хэрэгтэй. Хүмүүс харж байгаа мэдээнээсээ сонголт хийхээ больсон бол энэ нь хэзээ зөвлөмж байхаа больж, хэзээ оюун ухааныг хянах вэ?

Зөвлөмж болгож буй унш:

Оросын идэвхтэй арга хэмжээнүүд кампанит ажил, хөндлөнгийн оролцоо – АНУ-ын Сенатын тагнуулын хорооноос гаргасан тайлан.

Ардчиллын төгсгөлийг урьдчилан таамагласан цочирдом бичиг - Жорж Вашингтоны их сургуулийн түүхийн мэдээллийн сүлжээг үндэслэгч Рик Шенкман.

Хөгшин хүмүүс Facebook дээр хуурамч мэдээ түгээдэг - Нью Йорк Таймс