Истражувачите почнуваат да тренираат вештачка интелигенција за борба против говорот на омраза на Интернет

Лажните вести и говорот на омраза на интернет стануваат не секојдневен, туку од минута во минута проблем на интернет. IkigaiLab известува дека Фејсбук и Твитер неодамна морале да затворат повеќе од 1.5 милијарди и 70 милиони износи, само за да се обидат барем да го спречат ширењето на лажни вести и говорот на омраза низ светот.

Сепак, во моментов, таквата задача бара огромна човечка моќ и речиси постојано работно време за да се земе само еден врв од сантата мраз на говорот на омраза. За да се реши проблемот, истражувачите во бројни лаборатории почнуваат да тренираат вештачка интелигенција (ВИ) за да помогнат во оваа огромна задача.

Икигаи го наведува Розета систем кој Facebook го користи за да ја разбере автентичноста на вестите, сликите или другата содржина што е поставена на тој социјален медиум. Како што е објаснето, она што го прави Розета е скенирајте го „зборот, сликата, јазикот, фонтот, датумот на објавата меѓу другите променливи и обидете се да видите дали информациите што се презентираат се вистинити или не“. Откако системот ќе ги собере информациите и имајќи предвид дека вештачката интелигенција сè уште не е целосно „вешта за разбирање на инсинуации, референци, забелешки и контекстите во кои е објавена содржината“, човечки модератори преземете го и насочете го системот за вештачка интелигенција да открие говор на омраза и лажни вести.

Да се ​​обиде дополнително да ја развие способноста на системите за вештачка интелигенција да можат да ги покријат сите можни нијанси  кои го карактеризираат говорот на омраза, тим на истражувачи од Универзитетот во Санта Барбара и Интел, како што известува TheNextWeb (TNW),зеде илјадници разговори од најлудите заедници на Редит и Габ и ги искористи за развој и обука на вештачката интелигенција за борба против говорот на омраза“.

Според нивниот извештај, за да го стори тоа, заедничката група на истражувачи создаде специфична база на податоци  со „илјадници разговори специјално курирани за да се осигураат дека ќе бидат преполни со говор на омраза. Џастин Кафиер од Вокс.

Истражувачите завршија со собирање „повеќе од 22,000 коментари од Reddit и над 33,000 од Gab. Откриле дека двете локации покажуваат слични популарни клучни зборови за омраза, но дистрибуциите се многу различни.

Тие истакнаа дека поради овие разлики, општо земено, на социјалните медиуми им е многу тешко да интервенираат во реално време бидејќи протокот на говор на омраза е толку висок што би барало безброј реални лица да го следат.

За да се справи со проблемот, истражувачкиот тим започна да ја обучува вештачката интелигенција да интервенира. Нивната првична база на податоци беше испратена до работниците на Амазон Турк за да бидат означени. Откако ги идентификуваа поединечните случаи на говор на омраза, работниците дојдоа до фрази дека ќе се користи вештачка интелигенција “да ги одврати корисниците од објавување сличен говор на омраза во иднина“.

Врз основа на тоа, тимот „ја водеше оваа база на податоци и нејзината база на интервенции преку различни системи за машинско учење и обработка на природен јазик и создаде еден вид прототип за онлајн интервентна вештачка интелигенција за говор на омраза“.

Произведените резултати беа одлични, но бидејќи развојот е сè уште во рана фаза, системот сè уште не е подготвен за активно користење. Како што се објаснува, „ттој систем, теоретски, треба да открие говор на омраза и веднаш да испрати порака до постерот со што ќе им даде до знаење зошто не треба да објавуваат работи кои очигледно претставуваат говор на омраза. Ова се потпира на повеќе од само откривање на клучни зборови – за да може вештачката интелигенција да работи, треба да го разбере правилно контекстот“.