Опасности од АИ четбота – и како им се супротставити

Некада се сматрало само аутоматизованим програмима за разговор, АИ цхатботови сада могу да уче и воде разговоре који се готово не разликују од људи. Међутим, опасности од АИ цхатботова су једнако различите.

Они могу да варирају од људи који их злоупотребљавају до стварних ризика за сајбер безбедност. Како се људи све више ослањају на АИ технологију, познавање потенцијалних последица коришћења ових програма је од суштинског значаја. Али да ли су ботови опасни?

1. Пристрасност и дискриминација

Једна од највећих опасности АИ цхатбота је њихова склоност ка штетним пристрасностима. Пошто АИ повлачи везе између тачака података које људи често пропуштају, она може да уочи суптилне, имплицитне предрасуде у својим подацима о обуци како би се научила да буде дискриминаторна. Као резултат тога, цхат ботови могу брзо да науче да избацују расистички, сексистички или на други начин дискриминаторски садржај, чак и ако ништа тако екстремно није било у њиховим подацима о обуци.

Најбољи пример је Амазонов укинути бот за запошљавање. У 2018. испоставило се да Амазон је одустао од АИ пројекта требало је да унапред процени биографије кандидата јер је кажњавало пријаве жена. Пошто је већина животописа на којима је бот обучавао била мушка, сам се научио да су мушки кандидати пожељнији, чак и ако подаци о обуци то експлицитно не говоре.

Чет-ботови који користе интернет садржај да науче себе како да комуницирају природно имају тенденцију да покажу још екстремније пристрасности. У 2016. години, Мицрософт је дебитовао као цхатбот по имену Таи који је научио да опонаша објаве на друштвеним мрежама. У року од неколико сати, то почео да твитује веома увредљив садржај, што је довело до тога да Мицрософт ускоро суспендује налог.

Ако компаније не буду пажљиве када праве и постављају ове ботове, они могу случајно довести до сличних ситуација. Чет-ботови могу малтретирати купце или ширити штетан пристрасни садржај који би требало да спрече.

2. Ризици сајбер безбедности

Опасности од АИ цхатбот технологије такође могу представљати директнију претњу сајбер безбедности за људе и предузећа. Један од најплоднијих облика сајбер напада су пхисхинг и висхинг преваре. Ово укључује сајбер нападачи који имитирају организације од поверења као што су банке или државни органи.

Преваре за „пецање“ обично функционишу путем е-поште и текстуалних порука — кликом на везу дозвољава малверу да уђе у рачунарски систем. Када уђе, вирус може учинити било шта, од крађе личних података до задржавања система ради откупнине.

Стопа пхисхинг напада је у сталном порасту током и након пандемије ЦОВИД-19. Агенција за сајбер безбедност и безбедност инфраструктуре пронађено 84% појединаца одговорили на пхисхинг поруке са осетљивим информацијама или кликнули на везу.

Пхисхерс користе АИ цхатбот технологију да аутоматизују тражење жртава, убеде их да кликну на линкове и одустану од личних података. Много финансијских институција — као што су банке — користе чет-ботове за поједностављење корисничког искуства.

Цхатбот пхисхерс могу да опонашају исте аутоматизоване упите које банке користе да преваре жртве. Они такође могу аутоматски бирати бројеве телефона или контактирати жртве директно на интерактивним платформама за ћаскање.

3. Тровање подацима

Тровање подацима је новозамишљени сајбер напад који директно циља на вештачку интелигенцију. АИ технологија учи из скупова података и користи те информације за обављање задатака. Ово важи за све АИ програме, без обзира на њихову намену или функције.

За вештачку интелигенцију цхатбот-а то значи учење вишеструких одговора на могућа питања која им корисници могу дати. Међутим, ово је такође једна од опасности АИ.

Ови скупови података су често алати и ресурси отвореног кода доступни свима. Иако компаније са вештачком интелигенцијом обично чувају строго чувану тајну својих извора података, сајбер нападачи могу да одреде које од њих користе и манипулишу подацима.

Сајбер нападачи могу пронаћи начине да манипулисати скуповима података користи се за обуку АИ, омогућавајући им да манипулишу својим одлукама и одговорима. АИ ће користити информације из измењених података и изводити радње које нападачи желе.

На пример, један од најчешће коришћених извора за скупове података су Вики ресурси као што је Википедија. Иако подаци не потичу из чланка на Википедији уживо, они потичу из снимака података направљених у одређено време. Хакери могу да пронађу начин да измене податке у корист њих.

У случају вештачке интелигенције цхатбот-а, хакери могу да покваре скупове података који се користе за обуку чет-бота који раде за медицинске или финансијске институције. Они могу да манипулишу програмима за ћаскање како би клијентима дали лажне информације које би их могле навести да кликну на линк који садржи малвер или лажну веб локацију. Једном када АИ почне да извлачи затроване податке, тешко га је открити и може довести до значајног нарушавања сајбер безбедности која дуго остаје непримећена.

Како се позабавити опасностима АИ четботова

Ови ризици су забрињавајући, али не значе да су ботови сами по себи опасни. Уместо тога, требало би да им приступите опрезно и размотрите ове опасности када правите и користите цхатботове.

Кључ за спречавање пристрасности АИ је потрага за њом током тренинга. Обавезно га обучите на различитим скуповима података и посебно га програмирајте како бисте избегли факторе као што су раса, пол или сексуална оријентација при доношењу одлука. Такође је најбоље имати разноврстан тим научника за податке који ће прегледати унутрашње функционисање цхатбота и осигурати да не показују никакве пристрасности, колико год суптилне.

Најбоља одбрана од пхисхинга је обука. Обучите све запослене да уоче уобичајени знаци покушаја крађе идентитета тако да не наседају на ове нападе. Ширење свести потрошача о овом питању ће такође помоћи.

Тровање података можете спречити ограничавањем приступа подацима о обуци чет-бота. Само људи којима је потребан приступ овим подацима да би исправно обављали свој посао требало би да имају овлашћење — концепт који се назива принцип најмање привилегија. Након имплементације ових ограничења, користите снажне мере верификације као што су вишефакторска аутентификација или биометрија да бисте спречили ризике од сајбер криминалаца хаковања овлашћеног налога.

Будите опрезни против опасности ослањања на вештачку интелигенцију

Вештачка интелигенција је заиста чудесна технологија са скоро бескрајним применама. Међутим, опасности од вештачке интелигенције могу бити нејасне. Да ли су ботови опасни? Не инхерентно, али сајбер криминалци могу да их користе на различите ометајуће начине. На корисницима је да одлуче које су примене ове новооткривене технологије.