Дослідники вважають, що штучний інтелект можна використовувати для захисту приватності людей

Два професори інформаційних наук недавно опублікували статтю в The Conversation, в якій стверджують, що штучний інтелект може допомогти зберегти приватність людей, усунувши деякі проблеми, які він створив.

Чжийуань Чен і Арья Ганґопадхаяй вважають, що алгоритми штучного інтелекту можна використовувати для захисту приватності людей, протидіючи деяким із багатьох проблем приватності, які створили інші застосування штучного інтелекту. Чен і Ганґопадхаяй визнають, що багато продуктів, які ми використовуємо для зручності, не працювали б без доступу до великих обсягів даних, що на перший погляд здається суперечним спробам зберегти приватність. Крім того, оскільки штучний інтелект поширюється на все більше галузей і застосунків, буде зібрано і збережено ще більше даних у базах даних, що робить їх більш привабливими для зловмисників. Однак Чен і Ганґопадхаяй вважають, що якщо штучний інтелект використовується правильно, він може допомогти пом’якшити ці проблеми.

Чен і Ганґопадхаяй пояснюють у своїй статті, що ризики приватності, пов’язані зі штучним інтелектом, походять принаймні з двох різних джерел. Першим джерелом є великі набори даних, зібрані для навчання моделей нейронних мереж, а другим джерелом загрози приватності є самі моделі. Дані можуть потенційно “витікати” з цих моделей, а поведінка моделей може виказувати подробиці про дані, використані для їх навчання.

Глибокі нейронні мережі складаються з декількох шарів нейронів, кожний з яких з’єднаний з сусідніми шарами. Індивідуальні нейрони, а також зв’язки між ними, кодують різні частини навчальних даних. Модель може виявитися занадто хорошою у запам’ятовуванні закономірностей навчальних даних, навіть якщо модель не переобучена. Сліди навчальних даних існують у мережі, і зловмисники можуть спробувати визначити аспекти навчальних даних, як це було виявлено під час одного зі студій Корнелльського університету . Дослідники Корнелльського університету виявили, що алгоритми розпізнавання облич можуть бути використані атакувальниками для розкриття тих зображень, а отже тих людей, які були використані для навчання моделі розпізнавання облич. Дослідники Корнелльського університету також виявили, що навіть якщо атакувальник не має доступу до оригінальної моделі, використаної для навчання програми, атакувальник все одно може спробувати визначити, чи була певна людина включена до навчальних даних, просто використовуючи моделі, які були навчені на дуже схожих даних.

Деякі моделі штучного інтелекту зараз використовуються для захисту проти порушення даних і спроб зберегти приватність людей. Моделі штучного інтелекту часто використовуються для виявлення спроб хакерів проникнути в систему, розпізнавши закономірності поведінки, які хакери використовують для обходу методів безпеки. Однак хакери часто змінюють свою поведінку, щоб обманути системи штучного інтелекту, які розпізнають закономірності.

Нові методи навчання і розробки штучного інтелекту спрямовані на те, щоб зробити моделі штучного інтелекту і застосунки менш вразливими до методів хакерів і тактик уникання безпеки. Протидіяльне навчання намагається навчити моделі штучного інтелекту на симуляціях шкідливої або шкідливої діяльності, роблячи модель більш стійкою до експлуатації, звідси й “протидіяльне” у назві. За словами Чена і Ганґопадхаяя, їх дослідження виявили методи боротьби з шкідливими програмами, призначеними для крадіжки приватної інформації людей. Два дослідники пояснили, що одним із найефективніших методів боротьби з шкідливими програмами було введення невизначеності у модель. Метою є зробити складніше для зловмисників передбачити, як модель поведеться щодо будь-якого входу.

Інші методи використання штучного інтелекту для захисту приватності включають мінімалізацію впливу даних під час створення і навчання моделі, а також дослідження для виявлення уразливостей мережі. Коли мова йде про збереження приватності даних, федеративне навчання може допомогти захистити приватність чутливих даних, оскільки воно дозволяє навчати модель без виходу навчальних даних з місцевих пристроїв, які містять дані, ізолюючи дані та більшу частину параметрів моделі від шпигунства.

Урешті-решт, Чен і Ганґопадхаяй вважають, що хоча поширення штучного інтелекту створило нові загрози приватності людей, штучний інтелект також може допомогти захистити приватність, якщо його проектують із піклуванням і увагою.