5 Основних Стовпів для Забезпечення Відповідальної ІІ

Ми спостерігаємо приглушений рост системи ІІ/МЛ для обробки океанів даних, які генеруються в новій цифровій економіці. Однак з цим ростом виникає необхідність серйозно розглянути етичні та юридичні наслідки ІІ.

Когда ми доручаємо все більш складні та важливі завдання системам ІІ, таким як автоматична затвердження кредиту, наприклад, ми повинні бути абсолютно впевнені, що ці системи є відповідальними та надійними. Зниження упередженості в ІІ стало величезною областю уваги багатьох дослідників і має величезні етичні наслідки, як і кількість автономності, яку ми надаємо цим системам.

Концепція Відповідальної ІІ є важливою основою, яка може допомогти побудувати довіру до ваших розгортань ІІ. Є п’ять основних стовпів для Відповідальної ІІ. Ця стаття дослідить їх, щоб допомогти вам побудувати кращі системи.

1. Відтворюваність

Є старе прислів’я у світі розробки програмного забезпечення, яке говорить: «ей, воно працює на моїй машині» У МЛ та ІІ це прислів’я можна змінити на: «ей, воно працює на моїй вибірці даних». Це означає, що моделі машинного навчання часто можуть бути чорними скриньками. Багато тренувальних вибірок даних можуть мати вбудовані упередженості, такі як упередженість вибірки або підтверджувальна упередженість, які знижують точність кінцевого продукту.

Щоб допомогти зробити системи ІІ/МЛ більш відтворюваними, а отже точними та надійними, перший крок полягає у стандартизації трубопроводу МЛОпс. Навіть найрозумніші вчені-дані мають свої улюблені технології та бібліотеки, що означає, що інженерія функцій та результатні моделі не є однорідними від людини до людини. Використовуючи інструменти, такі як MLflow, ви можете стандартизувати трубопровід МЛОпс та зменшити ці відмінності.

Інший спосіб допомогти зробити системи ІІ/МЛ більш відтворюваними полягає у використанні того, що називають «золотими наборами даних». Це представницькі набори даних, які фактично діють як тести та валідация нових моделей до їхнього випуску у виробництво.

2. Прозорість

Як зазначалося раніше, багато моделей МЛ, зокрема нейронних мереж, є чорними скриньками. Щоб зробити їх більш відповідальними, нам потрібно зробити їх більш інтерпретованими. Для простих систем, таких як дерева рішень, досить легко зрозуміти, як і чому система прийняла певне рішення, але з підвищенням точності та складності системи ІІ її інтерпретованість часто знижується.

Є нова область досліджень, яка називається «пояснюваність», яка намагається принести прозорість навіть до складних систем ІІ, таких як нейронні мережі та глибоке навчання. Вони використовують проксі-моделі для копіювання продуктивності нейронної мережі, але вони також намагаються надати валідні пояснення тих функцій, які важливі.

Все це призводить до справедливості; ви хочете знати, чому було прийнято певне рішення, і зробити певним, що це рішення є справедливим. Ви також хочете забезпечити, щоб недопустимі функції не розглядалися, щоб упередженість не проникла у вашу модель.

3. Відповідальність

Можливо, найважливішим аспектом Відповідальної ІІ є відповідальність. Про це багато розмов, навіть у державному секторі, оскільки це стосується того, які політики будуть керувати результатами ІІ. Цей підхід, керований політикою, визначає, на якому етапі люди повинні бути у петлі.

Відповідальність вимагає надійних моніторів та метрик для допомоги політикам та контролю систем ІІ/МЛ. Відповідальність фактично поєднує відтворюваність та прозорість, але їй потрібен ефективний нагляд у вигляді комітетів з етики ІІ. Ці комітети можуть займатися рішеннями щодо політики, визначати, що важливо вимірювати, та проводити огляди справедливості.

4. Безпека

Безпека ІІ зосереджена на конфіденційності та цілісності даних. Коли системи обробляють дані, ви хочете, щоб вони були у безпечному середовищі. Ви хочете, щоб дані були зашифровані під час їхнього зберігання у вашій базі даних та під час їхнього передавання через трубопровід, але вразливості все ще існують під час їхнього введення у модель машинного навчання у вигляді простого тексту. Технології, такі як гомоморфне шифрування, розв’язують цю проблему, дозволяючи навчання моделей машинного навчання відбуватися у зашифрованому середовищі.

Інший аспект – це безпека самої моделі. Наприклад, атаки на інверсію моделі дозволяють хакерам вивчити дані, які були використані для побудови моделі. Також існують атаки на отруєння моделі, які вводять погані дані у модель під час її навчання та повністю знижують її продуктивність. Тестування вашої моделі на атаки, подібні до цих, може зберегти її безпеку.

5. Приватність

Google та OpenMined – дві організації, які нещодавно пріоритизували приватність ІІ, а OpenMined провела конференцію з цієї теми. З новими регуляціями, такими як GDPR та CCPA, та потенційно майбутніми регуляціями, приватність буде відігравати центральну роль у тому, як ми тренуємо моделі машинного навчання.

Один із способів забезпечення того, що ви обробляєте дані клієнтів у спосіб, що усвідомлює приватність, полягає у використанні федерального навчання. Цей децентралізований метод машинного навчання тренує різні моделі локально, а потім агрегує кожну модель у центральному хабі, зберігаючи дані у безпеці, безпеці та приватності. Інший метод – введення статистичного шуму, щоб окремі значення клієнтів не витікали. Це дозволяє вам працювати з агрегатом, щоб дані окремої особи були цілі та не доступні алгоритму.

Тримання ІІ Відповідальною

 У кінцевому підсумку, тримання ІІ відповідальною залежить від кожної організації, яка проектує системи ІІ/МЛ. Наслідуючи технології всередині кожної з цих п’яти сторін Відповідальної ІІ, ви можете не тільки користуватися силою штучного інтелекту, але й робити це у спосіб, який є надійним та прямим, що заспокоїть вашу організацію, клієнтів та регуляторів.