Дослідники штучного інтелекту пропонують встановлювати нагороди за упередженість штучного інтелекту, щоб зробити його більш етичним

Група дослідників штучного інтелекту з компаній та лабораторій розробки штучного інтелекту, таких як Intel (INTC ), Google (GOOGL ) Brain та OpenAI, рекомендувала використовувати нагороди для забезпечення етичного використання штучного інтелекту. Група дослідників недавно опублікувала ряд пропозицій щодо етичного використання штучного інтелекту, і серед них була пропозиція, що винагородження людей за виявлення упередженості в штучному інтелекті може бути ефективним способом зробити штучний інтелект справедливішим.

Як повідомляє VentureBeat, дослідники з різних компаній у США та Європі об’єдналися, щоб створити набір етичних керівних принципів для розробки штучного інтелекту, а також пропозиції щодо того, як дотримуватися цих принципів. Однією з пропозицій, яку зробили дослідники, було винагородження розробників, які виявляють упередженість у програмах штучного інтелекту. Ця пропозиція була зроблена у статті під назвою “До довірчого розвитку штучного інтелекту: механізми для підтримки перевірених заяв“.

Як приклади упередженості, яку команда дослідників сподівається вирішити, упереджені дані та алгоритми були виявлені майже у всіх сферах, від програм медичного призначення до систем розпізнавання облич, які використовуються правоохоронними органами. Одним із випадків упередженості є інструмент оцінки ризику PATTERN, який недавно був використаний Міністерством юстиції США для визначення тих в’язнів, яких можна було відпустити, коли зменшувалися розміри в’язниць у відповідь на пандемію коронавірусу.

Практика винагородження розробників за виявлення нежаданих поведінок у комп’ютерних програмах є давньою, але це, можливо, перший випадок, коли рада з етики штучного інтелекту серйозно розглядає цю ідею як варіант боротьби з упередженістю штучного інтелекту. Хоча малоймовірно, що існує достатня кількість розробників штучного інтелекту, щоб знайти достатню кількість упередженостей, щоб гарантувати етичність штучного інтелекту, це все одно допоможе компаніям зменшити загальну кількість упередженостей і зрозуміти, які види упередженостей проникають у їхні системи штучного інтелекту.

Автори статті пояснили, що концепція баг-баунті може бути розширена на штучний інтелект за допомогою використання нагород за упередженість і безпеку, і що правильне використання цієї техніки може привести до кращої документації наборів даних і моделей. Ця документація буде краще відображати обмеження як моделі, так і даних. Дослідники навіть зазначили, що ту ж ідею можна застосувати до інших властивостей штучного інтелекту, таких як інтерпретація, безпека та захист приватності.

Чим більше відбувається обговорення щодо етичних принципів штучного інтелекту, тим більше людей звертають увагу на те, що самі принципи недостатньо, і що необхідно вживати заходів для забезпечення етичного використання штучного інтелекту. Автори статті зазначили, що “існуючі регуляції та норми в промисловості та академії недостатні для забезпечення відповідальної розробки штучного інтелекту”. Засновник Google Brain та лідер галузі штучного інтелекту Ендрю Нг також висловив думку, що керівні принципи самі по собі не здатні гарантувати, що штучний інтелект використовується відповідально та справедливо, сказавши, що багатьом з них потрібно бути більш явними та мати дієві ідеї.

Рекомендація команди дослідників щодо полювання на упередженість є спробою перейти від етичних принципів до області етичних дій. Команда дослідників також зробила ряд інших рекомендацій, які можуть спонукати етичні дії у сфері штучного інтелекту.

Команда дослідників зробила ряд інших рекомендацій, яких можуть слідувати компанії, щоб зробити свій розвиток штучного інтелекту більш етичним. Вони пропонують створити централізовану базу даних інцидентів штучного інтелекту та поділитися нею з ширшою спільнотою штучного інтелекту. Аналогічно, дослідники пропонують створити аудиторський слід і зберігати інформацію про створення та розгортання безпечних програм штучного інтелекту.

Для збереження приватності людей команда дослідників пропонує використовувати техніки, орієнтовані на приватність, такі як зашифровані зв’язки, федеративне навчання та диференційне приватність. Крім того, команда дослідників пропонує зробити відкриті альтернативи широко доступними та піддати комерційні моделі штучного інтелекту серйозному контролю. Нарешті, команда дослідників пропонує збільшити державне фінансування, щоб академічні дослідники могли перевірити заяви про продуктивність апаратного забезпечення.