Дослідники штучного інтелекту пропонують встановлювати винагороди за упередженість штучного інтелекту, щоб зробити штучний інтелект більш етичним

Команда дослідників штучного інтелекту з компаній та лабораторій розробки штучного інтелекту, таких як Intel, Google Brain та OpenAI, рекомендувала використовувати винагороди, щоб забезпечити етичне використання штучного інтелекту. Команда дослідників недавно опублікувала ряд пропозицій щодо етичного використання штучного інтелекту, і серед них була пропозиція, що винагорода людям за виявлення упередженості в штучному інтелекті могла б бути ефективним способом зробити штучний інтелект справедливішим.

Як повідомляє VentureBeat, дослідники з різних компаній у США та Європі об’єдналися, щоб створити набір етичних керівних принципів для розробки штучного інтелекту, а також пропозиції щодо того, як дотримуватися цих принципів. Однією з пропозицій, яку зробили дослідники, було запропонувати винагороди розробникам, які виявляють упередженість у програмах штучного інтелекту. Ця пропозиція була зроблена у статті під назвою “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

Як приклади упередженості, які команда дослідників сподівається вирішити, упереджені дані та алгоритми були виявлені майже у всіх галузях, від програм медичного забезпечення до систем розпізнавання облич, які використовуються правоохоронними органами. Одним із випадків упередженості є інструмент оцінки ризику PATTERN, який недавно використовувався Міністерством юстиції США для визначення тих в’язнів, яких можна було звільнити, коли скорочувалися розміри в’язниць у відповідь на пандемію коронавірусу.

Практика винагороди розробникам за виявлення нежаданого поведінки в комп’ютерних програмах є давньою, але це, можливо, перший випадок, коли рада з етики штучного інтелекту серйозно просунула цю ідею як варіант боротьби з упередженістю штучного інтелекту. Хоча малоймовірно, що існує достатньо розробників штучного інтелекту, щоб виявити достатньо упередженості, щоб гарантувати етичність штучного інтелекту, це все одно допоможе компаніям зменшити загальну упередженість і зрозуміти, які види упередженості проникають у їхні системи штучного інтелекту.

Автори статті пояснили, що концепція винагороди за помилки може бути розширена на штучний інтелект за допомогою винагороди за упередженість та безпеку, і що належне використання цієї техніки може привести до кращої документації наборів даних та моделей. Ця документація буде краще відображати обмеження як моделі, так і даних. Дослідники навіть зазначили, що ту ж саму ідею можна застосувати до інших властивостей штучного інтелекту, таких як інтерпретація, безпека та захист приватності.

Чим більше відбувається обговорення навколо етичних принципів штучного інтелекту, тим більше людей звертає увагу на те, що самі принципи недостатньо, і що потрібно вживати дії для забезпечення етичного використання штучного інтелекту. Автори статті зазначили, що “існуючі регуляції та норми в галузі та академії недостатні для забезпечення відповідальної розробки штучного інтелекту”. Засновник Google Brain та лідер галузі штучного інтелекту Ендрю Нг також висловив думку, що керівні принципи самі по собі не мають можливості гарантувати, що штучний інтелект використовується відповідально та справедливо, зазначивши, що багато з них потребують більш явних та дієвих ідей.

Рекомендація команди дослідників щодо полювання за винагородами за упередженість є спробою перейти від етичних принципів до галузі етичних дій. Команда дослідників також зробила ряд інших рекомендацій, які можуть спонукати етичні дії у сфері штучного інтелекту.

Команда дослідників зробила ряд інших рекомендацій, яких можуть слідувати компанії, щоб зробити своє використання штучного інтелекту більш етичним. Вони пропонують створити централізовану базу даних інцидентів штучного інтелекту та поділитися нею з ширшою спільнотою штучного інтелекту. Аналогічно, дослідники пропонують створити аудитний слід та зберегти інформацію про створення та розгортання критичних до безпеки застосунків на платформах штучного інтелекту.

Для збереження приватності людей команда дослідників пропонує використовувати техніки, орієнтовані на приватність, такі як зашифровані зв’язки, федеративне навчання та диференціальна приватність. Окрім цього, команда дослідників пропонує зробити відкриті альтернативи широко доступними та піддати комерційні моделі штучного інтелекту серйозному розгляду. Нарешті, команда дослідників пропонує збільшити державне фінансування, щоб академічні дослідники могли перевірити заяви про продуктивність апаратного забезпечення.