Стартапи створюють інструменти для моніторингу штучного інтелекту та просування етичного використання штучного інтелекту

За останні рік увагу все більше прикуто до забезпечення того, щоб штучний інтелект використовувався етичним чином. Google (GOOGL ) і Microsoft (MSFT ) недавно попередили інвесторів про те, що неправильне використання алгоритмів штучного інтелекту або погано спроєктовані алгоритми штучного інтелекту можуть становити етичні та юридичні ризики. Тим часом штат Каліфорнія刚 прийняв законопроєкт, який забороняє використання технології розпізнавання облич у правоохоронних органах Каліфорнії.

Нещодавно стартапи, такі як Arthur, намагаються створити інструменти, які допоможуть інженерам штучного інтелекту кількісно та якісно оцінювати роботу своїх моделей машинного навчання. За повідомленням Wired, Arthur намагається надати розробникам штучного інтелекту інструментарій, який полегшить їм виявлення проблем при створенні фінансових застосунків, таких як виявлення упередженості в інвестиційних чи кредитних рішеннях.

Зусилля Arthur спрямовані на вирішення проблеми “чорної скриньки” штучного інтелекту. Проблема “чорної скриньки” штучного інтелекту полягає в тому, що на відміну від традиційного коду, який можна легко інтерпретувати тим, хто знає, як його читати, системи машинного навчання відображають особливості на поведінку без розкриття причин, чому ці поведінки обрані/як особливості інтерпретуються. Інакше кажучи, в системі “чорної скриньки” точна реалізація алгоритму є не透SPARENTною.

Системи машинного навчання працюють шляхом видобування закономірностей з вхідних даних та висновків про ці закономірності. Це досягається шляхом того, що комп’ютер сам пише свій код, маніпулюючи певними математичними функціями. Щоб вирішити цю проблему, дослідникам та інженерам потрібні інструменти, які полегшать спостереження та аналіз поведінки програмного забезпечення машинного навчання. Стартапи, такі як Arthur, визнають складність вирішення цієї проблеми та не претендують на оптимальні рішення, але сподіваються зробити прогрес в цій галузі та полегшити відкриття “чорної скриньки”. Сподівається, що якщо системи штучного інтелекту можна буде проаналізувати легше, то буде легше виправляти проблеми, такі як упередженість.

Великі компанії, такі як Facebook (META ), вже мають деякі інструменти для аналізу внутрішньої роботи систем машинного навчання. Наприклад, Facebook має інструмент під назвою Fairness Flow, який призначений для забезпечення того, щоб реклама, яка пропонує вакансії людям, націлювалася на людей з різних背景ів. Однак ймовірно, що великі команди штучного інтелекту не будуть інвестувати час у створення таких інструментів, і тому існує бізнес-опортунітет для компаній, які хочуть створити інструменти моніторингу для використання компаніями штучного інтелекту.

Arthur зосереджений на створенні інструментів, які дозволяють компаніям краще підтримувати та моніторити системи штучного інтелекту після їх розгортання. Інструменти Arthur призначені для того, щоб компанії могли бачити, як їх система поведінки змінюється з часом, що теоретично дозволить компаніям виявляти потенційні прояви упередженості. Якщо програмне забезпечення компанії для рекомендації кредитів починає виключати певні групи клієнтів, може бути встановлений прапор, який вказує на те, що система потребує перегляду, щоб забезпечити, що вона не дискримінує клієнтів на основі чутливих атрибутів, таких як раса чи стать.

Однак Arthur не єдина компанія, яка створює інструменти, які дозволяють компаніям штучного інтелекту переглядати роботу своїх алгоритмів. Багато стартапів інвестують у створення інструментів для боротьби з упередженістю та забезпечення того, щоб алгоритми штучного інтелекту використовувалися етичним чином. Weights & Biases – це інший стартап, який створює інструменти для допомоги інженерам машинного навчання у виявленні потенційних проблем з їхньою мережею. Toyota використовував інструменти, створені Weights & Biases, для моніторингу своїх пристроїв машинного навчання під час навчання. Тим часом стартап Fiddler працює над створенням іншого набору інструментів моніторингу штучного інтелекту. IBM навіть створила свій власний сервіс моніторингу під назвою OpenScale.

Ліз О’Салліван, одна з співзасновників Arthur, пояснила, що інтерес до створення інструментів для допомоги у вирішенні проблеми “чорної скриньки” спровокований зростаючою свідомістю щодо потужності штучного інтелекту.

“Люди починають розуміти, наскільки потужними можуть бути ці системи, і що їм потрібно скористатися їхніми перевагами таким чином, щоб це було відповідальним”, – сказала О’Салліван.