Стартап Unbiased Аims To Increase Transparency In Data Through Blockchain, Fight Data Bias

Ефекти даних偏差 в штучному інтелекті добре задокументовані, і оскільки штучний інтелект та алгоритми машинного навчання проникають все глибше в кожен куток суспільства, компанії штучного інтелекту шукають нові способи забезпечення того, щоб алгоритми, які вони розробляють, не успадкували людські упередження. Одним з нових гравців у сфері штучного інтелекту та машинного навчання, спрямованих на зменшення даних偏差, є прозоро названий стартап Unbiased. Unbiased запустив новий ринок даних на активній блокчейн-платформі Telos, сподіваючись надати клієнтам децентралізовані, приватні інструменти та програми для науки про дані та штучного інтелекту.

Глобальний ринок штучного інтелекту передбачається продовжувати свій швидкий рост протягом наступного десятиліття, досягнувши близько 266 мільярдів доларів до 2027 року. У найближчі чотири роки світові витрати на системи штучного інтелекту та пов’язані з ними компоненти повинні подвоїтися, досягнувши приблизно 110 мільярдів доларів до 2024 року згідно з даними IDC. Швидке впровадження алгоритмів штучного інтелекту в усе більше галузей призвело до зростаючих побоювань щодо прозорості, приватності, справедливості та представництва систем штучного інтелекту.

Зменшення упередженості через прозорість

Згідно з недавнім звітом Інституту досліджень CapGemini, озаглавленим “Штучний інтелект та етична дилема: Як організації можуть будувати етично надійні системи штучного інтелекту та здобувати довіру”, етичне використання штучного інтелекту стало великою проблемою для лідерів ІТ, причому більшість лідерів ІТ зараз висловлюють побоювання щодо потенційного неправильного використання систем штучного інтелекту. Приблизно 9 з 10 організацій ІТ заявили, що вони знають про至少 один випадок, коли виникли етичні проблеми через застосування системи штучного інтелекту. Приблизно дві третини виконавців ІТ сказали, що вони знають про потенційні дискримінаційні упередження в системах штучного інтелекту, і приблизно половина всіх організацій ІТ має етичну хартію, спрямовану на розвиток штучного інтелекту, на відміну від лише 5% організацій ІТ у 2019 році.

Хоча дослідження того, як алгоритми штучного інтелекту можна зробити справедливішими, продовжується, багато етиків та спеціалістів штучного інтелекту зосереджують увагу на даних, використаних для навчання штучного інтелекту. Коли алгоритми штучного інтелекту стають усе більш поширеними та стандартизованими, увагу зосереджують на отриманні даних, необхідних для навчання моделей.

Є багато способів зменшити дані偏差 в алгоритмах штучного інтелекту. Деякі методи включають внесення змін до моделі або до навчальних даних під час навчання моделі. Ці методи є “впровадження корекції упередженості” техніками. Це включає використання технік адверсарного навчання, де деяка чутлива особливість/змінна (наприклад, стать чи раса) контролюється шляхом покарання можливості моделі робити передбачення, що включають цю особливість. Це робиться одночасно з спробою мінімізувати помилку моделі. Натомість, зосередження уваги на видаленні упередженості з набору даних є технікою перед обробкою. Навчальні дані для моделей машинного навчання часто маркуються вручну, і застосування блокчейну може допомогти компаніям відстежувати процес маркування їхніх даних, щоб забезпечити, що їхні набори даних є представницькими.

Unbiased звертається до блокчейну, щоб створити культуру прозорості в наборах даних та ринках даних. Більшість інструментів, використаних для генерації наборів даних для систем штучного інтелекту та алгоритмів машинного навчання, є централізованими, і через це вони часто缺ують прозорості. Unbiased має на меті використати природу блокчейну для реєстрації дій, що відбуваються в їхньому ринкові даних, які включають обмін даними, завдання та проекти, а також внески працівників. Метою є те, щоб децентралізована природа блокчейну Telos забезпечила прозорість, дозволяючи користувачам отримувати критичну інформацію щодо природи їхньої науки про дані. Користувачі зможуть перевірити свої набори даних та визначити, чи були анотації виконані з урахуванням певних етичних принципів, таких як справедливість та приватність.

За словами головного архітектора блокчейну Telos, перетин штучного інтелекту/машинного навчання з блокчейном може привести до трансформаційних нових методів роботи з даними. Як цитувалося в AIthority:

«Unbiased покаже цим галузям, як реєстрація даних на високопродуктивному, безкоштовному блокчейні, such as Telos, може додати прозорість, незмінність, мікроплатежі та управління до їхніх продуктів на користь усіх зацікавлених сторін».

Поза прозорістю навчальних даних деякі вчені та дослідники виступили за більшу прозорість алгоритмів, моделей та коду. Міжнародна команда вчених закликала наукові журнали дотримуватися вищої прозорості стандартів для дослідників комп’ютерних наук. Дослідники стверджували, що більша прозорість щодо моделей штучного інтелекту та коду не тільки допоможе в репродуктивності досліджень, але також полегшить співробітництво між дослідницькими групами. Багато наукових досліджень не можуть бути відтворені, і це ще більша проблема для досліджень, орієнтованих на штучний інтелект, які залишають критичні матеріали. В майбутньому блокчейн навіть може бути використаний для покращення відстеження та оцінки досліджень у сфері штучного інтелекту.