Міжнародні вчені закликають до більшої прозорості в дослідженнях штучного інтелекту

Група міжнародних вчених з різних установ, включаючи Центр раку принцеси Маргарет, Університет Торонто, Стенфордський університет, Джонс Хопкінс, Гарвардську школу громадського здоров’я та Массачусетський технологічний інститут, закликають до більшої прозорості в дослідженнях штучного інтелекту (ШІ). Головним мотивом цього заклику є звільнення важливих висновків, які могли б допомогти прискорити лікування раку на основі досліджень.

Стаття, в якій вчені закликали наукові журнали підвищити свої стандарти щодо прозорості серед дослідників-комп’ютерників, була опублікована в Nature 14 жовтня 2020 року. Група також відстоювала, що їхні колеги повинні опублікувати код, модель та обчислювальне середовище в публікаціях.

Стаття мала назву “Прозорість і репродуктивність у штучному інтелекті“.

Публікація деталей дослідження ШІ

Доктор Бенджамін Хайб-Кейнс є старшим науковцем у Центрі раку принцеси Маргарет і першим автором публікації.

“Науковий прогрес залежить від можливості дослідників критично оцінювати результати дослідження та відтворювати основні висновки, щоб вивчити”, – говорить доктор Хайб-Кейнс. “Але в комп’ютерних дослідженнях ще не існує поширеної критерії для того, щоб деталі дослідження ШІ були повністю доступні. Це шкодить нашому прогресу”.

Стурбованість виникла після дослідження Google (GOOGL ) Health, яке було опубліковано Маккінні та ін. у провідному науковому журналі в 2020 році, в якому стверджувалося, що система ШІ може перевершити людських радіологів у надійності та швидкості при скринінгу раку молочної залози. Дослідження отримало велику увагу засобів масової інформації в різних провідних виданнях.

Неможливість відтворити моделі

Однією з основних проблем, які виникли після дослідження, було те, що воно не докладно описувало методи, які були використані, а також код і моделі. Ця відсутність прозорості означала, що дослідники не могли вивчити, як працює модель, що призвело до того, що модель не могла бути використана іншими установами.

“На папері та в теорії дослідження Маккінні та ін. є красивими”, – говорить доктор Хайб-Кейнс. “Але якщо ми не можемо вивчити з них, то вони мають мало чи жодної наукової цінності”.

Доктор Хайб-Кейнс був призначений асоційованим професором медичної біофізики в Університеті Торонто. Він також є афілійованим у Інституті штучного інтелекту Vector.

“Дослідники більше мотивовані публікувати свої висновки, ніж витрачати час і ресурси на забезпечення того, щоб їхнє дослідження могло бути відтворено”, – продовжує доктор Хайб-Кейнс. “Журнали вразливі до “гіпу” ШІ та можуть знижувати стандарти для прийняття статей, які не містять усіх матеріалів, необхідних для того, щоб дослідження було репродуктивним – часто у суперечності зі своїми власними керівництвами”.

Цей середовище означає, що моделі ШІ можуть довше досягати клінічних умов, а моделі не можуть бути відтворені чи вивчені дослідниками.

Група вчених запропонувала різні рамки та платформи для вирішення цієї проблеми та дозволу методам бути спільними.

“У нас є великі надії на корисність ШІ для наших пацієнтів з раком”, – говорить доктор Хайб-Кейнс. “Спільне використання та розвиток наших відкриттів – це справжній науковий вплив”.