Коаліція з питань етики штучного інтелекту засуджує алгоритми передбачення злочинності

У вівторок група дослідників штучного інтелекту, етиків, вчених-даних і соціологів опублікувала пост у блозі, в якому стверджується, що вчені повинні припинити дослідження, спрямовані на передбачення ймовірності вчинення злочину окремою особою, засновані на таких факторах, як статистика злочинності та сканиування обличчя.

Пост у блозі був написаний Коаліцією з питань критичної технології, яка стверджує, що використання таких алгоритмів підтримує цикл упередженості проти меншин. Багато досліджень ефективності алгоритмів розпізнавання облич і передбачення злочинності показують, що ці алгоритми часто засуджують меншини більш суворо, що, на думку авторів поста, пояснюється нерівностями в системі правосуддя. Система правосуддя генерує упереджену інформацію, а алгоритми, навчені на цій інформації, поширюють ці упередження, стверджує Коаліція з питань критичної технології. Коаліція вважає, що сама концепція “злочинності” часто заснована на расі, а дослідження цих технологій припускають нейтральність алгоритмів, хоча насправді така нейтральність не існує.

Як повідомляє The Verge, великий видавець академічних робіт Springer планував опублікувати дослідження під назвою “Модель глибокого нейронного мережевого передбачення злочинності за допомогою обробки зображень”. Автори дослідження стверджували, що вони створили алгоритм розпізнавання облич, який може передбачити можливість вчинення злочину окремою особою без упередженості та з точністю близько 80%. Однак Коаліція з питань критичної технології написала відкритий лист до Springer, в якому закликала видавця відмовитися від публікації дослідження або майбутніх досліджень подібного типу.

«Поширення цієї роботи великим видавцем, таким як Springer, стало б значним кроком до легітимізації та застосування багаторазово спростованих, соціально шкідливих досліджень у реальному світі», – стверджує коаліція.

Springer заявив, що не буде публікувати роботу, як повідомляє MIT Technology Review. Springer заявив, що робота була подана на майбутню конференцію, але після процесу рецензування робота була відхилена від публікації.

Коаліція з питань критичної технології вважає, що робота з передбачення злочинності є лише одним випадком більшої шкідливої тенденції, коли інженери штучного інтелекту та дослідники намагаються передбачити поведінку на основі даних, що складаються з чутливих, соціально сконструйованих змінних. Коаліція також стверджує, що багато досліджень базуються на науково сумнівних ідеях та теоріях, які не підтримуються наявними доказами біології та психології. Наприклад, дослідники з Принстона та Google (GOOGL ) опублікували статтю, в якій попередили, що алгоритми, які стверджують, що можуть передбачити злочинність на основі ознак обличчя, базуються на дискредитованих та небезпечних псевдонауках, таких як фізіогноміка. Дослідники попередили проти використання машинного навчання для відродження довгозабутих теорій, які підтримують расистські системи.

Недавній імпульс руху Black Lives Matter спонукав багато компаній, які використовують алгоритми розпізнавання облич, переоцінити використання цих систем. Дослідження показали, що ці алгоритми часто упереджені, засновані на непредставницьких, упереджених навчальних даних.

Підписанти листа, крім того, що стверджують, що дослідники штучного інтелекту повинні відмовитися від досліджень алгоритмів передбачення злочинності, також рекомендують дослідникам переоцінити, як оцінюється успіх моделей штучного інтелекту. Члени коаліції рекомендують, щоб соціальний вплив алгоритмів був метрикою успіху, поряд з метриками, такими як точність, повнота та точність. Як пишуть автори статті:

«Якщо машинне навчання має принести „соціальне добро“, про яке говориться в грантах та прес-релізах, дослідники в цій сфері повинні активно відображати потужні структури (та супутні утиски), які роблять їхню роботу можливою».