Штучні алгоритми можуть уникнути конкретної небажаної поведінки за допомогою нових алгоритмів

Як штучні алгоритми інтелекту та системи стають більш складними та приймають на себе більші відповідальності, стає все важливішим забезпечити, щоб системи штучного інтелекту уникали небезпечної, нежаданої поведінки. Нещодавно команда дослідників з Університету Массачусетсу Емгерст та Стенфорда опублікувала статтю, яка демонструє, як можна уникнути конкретної поведінки штучного інтелекту за допомогою техніки, яка викликає точні математичні інструкції, які можна використовувати для налаштування поведінки штучного інтелекту.

За даними TechXplore, дослідження було засновано на припущенні, що несправедливі/небезпечні поведінки можна визначити математичними функціями та змінними. Якщо це правда, то має бути можливим для дослідників навчити системи уникати цих конкретних поведінь. Команда дослідників мала на меті розробити інструментарій, який можна було б використовувати користувачами штучного інтелекту для визначення поведінки, яку вони хочуть уникнути, та дозволити інженерам штучного інтелекту надійно навчати систему, яка буде уникати нежаданої поведінки при використанні в реальних сценаріях.

Філіп Томас, перший автор статті та помічник професора комп’ютерних наук Університету Мічигану Емгерст, пояснив, що команда дослідників має на меті продемонструвати, що розробники алгоритмів машинного навчання можуть зробити його легшим для користувачів штучного інтелекту описувати нежадану поведінку та зробити її дуже ймовірною, що система штучного інтелекту уникне цієї поведінки.

Команда дослідників випробувала свою техніку, застосувавши її до загальної проблеми в галузі науки про дані, гендерної упередженості. Команда дослідників мала на меті зробити алгоритми, які використовуються для передбачення середнього балу студентів, справедливішими шляхом зменшення гендерної упередженості. Команда дослідників використала експериментальний набір даних та інструктувала свою систему штучного інтелекту уникати створення моделей, які систематично недооцінюють або переоцінюють середній бал для однієї статі. В результаті інструкцій дослідників алгоритм створив модель, яка краще передбачала середній бал студентів та мала значно менше системної гендерної упередженості, ніж попередні моделі. Попередні моделі передбачення середнього балу мали упередженість, оскільки моделі зменшення упередженості часто були занадто обмежені, щоб бути корисними, або взагалі не використовувалися.

Команда дослідників також розробила інший алгоритм. Цей алгоритм був реалізований в автоматичному інсуліновому насосі, і алгоритм був призначений для балансування продуктивності та безпеки. Автоматичні інсулінові насоси повинні вирішувати, яку кількість інсуліну слід вводити пацієнту після їжі. Насос ідеально повинен вводити дозу інсуліну, достатню для підтримання рівня цукру в крові під контролем. Дози інсуліну, які вводяться, повинні бути ні занадто великими, ні занадто малими.

Алгоритми машинного навчання вже зараз здатні визначати закономірності в реакції окремої особи на інсулінові дози, але ці існуючі методи аналізу не дозволяють лікарям вказувати результати, яких слід уникати, наприклад, низькі рівні цукру в крові. Натомість команда дослідників змогла розробити метод, який можна було б навчити вводити інсулінові дози, які залишаються між двома крайностями, запобігаючи як недоїнсулінові дози, так і передозуванню. Хоча система ще не готова до тестування на реальних пацієнтах, більш складний штучний інтелект на основі цього підходу може покращити якість життя людей, які страждають на цукровий діабет.

У дослідницькій статті дослідники називають алгоритм “Селедонським” алгоритмом. Це посилання на три закони робототехніки, описані науково-фантастичним автором Айзеком Азімовим. Наслідком є те, що система штучного інтелекту “не може завдати шкоди людині або, через бездіяльність, дозволити людині бути в небезпеці”. Команда дослідників сподівається, що їхній каркас дозволить дослідникам та інженерам штучного інтелекту розробляти різноманітні алгоритми та системи, які уникатимуть небезпечної поведінки. Емма Брунскілл, старший автор статті та помічник професора комп’ютерних наук Стенфорду, пояснила TechXplore:

“Ми хочемо просунути штучний інтелект, який поважає цінності своїх людських користувачів та виправдовує довіру, яку ми покладаємо в автономні системи.”