Дослідники розробляють алгоритми, спрямовані на запобігання неправильній поведінці штучного інтелекту

Разом з усіма досягненнями та перевагами штучного інтелекту, які він продемонстрував досі, також були повідомлення про нежадані побічні ефекти, такі як расова та гендерна упередженість у штучному інтелекті. Тому, як sciencealert.com ставить питання “як вчені можуть забезпечити, щоб розвинені системи мислення могли бути справедливими, або навіть безпечними?”

Відповідь може бути у звіті дослідників Стенфордського університету та Університету Массачусетса в Амгерсті, озаглавленому Запобігання нежаданій поведінці інтелектуальних машин. Як eurekaalert.org відзначає у своїй статті про цей звіт, штучний інтелект тепер починає виконувати делікатні завдання, тому “політики вимагають, щоб комп’ютерні вчені надавали гарантії, що автоматизовані системи були розроблені так, щоб мінімізувати, якщо не повністю уникнути, нежадані результати, такі як надмірний ризик або расова та гендерна упередженість.”

Мета цього дослідження полягала у тому, щоб “визначити математичні критерії, які б дозволили машинному навчанню тренувати додаток штучного інтелекту, щоб уникнути певної поведінки.”

Мета полягала у тому, щоб “розробити техніку, яка б дозволила перекласти розмите завдання, таке як уникнення гендерної упередженості, у точні математичні критерії, які б дозволили машинному навчанню тренувати додаток штучного інтелекту, щоб уникнути цієї поведінки.”

Ідея полягала у тому, щоб визначити “небезпечні” або “несправедливі” результати або поведінку у математичних термінах. Це, на думку дослідників, дозволило б “створити алгоритми, які можуть навчатися на даних, щоб уникнути цих нежаданих результатів з високою впевненістю.”

Друга мета полягала у тому, щоб “розробити набір технік, які б дозволили користувачам легко вказувати, яку нежадану поведінку вони хочуть обмежити, і дозволити розробникам машинного навчання передбачати з впевненістю, що система, тренована на минулих даних, може бути довірена, коли вона застосовується у реальних умовах.”

ScienceAlert повідомляє, що команда назвала цю нову систему  алгоритмами Селдона, на честь головного персонажа серії науково-фантастичних романів Айзека Азімова Фундація. Філіп Томас, асистент професора комп’ютерних наук Університету Массачусетса в Амгерсті та перший автор статті, відзначає, “Якщо я використовую алгоритм Селдона для лікування діабету, я можу вказати, що нежадана поведінка означає небезпечно низький рівень цукру в крові або гіпоглікемію.”

“Я можу сказати машині, ‘Поки ти покращуєш контролер у насосі інсуліну, не роби змін, які б збільшували частоту гіпоглікемії.’ Більшість алгоритмів не дають тобі можливості встановити цей тип обмеження на поведінку; воно не було включено у ранні конструкції.”

Томас додає, що “цей каркас Селдона зробить його легшим для розробників машинного навчання створювати інструкції щодо уникнення поведінки у всіх видах алгоритмів, у спосіб, який дозволить їм оцінити ймовірність того, що треновані системи будуть функціонувати правильно у реальному світі.”

З її боку, Емма Бранскілл також відзначає, що “думати про те, як ми можемо створити алгоритми, які найкраще поважають цінності, такі як безпека та справедливість, є важливим, оскільки суспільство все більше залежить від штучного інтелекту.”