Дослідники кажуть, що люди не зможуть контролювати суперінтелектуальний штучний інтелект

Хто-небудь, хто знає про штучний інтелект (AI), напевно, чув якусь версію про те, як він одного дня вирветься з-під контролю людини. Це не просто тема з фільмів про наукову фантастику, а дуже реальна можливість, яка турбує багатьох експертів у галузі. Багато з цих експертів, включаючи вчених, відстоюють думку про те, що нам потрібно почати готуватися до цієї можливості та уникаючи її будь-якими можливими засобами.

Тепер міжнародна команда дослідників взяла цю ідею та підтвердила її теоретичними розрахунками. Команда, до складу якої входили вчені з Центру людей і машин при Інституті розвитку людини імені Макса Планка, використала ці розрахунки, щоб продемонструвати, як неможливо буде контролювати суперінтелектуальний штучний інтелект.

Дослідження було недавно опубліковано у Журналі досліджень штучного інтелекту.

Суперінтелектуальна система штучного інтелекту

Страх перед суперінтелектуальною системою штучного інтелекту пов’язаний з тим, що така система буде значно перевершувати людей. Вона зможе не тільки самостійно навчатися, а й мати доступ до всіх існуючих даних і обробляти їх дуже швидко.

Така подія може привести до того, що суперінтелектуальний штучний інтелект захопить всі існуючі машини в Інтернеті, і хоча він зможе і буде робити речі, такі як лікування хвороб і вирішення інших великих проблем людства, ризик того, що все вийде з-під контролю, також високий.

Мануель Себріан є співавтором дослідження та керівником групи цифрової мобілізації у Центрі людей і машин при Інституті розвитку людини імені Макса Планка.

“Суперінтелектуальна машина, яка контролює світ, звучить як наукова фантастика. Але вже існують машини, які виконують певні важливі завдання самостійно, без того, щоб програмісти повністю розуміли, як вони це роблять. Тому виникає питання, чи може це колись стати неконтрольованим і небезпечним для людства”, – каже Себріан.

Контроль системи

Є дві основні школи думок щодо контролю над такою системою. По-перше, люди можуть обмежити можливості суперінтелектуального штучного інтелекту, обмеживши його доступ до деяких джерел даних, таких як весь Інтернет. Система також може функціонувати без контакту з зовнішнім світом. Однак проблема полягає в тому, що це суттєво обмежить потенціал штучного інтелекту.

Систему можна контролювати, дозволяючи їй переслідувати лише ті результати, які будуть корисними для людства, і це можна зробити, програмуючи в неї етичні принципи.

Дослідження включало розробку теоретичного алгоритму утримання, який запобігає тому, щоб суперінтелектуальний штучний інтелект завдавав шкоди людям у будь-яких обставинах. Це можна досягти, створивши спочатку симуляцію поведінки штучного інтелекту та виявивши будь-яку поведінку, яка могла б бути шкідливою. Незважаючи на цю перспективну теорію, поточний аналіз показує, що такий алгоритм не може бути розроблений.

Іяд Рахван є директором Центру людей і машин.

“Якщо ви розбите проблему на базові правила з теоретичної інформатики, то виявляється, що алгоритм, який би наказував штучному інтелекту не знищувати світ, міг би непреднамерено зупинити自己的 роботу. Якщо це трапиться, ви не будете знаєте, чи алгоритм утримання ще аналізує загрозу, чи зупинився, щоб утримати шкідливий штучний інтелект. Насправді це робить алгоритм утримання незастосовним”, – каже Рахван.

Інша проблема полягає в тому, що експерти можуть навіть не усвідомлювати, коли суперінтелектуальна машина досягне такого стану, головним чином через те, що вона буде більш інтелектуальною, ніж люди.