Як три закони робототехніки Асімова впливають на штучний інтелект

Три закони робототехніки є іконічними у світі наукової фантастики та стали символом у спільноті штучного інтелекту та робототехніки того, наскільки складно правильно розробити систему, яка є безпечною.

Щоб повністю зрозуміти значення цих трьох законів, нам потрібно спочатку дізнатися про геніальний ум, який їх створив – видатного автора наукової фантастики Айзека Асімова. Потім нам потрібно зрозуміти, як адаптувати ці закони та розвивати їх для захисту людства.

Айзек Асимов – підйом геніального уму

Айзек Асимов народився в Росії 2 січня 1920 року та іммігрував до США у віці трьох років. Він виріс у Брукліні, Нью-Йорку, та закінчив Колумбійський університет у 1939 році. Він був визнаний талановитим та плідним письменником, який зосереджувався на науці та науковій фантастиці. Під час своєї кар’єри він написав та/або відредагував понад 500 книг.

Асимов був сильно надихнутий деякими з найвідоміших письменників у світі наукової фантастики. Він почав свою роботу на Філадельфійському військово-морському заводі, де зустрів двох своїх колег, які згодом стали двома з найуспішніших письменників наукової фантастики в історії спекулятивної фантастики: Л. Спрейг де Кемп та Роберт А. Гайнлайн.

Л. Спрейг де Кемп – це нагороджений автор, який написав понад 100 книг та був важливою фігурою у науковій фантастиці 1930-х та 1940-х років. Деякі з його найвідоміших творів включають “Темрява падає” (1939), “Колеса якщо” (1940), “Гвинтівка для динозавра” (1956), “Аристотель та гвинтівка” (1958) та “Слава, яка була” (1960).

Роберт А. Гайнлайн був, можливо, найвідомішим письменником наукової фантастики у світі під час свого розквіту. Разом з Айзеком Асимовим та Артуром К. Кларком він був вважався одним з “Великої трійки” письменників наукової фантастики. Деякі з найвідоміших творів Роберта А. Гайнлайна включають “Фарнгемс Фріхолд” (1964) та “Пливи за сонцем” (1987). Сучасне покоління, ймовірно, знає його найкраще за фільм-адаптацію його роману “Зоряний десант” (1959).

Оточення цими гігантами футуризму надихнуло Айзека Асимова на початку його плідної кар’єри письменника. Асимов також був високо шанований у науковому співтоваристві та часто запрошувався як публічний спікер для проведення лекцій про науку.

Три закони робототехніки

Айзек Асимов був першою людиною, яка використала термін “робототехніка” у короткій історії під назвою “Брехун!”, опублікованій у 1941 році.

Незабаром після цього його коротка історія “Забіг” 1942 року представила світ трьом законам робототехніки. Закони такі:

1. Робот не може завдати шкоди людині або, через бездіяльність, дозволити людині потрапити в небезпеку.

2. Робот повинен виконувати накази, дані йому людьми, крім випадків, коли такі накази будуть суперечити Першому закону.

3. Робот повинен захищати своє існування, доки таке захисту не суперечить Першому чи Другому законам.

Ці закони були розроблені для надання цікавих сюжетних моментів, і Асимов створив серію з 37 науково-фантастичних коротких історій та шести романів, які включали позитронних роботів.

Одна з цих збірок коротких історій під назвою “Я, робот” була пізніше адаптована для фільму у 2004 році. Фільм “Я, робот” з Віллом Смітом у головній ролі відбувається у антиутопічному 2035 році та включає високорозвинених публічних службових роботів, які працюють під трьома законами робототехніки. Фільм, як і історії, швидко став притчею про те, як програмування може піти не так, і що програмування будь-якого типу передового штучного інтелекту включає високий рівень ризику.

Світ тепер наздогнав те, що раніше було науковою фантастикою, ми зараз розробляємо штучний інтелект, який у деяких аспектах значно більш розвинений, ніж усе, що міг уявити Айзек Асимов, і водночас значно обмеженіший.

Три закони робототехніки часто згадуються у дискусіях про штучний загальний інтелект (ШЗІ). Ми швидко розглянемо, що таке ШЗІ, а також як три закони робототехніки повинні розвиватися, щоб уникнути потенційних проблем у майбутньому.

Штучний загальний інтелект (ШЗІ)

На даний момент більшість типів штучного інтелекту, з якими ми стикаємося щоденно, кваліфікуються як “вузький ШІ”. Це тип ШІ, який дуже конкретний і вузький у своїй функції. Наприклад, автономний транспортний засіб може рухатися по вулицях, але через свої “вузькі” обмеження ШІ не може легко виконувати інші завдання. Іншим прикладом вузького ШІ є система розпізнавання зображень, яка може легко розпізнавати та маркувати зображення в базі даних, але не може легко бути адаптована для виконання іншого завдання.

Штучний загальний інтелект, який часто називають “ШЗІ”, – це ШІ, який, як і люди, може швидко навчатися, адаптуватися, змінювати напрямок та функціонувати у реальному світі. Це тип інтелекту, який не вузький за своїм застосуванням, він може адаптуватися до будь-якої ситуації та навчатися вирішувати реальні проблеми.

Варто зазначити, що хоча ШІ розвивається експоненційно, ми ще не досягли ШЗІ. Коли ми досягнемо ШЗІ, є предметом дискусій, і кожен має різну відповідь щодо графіка. Особисто я схиляюся до поглядів Рея Курцвейла, винахідника, футуролога та автора книги “Сингулярність вже близько”, який вважає, що ми досягнемо ШЗІ до 2029 року.

Це 2029-річний графік є тікуючим годинником, нам потрібно навчитися закладати певний набір правил у ШІ, який не тільки схожий на три закони, але й більш розвинений та здатний фактично уникнути реальних конфліктів між людьми та роботами.

Сучасні закони робототехніки

Хоча три закони робототехніки були феноменальними для літератури, вони значно бідніші за складністю, щоб серйозно програмувати у робот. Це було, після всього, сюжетним моментом за короткими історіями та романами. Конфлікти між трьома законами або, принаймні, їх інтерпретацією спричиняли у роботів збої, помсту проти людей або інші важливі сюжетні моменти.

Основною проблемою з поточними законами є те, що етичне програмування завжди кориться наказам людей та завжди захищає себе може вступити у конфлікт. Адже, чи дозволено роботові захистити себе від власника, який його знущається?

Який механізм безпеки потрібно запрограмувати? Як нам сказати роботові, що він повинен вимкнутися, незалежно від наслідків? Що відбувається, якщо робот рятує домогосподарку від знущань, повинен робот автоматично вимкнутися, якщо йому це наказує знущаючий чоловік?

Хто повинен давати накази роботам? З автономною зброєю, яка може ідентифікувати та націлюватися на ворогів з усього світу, повинен робот відмовитися виконувати наказ знищити ціль, якщо він визначає ціль як дитину?

Іншими словами, якщо робот належить та контролюється психопатом, може робот відмовитися від наказів, які є аморальними? Питань багато, і відповіді надто складні для будь-якої окремої особи, щоб відповісти. Це чому організації, такі як Інститут майбутнього життя, так важливі, час для дискусій про ці моральні дилеми – зараз, до появи справжнього ШЗІ.