Як три закони робототехніки Асімова впливають на штучний інтелект

Три закони робототехніки є іконічними у світі наукової фантастики та стали символом у спільноті штучного інтелекту та робототехніки того, наскільки складно правильно розробити систему, яка є безпечною.

Щоб повністю зрозуміти важливість цих трьох законів, нам потрібно спочатку дізнатися про геніальний розум, який їх створив – покійного автора наукової фантастики Айзека Асімова. Потім нам потрібно зрозуміти, як адаптувати ці закони та зробити їх еволюціювати, щоб захистити людство.

Айзек Асімов – підйом геніального розуму

Айзек Асімов народився в Росії 2 січня 1920 року та іммігрував до США у віці трьох років. Він виріс у Брукліні, Нью-Йорку, та закінчив Колумбійський університет у 1939 році. Він був визнаний талановитим та плідним письменником, який зосередився на науці та науковій фантастиці. Під час своєї кар’єри він написав та/або відредагував понад 500 книг.

Асімов був сильно надихнутий деякими з найбільш іконічних письменників у світі наукової фантастики. Він почав свою роботу на Філадельфійському військово-морському заводі, де зустрів двох своїх колег, які незабаром стали двома з найбільш успішних письменників наукової фантастики в історії спекулятивної фантастики: L. Sprague de Camp та Robert A. Heinlein.

L. Sprague de Camp є лауреатом премій, який написав понад 100 книг та був важливою фігурою у науковій фантастиці 1930-х та 1940-х років. Деякі з його найбільш популярних робіт включають “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958) та “The Glory That Was” (1960).

Robert A. Heinlein був, можливо, найпопулярнішим письменником наукової фантастики у світі на піку своєї кар’єри. Разом з Айзеком Асімовим та Артуром Кларком він був вважався одним з “Великої Трійки” письменників наукової фантастики. Деякі з найбільш популярних робіт Роберта А. Гайнлайна включають “Farnham’s Freehold” (1964) та “To Sail Beyond the Sunset” (1987). Теперішнє покоління, ймовірно, знає його найкраще за фільм-адаптацію його роману “Starship Troopers” (1959).

Оточення цими гігантами футуризму надихнуло Айзека Асімова на запуск своєї плідної письменницької кар’єри. Асімов також був високошанований у науковому співтоваристві та часто запрошувався як публічний спікер для лекцій про науку.

Три закони робототехніки

Айзек Асімов був першою людиною, яка використала термін “робототехніка” у короткій історії під назвою “Liar!”, яка була опублікована у 1941 році.

Незабаром після цього його коротка історія 1942 року “Runaround” представила світ трьом законам робототехніки. Закони такі:

1. Робот не може завдати шкоди людині або, через бездіяльність, дозволити людині потрапити в небезпеку.

2. Робот повинен виконувати накази, дані йому людьми, крім випадків, коли такі накази будуть суперечити Першому закону.

3. Робот повинен захищати своє існування, поки така оборона не суперечить Першому чи Другому законам.

Ці закони були розроблені, щоб пропонувати цікаві сюжетні точки, і Асімов пішов далі, створивши серію з 37 науково-фантастичних коротких історій та шести романів, які включали позитронних роботів.

Одна з цих збірок коротких історій під назвою “I, Robot” була пізніше адаптована для фільму у 2004 році. Фільм “I, Robot” з Віллом Смітом у головній ролі відбувається у антиутопічному 2035 році та включає високоінтелектуальних публічних службовців-роботів, які працюють під трьома законами робототехніки. Фільм, як і історії, швидко став притчею про те, як програмування може піти не так, і що програмування будь-якого типу передового штучного інтелекту включає високий рівень ризику.

Світ вже наздогнав те, що раніше було науковою фантастикою, ми зараз розробляємо штучний інтелект, який у деяких аспектах значно перевершує все, що міг уявити Айзек Асімов, при цьому будучи значно обмеженішим.

Три закони робототехніки досить часто згадуються у дискусіях про штучний загальний інтелект (AGI). Ми швидко розглянемо, що таке AGI, а також як три закони робототехніки повинні еволюціонувати, щоб уникнути потенційних проблем у майбутньому.

Штучний загальний інтелект (AGI)

Наразі більшість типів штучного інтелекту, з якими ми стикаємося щодня, кваліфікується як “вузький штучний інтелект”. Це тип штучного інтелекту, який дуже конкретний і вузький у своїй функції корисності. Наприклад, автономний транспортний засіб може рухатися по вулицях, але через свої “вузькі” обмеження штучний інтелект не може легко виконувати інші завдання. Іншим прикладом вузького штучного інтелекту є система розпізнавання зображень, яка може легко ідентифікувати та маркувати зображення в базі даних, але не може легко бути адаптована для виконання іншого завдання.

Штучний загальний інтелект, який часто називають “AGI”, є штучним інтелектом, який, подібно до людей, може швидко вивчати, адаптуватися, змінювати напрямок та функціонувати у реальному світі. Це тип інтелекту, який не вузький за своїм масштабом, він може адаптуватися до будь-якої ситуації та вивчити, як справлятися з реальними проблемами.

Повинно бути зазначено, що хоча штучний інтелект розвивається експоненційно, ми ще не досягли AGI. Коли ми досягнемо AGI, є предметом дискусій, і кожен має不同的 відповідь щодо термінів. Я особисто підтримую погляди Рея Курцвейла, винахідника, футуролога та автора книги “Сингулярність уже близько”, який вважає, що ми досягнемо AGI до 2029 року.

Це 2029 рік є годинником, який тікто, нам потрібно навчитися закладати певний тип книгу правил у штучний інтелект, який не тільки схожий на три закони, але й більш просунутий та здатний фактично уникнути реальних конфліктів між людьми та роботами.

Сучасні закони робототехніки

Хоча три закони робототехніки були феноменальними для літератури, вони значно бідніші за складністю, щоб серйозно програмувати у робот. Це було, після всього, сюжетною точкою за короткими історіями та романами. Конфлікти між трьома законами або, принаймні, інтерпретацією трьох законів викликали у роботів збої, помсту проти людей чи інші важливі сюжетні точки.

Основною проблемою з поточними законами є те, що етичне програмування завжди кориться людським інструкціям та завжди захищає себе, може вступити у конфлікт. Адже, чи дозволено роботові захистити себе від власника, який його знущається?

Який тип механізму безпеки потрібно програмувати? Як нам наказати роботові вимкнутися, незалежно від наслідків? Що відбувається, якщо робот рятує дружину від знущань, повинен робот автоматично вимкнутися, якщо йому це наказано знущаючимся чоловіком?

Хто повинен давати інструкції роботам? З автономною зброєю, яка може ідентифікувати та націлюватися на ворогів з усього світу, повинен робот бути здатним відмовитися від команди знищити ціль, якщо він визначає ціль як дитину?

Іншими словами, якщо робот належить та контролюється психопатом, може робот відмовитися від наказів, які є аморальними? Питання численні, а відповіді надто складні для будь-якої людини. Це чому організації, такі як Інститут майбутнього життя, так важливі, час для дискусій про ці моральні дилеми – зараз, перш ніж з’явиться справжній AGI.