Як три закони робототехніки Азімова впливають на ШІ

Три закони робототехніки є культовими у світі наукової фантастики та стали символом у спільноті ШІ та робототехніки того, наскільки складно правильно спроектувати безвідмовну систему. Щоб повною мірою зрозуміти важливість цих трьох законів, ми спочатку повинні дізнатися про блискучого мислителя, який їх придумав — покійного письменника-фантаста Айзека Азімова. Потім ми повинні зрозуміти, як адаптувати ці закони та розвинути їх для захисту людства.

Айзек Азімов – Зростання генія

Айзек Азімов народився в Росії 2 січня 1920 року та іммігрував до Сполучених Штатів у віці трьох років. Він виріс у Брукліні, Нью-Йорк, і закінчив Колумбійський університет у 1939 році. Він був визнаний обдарованим і плідним письменником, який зосереджувався на науці та науковій фантастиці. Протягом своєї кар’єри він написав та/або відредагував понад 500 книг. Азімова надихали одні з найвідоміших письменників у світі наукової фантастики. Він розпочав роботу на Філадельфійській верфі ВМС, де зустрів двох своїх колег, які незабаром стали двома з найуспішніших письменників-фантастів в історії спекулятивної фантастики: Л. Спрейга де Кемпа та Роберта А. Гайнлайна. Л. Спрейг де Кемп — відзначений нагородами автор, який написав понад 100 книг і був важливою фігурою в науковій фантастиці 1930-х і 1940-х років. До його найпопулярніших творів належать “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958) та “The Glory That Was” (1960). Роберт А. Гайнлайн, можливо, був найпопулярнішим письменником-фантастом у світі на піку своєї кар’єри. Поряд з Айзеком Азімовим та Артуром К. Кларком його вважали одним із “Великої трійки” авторів наукової фантастики. До найпопулярніших творів Роберта А. Гайнлайна належать “Farnham’s Freehold” (1964) та “To Sail Beyond the Sunset” (1987). Нинішнє покоління, ймовірно, знає його найкраще за екранізацією його роману “Зоряний десант” (1959). Оточення цих гігантів футуризму надихнуло Айзека Азімова розпочати свою плідну письменницьку кар’єру. Азімов також користувався великою повагою в науковій спільноті і часто виступав як публічний спікер з лекціями про науку.

Три закони робототехніки

Айзек Азімов був першою людиною, яка вжила термін “робототехніка” в оповіданні під назвою “Брехун!”, опублікованому в 1941 році. Незабаром після цього його оповідання 1942 року “Runaround” познайомило світ із його трьома законами робототехніки. Закони такі:

1. Робот не може заподіяти шкоду людині або своєю бездіяльністю дозволити, щоб людині була заподіяна шкода.

2. Робот повинен підкорятися наказам, даним людьми, крім випадків, коли такі накази суперечать Першому Закону.

3. Робот повинен захищати своє існування, доки такий захист не суперечить Першому або Другому Законам.

Ці закони були розроблені, щоб пропонувати цікаві сюжетні повороти, і Азімов створив серію з 37 науково-фантастичних оповідань та шести романів, у яких фігурували позитронні роботи. Одна з цих збірок оповідань під назвою “Я, робот” пізніше була екранізована у 2004 році. Фільм “Я, робот” з Віллом Смітом в головній ролі розгортається в антиутопічному 2035 році та показує високоінтелектуальних роботів-громадських службовців, які діють відповідно до трьох законів робототехніки. Фільм, подібно до оповідань, швидко став притчею про те, як програмування може піти не так, і що програмування будь-якого типу передового ШІ пов’язане з високим рівнем ризику. Світ тепер наздогнав те, що раніше було науковою фантастикою; ми зараз створюємо ШІ, який у деяких аспектах набагато досконаліший за все, що міг собі уявити Айзек Азімов, водночас будучи набагато обмеженішим. Три закони робототехніки досить часто згадуються в обговореннях Загального штучного інтелекту (AGI). Ми швидко дослідимо, що таке AGI, а також те, як мають еволюціонувати три закони робототехніки, щоб уникнути потенційних проблем у майбутньому.

Загальний штучний інтелект (AGI)

Наразі більшість типів ШІ, з якими ми стикаємося щодня, класифікуються як “вузький ШІ”. Це тип ШІ, дуже специфічний та обмежений у своїй функції корисності. Наприклад, автономний транспортний засіб може пересуватися вулицями, але через свої “вузькі” обмеження ШІ не може легко виконувати інші завдання. Ще одним прикладом вузького ШІ може бути система розпізнавання зображень, яка може легко ідентифікувати та маркувати зображення в базі даних, але її буде важко адаптувати для іншого завдання. Загальний штучний інтелект, який зазвичай називають “AGI”, — це ШІ, який, подібно до людей, може швидко навчатися, адаптуватися, змінювати напрямок дій та функціонувати в реальному світі. Це тип інтелекту, який не є вузьким за сферою застосування; він може адаптуватися до будь-якої ситуації та навчитися вирішувати реальні проблеми. Слід зазначити, що хоча ШІ розвивається експоненційними темпами, ми ще не досягли AGI. Коли ми досягнемо AGI — питання дискусійне, і кожен має свою відповідь щодо часових рамок. Я особисто поділяю погляди Рея Курцвейла, винахідника, футуриста та автора книги “Сингулярність близько”, який вважає, що ми досягнемо AGI до 2029 року. Саме ці часові рамки до 2029 року є тикаючим годинником; ми повинні навчитися вбудовувати в ШІ свого роду книгу правил, яка не лише схожа на три закони, але й є більш досконалою та здатною реально уникати конфліктів між людьми та роботами у реальному світі.

Сучасні закони робототехніки

Хоча три закони робототехніки були феноменальними для літератури, вони значно поступаються у складності, щоб їх можна було серйозно запрограмувати в робота. Адже саме в цьому полягала сюжетна ідея оповідань та романів. Конфлікти між трьома законами або, принаймні, їхнє тлумачення призводили до збоїв у роботах, їхнього протистояння людям або інших ключових сюжетних поворотів. Основна проблема нинішніх законів полягає в тому, що етичне програмування завжди підкорятися людським інструкціям і завжди захищати себе може конфліктувати. Зрештою, чи дозволено роботу захищатися від власника, який знущається над ним? Який тип запобіжного механізму потрібно запрограмувати? Як ми інструктуємо робота, що він повинен вимкнутися незалежно від наслідків? Що станеться, якщо робот знаходиться в процесі порятунку домогосподарки від насильства, чи повинен робот автоматично вимкнутися, якщо таку інструкцію дасть чоловік, який чинить насильство? Хто повинен давати інструкції роботам? За наявності автономної зброї, здатної ідентифікувати та націлюватися на ворогів з іншого кінця світу, чи повинен робот мати можливість відмовитися від команди знищити ціль, якщо він ідентифікує її як дитину? Іншими словами, якщо роботом володіє та керує психопат, чи може робот відмовлятися від аморальних наказів? Питань безліч, а відповіді занадто складні для будь-кого. Ось чому такі організації, як Інститут майбутнього життя, настільки важливі; час обговорювати ці моральні дилеми зараз, перш ніж справжній AGI з’явиться.