Как трите закона на роботиката на Азимов влияят върху ИИ

Трите закона на роботиката са емблематични в света на научната фантастика и се превърнаха в символ в общността на ИИ и роботиката за това колко трудно е да се проектира правилно система, която е безпогрешна.

За да разберем напълно важността на тези три закона, първо трябва да научим за брилянтния ум, който е създал тези закони на покойния автор на научна фантастика Айзък Азимов. След това трябва да разберем как да адаптираме тези закони и да ги накараме да еволюират, за да защитят човечеството.

Айзък Азимов – Възходът на един гений

Айзък Азимов е роден в Русия на 2 януари 1920 г. и имигрира в Съединените щати на три години. Израства в Бруклин, Ню Йорк, и завършва Колумбийския университет през 1939 г.  Той беше признат за талантлив и плодотворен писател, който се фокусира върху науката и научната фантастика. По време на кариерата си той е написал и/или редактирал над 500 книги.

Азимов е силно вдъхновен от някои от най-емблематичните писатели в света на научната фантастика. Започва работата си във Филаделфийската флота, където среща двама свои колеги, които скоро ще станат двама, ако са най-успешните писатели на научна фантастика в историята на спекулативната фантастика: L. Sprague de Camp намлява Робърт А. Хайнлайн.

Л. Спраг дьо Камп е награждаван автор, който е написал над 100 книги и е основна фигура в научната фантастика през 1930-те и 1940-те години на миналия век. Някои от най-популярните му произведения включват „Darkness Fall“ (1939), „The Wheels of If“ (1940), „A Gun for Dinosaur“ (1956), „Aristotle and the Gun“ (1958) и „Славата, която Беше” (1960).

Робърт А. Хайнлайн е вероятно най-популярният писател на научна фантастика в света по време на пика на кариерата си. Заедно с Айзък Азимов и Артър Кларк той беше смятан за „голямата тройка“ на авторите на научна фантастика. Някои от най-популярните произведения на Робърт А. Хайнлайн включват „Freehold на Farnham“ (1964) и „Да се Плаване отвъд залеза” (1987). Сегашното поколение вероятно го познава най-добре по филмовата адаптация на романа му „Звездни войници” (1959).

Да бъдеш заобиколен от тези гиганти на футуризма вдъхновява Исак Азимов да започне плодотворната си писателска кариера. Азимов също беше много уважаван в научната общност и често беше назначаван като публичен говорител, за да изнася беседи за наука.

Трите закона на роботиката

Исак Азимов беше първият човек, който използва термина "роботика" в разказ, наречен "Лъжец!" който е публикуван през 1941 г.

Малко след това неговият разказ от 1942 г. „Runaround“ запознава света с неговите три закона на роботиката. Законите са:

1. Роботът не може да нарани човешко същество или чрез бездействие да позволи на човешко същество да бъде наранено.

2. Роботът трябва да се подчинява на заповедите, дадени му от човешки същества, освен когато такива заповеди противоречат на Първия закон.

3. Роботът трябва да защитава собственото си съществуване, стига тази защита да не противоречи на Първия или Втория закон.

Тези закони са предназначени да предложат интересни сюжетни точки и Азимов създава поредица от 37 научнофантастични разказа и шест романа, които включват позитронни роботи.

Един от тези сборници с кратки разкази, озаглавен „Аз, роботът“, по-късно беше адаптиран за филм през 2004 г. Филмът „Аз, роботът“ с участието на Уил Смит се развива в дистопична 2035 г. и включва изключително интелигентни роботи държавни служители, които действат съгласно трите закона на роботиката. Филмът, подобно на историите, бързо се превърна в притча за това как програмирането може да се обърка и че програмирането на всякакъв вид усъвършенстван AI включва високо ниво на риск.

Светът вече е достигнал това, което преди беше научна фантастика, сега проектираме AI, който в някои отношения е много по-напреднал от всичко, което Исак Азимов можеше да си представи, като в същото време е много по-ограничен.

Трите закона на роботиката се споменават доста често в дискусиите за общия изкуствен интелект (AGI). Ще проучим бързо какво е AGI, както и как трябва да се развиват трите закона на роботиката, за да се избегнат потенциални проблеми в бъдеще.

Изкуствен общ интелект (AGI)

В момента повечето видове AI, с които се сблъскваме ежедневно, се определят количествено като „тесен AI“. Това е вид изкуствен интелект, който е много специфичен и тясна в полезна функция. Например, автономно превозно средство може да се движи по улиците, но поради своите „тесни“ ограничения AI не може лесно да изпълнява други задачи. Друг пример за тесен AI би била система за разпознаване на изображения, която може лесно да идентифицира и етикетира изображения в база данни, но няма да може лесно да се адаптира към друга задача.

Изкуственият общ интелект, който обикновено се нарича „AGI“, е AI, който подобно на хората може бързо да се учи, адаптира, върти и функционира в реалния свят. Това е вид интелигентност, която не е тясна по обхват, тя може да се адаптира към всяка ситуация и да се научи как да се справя с проблеми в реалния свят.

Трябва да се отбележи, че докато AI напредва с експоненциална скорост, все още не сме постигнали AGI. Кога ще достигнем AGI е предмет на дебат и всеки има различен отговор по отношение на времевата линия. Аз лично се присъединявам към възгледите на Рей Кърцвейл, изобретател, футурист и автор на „Сингуларността е близо“, който вярва, че ще имаме постигнат AGI до 2029 г.

Именно тази времева линия от 2029 г. е тиктакащ часовник, ние трябва да се научим да кодираме твърдо тип книга с правила в AI, която не само е подобна на трите закона, но е по-напреднала и може действително да избягва реалния свят конфликт между хора и роботи.

Съвременните закони на роботиката

Въпреки че трите закона на роботиката бяха феноменални за литературата, им липсва значително сложност, за да бъдат сериозно програмирани в робот. В крайна сметка това беше сюжетната точка зад разказите и романите. Конфликтите между трите закона или най-малкото тълкуването на трите закона накараха роботите да се разтопят, да отмъстят на хората или други основни сюжетни точки.

Основният проблем с настоящите закони е, че етичното програмиране винаги да се подчинява на човешките инструкции и винаги да се защитава може да влезе в конфликт. В крайна сметка, позволено ли е на робота да се защитава срещу собственик, който го злоупотребява?

Какъв тип механизъм за безопасност трябва да бъде програмиран? Как да инструктираме робот, че трябва да се изключи, без значение какви са последствията? Какво се случва, ако робот е в процес на спасяване на домакиня от злоупотреба, трябва ли роботът да се изключи автоматично, ако бъде инструктиран да го направи от съпруга насилник?

Кой трябва да дава инструкции на роботите? С автономни оръжия, способни да идентифицират и насочват врагове от целия свят, трябва ли роботът да може да откаже команда за елиминиране на цел, ако идентифицира целта като дете?

С други думи, ако роботът е притежаван и контролиран от психопат, може ли роботът да отказва заповеди, които са неморални? Въпросите са многобройни, а отговорите твърде трудни, за да може всеки човек да им отговори. Ето защо организации като напр Бъдещето на живота Институтите са толкова важни, че моментът за обсъждане на тези морални дилеми е сега, преди да се появи истински AGI.