Как три закона робототехники Асимова влияют на ИИ

Три закона робототехники являются иконическими в мире научной фантастики и стали символом в сообществе ИИ и робототехники того, насколько сложно правильно разработать систему, которая является безошибочной.

Чтобы полностью понять важность этих трех законов, нам необходимо сначала узнать о блестящем уме, который придумал эти законы – покойном авторе научной фантастики Айзеке Асимове. Затем нам необходимо понять, как адаптировать эти законы и развивать их, чтобы защитить человечество.

Айзек Асимов – восхождение гения

Айзек Асимов родился в России 2 января 1920 года и иммигрировал в Соединенные Штаты в возрасте трех лет. Он вырос в Бруклине, Нью-Йорке, и окончил Колумбийский университет в 1939 году. Он был признан как одаренный и плодовитый писатель, который сосредоточился на науке и научной фантастике. На протяжении своей карьеры он написал и/или отредактировал более 500 книг.

Асимов был сильно вдохновлен некоторыми из наиболее иконических авторов в мире научной фантастики. Он начал работать на верфи в Филадельфии, где встретил двух своих коллег, которые вскоре стали двумя из наиболее успешных авторов научной фантастики в истории спекулятивной фантастики: Л. Спрейг де Камп и Роберт А. Хайнлайн.

Л. Спрейг де Камп – лауреат премий, написавший более 100 книг, и был крупной фигурой в научной фантастике 1930-х и 1940-х годов. Некоторые из его наиболее популярных работ включают “Тьма” (1939), “Колеса если” (1940), “Ружье для динозавра” (1956), “Аристотель и ружье” (1958) и “Слава, которая была” (1960).

Роберт А. Хайнлайн, возможно, был наиболее популярным автором научной фантастики в мире на пике своей карьеры. Вместе с Айзеком Асимовым и Артуром Ч. Кларком он был признан одним из “Большой тройки” авторов научной фантастики. Некоторые из наиболее популярных работ Роберта А. Хайнлайна включают “Фарнхэмский фольварк” (1964) и “Плыть за закатом” (1987). Текущее поколение, возможно, знает его лучше всего по фильму, основанному на его романе “Звездный десант” (1959).

Будучи окруженным этими гигантами футурологии, Айзек Асимов был вдохновлен на свою плодовитую писательскую карьеру. Асимов также был высоко уважаем в научном сообществе и часто выступал с публичными лекциями о науке.

Три закона робототехники

Айзек Асимов был первым человеком, который использовал термин “робототехника” в коротком рассказе “Лжец!”, опубликованном в 1941 году.

Вскоре после этого его рассказ “Замкнутый круг” 1942 года представил миру его три закона робототехники. Законы следующие:

1. Робот не может причинить вреда человеку или, не действуя, допустить, чтобы человеку был причинен вред.

2. Робот должен выполнять приказы, данные ему людьми, за исключением случаев, когда такие приказы будут противоречить Первому закону.

3. Робот должен защищать свое существование, пока такая защита не будет противоречить Первому или Второму законам.

Эти законы были разработаны, чтобы предложить интересные сюжетные моменты, и Асимов создал серию из 37 научно-фантастических рассказов и шести романов, в которых фигурировали позитронные роботы.

Одна из этих коллекций рассказов под названием “Я, робот” была позже адаптирована для фильма в 2004 году. Фильм “Я, робот” с Уиллом Смитом в главной роли происходит в антиутопическом 2035 году и представляет собой высокоинтеллектуальных роботов-служащих, которые работают под руководством трех законов робототехники. Фильм, как и рассказы, быстро стал притчей о том, как программирование может пойти не так, и что программирование любого типа передового ИИ предполагает высокий уровень риска.

Мир теперь догнал то, что ранее было научной фантастикой, мы сейчас проектируем ИИ, который в некоторых отношениях намного более совершенен, чем все, что мог себе представить Айзек Асимов, и в то же время намного более ограничен.

Три закона робототехники часто упоминаются в обсуждениях искусственного общего интеллекта (ИОИ). Мы быстро рассмотрим, что такое ИОИ, а также то, как три закона робототехники должны эволюционировать, чтобы избежать потенциальных проблем в будущем.

Искусственный общий интеллект (ИОИ)

В настоящее время большинство типов ИИ, с которыми мы сталкиваемся в повседневной жизни, квалифицируются как “узкий ИИ”. Это тип ИИ, который очень специфичен и узок в своей функции. Например, автономный транспортный средство может ориентироваться на улицах, но из-за своих “узких” ограничений ИИ не может легко выполнить другие задачи. Другим примером узкого ИИ может быть система распознавания изображений, которая может легко идентифицировать и маркировать изображения в базе данных, но не может быть легко адаптирована для выполнения других задач.

Искусственный общий интеллект, обычно называемый “ИОИ”, – это ИИ, который, как и люди, может быстро учиться, адаптироваться, менять направление и функционировать в реальном мире. Это тип интеллекта, который не узок по объему, он может адаптироваться к любой ситуации и учиться решать реальные проблемы.

Следует отметить, что, хотя ИИ развивается экспоненциально, мы еще не достигли ИОИ. Когда мы достигнем ИОИ, является предметом дискуссии, и у каждого есть разные ответы на вопрос о сроке. Я лично придерживаюсь взглядов Рэя Курцвейла, изобретателя, футуролога и автора книги “Сингулярность уже близка”, который считает, что мы достигнем ИОИ к 2029 году.

Это 2029 год – это тикающая бомба, нам необходимо научиться встраивать в ИИ руководство, которое не только похоже на три закона, но и более совершенное и способное фактически избегать реальных конфликтов между людьми и роботами.

Современные законы робототехники

Хотя три закона робототехники были феноменальными для литературы, они значительно уступают в совершенстве, чтобы серьезно запрограммировать в робот. Это было, после всего, сюжетным моментом за рассказами и романами. Конфликты между тремя законами или, по крайней мере, их интерпретация вызывали у роботов срыв, сопротивление людям или другие важные сюжетные моменты.

Основная проблема с текущими законами заключается в том, что этические программы всегда выполнять человеческие инструкции и всегда защищать себя могут противоречить. Ведь может ли робот защитить себя от владельца, который его истязает?

Какой механизм защиты необходимо запрограммировать? Как мы можем указать роботу, что он должен выключиться, независимо от последствий? Что происходит, если робот в процессе спасения домохозяйки от истязаний должен ли он автоматически выключиться, если так ему приказывает истязающий муж?

Кто должен давать инструкции роботам? С автономным оружием, способным идентифицировать и целиться в врагов по всему миру, должен ли робот иметь возможность отказаться от приказа уничтожить цель, если он идентифицирует цель как ребенка?

Иными словами, если робот принадлежит и контролируется психопатом, может ли робот отказаться от приказов, которые являются аморальными? Вопросов много, и ответы слишком сложны для любого человека, чтобы ответить на них. Поэтому организации, такие как Институт будущего жизни, так важны, время для обсуждения этих моральных дилемм – сейчас, прежде чем появится真正щий ИОИ.