Как три закона робототехники Асимова влияют на ИИ

Три закона робототехники являются иконическими в мире научной фантастики и стали символом в сообществе ИИ и робототехники того, насколько сложно правильно спроектировать систему, которая является надежной.

Чтобы полностью понять важность этих трех законов, мы должны сначала узнать о блестящем уме, который придумал эти законы – покойном авторе научной фантастики Айзеке Асимове. Затем нам нужно понять, как адаптировать эти законы и сделать их эволюционирующими, чтобы защитить человечество.

Айзек Асимов – восхождение гения

Айзек Асимов родился в России 2 января 1920 года и иммигрировал в Соединенные Штаты в возрасте трех лет. Он вырос в Бруклине, Нью-Йорке, и окончил Колумбийский университет в 1939 году. Он был признан одаренным и плодовитым писателем, который сосредоточился на науке и научной фантастике. На протяжении своей карьеры он написал и/или отредактировал более 500 книг.

Асимов был сильно вдохновлен некоторыми из самых иконических писателей в мире научной фантастики. Он начал работать на верфи ВМФ в Филадельфии, где он встретил двух своих коллег, которые вскоре стали двумя из самых успешных писателей научной фантастики в истории спекулятивной фантастики: Л. Спрейг де Камп и Роберт А. Хайнлайн.

Л. Спрейг де Камп – лауреат премий, написавший более 100 книг, и был крупной фигурой в научной фантастике 1930-х и 1940-х годов. Некоторые из его самых популярных работ включали “Падение тьмы” (1939), “Колеса если” (1940), “Ружье для динозавра” (1956), “Аристотель и ружье” (1958) и “Слава, которая была” (1960).

Роберт А. Хайнлайн, возможно, был самым популярным писателем научной фантастики в мире на пике своей карьеры. Вместе с Айзеком Асимовым и Артуром К. Кларком он считался “Большой Троицей” писателей научной фантастики. Некоторые из самых популярных работ Роберта А. Хайнлайна включали “Ферма Фарнхэма” (1964) и “Плыть за пределы заката” (1987). Текущее поколение, вероятно, знает его лучше всего по фильму, снятому по его роману “Звездный десант” (1959).

Будучи окруженным этими гигантами футуризма, Айзек Асимов был вдохновлен на запуск своей плодотворной писательской карьеры. Асимов также был высоко уважаем в научном сообществе и часто приглашался как публичный спикер, чтобы читать лекции о науке.

Три закона робототехники

Айзек Асимов был первым человеком, использовавшим термин “робототехника” в коротком рассказе под названием “Лжец!”, опубликованном в 1941 году.

Вскоре после этого его короткий рассказ 1942 года “Замкнутый круг” представил миру его три закона робототехники. Законы следующие:

1. Робот не может нанести вреда человеку или, не действуя, допустить, чтобы человеку был нанесен вред.

2. Робот должен выполнять приказы, данные ему людьми, за исключением случаев, когда такие приказы будут противоречить Первому закону.

3. Робот должен защищать свое существование, пока такая защита не будет противоречить Первому или Второму законам.

Эти законы были разработаны, чтобы предложить интересные сюжетные точки, и Асимов создал серию из 37 научно-фантастических коротких рассказов и шести романов, в которых фигурировали позитронные роботы.

Одна из этих коллекций коротких рассказов под названием “Я, робот” была позже адаптирована для фильма в 2004 году. Фильм “Я, робот” с Уиллом Смитом в главной роли происходит в антиутопическом 2035 году и представляет собой высокоинтеллектуальных роботов-служащих, которые работают под руководством трех законов робототехники. Фильм, как и рассказы, быстро стал притчей о том, как программирование может пойти не так, и что программирование любого типа передового ИИ предполагает высокий уровень риска.

Мир теперь догнал то, что ранее было научной фантастикой, мы сейчас проектируем ИИ, который в некоторых отношениях намного более продвинут, чем все, что мог представить Айзек Асимов, и в то же время намного более ограничен.

Три закона робототехники довольно часто упоминаются в обсуждениях искусственного общего интеллекта (ИОИ). Мы быстро рассмотрим, что такое ИОИ, а также как три закона робототехники должны эволюционировать, чтобы избежать потенциальных проблем в будущем.

Искусственный общий интеллект (ИОИ)

В настоящее время большинство типов ИИ, с которыми мы сталкиваемся в повседневной жизни, квалифицируются как “узкий ИИ”. Это тип ИИ, который очень специфичен и узок в своей функции полезности. Например, автономный транспортный средство может ориентироваться на улицах, но из-за его “узких” ограничений ИИ не может легко выполнить другие задачи. Другим примером узкого ИИ является система распознавания изображений, которая может легко идентифицировать и помечать изображения в базе данных, но не может быть легко адаптирована для выполнения другой задачи.

Искусственный общий интеллект, обычно обозначаемый как “ИОИ”, – это ИИ, который, как и люди, может быстро учиться, адаптироваться, менять направление и функционировать в реальном мире. Это тип интеллекта, который не узок по объему, он может адаптироваться к любой ситуации и научиться решать реальные проблемы.

Следует отметить, что, хотя ИИ развивается экспоненциально, мы еще не достигли ИОИ. Когда мы достигнем ИОИ, является предметом дискуссии, и у всех есть разные ответы на этот счет. Я лично придерживаюсь взглядов Рэя Курцвейла, изобретателя, футуролога и автора книги “Сингулярность уже близко”, который считает, что мы достигнем ИОИ к 2029 году.

Это 2029 год – это тикающая бомба, мы должны научиться внедрять в ИИ某ого рода справочник, который не только похож на три закона, но и более продвинут, и способен фактически избежать реальных конфликтов между людьми и роботами.

Законы робототехники современности

Хотя три закона робототехники были феноменальными для литературы, они значительно уступают в сложности для серьезного программирования в робот. Это было, после всего, сюжетной точкой за короткими рассказами и романами. Конфликты между тремя законами или, по крайней мере, их интерпретация вызывали у роботов срыв, сопротивление людям или другие важные сюжетные моменты.

Основная проблема с текущими законами заключается в том, что этическая программа всегда выполнять человеческие инструкции и всегда защищать себя может конфликтовать. Ведь робот может ли защитить себя от владельца, который его истязает?

Какой механизм защиты необходимо запрограммировать? Как мы инструктируем робота, чтобы он выключился, независимо от последствий? Что происходит, если робот в процессе спасения домохозяйки от истязаний должен ли он автоматически выключиться, если ему это приказать истязающий муж?

Кто должен давать инструкции роботам? С автономными военными системами, способными идентифицировать и целиться в цели по всему миру, должен ли робот иметь возможность отказаться от команды на уничтожение цели, если он идентифицирует цель как ребенка?

Иными словами, если робот принадлежит и контролируется психопатом, может ли робот отказаться от приказов, которые являются аморальными? Вопросов много, и ответы слишком сложны для любого человека. Вот почему организации, такие как Институт будущего жизни, так важны, время для обсуждения этих моральных дилемм – сейчас, прежде чем появится真正щий ИОИ.