Как три закона робототехники Азимова влияют на ИИ

Три закона робототехники являются знаковыми в мире научной фантастики и стали символом в сообществе ИИ и робототехники того, как сложно правильно спроектировать надежную систему.

Чтобы полностью понять важность этих трех законов, мы должны сначала узнать о блестящем уме, который придумал эти законы покойный писатель-фантаст Айзек Азимов. Затем мы должны понять, как адаптировать эти законы и заставить их развиваться для защиты человечества.

Айзек Азимов – Восхождение гения

Айзек Азимов родился в России 2 января 1920 года и иммигрировал в Соединенные Штаты в возрасте трех лет. Он вырос в Бруклине, Нью-Йорк, и окончил Колумбийский университет в 1939 году.  Он был признан одаренным и плодовитым писателем, специализирующимся на науке и научной фантастике. За свою карьеру он написал и/или отредактировал более 500 книг.

Азимов был очень вдохновлен некоторыми из самых знаковых писателей в мире научной фантастики. Он начал свою работу на военно-морской верфи Филадельфии, где познакомился с двумя своими коллегами, которые вскоре станут двумя самыми успешными писателями-фантастами в истории спекулятивной фантастики: Л. Спраг де Камп и Роберт А. Хайнлайн.

Л. Спрэг де Камп — отмеченный наградами автор, написавший более 100 книг и являвшийся крупной фигурой в области научной фантастики 1930-х и 1940-х годов. Некоторые из его самых популярных работ включали «Падение тьмы» (1939 г.), «Колеса Илф» (1940 г.), «Пистолет для динозавра» (1956 г.), «Аристотель и ружье» (1958 г.) и «Слава, которая Был» (1960).

Роберт А. Хайнлайн, возможно, был самым популярным писателем-фантастом в мире на пике своей карьеры. Вместе с Айзеком Азимовым и Артур Кларк его считали «большой тройкой» авторов-фантастов. Некоторые из самых популярных работ Роберта А. Хайнлайна включали «Фарнхемское право собственности» (1964) и «к Парус за закатом» (1987). Нынешнее поколение, вероятно, лучше всего знает его по экранизации романа «Звездный десант» (1959).

Окружение этих гигантов футуризма вдохновило Айзека Азимова на начало его плодотворной писательской карьеры. Азимов также пользовался большим уважением в научном сообществе, и его часто приглашали выступать с докладами о науке.

Три закона робототехники

Исаак Азимов был первым, кто использовал термин «робототехника». в рассказе «Лжец!» которая была опубликована в 1941 году.

Вскоре после этого его рассказ 1942 года «Обход» познакомил мир с его тремя законами робототехники. Законы таковы:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.

3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.

Эти законы были разработаны, чтобы предлагать интересные сюжетные повороты, и Азимов создал серию из 37 научно-фантастических рассказов и шести романов, в которых фигурировали позитронные роботы.

Один из этих сборников рассказов под названием «Я, робот» позже был адаптирован для фильма в 2004 году. Действие фильма «Я, робот» с Уиллом Смитом в главной роли происходит в антиутопическом 2035 году, и в нем представлены высокоинтеллектуальные роботы-государственные служащие, которые действуют в соответствии с тремя законами. робототехники. Фильм, как и истории, быстро стал притчей о том, как программирование может пойти не так, и что программирование любого типа продвинутого ИИ связано с высоким уровнем риска.

Теперь мир догнал то, что раньше было научной фантастикой, теперь мы разрабатываем ИИ, который в некотором смысле намного более продвинут, чем все, что Айзек Азимов мог себе представить, и в то же время гораздо более ограничен.

Три закона робототехники довольно часто упоминаются в обсуждениях общего искусственного интеллекта (AGI). Мы быстро рассмотрим, что такое ОИИ, а также то, как должны развиваться три закона робототехники, чтобы избежать потенциальных проблем в будущем.

Общий искусственный интеллект (AGI)

В настоящее время большинство типов ИИ, с которыми мы сталкиваемся ежедневно, количественно определяются как «узкий ИИ». Это тип ИИ, который очень специфичен и узок в своей полезной функции. Например, автономное транспортное средство может перемещаться по улицам, но из-за своих «узких» ограничений ИИ не может легко выполнять другие задачи. Другим примером узкого ИИ может быть система распознавания изображений, которая может легко идентифицировать и маркировать изображения в базе данных, но не может быть легко адаптирована к другой задаче.

Искусственный общий интеллект, который обычно называют «AGI», представляет собой ИИ, который, подобно людям, может быстро учиться, адаптироваться, поворачиваться и функционировать в реальном мире. Это тип интеллекта, который не является узким по своему охвату, он может адаптироваться к любой ситуации и научиться справляться с реальными проблемами.

Следует отметить, что хотя ИИ развивается в геометрической прогрессии, мы все еще не достигли ОИИ. Вопрос о том, когда мы достигнем ОИИ, обсуждается, и у всех разные ответы на вопрос о сроках. Я лично разделяю точку зрения Рэя Курцвейла, изобретателя, футуриста и автора книги «Сингулярность рядом», который считает, что мы достигнут AGI к 2029 г..

Именно эта временная шкала 2029 года является тикающими часами, мы должны научиться жестко запрограммировать тип свода правил в ИИ, который не только похож на три закона, но и является более продвинутым и способным фактически избежать реального мира. конфликт между людьми и роботами.

Современные законы робототехники

Хотя три закона робототехники были феноменальными для литературы, им явно не хватает сложности, чтобы серьезно запрограммировать их в робота. В конце концов, это был сюжетный ход рассказов и романов. Конфликты между тремя законами или, как минимум, интерпретация трех законов привели к тому, что роботы расплавились, отомстили людям или другие ключевые моменты сюжета.

Основная проблема с действующими законами заключается в том, что этическая программа всегда подчиняться человеческим инструкциям и всегда защищать себя может конфликтовать. В конце концов, может ли робот защищаться от владельца, который злоупотребляет им?

Какой тип отказоустойчивого механизма необходимо запрограммировать? Как мы проинструктируем робота, что он должен отключиться независимо от последствий? Что произойдет, если робот спасает домохозяйку от жестокого обращения, должен ли робот автоматически отключиться, если об этом попросит жестокий муж?

Кто должен давать инструкции роботам? С автономным оружием, способным идентифицировать и нацеливаться на врагов со всего земного шара, должен ли робот отклонять команду на уничтожение цели, если он идентифицирует цель как ребенка?

Другими словами, если робот принадлежит психопату и управляется им, может ли робот отказываться от аморальных приказов? Вопросов много, и ответы слишком сложны для любого человека, чтобы ответить. Вот почему такие организации, как Будущее жизни Институт настолько важен, что пришло время обсудить эти моральные дилеммы, прежде чем появится настоящий ОИИ.