Чарльз Дж. Симон, Автор, Восстанут ли Компьютеры? – Серия Интервью

Чарльз Дж. Симон, BSEE, MSCS, признанный предприниматель, разработчик и менеджер программного обеспечения. С широким опытом управления и технической экспертизы, а также степенями в области электротехники и компьютерных наук, господин Симон имеет много лет опыта работы с компьютерами в промышленности, включая пионерскую работу в области ИИ и САПР (два поколения САПР).

Он также является автором книги ‘Восстанут ли Компьютеры’, которая предлагает глубокий взгляд на будущую возможность создания Общего Искусственного Интеллекта (ОИИ).

Что именно привлекло вас к ИИ, и具体но к ОИИ?

Я увлекался вопросом, «Могут ли машины думать?» с тех пор, как впервые прочитал основополагающую статью Алана Тьюринга 1950 года, которая начинается с этого вопроса. Пока что ответ rõко «Нет», но нет научных причин, почему бы не «Да». Я присоединился к сообществу ИИ во время бума нейронных сетей в конце 1980-х годов, и с тех пор ИИ сделал большие шаги. Но прошедшие тридцать лет не принесли понимания нашим машинам, способности, которая бы позволила многим приложениям достичь новых уровней полезности.

Вы заявили, что разделяете мнение эксперта Массачусетского технологического института Родни Брукса, который говорит, что «без взаимодействия с окружающей средой – без роботизированного тела, если хотите – машины никогда не проявят ОИИ». Это基本но означает, что без достаточных входных данных от роботизированного тела ИИ никогда не разовьет возможности ОИИ. Помимо компьютерного зрения, какие типы входных данных необходимы для разработки ОИИ?

Сегодняшний ИИ нуждается в дополнении базовыми понятиями, такими как физическое существование объектов в реальности, течение времени, causa и следствие – понятия, ясные любому трехлетнему ребенку. Ребенок использует множество чувств, чтобы выучить эти понятия, трогая и манипулируя игрушками, перемещаясь по дому, изучая язык и т. д. Хотя возможно создать ОИИ с более ограниченными чувствами, как и существует глухих и слепых людей, которые совершенно интеллектуальны, но более чувств и способностей к взаимодействию делают решение проблемы ОИИ проще.

Для полноты моего симулятора может обеспечить чувства обоняния и вкуса. Остается увидеть, окажутся ли они важными для ОИИ.

Вы заявили, что «Ключевым требованием для интеллекта является окружающая среда, внешняя по отношению к интеллекту». Пример, который вы привели, – это то, что «неправильно ожидать, что система IBM Watson «понимает» что-либо, если у нее нет базового представления о том, что такое «вещь»». Это rõко играет в текущих ограничениях узкого ИИ, особенно в обработке естественного языка. Как разработчики ИИ могут преодолеть это текущее ограничение ИИ?

Ключевым фактором является хранение знаний, которые не являются специфически вербальными, визуальными или тактильными, а как абстрактные «Вещи», которые могут иметь вербальные, визуальные и тактильные атрибуты. Рассмотрим что-то простое, как фразу «красный мяч». Вы знаете, что эти слова значат, потому что ваших визуальных и тактильных опытов. Вы также знаете значение связанных действий, таких как бросание, отскакивание, пинание и т. д., которые все приходят на ум в той или иной степени, когда вы слышите фразу. Любая система ИИ, которая основана конкретно на словах или конкретно на изображениях, пропустит другие уровни понимания.

Я реализовал Универсальное Хранилище Знаний, которое хранит любую информацию в структурах, подобных мозгу, где «Вещи» аналогичны нейронам и имеют много ссылок на другие «Вещи» – ссылки аналогичны синапсам. Таким образом, «красный» и «мяч» – отдельные «Вещи», а «красный мяч» – «Вещь», которая имеет ссылки на «красную» и «мяч» «Вещи». И «красный», и «мяч» имеют ссылки на соответствующие «Вещи» для слов «красный» и «мяч», каждая из которых, в свою очередь, имеет ссылки на другие «Вещи», которые определяют, как слова произносятся, читаются или пишутся, а также возможные действия «Вещей».

Вы пришли к выводу, что模拟ирование мозга для общего интеллекта еще далеко, в то время как ОИИ может быть (относительно) скоро. Основываясь на этом заявлении, должны ли мы перейти от попыток эмулировать или создать симуляцию человеческого мозга и просто сосредоточиться на ОИИ?

Сегодняшние глубокие обучения и связанные с ними технологии отлично подходят для соответствующих приложений, но не приведут к пониманию. Чтобы сделать следующие шаги, нам нужно добавить методы, специально направленные на решение проблем, которые находятся в пределах возможностей любого трехлетнего ребенка.

Использование intrinsic возможностей наших компьютеров может быть на порядки более эффективным, чем биологический аналог или любой симуляция его. Например, ваш мозг может хранить информацию в химии биологических синапсов за несколько итераций, требующих 10-100 миллисекунд. Компьютер может просто хранить новое значение синапса в одном цикле памяти, что в миллиард раз быстрее.

При разработке программного обеспечения ОИИ я сделал как биологическую нейронную симуляцию, так и более эффективные алгоритмы. Продолжая с Универсальным Хранилищем Знаний, когда симулируется в симулированных биологических нейронах, каждая «Вещь» требует минимум 10 нейронов и обычно намного больше. Это ставит емкость человеческого мозга где-то между десятью и сотней миллионов «Вещей». Но, возможно, ОИИ покажется интеллектуальным, если он понимает только один миллион «Вещей» – что вполне находится в пределах возможностей современных высококлассных настольных компьютеров.

Одним из ключевых неизвестных является то, сколько времени робота должно быть выделено на обработку и реакцию на мир, а сколько времени должно быть потрачено на воображение и планирование. Можете ли вы кратко объяснить важность воображения для ОИИ?

Мы можем представить себе много вещей, а затем действовать только на те, которые нам нравятся, которые дальше наших внутренних целей, если хотите. Реальная сила воображения заключается в том, чтобы предсказать будущее – трехлетний ребенок может выяснить, какие последовательности движений приведут его к цели в другой комнате, а взрослый может спекулировать на то, какие слова будут иметь наибольшее влияние на других.

ОИИ также будет выигрывать от того, что он будет выходить за рамки простой реакции и будет спекулировать на различные сложные действия и выбирать лучшее.

Вы считаете, что три закона робототехники Азимова слишком просты и двусмысленны. В вашей книге вы поделились некоторыми идеями о рекомендуемых законах, которые следует запрограммировать в роботов. Какие законы, по вашему мнению, являются наиболее важными для робота, чтобы следовать?

Новые «законы робототехники» будут развиваться в течение лет, когда ОИИ появится. Я предлагаю несколько стартовых:

1. Максимизировать внутренние знания и понимание окружающей среды.
2. Поделиться этими знаниями точно с другими (и ОИИ, и людьми).
3. Максимизировать благополучие как ОИИ, так и людей в целом – не только как отдельного человека.

У вас есть некоторые проблемы с тестом Тьюринга и концепцией, лежащей в его основе. Можете ли вы объяснить, как, по вашему мнению, тест Тьюринга является ошибочным?

Тест Тьюринга хорошо послужил нам в течение пятидесяти лет как ад-хок определение общего интеллекта, но когда ОИИ приближается, нам нужно уточнить определение, и нам нужно более четкое определение. Тест Тьюринга на самом деле является тестом на то, насколько человек подобен, а не насколько интеллектуален. Чем дольше компьютер может поддерживать обман, тем лучше он выполняет тест. Очевидно, что задавать вопрос «Вы компьютер?» и связанные с ним вопросы, такие как «Какая ваша любимая еда?», являются явными признаками обмана, если только ОИИ не запрограммирован на обман – это сомнительная цель.

Кроме того, тест Тьюринга мотивировал развитие ИИ в области ограниченной ценности, например, чат-ботов с огромной гибкостью в ответах, но без базового понимания.

Что бы вы сделали по-другому в вашей версии теста Тьюринга?

Лучшие вопросы могли бы конкретно проникнуть в понимание времени, пространства, причинно-следственных связей, предвидения и т. д., а не случайные вопросы без конкретной основы в психологии, нейробиологии или ИИ. Вот некоторые примеры:

1. Что вы видите прямо сейчас? Если вы отступите на три фута, какие различия вы увидите?
2. Если я [действие], какова будет ваша реакция?
3. Если вы [действие], каковы будут мои вероятные реакции?
4. Можете ли вы назвать три вещи, которые похожи на [объект]?

Затем, вместо того, чтобы оценивать ответы на то, насколько они неотличимы от человеческих ответов, их следует оценивать с точки зрения того, являются ли они разумными ответами (интеллектуальными) на основе опыта сущности, которая тестируется.

Вы заявили, что когда сталкиваются с требованиями выполнить некоторое краткосрочное разрушительное действие, правильно запрограммированные ОИИ просто откажутся. Как мы можем обеспечить, чтобы ОИИ был правильно запрограммирован с самого начала?

Принятие решений основано на целях. В сочетании с воображением вы (или ОИИ) рассматриваете результат различных возможных действий и выбираете то, которое лучше всего достигает целей. У людей наши цели определяются эволюционными инстинктами и опытом; цели ОИИ полностью зависят от разработчиков. Нам нужно обеспечить, чтобы цели ОИИ соответствовали целям человечества, а не личным целям отдельного человека. [Три возможных цели, перечисленных выше.]

Вы заявили, что неизбежно, что люди создадут ОИИ, какой ваш лучший прогноз для временной шкалы?

Аспекты ОИИ начнут появляться в течение ближайшего десятилетия, но мы не все согласимся, что ОИИ прибыл. В конечном итоге мы согласимся, что ОИИ прибыл, когда они превысят большинство человеческих способностей на существенный.margin. Это займет два или три десятилетия дольше.

Для всех разговоров об ОИИ будет ли это реальное сознание, как мы его знаем?

Сознание проявляется в наборе поведений (которые мы можем наблюдать), которые основаны на внутреннем ощущении (которое мы не можем наблюдать). ОИИ будут проявлять поведение; им нужно это, чтобы принимать интеллектуальные решения. Но я утверждаю, что наши внутренние ощущения в значительной степени зависят от нашего сенсорного оборудования и инстинктов, и поэтому я могу гарантировать, что любые внутренние ощущения, которые могут иметь ОИИ, будут отличаться от человеческих.

То же самое можно сказать об эмоциях и нашем чувстве свободной воли. При принятии решений наше убеждение в свободной воле пронизывает каждое решение, которое мы принимаем. Если вы не считаете, что у вас есть выбор, вы просто реагируете. Чтобы ОИИ принимал обоснованные решения, ему также нужно быть осведомленным о своей способности принимать решения.

Последний вопрос, считаете ли вы, что ОИИ имеет больше потенциала для добра или зла?

Я оптимистичен, что ОИИ поможет нам двигаться вперед как виду и принесет нам ответы на многие вопросы о Вселенной. Ключом будет для нас подготовиться и решить, каковы будут наши отношения с ОИИ, когда мы определяем их цели. Если мы решим использовать первые ОИИ как инструменты завоевания и обогащения, мы не должны быть удивлены, если в будущем они станут своими собственными инструментами завоевания и обогащения против нас. Если мы выберем, что ОИИ являются инструментами знаний, исследования и мира, то это то, что мы, скорее всего, получим в ответ. Выбор за нами.

Спасибо за фантастическое интервью, исследующее будущий потенциал создания ОИИ. Для читателей, которые хотят узнать больше, они могут прочитать ‘Восстанут ли Компьютеры’ или посетить сайт Чарльза futureai.guru.