Чарльз Саймон, автор книги “Brain Simulator II” – Интервью

Чарльз Саймон – автор книги Brain Simulator II, которая является компаньоном к свободному, открытоому программному проекту Brain Simulator II, направленному на создание системы общего искусственного интеллекта (AGI).

Оригинальная программа Brain Simulator была выпущена в 1988 году, что является огромным периодом времени в мире программного обеспечения. Какой шаг вперед сделал Brain Simulator II по сравнению со своей предшественницей?

Сегодня система работает более чем в миллион раз быстрее. Оригинальная программа была написана на языке FORTRAN, работала на клоне IBM AT, поддерживала фиксированный массив из 1200 нейронов и выполняла примерно два цикла в секунду. Сегодня программа может работать в сети и обрабатывать 2,5 миллиарда синапсов в секунду на мощном процессоре.

Эта книга посвящена Brain Simulator II, открытому программному проекту, направленному на создание общего искусственного интеллекта. Какой опыт программирования необходим для работы с этой программой?

Никакого опыта не требуется. Если вы не являетесь программистом, вы можете работать с Brain Simulator и получить представление о возможностях и ограничениях нейронов, а также построить свои собственные ограниченные сети. Если вы являетесь программистом, вы сможете следовать более глубоким техническим объяснениям и создать свои собственные модули для расширения системы для более сложных стратегий AGI.

Почему возвращение к биологически обоснованным корням ИИ важно для достижения AGI?

В 1980-х годах считалось, что если мы сможем построить достаточно большую нейронную сеть, она спонтанно станет интеллектуальной. За прошедшие сорок лет это сценарий стал все более маловероятным. Итак, если классические подходы к ИИ не оправдали себя для AGI, давайте рассмотрим другие подходы, и единственная работающая модель AGI, которую мы имеем, – это человеческий мозг.

В то же время нет необходимости для слепого следования биологической правдоподобности. Например, мы знаем, что наш мозг может оценить расстояния до объектов на основе небольших различий в изображениях, полученных двумя глазами, что является основой для 3D-фильмов. Мы не знаем, как это работает в мозге, поэтому вместо этого я запрограммировал эту функциональность в модуль, который оценивает расстояния с помощью нескольких строк тригонометрии. Мы можем быть уверены, что ваш мозг не работает таким образом, но тригонометрический подход, вероятно, быстрее и точнее.

Вы заявляете в книге, что AGI требует робототехники, почему это так важно?

Рассмотрим попытку объяснить цвет слепому человеку или музыку глухому человеку. Если потенциальный AGI – это просто программа на компьютере, как он может получить базовое понимание вещей, которые любой трехлетний ребенок знает? Ребенок имеет точку зрения и окружен реальностью. Ребенок знает, что объекты существуют в этой реальности и что многие из них можно манипулировать. Играя с блоками, ребенок может узнать о форме, размере, плотности, гравитации, визуальном сокрытии, расстоянии и так далее. С помощью автономного движения, зрения и манипуляций AGI может узнать о реальности на более фундаментальном уровне, чем любая программа, которая полагается только на огромные объемы текстовых и изображений данных.

После того, как роботизированный AGI получит базовое понимание объектов в реальности, это знание можно клонировать в нероботизированные мыслительные машины, и понимание будет сохранено. Как и человек, который потерял зрение или слух, может понять вещи по-другому, чем человек, который никогда не имел этих чувств.

Одним из важных аспектов Brain Simulator II является то, что он не использует обратное распространение ошибки, какова причина не принятия этого метода?

Ваш мозг работает без обратного распространения ошибки, поэтому AGI должно быть возможно без него. На самом деле, обратное распространение ошибки фундаментально несовместимо с биологической моделью, поскольку оно полагается на возможность чувствовать и изменять веса синапсов с значительной точностью. После некоторого времени работы с Brain Simulator вы придете к выводу, что установка весов синапсов с любой степенью точности очень трудна и точное определение весов синапсов невозможно. Основная проблема заключается в том, что возбужденные нейроны изменяют веса синапсов, но нет способа обнаружить вес синапса без возбуждения нейронов, поэтому вес синапса не может быть обнаружен без изменения.

Обратное распространение ошибки не имеет биологического аналога, и я считаю его очень мощным статистическим методом. Многие люди работают с ним, некоторые с отличными результатами. Моя точка зрения заключается в том, чтобы попробовать другие подходы. Используя всплески нейронов в сочетании с модулями программного обеспечения, я рассматриваю проблемы AGI с другой точки зрения.

Когда мозг исследуется, кажется, что существует беспорядок и случайность, нужно ли нам ввести это в программную систему для истинного AGI?

Я не думаю. Когда вы смотрите на отдельные нейроны и синапсы, их функция довольно определена, как и транзистор. В мозге все выглядит случайным, потому что уровни шума довольно высоки, и компоненты информации не находятся в каком-либо видимом порядке. Но рассмотрим ваше зрение, вы можете читать текст с ясностью, и нет беспорядка или случайности в процессе чтения. Итак, мы заключаем, что, по крайней мере, ваша зрительная кора довольно надежна и повторяема. Однако, когда она исследуется, она выглядит так же беспорядочно, как и остальная часть мозга. Итак, остальная часть мозга, вероятно, так же надежна и повторяема, как и зрительная кора, мы просто не видим организации и порядка еще. Это немного похоже на чтение китайского языка, для меня это беспорядочные, полуслучайные знаки, но для человека, который может читать язык, есть абсолютная организация. Мы просто не можем прочитать внутренний язык мозга еще.

Вы вводите концепцию, называемую Универсальным хранилищем знаний (УХЗ), можете ли вы кратко обсудить, что это такое и почему это важно?

Вспоминая вопрос о робототехнике, вы можете увидеть, что одним из аспектов общего интеллекта является способность интегрировать знания из различных чувств. Вы знаете о блоке, потому что можете его видеть, трогать и слышать слова о нем. Все это представляет информацию о блоке. Итак, для AGI, чтобы иметь подобные способности, он должен иметь общую систему хранения, которая может обрабатывать широкий спектр различных информации и создавать полезные отношения между различными предметами. УХЗ – это граф знаний в очень общем смысле, чтобы он мог обрабатывать любую информацию и любые отношения.

УХЗ может хранить пространственную информацию, необходимую для приложения лабиринта, вместе с деревом решений и результатов, используемых для достижения цели. Та же структура используется для ассоциации слов с цветами. Этот тип общности фундаментален для AGI.

Какой ваш временной горизонт для появления AGI?

Трудно сказать. У нас уже есть необходимое оборудование для AGI, и я вижу, что один прорыв – все, что нужно, и он может произойти в любое время. Давайте попробую описать этот прорыв:

Рассмотрим, что если все, что вы знаете, – это то, что красный – это цвет и синий – это цвет, я могу попросить вас назвать некоторые цвета, и вы можете сказать красный и синий. Вопрос в том, как AGI может узнать, что отношение “является” – это что-то. Я мог бы запрограммировать такое отношение легко, но тогда мой AGI не сможет узнать новые отношения, когда они встречаются. Ребенок может узнать о отношениях ближнего/дальнего, больше/меньше, раньше/позже, до/после и так далее. Но эти отношения полагаются на еще более фундаментальные понятия размера, расстояния, времени и так далее.

Как голова, полная нейронов, может узнать все эти действительно фундаментальные вещи? Это связано с необходимостью робототехники. Как AGI может узнать понятие расстояния, если он не может пойти куда-либо или достичь чего-либо? Это также связано с необходимостью универсального хранилища. Как AGI может понять, что значит идти куда-либо, что сочетает понятия местоположения и времени? Идти куда-либо – относительно простая вещь. Понимание того, что значит идти куда-либо, – гораздо более сложная задача. Я считаю, что эти действительно фундаментальные вопросы – все проявления одной и той же основной проблемы, и решение этой проблемы – необходимый прорыв.

Не так много людей работают над этим вопросом, в основном потому, что он так труден для формулирования проекта, который, если он действительно успешен, будет иметь возможности трехлетнего ребенка после трех лет, и возможности десятилетнего ребенка после десяти лет. Итак, решение, вероятно, придет от небольших независимых исследователей, которые имеют время и энергию, чтобы посвятить себя проблемам, которые не имеют краткосрочной отдачи.

Есть ли что-то еще, что вы хотели бы поделиться о Brain Simulator II или AGI в целом?

Когда вы пытаетесь использовать нейроны и синапсы для проектирования цепей, которые решают эти фундаментальные проблемы, вы приходите к выводу, что вместо того, чтобы понятие представлялось несколькими десятками синапсов, каждое требует нескольких десятков нейронов. Это означает, что вместо того, чтобы мозг имел емкость многих миллиардов вещей, как обычно считается, он ограничен пониманием десятков или сотен миллионов вещей. С учетом этого в виду, зарождающийся AGI, который может понять только десять миллионов вещей, должен быть в состоянии понять некоторые из этих фундаментальных понятий. И компьютерная система, представляющая десять миллионов вещей, хорошо входит в рамки современного оборудования, возможно, даже современного настольного компьютера.

Выпуск V1.0 Brain Simulator – это его “взросление”. Теперь у него есть емкость и отполированный интерфейс, которые делают его гораздо более полезным для более широкой исследовательской аудитории. Это проект сообщества с растущей командой разработчиков и более крупным корпусом пользователей. Вместе мы попробуем много новых идей и добьемся прогресса в некоторых фундаментальных вопросах интеллекта и AGI.

Спасибо за отличное интервью, всегда интересно обсуждать AGI с вами. Читателям, которые хотят узнать больше, следует прочитать книгу Brain Simulator II.