Мэтью Айкл, главный научный сотрудник SingularityNET – Интервью

Мэтью Айкл является главным научным сотрудником в SingularityNET, компании, основанной с миссией создания децентрализованного, демократического, инклюзивного и полезного искусственного общего интеллекта. ИИ, который не зависит от какой-либо центральной сущности, открыт для всех и не ограничен узкими целями отдельной корпорации или даже отдельной страны.

Команда SingularityNET включает в себя опытных инженеров, ученых, исследователей, предпринимателей и маркетологов. Основная платформа и команды ИИ дополняются специализированными командами, посвященными таким областям применения, как финансы, робототехника, биомедицинский ИИ, средства массовой информации, искусство и развлечения.

Учитывая ваш обширный опыт и роль в SingularityNET, насколько вы уверены, что мы достигнем ИОИ к 2029 году или раньше, как предсказал доктор Бен Гёрцель?

Я собираюсь ответить на этот вопрос немного косвенно. 2029 год – это примерно через пять лет. Многие годы назад (в начале-середине 2010-х годов) я был чрезвычайно оптимистичен относительно прогресса ИОИ. Мой оптимизм в то время основывался на уровне детального мышления и сходимости идей, которые я наблюдал в исследованиях ИОИ в то время. Хотя большинство больших идей того времени, я считаю, все еще сохраняют обещание, трудность, как часто бывает, заключается в детализации таких широких замыслов.

С учетом этого ограничения, теперь есть множество новой информации из различных дисциплин – нейробиологии, математики, информатики, психологии, социологии и т. д. – которая не только обеспечивает механизмы для завершения этих деталей, но и концептуально поддерживает основы той предыдущей работы. Я вижу закономерности, и в довольно различных областях, которые, кажется, сходятся с ускоряющейся скоростью к аналогичным поведениям. Во многих отношениях, эта сходимость напоминает мне период времени до выпуска первого iPhone. Чтобы процитировать Грега Мередита, который работает над нашей инфраструктурой RhoLang для безопасной параллельной обработки, закономерности, которые я вижу в последнее время, связаны с историями происхождения – как началась первая жизнь/клетка на Земле? Как и когда сформировался разум? И связанные вопросы о фазовых переходах и т. д.

Например, есть довольно много новой экспериментальной исследовательской работы, которая склоняется к поддержке идей, лежащих в основе сложной динамической системы взгляда. ЭЭГ-рисунки человеческих субъектов, например, демонстрируют замечательное поведение в соответствии с такой системной динамикой. Эти результаты напоминают мне некоторые более ранние работы по теориям сознания. Теперь, кажется, есть начало экспериментального подтверждения этих теоретических идей.

В SingularityNET я много думаю о самоподобных структурах, которые генерируют такую динамику. Это довольно отличается, я бы сказал, от того, что происходит в большей части сообщества DNN/LLM, хотя есть определенное признание среди некоторых более фундаментальных исследователей этих идей. Я бы сослался на статью “Сознание в искусственном интеллекте: идеи из науки о сознании”, опубликованную 19 исследователями в августе 2023 года, например. Исследователи охватывали различные дисциплины, включая исследования сознания, исследования безопасности ИИ, нейробиологию, математику, информатику, психологию, нейробиологию и исследования разума и когнитивных процессов. То, что объединяет этих исследователей, больше, чем простая погоня за следующим инкрементальным архитектурным улучшением в DNN, но вместо этого они сосредоточены на научном понимании больших философских идей, лежащих в основе человеческого познания, и на том, как привнести их для реализации настоящих систем ИОИ.

Что, по вашему мнению, являются самыми большими технологическими или философскими препятствиями для достижения ИОИ в течение этого десятилетия?

Понимание и ответ на большие философские и научные вопросы, включая:

• Что такое жизнь? Мы можем думать, что ответ ясен, но биологические определения оказались проблематичными. Являются ли вирусы “живыми”, например.
• Что такое разум?
• Что такое интеллект?
• Как жизнь возникла из нескольких базовых химических веществ в определенных условиях окружающей среды? Как мы можем повторить это?
• Как возник первый “разум”? Какие ингредиенты и условия позволили этому?
• Как мы реализуем то, что мы узнаем, когда исследуем пять вопросов выше?
• Соответствует ли наша текущая технология задаче реализации наших решений? Если нет, что нам нужно изобрести и разработать?
• Сколько времени и персонала нам нужно для реализации наших решений?

SingularityNET считает нейро-символический ИИ перспективным решением для преодоления текущих ограничений генеративного ИИ. Можете ли вы объяснить, что такое нейро-символический ИИ и как SingularityNET планирует использовать этот подход для ускорения разработки ИОИ?

Исторически существовало два основных лагеря исследователей ИОИ, а также третий лагерь, сочетающий идеи первых двух. Были исследователи, которые верили только в подсимволический подход. В последнее время это означает использование глубоких нейронных сетей (DNN) таких как модели Transformer, включая текущую серию больших языковых моделей (LLM). Из-за использования искусственных нейронных сетей подсимволические подходы также называются нейронными методами. В подсимволических системах обработка выполняется на идентичных и неименованных узлах (нейронах) и связях (синапсах). Сторонники символического подхода используют высший логический и символический рассуждения, в которых узлы и связи помечены концептуальным и семантическим значением. SingularityNET следует третьему подходу, который можно было бы описать как нейро-символический гибрид, использующий сильные стороны символических и подсимволических методов.

Однако это особый вид гибрида, в основном основанный на философии разума Бена Гёрцеля и подробно описанный в документах, таких как его статья “Общая теория общего интеллекта: прагматический пATTERNISTIC взгляд”.

Хотя большая часть текущих исследований DNN и LLM основана на простых нейронных моделях и алгоритмах, использовании огромных наборов данных (например, всего интернета) и правильных настройках миллиардов параметров с целью достижения ИОИ, стратегия PRIMUS SingularityNET основана на фундаментальных пониманиях динамических процессов на нескольких пространственно-временных масштабах и том, как лучше всего выравнивать такие процессы, чтобы вызвать желаемые свойства на различных масштабах. Такие понимания позволяют нам продолжить направление исследований и разработки ИОИ в человечески понятной форме.

Какие рамки, по вашему мнению, являются критическими для обеспечения того, чтобы разработка ИОИ приносила пользу всем человечеству? Как могут децентрализованные платформы ИИ, такие как SingularityNET, способствовать более справедливому и прозрачному процессу по сравнению с централизованными моделями ИИ?

Все виды идей здесь:

Прозрачность — Хотя ничего не идеально, обеспечение полной прозрачности процесса принятия решений может помочь всем участникам (исследователям, разработчикам, пользователям и не-пользователям) выровнять, направить, понять и лучше обработать разработку ИОИ для пользы человечества. Это похоже на проблему предвзятости, о которой я упомяну ниже.

Децентрализация – Децентрализация может быть беспорядочной, но она может помочь обеспечить, чтобы власть была разделена более широко. Это не является само по себе панацеей, но инструментом, который, если использовать его правильно, может помочь создать более справедливые процессы и результаты.

Принятие решений на основе консенсуса – децентрализация и принятие решений на основе консенсуса могут работать вместе в преследовании более справедливых процессов и результатов. Опять же, они не всегда гарантируют справедливость. Здесь также есть сложности, которые необходимо решить, в частности, репутация и области экспертизы. Например, как мы можем лучше всего сбалансировать противоречивые желаемые характеристики? Я рассматриваю прозрачность, децентрализацию и принятие решений на основе консенсуса как три критически важных инструмента, которые можно использовать для направления разработки ИОИ для пользы человечества.

Пространственно-временная выравнивание возникающих явлений на нескольких масштабах от чрезвычайно малого до необычайно большого. При разработке ИОИ я считаю, что важно не только полагаться на один “черный ящик” подход, в котором надеются получить все правильно с самого начала. Вместо этого я считаю, что проектирование ИОИ с фундаментальными пониманиями на различных стадиях разработки и на нескольких масштабах не только может сделать более вероятным достижение ИОИ, но и более важно – направить такое развитие в соответствии с человеческими ценностями.

SingularityNET – это децентрализованная платформа ИИ. Как вы представляете себе пересечение технологии блокчейна и ИОИ, особенно в отношении безопасности, управления и децентрализованного контроля?

Блокчейн определенно играет роль в контроле ИИ, безопасности и управлении. Одним из самых больших преимуществ блокчейна является его способность способствовать прозрачности. Вопрос предвзятости – отличный пример этого. Я бы сказал, что каждый человек и каждая база данных предвзяты. У меня есть свои личные предвзятости, например, когда речь идет о том, что, по моему мнению, необходимо для достижения真正щего безопасного, полезного и благотворного ИОИ. Эти предвзятости были сформированы моими исследованиями и фоном, и они направляют мою собственную работу.

В то же время я пытаюсь быть совершенно открытым для идей, которые противоречат моим предвзятостям, и готов скорректировать свои предвзятости на основе новых доказательств. Независимо от этого, я пытаюсь быть открытым и прозрачным в отношении своих предвзятостей и затем обусловливать свои идеи и решения на основе саморефлексивного понимания этих предвзятостей. Это сложно, это трудно, но, я считаю, лучше, чем не признавать свои собственные предвзятости. Блокчейн по своей природе позволяет лучше и прозрачнее отслеживать, отслеживать и проверять процессы и события. Аналогично тому, как я описал ранее, прозрачность является необходимым, но не всегда достаточным, компонентом для безопасности, управления и децентрализованного контроля.

Как блокчейн и ИОИ коэволюционируют, это интересный вопрос. Чтобы эти две технологии взаимодействовали с положительной сингулярностью, кажется ясным, что фундаментальные характеристики, на которые я постоянно указываю (прозрачность, децентрализация, консенсус и выравнивание ценностей), являются центральными и критическими и должны учитываться на всех стадиях их коэволюции.

Как лидер, который был тесно вовлечен в ИИ и блокчейн, что, по вашему мнению, являются наиболее важными факторами для содействия сотрудничеству между этими двумя областями, и как это может стимулировать инновации в ИОИ?

Я прихожу из стороны ИИ/ИОИ этой пары. Как часто бывает при интеграции междисциплинарных идей, многое сводится к вопросам языка и коммуникации. Все группы должны слушать друг друга, чтобы лучше понять, как эти технологии могут помочь друг другу. В моей работе в SingularityNET это была постоянная борьба. Высококлассные исследователи, которых, можно без преувеличения сказать, что SingularityNET имеет в избытке, часто имеют четкие умственные представления о больших идеях. Когда работа идет через дисциплинарные границы, трудная часть заключается в том, чтобы понять, что не все “в вашей голове”. То, что вы принимаете как должное, не будет так же четко наблюдаться из точки зрения других областей. Даже слова, используемые в общем, могут использоваться по-разному в разных областях исследования. Был недавний случай в нашей работе BioAI, когда биологи использовали математический термин, но не совсем точно в терминах его математического определения. Как только такие ситуации становятся ясными, команда может двигаться вперед с общей целью, чтобы интеграция действительно доказала, что целое больше, чем сумма его частей.

Как вы видите отрасли ИИ и блокчейна, работающие над большим разнообразием и инклюзивностью, и какую роль играет SingularityNET в продвижении этих ценностей?

ИИ и блокчейн могут сыграть значительную роль в улучшении усилий по диверсификации и инклюзивности. Хотя я считаю, что невозможно удалить все предвзятости – многие предвзятости формируются просто через опыт жизни – можно быть открытым и прозрачным относительно своих предвзятостей. Это то, к чему я активно стремлюсь в своей собственной работе, которая предвзята моим академическим фоном, так что я вижу проблемы через призму динамики сложных систем. Однако я все еще стремлюсь быть открытым для идей и аналогий из других точек зрения. ИИ может быть использован для помощи в этом саморефлексивном процессе, а блокчейн может определенно помочь с прозрачностью. SingularityNET может сыграть огромную роль, размещая инструменты для обнаружения, измерения и удаления (насколько это возможно) предвзятостей в наборах данных.

Как работа SingularityNET в децентрализованных экосистемах ИИ способствует решению глобальных проблем, таких как устойчивость, образование и создание рабочих мест, особенно в регионах, таких как Африка, где у вас есть особый интерес?

Устойчивость:

• Применение ИИ и системных моделей для решения сложных проблем экосистем в крупном масштабе.
• Мониторинг таких решений в крупном масштабе.
• Использование блокчейна для отслеживания, отслеживания и верификации таких решений.
• Использование комбинации ИИ, экосистемных моделей, гиперлокальных данных и блокчейна, мы придумали полные решения для ремесленного горнодобыва в Африке и сельскохозяйственной углеродной секвестрации в крупном масштабе.

Образование:

Как бывший профессор математики и информатики, образование чрезвычайно важно для меня, особенно поскольку оно обеспечивает возможности для недопредставленных студентов. Важно:

• Улучшить доступность, разрабатывая гибридные курсы для студентов, которые могут столкнуться с географическими, финансовыми или временными ограничениями.
• Содействовать разнообразию и инклюзивности, увеличивая участие недопредставленных групп в ИИ, блокчейне и других передовых технологиях.
• Содействовать междисциплинарным знаниям, создавая курсы, которые объединяют академические и профессиональные области.
• Поддержать карьерный рост, предоставляя навыки и сертификаты, которые напрямую применимы на рынке труда.

Я считаю, что ИОИ и блокчейн, и их синергии, играют критическую роль в решении вышеуказанных целей в рамках программ “от ученичества к мастерству”, основанных на практическом проектном обучении.

Создание рабочих мест:

Содействуя четырем образовательным целям, упомянутым выше, кажется, что ИОИ, блокчейн и другие передовые технологии, в сочетании с положительным сотрудничеством между учителями и учениками, могут поощрять и порождать совершенно новые технологии и бизнес.

Как человек, посвященный достижению положительной сингулярности, какие конкретные вехи или прорывы в технологии ИИ, по вашему мнению, будут необходимы для обеспечения того, чтобы ИОИ развивался полезным для общества образом?

• Способность выравнивать возникающие явления в человечески понятной форме на нескольких пространственно-временных масштабах.
• Способность понять на более глубоком уровне концепции, лежащие в основе “спонтанных” фазовых переходов.
• Способность преодолеть несколько трудных проблем на тонком уровне, чтобы обеспечить真正ую многопроцессорность через суперпозиции состояний.
• Прозрачность на всех стадиях.
• Децентрализованное принятие решений на основе построения консенсуса.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить SingularityNET.