Почему Industry 5.0 нуждается в искусственном общем интеллекте

Авторы: Bas Steunebrink, сооснователь и директор по искусственному общему интеллекту, Eric Nivel, ведущий инженер AGI, и Jerry Swan, исследовательский ученый в NNAISENSE.

Мы принимаем автоматизацию как должное в нашем современном мире, каждый день пользуясь цепочками поставок, которые охватывают весь мир и доставляют на наши полки огромный выбор товаров. Но за кулисами производство и перемещение товаров создают множество задач оптимизации, таких как упаковка, планирование, маршрутизация и автоматизация конвейерных линий. Эти задачи оптимизации динамичны и постоянно меняются в соответствии с реальным миром. Например, ожидаемые маршруты поставок могут внезапно стать недоступными из-за непредвиденных обстоятельств – например, Суэцкий канал может быть заблокирован; воздушные маршруты могут измениться из-за вулканических извержений; целые страны могут стать недоступными из-за конфликтов. Изменения в законодательстве, коллапс валют и дефицит ресурсов также являются примерами переменных цепочки поставок, которые постоянно меняются.

Чтобы привести другой пример, иногда необходимо включить в машину или рабочий процесс новую деталь (пользователи могут хотеть разные материалы или цвета, например). В настоящее время для внесения изменений в систему требуется экспертный человеческий труд, или – в случае машинного обучения – дополнительное переобучение и развертывание решения. Аналогично, “цифровые двойники” Industry 4.0 все еще сильно зависят от идеи о том, что описание проблемы и распределение входных данных можно указать один раз и навсегда на этапе первоначального проектирования системы.

Недавняя пандемия подчеркивает хрупкость планирования цепочки поставок “just-in-time”. Становится более очевидным, что в все более сложном и неопределенном мире промышленность больше не может позволить себе такую негибкость. В настоящее время производство должно сделать фиксированный выбор между “Низким миксом и высоким объемом” (НМВО) и “Высоким миксом и низким объемом” (ВМНО). Industry 5.0 предвидит перспективу “Высокого микса и высокого объема” (ВМВО), при котором рабочий процесс можно перестроить с низкими затратами, чтобы удовлетворить меняющиеся требования. Для этого необходимо “автоматизировать автоматизацию”, чтобы исключить необходимость человеческого вмешательства и/или простоя системы, когда меняется проблема или окружающая среда. Это требует систем, которые “работают по команде”, реагируя на такие изменения, сохраняя при этом разумную перспективу выполнения своих задач в рамках ограничений реального мира. Рассмотрим, например, инструкцию, данную роботизированной линии сборки, в настоящее время занятой задачей X, следующим образом:

“Остановите сборку X немедленно: вот спецификация Y, и вот большинство ваших старых и несколько новых исполнительных механизмов. Теперь начните сборку Y, избегая таких-то видов дефектов и отходов.”

Несмотря на широкую недавнюю дискуссию о скором прибытии “Искусственного общего интеллекта” (ИОИ) через так называемые большие языковые модели, такие как GPT-3, ни один из предложенных подходов не真正 способен “работать по команде”. То есть они не могут быть задействованы в чем-то совершенно вне их обучающего набора без простоя для офлайн-переобучения, верификации и развертывания.

Очевидно, что любое реальное представление об интеллекте неразрывно связано с реакцией на изменения. Система, которая остается неизменной – независимо от того, сколько неожиданных событий она испытывает – не является ни автономной, ни интеллектуальной. Это не умаляет безусловных сильных сторон таких подходов глубокого обучения (ГО), которые добились большого успеха как средство синтеза программ для задач, которые трудно явно указать.

Итак, какой функционал системы может позволить ИИ выйти за пределы парадигмы “обучить, заморозить и развернуть” и перейти к парадигме, способной к непрерывному адаптивному обучению? Рассмотрим необходимость замены неисправного компонента в производственном рабочем процессе на компонент от другого поставщика, который может иметь разные допуски. С современным подходом к моделированию “конец в конец” цифровой двойник процесса должен быть выполнен заново. Чтобы решить ограничения современных подходов, необходим радикальный сдвиг: модель, которая может напрямую рассуждать о последствиях изменения компонента – и, более一般но, о контрфактических “что если” сценариях. Разложение рабочего процесса на компоненты с известными свойствами и их рекомбинация по мере необходимости требует так называемой “композициональности”.

Композициональность до сих пор ускользала от современного ИИ, где она часто путается с более слабым понятием модульности. Модульность связана со способностью “склеить” компоненты, но это не отражает сути композициональности, которая заключается в способности рассуждать о поведении результирующего рабочего процесса, чтобы определить и обеспечить сохранение некоторого желаемого свойства. Эта способность имеет решающее значение для целей верификации и безопасности: например, способность системы рассуждать, что “принятие двигателя от альтернативного производителя увеличит общую мощность установки, в то время как все остальные компоненты останутся в пределах температурных марж.

Хотя современные подходы на основе нейронных сетей отлично справляются с обучением правил из данных, они лишены композиционного рассуждения. В качестве альтернативы надежде на то, что композиционное рассуждение появится изнутри архитектур нейронных сетей, можно напрямую использовать конструкции теории категорий, математического изучения композициональности. В частности, ее подполе категориальной кибернетики занимается двунаправленными контроллерами как фундаментальными представительными элементами. Двунаправленность – это способность выполнять как прямое, так и обратное рассуждение: прогнозирование из причин к эффектам и наоборот. Композиционное обратное рассуждение особенно важно, поскольку оно позволяет включать обратную связь от окружающей среды на любом уровне структурного представления – это облегчает быстрое обучение на небольшом количестве примеров.

Учитывая некоторое желаемое поведение системы, задача обучения заключается в построении агрегатной структуры управления, которая соответствует ему. Первоначально выученные структуры служат скелетом для последующего обучения.

По мере увеличения знаний системы этот скелет можно украсить выученными композиционными свойствами, подобно тому, как молекула H2O может быть определена как имеющая разные свойства, чем ее составляющие атомы. Кроме того, как “бросание мяча” и “махание теннисной ракеткой” можно рассматривать как связанные моторные действия для человека, так и связанные задачи могут иметь общую скелетную структуру управления, которая украшается в задаче-специфическом виде посредством обратной связи от окружающей среды. Это разделение причинной структуры от задаче-специфических деталей может облегчить обучение новым задачам без катастрофического забывания, которое поражает современные подходы. Следовательно, гибридный числово-символический подход, описанный выше, может объединить сильные стороны как нейронных, так и символьных подходов, имея как явное представление о структуре, так и способность адаптивно учиться, как свойства составляются. Рассуждение о композиционных свойствах основано на постоянной основе работой, которую система в настоящее время выполняет.

В заключение, rõчно, что необходим новый подход для создания真正 автономных систем: систем, способных приспособиться к значительным изменениям и/или работать в неизвестных средах. Это требует непрерывного адаптивного обучения и обобщения того, что уже известно. Несмотря на их название, подходы глубокого обучения имеют только поверхностное представление о мире, которое не может быть манипулировано на высоком уровне обучающим процессом. Напротив, мы предлагаем, что системы ИОИ, возникающие в следующем поколении, будут включать глубокое обучение в более широкую архитектуру, оснащенную способностью напрямую рассуждать о том, что они знают.

Способность системы рассуждать символически о своем собственном представлении дает значительные преимущества для промышленности: с явным композиционным представлением система может быть проверена – либо людьми, либо внутренне самой системой – для удовлетворения важных требований безопасности и справедливости. Хотя было много академических опасений о так называемом х-риска ИОИ, соответствующим фокусом является rather конкретная инженерная задача перестановки системы управления, сохраняя при этом эти важные требования, процесс, который мы называем интерактивным выравниванием. Только через принятие такого рода систем управления, которые являются достоверными и эффективными непрерывными учениками, мы сможем реализовать следующее поколение автономности, задуманное Industry 5.0.