Когда родитель учит своего маленького ребенка относиться к миру, он учит через ассоциации и определение закономерностей. Возьмем, к примеру, букву S. Родители показывают своему ребенку достаточно примеров этой буквы, и вскоре он сможет определить другие примеры в контекстах, где руководство неактивно; школа, книга, рекламный щит.

Многие из постоянно появляющихся технологий искусственного интеллекта (ИИ) были обучены таким же образом. Исследователи подали системе правильные примеры того, что они хотели, чтобы она распознала, и как маленький ребенок, ИИ начал распознавать закономерности и экстраполировать такие знания в контексты, с которыми он никогда раньше не сталкивался, формируя свою собственную “нейронную сеть” для категоризации. Как и человеческий интеллект, однако, эксперты потеряли след того, какие входные данные информировали принятие решений ИИ.

Таким образом, “проблема черного ящика” ИИ возникает как факт того, что мы не полностью понимаем, как или почему система ИИ устанавливает связи, ни какие переменные играют роль в ее решениях. Эта проблема особенно актуальна, когда мы стремимся улучшить безопасность и надежность систем и установить управление принятием решений об ИИ.

От транспортного средства, оснащенного ИИ, которое не успевает затормозить и травмирует пешеходов, до медицинских устройств, полагающихся на ИИ, которые помогают врачам диагностировать пациентов, и предвзятости, проявляемые процессами подбора персонала на основе ИИ, сложность за этими системами привела к возникновению новой области исследования: физике ИИ, которая стремится еще больше установить ИИ как инструмент для людей, чтобы достичь более глубокого понимания.

Теперь новая независимая исследовательская группа будет решать эти проблемы, объединяя области физики, психологии, философии и нейробиологии в междисциплинарном исследовании тайн ИИ.

NTT предлагает доверие и безопасность ИИ

Недавно объявленная группа по физике искусственного интеллекта является спин-оффом лаборатории физики и информатики (PHI) NTT Research и была представлена на конференции NTT Upgrade 2025 в Сан-Франциско, Калифорния, на прошлой неделе. Она продолжит продвигать подход физики искусственного интеллекта к пониманию ИИ, который команда исследовала в течение последних пяти лет.

Доктор Хиденори Танака, имеющий степень PhD по прикладной физике и компьютерным наукам в Гарвардском университете, возглавит новую исследовательскую группу, основываясь на своем предыдущем опыте в группе интеллектуальных систем NTT и программе исследований ИИ в физике интеллекта в Гарварде.

“Как физик, я взволнован предметом интеллекта, потому что, математически, как можно подумать о концепции творчества? Как можно подумать о доброте? Эти концепции остались бы абстрактными, если бы не ИИ. Легко спекулировать, говоря “это моя определение доброты”, что не является математически осмысленным, но теперь с ИИ это практически важно, потому что если мы хотим сделать ИИ добрым, нам нужно сказать ему на языке математики, что такое доброта, например”, – сказал доктор Танака мне на прошлой неделе на конференции Upgrade.

В начале своих исследований лаборатория PHI признала важность понимания “черного ящика” ИИ и машинного обучения для разработки новых систем с улучшенной энергоэффективностью для вычислений. Однако прогресс ИИ за последние полтора десятилетия вызвал все более важные соображения безопасности и надежности, которые стали критическими для промышленных применений и решений о принятии ИИ.

Через новую исследовательскую группу NTT Research будет решать сходства между биологическим и искусственным интеллектом, надеясь распутать сложности механизмов ИИ и построить более гармоничную связь между человеком и ИИ.

Хотя этот подход нов в своем интегрировании ИИ, он не является новым. Физики пытались раскрыть точные детали технологических и человеческих отношений на протяжении веков, от исследований Галилео Галилея о движении объектов и его вклада в механику до того, как паровая машина информировала понимание термодинамики во время промышленной революции. В 21 веке, однако, ученые стремятся понять, как ИИ работает в терминах обучения, накопления знаний и принятия решений, чтобы в будущем можно было разработать более связные, безопасные и надежные технологии ИИ.

“ИИ – это нейронная сеть, его структура очень похожа на то, как работает человеческий мозг; нейроны, соединенные синапсами, которые все представлены числами внутри компьютера. И вот где мы считаем, что может быть физика… Физика – это о том, чтобы взять все из вселенной, сформулировать математические гипотезы о их внутреннем устройстве и проверить их”, – сказал доктор Ханака.

Новая группа продолжит сотрудничать с Центром мозговых наук Гарвардского университета (CBS) и планирует сотрудничать с доцентом Стэнфордского университета Суей Гангули, с которым доктор Танака написал несколько статей.

Однако доктор Танака подчеркивает, что естественно-научный и межотраслевой подход будет фундаментальным. В 2017 году, когда он был аспирантом в Гарварде, исследователь понял, что он хочет сделать больше, чем традиционная физика, и следовать по стопам своих предшественников, от Галилея до Ньютона и Эйнштейна, чтобы открыть новые концептуальные миры в физике.

“Теперь ИИ – это та тема, о которой я могу поговорить с каждым. Как исследователь, это здорово, потому что все всегда готовы поговорить об ИИ, и я также учусь из каждого разговора, потому что я понимаю, как люди видят и используют ИИ по-разному, даже за пределами академических контекстов. Я считаю, что миссия NTT заключается в том, чтобы быть катализатором, который запускает эти разговоры, независимо от происхождения людей, потому что мы учимся из каждого взаимодействия”, – заключил доктор Танака.