Исследователи разработали инструмент “DeepTrust” для повышения доверия к ИИ

Безопасность и достоверность искусственного интеллекта (ИИ) являются одними из наиболее важных аспектов этой технологии. Постоянно ведутся работы по улучшению и совершенствованию ИИ экспертами в различных областях, и это будет иметь решающее значение для полной реализации ИИ в обществе.

Некоторые из этих новых работ проводятся в Университете Южной Калифорнии, где исследователи USC Viterbi Engineering разработали новый инструмент, способный генерировать автоматические индикаторы для оценки достоверности алгоритмов ИИ в их данных и прогнозах.

Исследование было опубликовано в Frontiers in Artificial Intelligence, под названием “Есть надежда после всего: количественная оценка мнений и достоверности в нейронных сетях”. Авторами статьи являются Минси Ченг, Шахин Назариан и Пол Богдан из группы киберфизических систем USC.

Достоверность нейронных сетей

Одной из наиболее важных задач в этой области является обеспечение того, чтобы нейронные сети генерировали прогнозы, которым можно доверять. Во многих случаях это является препятствием для полной реализации технологий, основанных на ИИ.

Например, самоходные транспортные средства должны работать автономно и принимать точные решения на автопилоте. Они должны быть способны принимать эти решения чрезвычайно быстро, одновременно расшифровывая и распознавая объекты на дороге. Это особенно важно в ситуациях, когда технология должна различать скоростной бугор, другой объект или живое существо.

Другие сценарии включают самоходное транспортное средство, которое принимает решение о том, что делать, когда другое транспортное средство движется навстречу, и наиболее сложное решение – если самоходное транспортное средство должно решить, ударить ли то, что оно воспринимает как другое транспортное средство, объект или живое существо.

Все это означает, что мы возлагаем огромное доверие на способность программного обеспечения самоходного транспортного средства принимать правильные решения за доли секунды. Это становится еще более сложным, когда есть конфликтующая информация от разных датчиков, таких как компьютерное зрение от камер и лидар.

Руководитель проекта Минси Ченг решил взяться за этот проект после размышлений: “Даже люди могут быть нерешительными в определенных ситуациях принятия решений. В случаях, когда есть конфликтующая информация, почему машины не могут сказать нам, когда они не знают?”

DeepTrust

Инструмент, разработанный исследователями, называется DeepTrust, и он может количественно оценить уровень неопределенности, согласно Полу Богдану, доценту кафедры электротехники и компьютерных систем.

Команда потратила почти два года на разработку DeepTrust, в основном используя субъективную логику для оценки нейронных сетей. В одном из примеров работы инструмента он смог проанализировать опросы президентских выборов 2016 года и предсказать, что существует большая вероятность ошибки в победе Хиллари Клинтон.

Инструмент DeepTrust также упрощает проверку надежности алгоритмов ИИ, обычно обучаемых на миллионах точек данных. Другой способ сделать это – независимо проверить каждую из этих точек данных, чтобы проверить точность, что является чрезвычайно трудоемкой задачей.

По мнению исследователей, архитектура этих систем нейронных сетей более точна, и точность и доверие можно максимизировать одновременно.

“На наш взгляд, не существует модели или инструмента для количественной оценки доверия к глубокому обучению, искусственному интеллекту и машинному обучению. Это первый подход и открывает новые направления исследований”, – говорит Богдан.

Богдан также считает, что DeepTrust может помочь продвинуть ИИ вперед до точки, когда он станет “осведомленным и адаптивным”.