Новый белый документ устанавливает методологию сертификации алгоритмов искусственного интеллекта

Новый белый документ от TÜV AUSTRIA и Института машинного обучения при Университете Иоганна Кеплера (JKU) устанавливает методологию сертификации алгоритмов искусственного интеллекта (ИИ).

Документ сначала признает, что ИИ является одной из самых быстрорастущих областей в мире, лежащей в основе многих повседневных приложений, включающих распознавание изображений, системы рекомендаций, чат-боты, диагностику или прогнозирование.

Затем он ставит следующие вопросы:

• Является ли этот искусственный интеллект достоверным и безопасным?
• Выполняет ли ИИ функцию, ожидаемую от него?
• Приносит ли использование ИИ ожидаемую добавленную стоимость?
• Является ли обучающая база данных чистой и используется ли она правильно?
• Обрабатывается ли большое количество конфиденциальных данных осторожно?

Новые методы сертификации, разработанные TÜV AUSTRIA и JKU, направлены на поддержку производителей в разработке безопасных, надежных и высококачественных моделей машинного обучения. Они также предложат пользователям знак качества для достоверных систем ИИ.

Профессор Зепп Хохрайтер является директором Института машинного обучения.

«Машинное обучение в настоящее время является наиболее важной технологией и будет иметь огромное влияние на нашу техническую среду и всю нашу жизнь, на общество, в долгосрочной перспективе», – говорит профессор Хохрайтер. «Поэтому еще более важно укрепить доверие потребителей к этой технологии посредством сертификации приложений машинного обучения. Именно поэтому мы рады участвовать в определении необходимых критериев качества».

Профессор Хохрайтер имеет мировую репутацию в области ИИ и сыграл ключевую роль в реализации первой австрийской кафедры машинного обучения и первой степени ИИ в Университете Иоганна Кеплера в Линце. Он также является членом совета директоров ELLIS, который является сетью совершенства лучших европейских ученых в области машинного обучения.

Сертификация приложений

Первый уровень успеха, согласно белому документу, уже достигнут. Приложения обучения с учителем в области низкого и среднего риска уже могут быть сертифицированы.

Доктор Стефан Хаас является генеральным директором группы TÜV AUSTRIA.

«Мы начали проводить первые проекты сертификации, при этом приложения в основном находятся в промышленной среде, но также и в потребительском секторе. На следующих этапах сотрудничества в разработке текущие подходы будут расширены, чтобы можно было сертифицировать приложения, критичные к безопасности, на основе более широкого спектра методов машинного обучения», – говорит доктор Хаас. «Мы особенно рады иметь Институт машинного обучения JKU рядом с нами как высококвалифицированного и международно признанного партнера для этого сложного начинания».

Сертификация включает в себя проверку моделей машинного обучения и их процессов разработки в нескольких измерениях. Это означает, что не только фактические функции и надежность обученных моделей проверяются, но также безопасность программного обеспечения и его процесс разработки. Также проводится проверка того, как конфиденциальные личные данные обрабатываются и другие этические вопросы.