Нова документація встановлює методологію сертифікації для алгоритмів ШІ

Новий офіційний документ by TÜV АВСТРІЯ і Інститут машинного навчання при Університеті Йоганна Кеплера (JKU) розробила методологію сертифікації алгоритмів штучного інтелекту (AI). 

У документі спочатку визнається, що штучний інтелект є однією з найбільш швидкозростаючих предметних областей у всьому світі, що стоїть за багатьма повсякденними програмами, що включають розпізнавання зображень, системи рекомендацій, чат-боти, діагностику та прогнозування. 

Потім він піднімає такі запитання: 

• Чи цей штучний інтелект надійний і безпечний?
• Чи виконує ШІ очікувану від нього функцію?
• Чи приносить використання ШІ очікувану додану вартість?
• Чи дані навчання чисті та правильно використані?
• Чи ретельно обробляються великі обсяги конфіденційних даних?

Нові методи сертифікації, розроблені TÜV AUSTRIA та JKU, спрямовані на підтримку виробників у розробці безпечних, надійних і високоякісних моделей машинного навчання. Вони також пропонуватимуть користувачам знак якості для надійних систем ШІ. 

Професор Зепп Хохрайтер є директором Інституту машинного навчання. 

«Машинне навчання наразі є найважливішою технологічною технологією, яка матиме величезний вплив на наше технічне середовище та все наше життя, на суспільство, у довгостроковій перспективі», — каже професор Гохрайтер. «Тому ще важливіше зміцнити довіру споживачів до цієї технології через сертифікацію програм машинного навчання. Ось чому ми раді брати участь у визначенні необхідних критеріїв якості». 

Професор Гохрайтер має всесвітню репутацію, коли справа доходить до ШІ, і відіграв ключову роль у впровадженні першої в Австрії кафедри машинного навчання та першого ступеня ШІ в JKU Linz. Він також є членом правління ELLIS, яка є мережею передового досвіду найкращих європейських вчених у галузі машинного навчання. 

Сертифікація заявок

Перший рівень успіху, згідно з whitepaper, уже досягнутий. Програми для навчання під керівництвом із низьким і середнім рівнем ризику вже можуть бути сертифіковані. 

DI.Dr. Стефан Хаас є генеральним директором TÜV AUSTRIA Group. 

«Ми розпочали реалізацію перших сертифікаційних проектів, які застосовуються переважно в промисловому середовищі, а також у споживчому секторі. На наступних етапах співпраці в галузі розробки поточні підходи будуть розширені, щоб мати можливість сертифікувати критично важливі для безпеки програми на основі більш широкого спектру методів машинного навчання», — говорить доктор наук. Haas. «Нам особливо приємно мати Інститут машинного навчання JKU як висококомпетентного та міжнародно визнаного партнера для цієї складної справи».

Сертифікація передбачає детальну перевірку моделей машинного навчання та процесів їх розробки в кількох вимірах. Це означає, що перевіряються не тільки фактичні функції та надійність навчених моделей, але й безпека програмного забезпечення та процес його розробки. Також розглядається конфіденційність обробки персональних даних та інші етичні питання.