Новий 白 папір встановлює методиологію сертифікації алгоритмів штучного інтелекту

Новий білій папір TÜV AUSTRIA та Інститут машинного навчання в Університеті Йоганна Кеплера (JKU) встановили методиологію сертифікації алгоритмів штучного інтелекту.

У документі вперше визнається, що штучний інтелект є однією з найшвидше зростаючих галузей у світі, і що він лежить в основі багатьох повсякденних застосунків, таких як розпізнавання зображень, системи рекомендацій, чат-боти, діагностика чи прогнозування.

Далі документ ставить такі питання:

• Чи є цей штучний інтелект довірчим і безпечним?
• Чи виконує штучний інтелект функцію, яка від нього очікується?
• Чи приносить використання штучного інтелекту очікувану додану вартість?
• Чи є тренувальні дані чистими і використовуються правильно?
• Чи обробляється велика кількість конфіденційних даних із піклуванням?

Нові методи сертифікації, розроблені TÜV AUSTRIA та JKU, спрямовані на підтримку виробників у розробці безпечних, надійних та високоякісних моделей машинного навчання. Вони також пропонують користувачам знак якості для довірчих систем штучного інтелекту.

Професор Зепп Хохрайтер є директором Інституту машинного навчання.

“Машинне навчання зараз є найважливішою технологією, яка буде мати величезний вплив на нашу технічну довкілля та все життя, на суспільство, у довгостроковій перспективі”, – говорить професор Хохрайтер. “Тому ще важливіше зміцнювати довіру споживачів до цієї технології через сертифікацію застосунків машинного навчання. Саме тому ми раді бути залученими до визначення необхідних критеріїв якості.”

Професор Хохрайтер має світову репутацію в галузі штучного інтелекту та відіграв ключову роль у впровадженні першої кафедри машинного навчання та першого ступеня з штучного інтелекту в Університеті Йоганна Кеплера в Лінці. Він також є членом ради ЕЛЛІС, який є мережею досконалості найкращих європейських вчених у галузі машинного навчання.

Сертифікація застосунків

Перший рівень успіху, згідно з білим папіром, вже досягнутий. Застосунки супервізійного навчання з низьким та середнім рівнем ризику вже можуть бути сертифіковані.

ДІ. Доктор Штефан Хаас є генеральним директором групи TÜV AUSTRIA.

“Ми розпочали виконання перших проектів сертифікації, при цьому застосунки в основному знаходяться в промисловому середовищі, але також і в споживчому секторі. У наступних фазах розвитку співробітництва поточні підходи будуть розширені, щоб能够 сертифікувати застосунки, критичні для безпеки, на основі ширшого спектру методів машинного навчання”, – говорить ДІ. доктор Хаас. “Нас特别 радує, що ми маємо Інститут машинного навчання JKU поряд з нами як високо компетентного та міжнародно визнаного партнера для цього складного завдання.”

Сертифікація включає в себе перевірку моделей машинного навчання та їх процесів розробки в декількох вимірах. Це означає, що не тільки фактичні функції та надійність тренованих моделей перевіряються, але також безпека програмного забезпечення та його процес розробки. Також проводиться перевірка того, як конфіденційні дані обробляються конфіденційно, та інші етичні питання.