Nowy dokument określa metodologię certyfikacji algorytmów sztucznej inteligencji

Nowy dokument opracowany przez TÜV AUSTRIA oraz Instytut Sztucznej Inteligencji na Uniwersytecie im. Johanna Keplera (JKU) określa metodologię certyfikacji algorytmów sztucznej inteligencji.

Dokument rozpoczyna się od stwierdzenia, że sztuczna inteligencja jest jedną z najszybciej rozwijających się dziedzin na świecie, a jej zastosowanie obejmuje wiele codziennych aplikacji, takich jak rozpoznawanie obrazów, systemy rekomendacji, czatboty, diagnostyka i prognozowanie.

Następnie dokument stawia następujące pytania:

• Czy ta sztuczna inteligencja jest godna zaufania i bezpieczna?
• Czy sztuczna inteligencja wykonuje funkcje, które od niej oczekujemy?
• Czy użycie sztucznej inteligencji przynosi oczekiwane korzyści?
• Czy dane szkoleniowe są czyste i używane prawidłowo?
• Czy duże ilości wrażliwych danych są przetwarzane ostrożnie?

Nowe metody certyfikacji opracowane przez TÜV AUSTRIA i JKU mają na celu wspieranie producentów w tworzeniu bezpiecznych, niezawodnych i wysokiej jakości modeli sztucznej inteligencji. Będą one również oferować użytkownikom znak jakości dla godnych zaufania systemów sztucznej inteligencji.

Profesor Sepp Hochreiter jest dyrektorem Instytutu Sztucznej Inteligencji.

“Sztuczna inteligencja jest obecnie najważniejszą technologią umożliwiającą i będzie miała ogromny wpływ na nasze środowisko techniczne i całe życie, na społeczeństwo, w długiej perspektywie”, mówi profesor Hochreiter. “Dlatego też jest jeszcze ważniejsze, aby wzmocnić zaufanie konsumentów do tej technologii poprzez certyfikację aplikacji sztucznej inteligencji. Dlatego jesteśmy zadowoleni, że możemy pomóc w określeniu niezbędnych kryteriów jakości.”

Profesor Hochreiter ma światową renomę w dziedzinie sztucznej inteligencji i odegrał kluczową rolę w wdrożeniu pierwszej na świecie katedry sztucznej inteligencji i pierwszego stopnia sztucznej inteligencji na Uniwersytecie im. Johanna Keplera w Linzu. Jest również członkiem zarządu ELLIS, który jest siecią doskonałości najlepszych europejskich naukowców w dziedzinie sztucznej inteligencji.

Certyfikacja Aplikacji

Pierwszy poziom sukcesu, według dokumentu, już został osiągnięty. Aplikacje sztucznej inteligencji w niskim i średnim ryzyku mogą już być certyfikowane.

DI. Dr Stefan Haas jest prezesem grupy TÜV AUSTRIA.

“Rozpoczęliśmy już pierwsze projekty certyfikacji, przy czym aplikacje są głównie stosowane w środowisku przemysłowym, ale także w sektorze konsumenckim. W następnych fazach współpracy rozwojowej obecne podejścia będą rozszerzane, aby umożliwić certyfikację aplikacji krytycznych pod względem bezpieczeństwa, opartych na szerszym spektrum metod sztucznej inteligencji”, mówi DI. Dr Haas. “Jesteśmy szczególnie zadowoleni, że mamy przy sobie Instytut Sztucznej Inteligencji JKU jako wysoko kompetentnego i międzynarodowo uznawanego partnera w tym wyzwaniu.”

Certyfikacja obejmuje sprawdzenie modeli sztucznej inteligencji i ich procesów rozwojowych w wielu wymiarach. Oznacza to, że nie tylko są badane faktyczne funkcje i niezawodność wytrenowanych modeli, ale także bezpieczeństwo oprogramowania i proces jego rozwoju. Istnieje również sprawdzenie, w jaki sposób dane osobowe są przetwarzane poufnie i inne kwestie etyczne.