Nová bílá kniha stanoví metodologii certifikace pro algoritmy umělé inteligence

Nová bílá kniha od TÜV AUSTRIA a Institutu pro strojové učení na Johannes Kepler University (JKU) stanoví metodologii certifikace pro algoritmy umělé inteligence (AI).

Článek nejprve uznává, že umělá inteligence je jednou z nejrychleji rostoucích oblastí na světě, a to díky mnoha každodenním aplikacím, jako je rozpoznávání obrazů, doporučující systémy, chatboti, diagnostika nebo předpověď.

Poté se článek zabývá následujícími otázkami:

• Je tato umělá inteligence důvěryhodná a bezpečná?
• Funguje umělá inteligence podle očekávání?
• Přináší použití umělé inteligence očekávanou přidanou hodnotu?
• Je trénovací data čistá a použita správně?
• Je velký objem citlivých dat zpracován pečlivě?

Nové certifikační metody vyvinuté TÜV AUSTRIA a JKU mají za cíl podporovat výrobce při vývoji bezpečných, spolehlivých a vysoce kvalitních modelů strojového učení. Tyto metody budou také nabízet uživatelům znak kvality pro důvěryhodné systémy umělé inteligence.

Profesor Sepp Hochreiter je ředitelem Institutu pro strojové učení.

„Strojové učení je v současné době nejvýznamnější technologií a bude mít obrovský vliv na naše technické prostředí a náš celý život, na společnost, v dlouhodobém horizontu,“ říká profesor Hochreiter. „Proto je ještě důležitější posílit důvěru spotřebitelů v této technologii prostřednictvím certifikace aplikací strojového učení. Proto jsme rádi, že se můžeme podílet na definici nezbytných kritérií kvality.“

Profesor Hochreiter má celosvětovou pověst v oblasti umělé inteligence a sehrál klíčovou roli při implementaci prvního křesla pro strojové učení a prvního titulu v oblasti umělé inteligence na JKU Linz. Je také členem představenstva ELLIS, které je sítí excelence nejlepších evropských vědců v oblasti strojového učení.

Certifikace aplikací

První úroveň úspěchu, podle bílé knihy, již byla dosažena. Aplikace supervizního učení v nízkém až středním riziku již mohou být certifikovány.

DI. Dr. Stefan Haas je generální ředitel skupiny TÜV AUSTRIA.

„Zahájili jsme první certifikační projekty, přičemž aplikace jsou hlavně v průmyslovém prostředí, ale také v spotřebitelském sektoru. V dalších fázích vývoje budeme rozšiřovat současné přístupy, abychom mohli certifikovat bezpečnostně kritické aplikace na základě širšího spektra metod strojového učení,“ říká DI. Dr. Haas. „Jsme特别 rádi, že máme na naší straně JKU Institut pro strojové učení jako vysoce kompetentního a mezinárodně uznávaného partnera pro tuto náročnou činnost.“

Certifikace zahrnuje kontrolu modelů strojového učení a jejich vývojových procesů v několika dimenzích. To znamená, že nejsou pouze zkoumány skutečné funkce a spolehlivost trénovaných modelů, ale také bezpečnost softwaru a jeho vývojový proces. Je také provedena kontrola, jak jsou osobní data zpracována důvěrně a další etické otázky.