Nová bílá kniha stanoví metodiku certifikace pro algoritmy umělé inteligence

Nová bílá kniha od TÜV AUSTRIA a Institutu pro strojové učení na Johannes Kepler University (JKU) stanovila metodiku certifikace pro algoritmy umělé inteligence (AI). 

Článek nejprve uznává, jak je umělá inteligence jednou z nejrychleji rostoucích oblastí na celém světě, a je za mnoha všedními aplikacemi, které zahrnují rozpoznávání obrazů, doporučovací systémy, chatboty, diagnostiku nebo předpověď. 

Pak pokračuje otázkami: 

• Je tato umělá inteligence důvěryhodná a bezpečná?
• Zda umělá inteligence plní funkci, která se od ní očekává?
• Zda použití umělé inteligence přináší očekávanou přidanou hodnotu?
• Zda jsou trénovací data čistá a používána správně?
• Zda je velký objem citlivých dat zpracováván pečlivě?

Nové certifikační metody vyvinuté TÜV AUSTRIA a JKU mají za cíl podpořit výrobce při vývoji bezpečných, spolehlivých a vysoce kvalitních modelů strojového učení. Také budou nabízet uživatelům pečeti kvality pro důvěryhodné systémy umělé inteligence. 

Profesor Sepp Hochreiter je ředitelem Institutu pro strojové učení. 

„Strojové učení je v současné době nejvýznamnější technologií a bude mít masivní vliv na naše technické prostředí a celý náš život, na společnost, v dlouhodobém horizontu,“ říká profesor Hochreiter. „Proto je ještě důležitější posílit důvěru spotřebitelů v této technologii prostřednictvím certifikace aplikací strojového učení. Proto jsme rádi, že se podílíme na definování nezbytných kritérií kvality.“ 

Profesor Hochreiter má celosvětovou pověst, pokud jde o umělou inteligenci, a sehrál klíčovou roli při implementaci prvního křesla pro strojové učení a prvního titulu v oblasti umělé inteligence na JKU Linz. Je také členem představenstva ELLIS, které je sítí excelence nejlepších evropských vědců v oblasti strojového učení. 

Certifikace aplikací

První stupeň úspěchu, podle bílé knihy, již byl dosažen. Aplikace supervizovaného učení v nízkém až středním riziku již mohou být certifikovány. 

DI.Dr. Stefan Haas je generálním ředitelem TÜV AUSTRIA Group. 

„Zahájili jsme první certifikační projekty, přičemž aplikace jsou hlavně nalezeny v průmyslovém prostředí, ale také v spotřebitelském sektoru. V dalších fázích vývoje spolupráce budou současné přístupy rozšířeny, aby bylo možné certifikovat bezpečnostně kritické aplikace, na základě širšího spektra metod strojového učení,“ říká DI.Dr. Haas. „Jsme zvláště rádi, že máme JKU Machine Learning Institute po naší straně jako vysoce kompetentního a mezinárodně uznávaného partnera pro tuto náročnou činnost.“

Certifikace zahrnuje podrobnou kontrolu modelů strojového učení a jejich vývojových procesů v několika dimenzích. To znamená, že nejsou zkoumány pouze skutečné funkce a spolehlivost trénovaných modelů, ale také softwarová bezpečnost a její vývojový proces. Je také prováděna zkouška, jak jsou osobní údaje zpracovávány důvěrně a další etické otázky.