Neues Whitepaper etabliert Zertifizierungsmethodik für KI-Algorithmen

Ein neues Whitepaper von TÜV AUSTRIA und dem Institut für Machine Learning an der Johannes Kepler Universität (JKU) hat eine Zertifizierungsmethodik für künstliche Intelligenz (KI)-Algorithmen etabliert. 

Das Papier erkennt zunächst an, wie KI eines der am schnellsten wachsenden Fachgebiete auf der ganzen Welt ist und hinter vielen alltäglichen Anwendungen steht, die Bilderkennung, Empfehlungssysteme, Chatbots, Diagnosen oder Prognosen beinhalten. 

Es wirft dann folgende Fragen auf: 

• Ist diese künstliche Intelligenz vertrauenswürdig und sicher?
• Führt die KI die erwartete Funktion aus?
• Bringt der Einsatz von KI den erwarteten Mehrwert?
• Ist die Trainingsdaten sauber und richtig verwendet?
• Wird die große Menge an sensiblen Daten sorgfältig gehandhabt?

Die neuen Zertifizierungsmethoden, die von TÜV AUSTRIA und der JKU entwickelt wurden, zielen darauf ab, Hersteller bei der Entwicklung sicherer, zuverlässiger und hochwertiger Machine-Learning-Modelle zu unterstützen. Sie bieten auch den Nutzern ein Gütesiegel für vertrauenswürdige KI-Systeme. 

Professor Sepp Hochreiter ist Direktor des Machine-Learning-Instituts. 

“Machine Learning ist derzeit die wichtigste Schlüsseltechnologie und wird langfristig einen massiven Einfluss auf unsere technische Umgebung und unser gesamtes Leben, auf die Gesellschaft, haben”, sagt Professor Hochreiter. “Deshalb ist es umso wichtiger, das Vertrauen der Verbraucher in diese Technologie durch die Zertifizierung von Machine-Learning-Anwendungen zu stärken. Deshalb freuen wir uns, dabei zu helfen, die notwendigen Qualitätskriterien zu definieren.” 

Professor Hochreiter genießt weltweit einen Ruf, wenn es um KI geht, und spielte eine Schlüsselrolle bei der Implementierung des ersten Machine-Learning-Lehrstuhls und des ersten KI-Abschlusses an der JKU Linz. Er ist auch Vorstandsmitglied von ELLIS, einem Netzwerk von Spitzenforschern im Bereich Machine Learning. 

Zertifizierung von Anwendungen

Das erste Erfolgskriterium, so das Whitepaper, ist bereits erreicht. Supervised-Learning-Anwendungen mit geringem bis mittlerem Risiko können bereits zertifiziert werden. 

DI.Dr. Stefan Haas ist CEO der TÜV AUSTRIA-Gruppe. 

“Wir haben bereits die ersten Zertifizierungsprojekte durchgeführt, bei denen die Anwendungen hauptsächlich im industriellen Umfeld, aber auch im Consumer-Bereich, zu finden sind. In den nächsten Phasen der Entwicklungskooperation werden die aktuellen Ansätze erweitert, um sicherheitskritische Anwendungen auf der Grundlage eines breiteren Spektrums von Machine-Learning-Methoden zertifizieren zu können”, sagt DI.Dr. Haas. “Wir freuen uns besonders, das JKU-Machine-Learning-Institut an unserer Seite zu haben als hoch kompetenten und international anerkannten Partner für diese Herausforderung.”

Die Zertifizierung umfasst die Überprüfung der Machine-Learning-Modelle und ihrer Entwicklungsprozesse in mehreren Dimensionen. Dies bedeutet, dass nicht nur die tatsächlichen Funktionen und die Zuverlässigkeit der trainierten Modelle untersucht werden, sondern auch die Software-Sicherheit und ihr Entwicklungsprozess. Es wird auch geprüft, wie personenbezogene Daten vertraulich behandelt werden und andere ethische Fragen.