Neues Whitepaper etabliert Zertifizierungsmethodik für KI-Algorithmen

Ein neues Whitepaper von TÜV AUSTRIA und dem Institut für Machine Learning an der Johannes Kepler Universität (JKU) hat eine Zertifizierungsmethodik für künstliche Intelligenz (KI)-Algorithmen etabliert.

Das Papier erkennt zunächst an, dass KI eines der am schnellsten wachsenden Forschungsgebiete weltweit ist und hinter vielen alltäglichen Anwendungen wie Bilderkennung, Empfehlungssystemen, Chatbots, Diagnose oder Vorhersage steht.

Es wirft dann folgende Fragen auf:

• Ist diese künstliche Intelligenz vertrauenswürdig und sicher?
• Führt die KI die erwartete Funktion aus?
• Bringt die Verwendung von KI den erwarteten Mehrwert?
• Ist die Trainingsdaten sauber und korrekt?
• Wird die große Menge an sensiblen Daten sorgfältig gehandhabt?

Die neuen Zertifizierungsmethoden, die von TÜV AUSTRIA und JKU entwickelt wurden, zielen darauf ab, Hersteller bei der Entwicklung sicherer, zuverlässiger und hochwertiger Machine-Learning-Modelle zu unterstützen. Sie werden auch den Nutzern ein Gütesiegel für vertrauenswürdige KI-Systeme anbieten.

Professor Sepp Hochreiter ist Direktor des Machine-Learning-Instituts.

“Machine Learning ist derzeit die wichtigste Enable-Technologie und wird langfristig einen massiven Einfluss auf unsere technische Umgebung und unser gesamtes Leben, auf die Gesellschaft, haben”, sagt Professor Hochreiter. “Deshalb ist es umso wichtiger, das Vertrauen der Verbraucher in diese Technologie durch die Zertifizierung von Machine-Learning-Anwendungen zu stärken. Deshalb sind wir erfreut, dabei zu helfen, die notwendigen Qualitätskriterien zu definieren.”

Professor Hochreiter genießt weltweit einen Ruf, wenn es um KI geht, und spielte eine Schlüsselrolle bei der Implementierung des ersten Machine-Learning-Lehrstuhls und des ersten KI-Studienfachs an der JKU Linz. Er ist auch Mitglied des Vorstands von ELLIS, einem Netzwerk von Spitzenforschern im Bereich Machine Learning.

Zertifizierung von Anwendungen

Das Whitepaper besagt, dass der erste Erfolg bereits erreicht wurde. Überwachte Lernalgorithmen in der niedrigen bis mittleren Risikoklasse können bereits zertifiziert werden.

DI.Dr. Stefan Haas ist CEO der TÜV AUSTRIA Gruppe.

“Wir haben begonnen, die ersten Zertifizierungsprojekte durchzuführen, wobei die Anwendungen hauptsächlich im industriellen Umfeld, aber auch im Verbrauchersektor, zu finden sind. In den nächsten Phasen der Entwicklungszusammenarbeit werden die aktuellen Ansätze erweitert, um sicherheitskritische Anwendungen basierend auf einem breiteren Spektrum von Machine-Learning-Methoden zertifizieren zu können”, sagt DI.Dr. Haas. “Wir sind besonders erfreut, das JKU Machine Learning Institut an unserer Seite als hoch kompetenten und international anerkannten Partner für diese herausfordernde Aufgabe zu haben.”

Die Zertifizierung umfasst die Überprüfung der Machine-Learning-Modelle und ihrer Entwicklungsprozesse in mehreren Dimensionen. Dies bedeutet, dass nicht nur die tatsächlichen Funktionen und die Zuverlässigkeit der trainierten Modelle untersucht werden, sondern auch die Software-Sicherheit und ihr Entwicklungsprozess. Es gibt auch eine Überprüfung, wie personenbezogene Daten vertraulich gehandhabt werden und andere ethische Fragen.