Erklärbarkeit: Die nächste Front für künstliche Intelligenz in Versicherungen und Banken

Von Dr. Ori Katz, Analytischer Forschungswissenschaftler, Earnix.

„Jede ausreichend fortschrittliche Technologie ist nicht von Magie zu unterscheiden“, argumentierte der Science-Fiction-Schriftsteller Arthur C. Clarke. Tatsächlich ähneln manchmal fortschrittliche Technologien, wie neue maschinelle Lernalgorithmen, Magie. Die sich entwickelnden Anwendungen maschinellen Lernens, einschließlich Bilderkennung, Spracherkennung und deren Einsatz in den Versicherungs- und Bankenindustrien, haben scheinbar übernatürliche Eigenschaften.

Viele Unternehmen sind skeptisch gegenüber der Änderung ihrer traditionellen analytischen Modelle – und zu Recht. Magie ist gefährlich, besonders wenn sie nicht gut verstanden wird. Neuronale Netze und Entscheidungsbaum-Algorithmen sind „black boxes“, deren interne Struktur extrem komplex sein kann. Gleichzeitig haben mehrere Studien [1] gezeigt, wie neuronale Netze und baumartige Algorithmen sogar die sorgfältig abgestimmten traditionellen Versicherungsrisikomodelle, die von erfahrenen Aktuaren erstellt wurden, übertreffen können. Dies liegt an der Fähigkeit der neuen Algorithmen, automatisch versteckte Strukturen in den Daten zu erkennen. Das Geheimnis und die Nützlichkeit neuronaler Netze und baumartiger Algorithmen stehen im Widerspruch. Es gibt einen inhärenten Kompromiss zwischen der Genauigkeit eines analytischen Modells und seiner „Erklärbarkeit“. Wie können wir Modelle vertrauen, wenn wir nicht verstehen, wie sie zu ihren Schlussfolgerungen gelangen? Sollen wir uns einfach der Magie ergeben, unser Vertrauen in und unsere Kontrolle über etwas aufgeben, das wir nicht vollständig verstehen, für Genauigkeit?

Führungskräfte und Analysten sind nicht die einzigen, die sich um diesen Kompromiss sorgen. In den letzten Jahren haben Regulierungsbehörden begonnen, die dunkle Seite der Magie zu erforschen, um ihre Fähigkeit zu erhöhen, diese Branchen zu überwachen. Die Banken- und Versicherungsindustrien sind in vielen Aspekten stark reguliert, und die aktuellen Regulierungstrends beinhalten einen genaueren Blick auf die Modelle, die zur Vorhersage verwendet werden. Das Erwägungsgrund 71 der europäischen Datenschutz-Grundverordnung (DSGVO) besagt beispielsweise, dass Kunden das Recht haben sollten, eine Erklärung für eine einzelne automatisierte Entscheidung nach deren Erstellung zu erhalten. Seit ihrer Einführung ist dieses Element der Verordnung im Mittelpunkt einer hoch kontroversen akademischen Debatte.

Der dringende Bedarf an der Erklärung von „black-box“-analytischen Modellen hat zur Entstehung eines neuen Forschungsgebiets geführt: Erklärbarer künstlicher Intelligenz. Experten entwickeln Werkzeuge, die es uns ermöglichen, in die black box hineinzuschauen und zumindest einen Teil der Magie zu entwirren. Zwei Arten von Werkzeugen, die Forscher erstellt haben, sind „Globale Erklärbarkeit“-Werkzeuge, die uns helfen, die wichtigsten Merkmale zu verstehen, die die Gesamtvorhersagen des Modells bestimmen, und „Lokale Erklärbarkeit“-Werkzeuge, die dazu dienen, eine spezifische Vorhersage zu erklären.

Die folgende Grafik ist ein Beispiel für lokale Erklärbarkeit. Sie basiert auf den Ideen des Nobelpreisträgers Lloyd Shapley, der eine spieltheoretische Methode zur Berechnung des Beitrags mehrerer Spieler entwickelte, die bei der gleichen Aufgabe zusammenarbeiten. Im Rahmen von Erklärbarer künstlicher Intelligenz sind die „Spieler“ die Modellmerkmale, während die „Aufgabe“ die Vorhersage des Modells ist. Die Zahlen, die den Beitrag jedes Merkmals beschreiben, werden als „Shapley-Werte“ bezeichnet. Forscher haben kürzlich Methoden zur schnellen Schätzung von Shapley-Werten [2] entwickelt, die es uns ermöglichen, eine Vorhersage fair auf die verschiedenen Merkmale zu verteilen.

Verwendung von Shapley-Werten zur Erklärung der vorhergesagten Erneuerungsnachfrage eines bestimmten Kunden

Die Grafik, die auf simulierten Daten basiert, zeigt das Ergebnis eines Nachfragemodells, das die Wahrscheinlichkeit der Erneuerung einer Kfz-Versicherungspolice vorhersagt. Dies ist eine lokale Erklärung für einen bestimmten Kunden. Das Nachfragemodell basiert auf einem komplexen Ensemble von Entscheidungsbäumen, aber die Grafik zeigt den separaten Beitrag jedes Merkmals zur endgültigen Vorhersage. In diesem Beispiel sagt das Modell voraus, dass der Durchschnittsindividuum in den Daten die Police mit einer Wahrscheinlichkeit von 0,64 erneuern wird. Für diesen bestimmten Kunden jedoch ist die vorhergesagte Wahrscheinlichkeit viel höher, bei 0,72. Die Grafik ermöglicht es Ihnen, die Ursache dieser Differenz zu sehen.

Obwohl wir die interne Struktur dieses komplexen Modells nicht vollständig verstehen können, ermöglichen uns Shapley-Werte, die wichtigsten Merkmale für eine spezifische Vorhersage zu erkennen und einen Teil der Magie zu entwirren. Das Mitteln der individuellen Shapley-Werte über die Population ermöglicht es uns, die wichtigsten Merkmale zu erkennen und eine globale Erklärbarkeit des Modells zu erhalten. Andere beliebte Erklärbarkeit-Werkzeuge umfassen „Permutation Feature Importance“, einfache Surrogatmodelle, die lokal angepasst werden, und kontrafaktische Beispiele, um nur einige zu nennen [3].

Die neuen Erklärbarkeit-Werkzeuge sind der notwendige nächste Schritt in der Evolution des maschinellen Lernens. Sie können es Versicherungsunternehmen und Banken ermöglichen, ihre maschinellen Lernmodelle zu verstehen und zu vertrauen, neue Regulierungen einzuhalten und ihren Kunden wertvolle Informationen bereitzustellen. Wir können nun teilweise den Kompromiss zwischen Genauigkeit und Erklärbarkeit überwinden und die Vorteile der neuen maschinellen Lernmodelle mit weniger Bedenken hinsichtlich ihrer black-box-Natur genießen.

In unserer schnell digitalisierten Welt ist es für Versicherer und Banken zum Basiskriterium für das Überleben geworden, vollständig datengetrieben zu sein. Diese Fähigkeit war immer wichtig – aber sie wurde mit den volatilen Marktbedingungen, die 2020 mit sich brachten, vital. Versicherer und Banken benötigen intelligentere Analysen, um eine komplexe neue Realität zu modellieren, auf der sie ihre Geschäftsentscheidungen basieren und ihre Kunden schneller und besser bedienen können. Erklärbarkeit-Werkzeuge können es Versicherern und Banken ermöglichen, dies zu erreichen. Mit der Zeit werden wir zu dem Punkt gelangen, an dem maschinelle Lernmodelle nicht mehr als Magie, sondern als ein wesentliches Werkzeug im Kernarsenal jedes datengetriebenen Unternehmens angesehen werden.

Quellen:

[1] Bärtl, M., & Krummaker, S. (2020). Vorhersage von Ansprüchen im Exportkreditfinanzierungsgeschäft: Ein Vergleich von vier maschinellen Lernverfahren. Risiken, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Fallstudie: Französische Kfz-Haftpflichtansprüche. Verfügbar bei SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Die Genauigkeit von XGBoost für die Vorhersage von Versicherungsansprüchen. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Ein Vergleich von Data-Mining-Algorithmen bei der Vorhersage von Kfz-Versicherungsansprüchen. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Ein einheitlicher Ansatz zur Interpretation von Modellvorhersagen. In Advances in Neural Information Processing Systems (S. 4765-4774).

[3] Siehe hier für weitere Details: https://christophm.github.io/interpretable-ml-book/index.html