განმარტება: ხელოვნური ინტელექტის შემდეგი საზღვარი დაზღვევასა და საბანკო საქმეში

დოქტორი ორი კაცი, ანალიტიკური მკვლევარი, ერნიქსი.

„ნებისმიერი საკმარისად განვითარებული ტექნოლოგია არ განსხვავდება მაგიისგან“, ამტკიცებდა სამეცნიერო ფანტასტიკის მწერალი არტურ კლერკი. მართლაც, ზოგჯერ მოწინავე ტექნოლოგია, როგორიცაა ახალი მანქანათმცოდნეობის ალგორითმები, მაგიას ჰგავს. მანქანათმცოდნეობის განვითარებად აპლიკაციებს, მათ შორის გამოსახულების კლასიფიკაციას, ხმის ამოცნობას და მის გამოყენებას სადაზღვევო და საბანკო ინდუსტრიებში, აქვს ერთი შეხედვით სხვა სამყაროს თვისებები.

ბევრი კომპანია უფრთხილდება ტრადიციული ანალიტიკური მოდელების შეცვლას - და ეს მართალია. მაგია საშიშია, მით უმეტეს, თუ ის კარგად არ არის გაგებული. ნერვული ქსელები და ხის ანსამბლის ალგორითმები არის „შავი ყუთები“, მათი შიდა სტრუქტურა შეიძლება იყოს უკიდურესად რთული. ამავდროულად, რამდენიმე კვლევამ [1] აჩვენა, თუ როგორ შეუძლიათ ნეირონულ ქსელებს და ხეებზე დაფუძნებულ ალგორითმებს აჯობონ გამოცდილი აქტუარების მიერ აგებულ ტრადიციულ სადაზღვევო რისკის მოდელებსაც კი. ეს გამოწვეულია ახალი ალგორითმების უნარით ავტომატურად ამოიცნონ მონაცემების ფარული სტრუქტურა. ნეირონული ქსელებისა და ხეებზე დაფუძნებული ალგორითმების საიდუმლო და სარგებლობა ერთმანეთთან არის გადატანილი. არსებობს თანდაყოლილი კომპრომისი ანალიტიკური მოდელის სიზუსტესა და მის „ახსნადობის“ დონეს შორის. როგორ შეგვიძლია ვენდოთ მოდელებს, თუ ვერ გავიგეთ, როგორ მივაღწევთ მათ დასკვნებს? უბრალოდ უნდა დავემორჩილოთ მაგიას, გავწიროთ ჩვენი ნდობა და კონტროლი იმაზე, რასაც ბოლომდე ვერ ვიგებთ სიზუსტისთვის?

მენეჯერები და ანალიტიკოსები არ არიან მხოლოდ ისინი, ვინც შეშფოთებულია ამ გარიგებით. ბოლო რამდენიმე წლის განმავლობაში, მარეგულირებლებმა დაიწყეს მაგიის ბნელი მხარის შესწავლა, რათა გაზარდონ ამ ინდუსტრიების მონიტორინგის უნარი. საბანკო და სადაზღვევო ინდუსტრიები ძალიან რეგულირდება მრავალი ასპექტით და მიმდინარე რეგულირების ტენდენციები მოიცავს იმ მოდელების უფრო დეტალურ დათვალიერებას, რომლებიც გამოიყენება პროგნოზების გასაკეთებლად. მაგალითად, მონაცემთა დაცვის ევროპული ზოგადი რეგულაციის (GDPR) 71-ე პუნქტში ნათქვამია, რომ მომხმარებელს უნდა ჰქონდეს უფლება მიიღოს ახსნა ერთი ავტომატური გადაწყვეტილების მიღების შემდეგ. დაარსების დღიდან, რეგულაციის ეს ელემენტი იყო უაღრესად საკამათო აკადემიური დებატების ცენტრში.

„შავი ყუთის“ ანალიტიკური მოდელების ახსნის გადაუდებელმა საჭიროებამ განაპირობა ახალი კვლევის სფეროს გაჩენა: ახსნადი ხელოვნური ინტელექტი. ექსპერტები ავითარებენ ინსტრუმენტებს, რომლებიც საშუალებას გვაძლევს შევხედოთ შავ ყუთს და ამოვიცნოთ რაღაც მაგია მაინც. ორი ტიპის ინსტრუმენტი, რომელიც მკვლევარებმა შექმნეს, მოიცავს „გლობალური განმარტების“ ხელსაწყოებს, რომლებიც დაგვეხმარება გავიგოთ ძირითადი მახასიათებლები, რომლებიც განაპირობებს მთლიანი მოდელის პროგნოზს, და „ადგილობრივი განმარტების“ ხელსაწყოები, რომლებიც გამიზნულია კონკრეტული პროგნოზის ასახსნელად.

შემდეგი ნაკვეთი არის ადგილობრივი ახსნის მაგალითი. იგი ეფუძნება ნობელის პრემიის ლაურეატი ეკონომისტის ლოიდ შეპლის იდეებს, რომელმაც შეიმუშავა თამაშის თეორიის მეთოდი ერთსა და იმავე ამოცანაში თანამშრომლობის რამდენიმე მოთამაშის წვლილის გამოსათვლელად. ახსნადი ხელოვნური ინტელექტის დროს „მოთამაშეები“ არის მოდელის მახასიათებლები, ხოლო „დავალება“ არის მოდელის პროგნოზირება. ციფრებს, რომლებიც აღწერს თითოეული მახასიათებლის წვლილს, ეწოდება "შაპლის ღირებულებები". მკვლევარებმა ახლახან შეიმუშავეს შაპლის მნიშვნელობების [2] სწრაფი შეფასების მეთოდები, რაც საშუალებას გვაძლევს სამართლიანად გავანაწილოთ პროგნოზი სხვადასხვა მახასიათებლებს შორის.

Shapley ღირებულებების გამოყენება კონკრეტული მომხმარებლის განახლების სავარაუდო მოთხოვნის ასახსნელად

ნაკვეთი, რომელიც დაფუძნებულია სიმულაციურ მონაცემებზე, აჩვენებს მოთხოვნის მოდელის შედეგს, რომელიც პროგნოზირებს ავტოდაზღვევის პოლისის განახლების ალბათობას. ეს არის ადგილობრივი ახსნა კონკრეტული მომხმარებლისთვის. მოთხოვნის მოდელი დაფუძნებულია გადაწყვეტილების ხეების კომპლექსურ ანსამბლზე, მაგრამ ნაკვეთი წარმოადგენს თითოეული მახასიათებლის ცალკეულ წვლილს საბოლოო პროგნოზში. ამ მაგალითში მოდელი პროგნოზირებს, რომ საშუალო ინდივიდი მონაცემებში განაახლებს პოლიტიკას 0.64 ალბათობით. თუმცა, ამ კონკრეტული მომხმარებლისთვის, სავარაუდო ალბათობა გაცილებით მაღალია, 0.72-ზე. სიუჟეტი საშუალებას გაძლევთ ნახოთ ამ განსხვავების მიზეზი.

მიუხედავად იმისა, რომ ჩვენ ბოლომდე ვერ გავიგებთ ამ რთული მოდელის შიდა სტრუქტურას, Shapley Values ​​საშუალებას გვაძლევს დავინახოთ, რა არის ყველაზე მნიშვნელოვანი თვისებები კონკრეტული პროგნოზისთვის, ჯადოსნური ნაწილის ამოხსნა. ინდივიდუალური Shapley მნიშვნელობების საშუალო პოპულაციაზე, საშუალებას გვაძლევს ვნახოთ რომელი მახასიათებლებია ყველაზე მნიშვნელოვანი და მივიღოთ მოდელის გლობალური ახსნადობა. ახსნის სხვა პოპულარულ ინსტრუმენტებს შორისაა „პერმუტაციის მახასიათებლის მნიშვნელობა“, მარტივი სუროგატული მოდელები, რომლებიც დამონტაჟებულია ადგილობრივად და კონტრფაქტურ მაგალითებს, რომ დავასახელოთ რამდენიმე [3].

ახალი ახსნის ინსტრუმენტები არის აუცილებელი შემდეგი ნაბიჯი მანქანური სწავლის ევოლუციაში. მათ შეუძლიათ სადაზღვევო კომპანიებსა და ბანკებს საშუალება მისცენ, გაიგონ და ენდონ მათ მანქანათმცოდნეობის მოდელებს, დაიცვან ახალი რეგულაციები და მიაწოდონ თავიანთ მომხმარებლებს ღირებული ინფორმაცია. ახლა ჩვენ შეგვიძლია ნაწილობრივ გადავლახოთ კომპრომისი სიზუსტესა და ახსნადობას შორის და ვისარგებლოთ მანქანათმცოდნეობის ახალი მოდელების უპირატესობებით, ნაკლები შეშფოთებით მათი შავი ყუთის ბუნებასთან დაკავშირებით.

ჩვენს სწრაფად ციფრულ სამყაროში, მთლიანად ანალიტიკაზე ორიენტირებული გახდეს დამზღვევისა და ბანკების გადარჩენის ძირითადი კრიტერიუმი. ეს უნარი ყოველთვის მნიშვნელოვანი იყო – მაგრამ სასიცოცხლოდ მნიშვნელოვანი გახდა ბაზრის არასტაბილური პირობების გამო, რომელიც 2020 წელს მოგვიტანა. მზღვეველებს და ბანკებს სჭირდებათ უფრო ჭკვიანური ანალიტიკა რთული ახალი რეალობის მოდელირებისთვის, რომელზედაც მათ შეუძლიათ დაეყრდნონ თავიანთი ბიზნეს გადაწყვეტილებებს და მოემსახურონ თავიანთ მომხმარებლებს უფრო სწრაფად და უკეთესად. ახსნა-განმარტების ინსტრუმენტებს შეუძლიათ მზღვეველებსა და ბანკებს ამის მიღწევის საშუალება მისცენ. დროთა განმავლობაში ჩვენ მივალთ იქამდე, რომ მანქანათმცოდნეობის მოდელები აღარ განიხილება ჯადოსნურად, არამედ არსებით ინსტრუმენტად ნებისმიერი მონაცემთა ბაზაზე ორიენტირებული ბიზნესის არსენალში.

წყაროები:

[1] Bärtl, M., & Krummaker, S. (2020). პრეტენზიების პროგნოზირება ექსპორტის კრედიტის დაფინანსებაში: მანქანათმცოდნეობის ოთხი ტექნიკის შედარება. რისკები, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, MV (2020). საქმის შესწავლა: ფრანგული საავტომობილო მესამე მხარის პასუხისმგებლობის მოთხოვნები. ხელმისაწვდომია SSRN 3164764.

Fauzan, MA, & Murfi, H. (2018). XGBoost-ის სიზუსტე სადაზღვევო მოთხოვნის პროგნოზირებისთვის. ინტ. J. Adv. რბილი გამოთვლა. Appl, 10(2).

Weerasinghe, KPMLP და Wijegunasekara, MC (2016). მონაცემთა მოპოვების ალგორითმების შედარებითი შესწავლა ავტოდაზღვევის პრეტენზიების პროგნოზირებაში. მეცნიერებისა და ტექნოლოგიების ევროპული საერთაშორისო ჟურნალი, 5(1), 47-54.

[2] Lundberg, SM, & Lee, SI (2017). მოდელის პროგნოზების ინტერპრეტაციის ერთიანი მიდგომა. In მიღწევები ნერვული ინფორმაციის დამუშავების სისტემებში (pp. 4765-4774).

[3] იხილეთ აქ დამატებითი დეტალებისთვის: https://christophm.github.io/interpretable-ml-book/index.html