Naukowcy opracowali narzędzie „DeepTrust”, aby pomóc zwiększyć zaufanie do sztucznej inteligencji

Bezpieczeństwo i zaufanie do sztucznej inteligencji (AI) to jeden z najważniejszych aspektów tej technologii. Jest ciągle udoskonalany i rozwijany przez najlepszych ekspertów w różnych dziedzinach, i będzie kluczowe dla pełnego wdrożenia AI w społeczeństwie.

Część tej nowej pracy pochodzi z Uniwersytetu Południowej Kalifornii, gdzie badacze z USC Viterbi Engineering opracowali nowe narzędzie, które może generować automatyczne wskaźniki, czy algorytmy AI są godne zaufania w swoich danych i prognozach.

Badania zostały opublikowane w Frontiers in Artificial Intelligence, pod tytułem „Istnieje nadzieja: ilościowy pomiar opinii i zaufania w sieciach neuronowych”. Autorami artykułu są Mingxi Cheng, Shahin Nazarian i Paul Bogdan z USC Cyber Physical Systems Group.

Zaufanie do sieci neuronowych

Jednym z największych zadań w tej dziedzinie jest uzyskanie sieci neuronowych, które generują prognozy, którym można zaufać. W wielu przypadkach jest to to, co powstrzymuje pełne wdrożenie technologii opartej na AI.

Na przykład, samochody autonomiczne muszą działać niezależnie i podejmować dokładne decyzje na autopilocie. Muszą być w stanie podejmować te decyzje ekstremalnie szybko, rozpoznając i identyfikując obiekty na drodze. Jest to kluczowe, zwłaszcza w sytuacjach, w których technologia musi rozpoznać różnicę między wzniesieniem, innym obiektem a żywą istotą.

Inne scenariusze obejmują samochody autonomiczne, które muszą zdecydować, co zrobić, gdy inne auto jedzie im prosto, a najbardziej skomplikowaną decyzją jest, czy samochód autonomiczny musi zdecydować, czy uderzyć w to, co postrzega jako inne auto, jakiś obiekt czy żywą istotę.

To wszystko oznacza, że wkładamy ogromne zaufanie w możliwości oprogramowania samochodu autonomicznego, aby podjąć słuszną decyzję w ułamku sekundy. Staje się to jeszcze trudniejsze, gdy jest sprzeczna informacja z różnych czujników, takich jak wizja komputerowa z kamer i Lidar.

Główny autor Minxi Cheng zdecydował się podjąć ten projekt, myśląc: „Nawet ludzie mogą być niezdecydowani w pewnych sytuacjach podejmowania decyzji. W przypadku sprzecznych informacji, dlaczego maszyny nie mogą nam powiedzieć, gdy nie wiedzą?”

DeepTrust

Narzędzie stworzone przez badaczy nazywa się DeepTrust i jest w stanie ilościowo określić niepewność, według Paula Bogdana, associate profesora w departamencie elektrotechniki i informatyki Ming Hsieh.

Zespół spędził prawie dwa lata na opracowaniu DeepTrust, głównie używając logiki subiektywnej do oceny sieci neuronowych. W jednym z przykładów działania narzędzia, było ono w stanie obejrzeć sondaże wyborów prezydenckich w 2016 roku i przewidzieć, że jest większy margines błędu dla Hillary Clinton.

Narzędzie DeepTrust ułatwia również testowanie niezawodności algorytmów AI, które zwykle są szkolone na milionach punktów danych. Inny sposób, aby to zrobić, to niezależne sprawdzenie każdego punktu danych, aby przetestować dokładność, co jest ekstremalnie czasochłonnym zadaniem.

Według badaczy, architektura tych systemów sieci neuronowych jest bardziej dokładna, a dokładność i zaufanie mogą być maksymalizowane jednocześnie.

„Według naszej wiedzy, nie ma modelu ilościowego zaufania ani narzędzia dla głębokiego uczenia, sztucznej inteligencji i uczenia maszynowego. To jest pierwsze podejście i otwiera nowe kierunki badań”, mówi Bogdan.

Bogdan również wierzy, że DeepTrust może pomóc w przyspieszeniu rozwoju AI do punktu, w którym stanie się „świadome i adaptacyjne”.