Forskare utvecklar “DeepTrust” för att öka tillförlitligheten hos AI

Säkerheten och tillförlitligheten hos artificiell intelligens (AI) är en av de viktigaste aspekterna av tekniken. Den förbättras och utvecklas ständigt av experter inom olika områden, och det kommer att vara avgörande för en fullständig implementering av AI i samhället.

En del av det nya arbetet kommer från University of Southern California, där forskare vid USC Viterbi Engineering har utvecklat ett nytt verktyg som kan generera automatiska indikatorer för om AI-algoritmer är tillförlitliga i sina data och förutsägelser.

Forskningen publicerades i Frontiers in Artificial Intelligence, med titeln “There is Hope After All: Quantifying Opinion and Trustworthiness in Neural Networks”. Författarna till artikeln är Mingxi Cheng, Shahin Nazarian och Paul Bogdan från USC Cyber Physical Systems Group.

Tillförlitlighet hos neuronnät

En av de största uppgifterna inom detta område är att få neuronnät att generera förutsägelser som kan litas. I många fall är detta det som hindrar en fullständig implementering av teknologi som bygger på AI.

Till exempel kräver självkörande fordon att agera oberoende och fatta precisa beslut på autopilot. De måste kunna fatta dessa beslut extremt snabbt, samtidigt som de tolkar och känner igen objekt på vägen. Detta är avgörande, särskilt i scenarier där tekniken måste skilja på en fartsgrop, ett annat objekt eller en levande varelse.

Andra scenarier inkluderar självkörande fordon som måste besluta vad de ska göra när ett annat fordon möter dem, och det mest komplexa beslutet av alla är om det självkörande fordonet måste besluta mellan att träffa vad det uppfattar som ett annat fordon, ett objekt eller en levande varelse.

Allt detta innebär att vi lägger ett extremt stort förtroende till självkörande fordonets programvaras förmåga att fatta rätt beslut på bråkdelar av en sekund. Det blir ännu svårare när det finns motstridig information från olika sensorer, såsom datorseende från kameror och Lidar.

Huvudförfattaren Minxi Cheng bestämde sig för att ta upp det här projektet efter att ha tänkt: “Även människor kan vara tveksamma i vissa beslutsfattande scenarier. I fall med motstridig information, varför kan inte maskiner berätta för oss när de inte vet?”

DeepTrust

Verktyget som skapades av forskarna kallas DeepTrust, och det kan kvantifiera mängden osäkerhet, enligt Paul Bogdan, en biträdande professor vid Ming Hsieh Department of Electrical and Computer Engineering.

Laget tillbringade nästan två år med att utveckla DeepTrust, främst med hjälp av subjektiv logik för att utvärdera neuronnät. I ett exempel på verktygets funktion kunde det undersöka presidentvalet 2016 och förutsäga att det fanns en större felmarginal för Hillary Clinton att vinna.

DeepTrust-verktyget gör det också lättare att testa tillförlitligheten hos AI-algoritmer som vanligtvis tränas på upp till miljontals datapunkter. Det andra sättet att göra detta är genom att oberoende kontrollera varje datapunkt för att testa noggrannheten, vilket är en extremt tidskrävande uppgift.

Enligt forskarna är arkitekturen för dessa neuronnätssystem mer exakt, och noggrannhet och tillförlitlighet kan maximeras samtidigt.

“Såvitt vi vet finns det inget tillförlitlighetskvantifieringsmodell eller verktyg för djupinlärning, artificiell intelligens och maskinlärning. Detta är den första ansatsen och öppnar nya forskningsriktningar”, säger Bogdan.

Bogdan tror också att DeepTrust kan hjälpa till att driva AI framåt till den punkt där den är “medveten och anpassningsbar”.