Forskere udvikler “DeepTrust”-værktøj til at øge tilliden til kunstig intelligens

Sikkerheden og tilliden til kunstig intelligens (AI) er en af de største aspekter af teknologien. Det er konstant under forbedring og udvikling af top-eksperter inden for de forskellige fagområder, og det vil være afgørende for den fulde implementering af AI i samfundet.

Nogen af denne nye arbejde kommer fra University of Southern California, hvor USC Viterbi Engineering-forskere har udviklet et nyt værktøj, der kan generere automatiske indikatorer for, om AI-algoritmer er troværdige i deres data og forudsigelser.

Forskningen blev offentliggjort i Frontiers in Artificial Intelligence, med titlen “Der er håb endnu: Kvantificering af mening og tillid til neurale netværk”. Forfatterne af artiklen omfatter Mingxi Cheng, Shahin Nazarian og Paul Bogdan fra USC Cyber Physical Systems Group.

Tilliden til neurale netværk

En af de største opgaver på dette område er at få neurale netværk til at generere forudsigelser, der kan tillides. I mange tilfælde er det, der stopper den fulde implementering af teknologi, der afhænger af AI.

For eksempel kræver selv kørende køretøjer at handle uafhængigt og træffe præcise beslutninger på autopilot. De skal være i stand til at træffe disse beslutninger ekstremt hurtigt, samtidig med at de tyder og genkender objekter på vejen. Dette er afgørende, især i situationer, hvor teknologien skulle kunne skelne mellem en fartbump, et andet objekt eller en levende væsen.

Andre situationer omfatter selv kørende køretøjer, der beslutter, hvad de skal gøre, når et andet køretøj møder dem frontalt, og den mest komplekse beslutning af alle er, hvis selv kørende køretøj skal beslutte, om det skal ramme, hvad det opfatter som et andet køretøj, et objekt eller en levende væsen.

Dette betyder, at vi placerer en ekstrem mængde tillid i selv kørende køretøjs software til at træffe den rigtige beslutning på brøkdele af et sekund. Det bliver endnu mere svært, når der er modsætningsfulde oplysninger fra forskellige sensorer, såsom computer vision fra kameraer og Lidar.

Første forfatter Minxi Cheng besluttede at påtage sig dette projekt efter at have tænkt, “Selv mennesker kan være tvivlsomme i visse beslutningssituationer. I tilfælde med modsætningsfulde oplysninger, hvorfor kan maskiner ikke fortælle os, når de ikke ved?”

DeepTrust

Værktøjet, der er blevet udviklet af forskerne, hedder DeepTrust, og det kan kvantificere mængden af usikkerhed, ifølge Paul Bogdan, en associeret professor i Ming Hsieh Department of Electrical and Computer Engineering.

Holdet brugte næsten to år på at udvikle DeepTrust, primært ved hjælp af subjektiv logik til at evaluere neurale netværk. I et eksempel på, at værktøjet fungerer, kunne det se på meningsmålingerne fra præsidentvalget i 2016 og forudsige, at der var en større fejlmargin for Hillary Clinton til at vinde.

DeepTrust-værktøjet gør det også lettere at teste pålideligheden af AI-algoritmer, der normalt er trænet på op til millioner af data punkter. Den anden måde at gøre dette på er ved at uafhængigt kontrollere hvert enkelt data punkt for at teste nøjagtigheden, hvilket er en ekstremt tidskrævende opgave.

Ifølge forskerne er arkitekturen af disse neurale netværkssystemer mere præcis, og nøjagtighed og tillid kan maksimeres samtidig.

“Ifølge vores viden er der ikke nogen tillidskvantificeringsmodel eller værktøj for dyb læring, kunstig intelligens og maskinlæring. Dette er den første tilgang og åbner nye forskningsretninger,” siger Bogdan.

Bogdan mener også, at DeepTrust kunne hjælpe med at fremme AI til et punkt, hvor det er “bevidst og tilpasningsdygtigt”.