Den kunstig intelligens-ulykkesdatabase har til formål at gøre kunstig intelligens-algoritmer sikrere

Ethvert tilstrækkeligt stort system vil have fejl, og en del af at korrigere for disse fejl er at have en database over dem, der kan analyseres for effekter og potentielle årsager. Ligesom FDA vedligeholder en database for bivirkninger af lægemidler eller National Transportation Safety Board vedligeholder en database for luftfartsulykker, er den kunstig intelligens-ulykkesdatabase en database til at katalogisere fejl i kunstig intelligens-systemer og til at hjælpe kunstig intelligens-forskere med at udvikle nye metoder til at undgå disse fejl. Oprettorerne af den kunstig intelligens-ulykkesdatabase (AIID) håber, at den vil hjælpe kunstig intelligens-virksomheder med at udvikle sikrere, mere etiske kunstig intelligens.

Hvad er AIID?

AIID er et produkt af Partnership on AI (PAI)-organisationen. PAI blev oprindeligt etableret i 2016 af medlemmer af kunstig intelligens-forskningshold på store teknologivirksomheder som Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM og Microsoft. Siden da har organisationen rekrutteret medlemmer fra mange andre organisationer, herunder forskellige nonprofit-organisationer. I 2018 satte PAI sig for at oprette en konsekvent klassificeringsstandard for kunstig intelligens-fejl. Men der var ingen samling af kunstig intelligens-ulykker, som denne klassificering kunne baseres på. Derfor oprettede PAI AIID.

Ifølge TechTalks blev formatet for AIID informeret af strukturen i luftfartsulykkesdatabasen, der vedligeholdes af National Transportation Safety Board. Siden rapporter begyndte at blive indsamlet i 1996, har det kommercielle luftfartssystem formået at øge sikkerheden i luftfartsindustrien ved at arkivere og analysere ulykker. Forhåbentlig kan en lignende repository af kunstig intelligens-ulykker gøre kunstig intelligens-systemer sikrere, mere etiske og mere pålidelige. AIID tog også inspiration fra Common Vulnerabilities and Exposures-databasen, som er en repository af bemærkelsesværdige software-fejl, der spænder over en række forskellige industrier og discipliner.

Sean McGregor er den ledende tekniske konsulent hos IBM for Watson AI XPRIZE. McGregor er også ansvarlig for at overvåge udviklingen af AIID’s faktiske database. McGregor forklarede, at målet for AIID i sidste ende er at forhindre, at kunstig intelligens-systemer forårsager skade, eller i hvert fald mindske alvoren af ugunstige ulykker. Som McGregor bemærkede, er maskinelærings-systemer væsentligt mere komplekse og uforudsigelige end traditionelle software-systemer, og som følge heraf kan de ikke testes på samme måde som anden software. Maskinelærings-systemer kan ændre deres adfærd på uventede måder. McGregor bemærker, at kapaciteten for dyb læringssystemer til at lære kan betyde, at “fejl er mere sandsynlige, mere komplicerede og mere farlige”, når de kommer ind i en ustruktureret verden.

Over 1.000 kunstig intelligens-relaterede ulykker er blevet logget

Siden AIID blev oprindeligt oprettet, er der blevet logget over 1.000 kunstig intelligens-relaterede ulykker i databasen. Af alle ulykkerne i databasen var spørgsmål om kunstig intelligens-retfærdighed den hyppigste type af ugunstige ulykker. Mange af disse retfærdighedsulykker involverer brugen af ansigtsgenkendelsesalgoritmer af regeringsinstitutioner. McGregor bemærker også, at der er en stigende antal ulykker, der involverer robotter, der tilføjes til databasen.

Besøgende på databasen kan udføre forespørgsler, hvor de søger i databasen efter ulykker baseret på kriterier som nøgleord, ulykkes-ID, kilde eller forfatter. For eksempel returnerer en søgning efter “Deepfake” 7 rapporter, mens en søgning efter “robotter” returnerer 158 rapporter.

En centraliseret database for ulykker med kunstig intelligens, der fungerer på uventede måder, kan hjælpe forskere, ingeniører og etikere med at overvåge udviklingen og udrulningen af kunstig intelligens-systemer. Produktchefer i teknologivirksomheder kan bruge AIID til at se, om der er potentielle problemer, før de anvender kunstig intelligens-anbefalingsystemer, eller en kunstig intelligens-ingeniør kan få en idé om potentielle fordomme, der skal rettes, når de opretter kunstig intelligens-programmet. Ligeså kan risikochefere bruge databasen til at bestemme potentielle negative sideeffekter i forbindelse med en kunstig intelligens-model, så de kan planlægge og udvikle foranstaltninger til at mindske potentielle skader.

Arkitekturen under AIID er designet til at være fleksibel, da dette muliggør oprettelsen af nye værktøjer til at forespørgde databasen og trække meningsfulde indsigt ud. Partnership on AI og McGregor vil samarbejde om at udvikle en fleksibel taksonomi, der kan bruges til at klassificere alle former for kunstig intelligens-ulykker. Holdet håber, at når den fleksible taksonomi er blevet oprettet, kan den kombineres med et automatiseret system, der automatisk logger kunstig intelligens-ulykker.

“Kunstig intelligens-samfundet er begyndt at dele ulykkesrapporter med hinanden for at motivere ændringer i deres produkter, kontrolprocedurer og forskningsprogrammer,” forklarede McGregor via TechTalks. “Siden websitet blev offentliggjort i november, er vi lige begyndt at forstå fordelene ved systemet.”