AI-hendingsdatabasen har som mål å gjøre AI-algoritmer tryggere

Ethvert tilstrekkelig stort system vil ha feil, og en del av å korrigere for disse feilene er å ha en database over dem som kan analyseres for å påvise effekter og potensielle årsaker. Liksom FDA vedlikeholder en database for bivirkninger av legemidler, eller National Transportation Safety Board vedlikeholder en database for luftfartsulykker, er AI-hendingsdatabasen en database som er ment å katalogisere feil i AI-systemer og å hjelpe AI-forskere med å utvikle nye metoder for å unngå disse feilene. Skaperne av AI-hendingsdatabasen (AIID) håper at den vil hjelpe AI-selskaper med å utvikle tryggere og mer etiske AI-løsninger.

Hva er AIID?

AIID er et produkt av organisasjonen Partnership on AI (PAI). PAI ble opprinnelig grunnlagt i 2016 av medlemmer av AI-forskningsgrupper i store teknologiselskaper som Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM og Microsoft. Siden da har organisasjonen rekruttert medlemmer fra mange andre organisasjoner, inkludert flere nonprofit-organisasjoner. I 2018 satte PAI i gang å utvikle en konsistent klassifiseringsstandard for AI-feil. Men det fantes ingen samling av AI-hendelser som kunne brukes som grunnlag for denne klassifiseringen. Derfor opprettet PAI AIID.

Ifølge TechTalks ble formatet på AIID informert av strukturen på luftfartsulykksdatabasen som vedlikeholdes av National Transportation Safety Board. Siden rapporter begynte å bli samlet inn i 1996, har det kommersielle luftfartssystemet klart å øke sikkerheten i luftfarten ved å arkivere og analysere hendelser. Håpet er at en lignende repository av AI-hendelser kan gjøre AI-systemer tryggere, mer etiske og mer pålitelige. AIID tok også inspirasjon fra Common Vulnerabilities and Exposures-databasen, som er en repository av bemerkelsesverdige softwarefeil som omfatter en rekke ulike industrier og fagområder.

Sean McGregor er den ledende tekniske konsulenten i IBM for Watson AI XPRIZE. McGregor er også ansvarlig for å overvåke utviklingen av AIID’s faktiske database. McGregor forklarte at målet med AIID er ultimate å forebygge at AI-systemer forårsaker skade, eller i det minste redusere alvorlighetsgraden av ugunstige hendelser. Som McGregor noterte, er maskinlæringsystemer betraktelig mer komplekse og uforutsigbare enn tradisjonelle software-systemer, og som en følge kan de ikke testes på samme måte som andre software. Maskinlæringsystemer kan endre sitt atferd på uventede måter. McGregor påpeker at evnen til dypt læringsystemer til å lære kan bety “feil er mer sannsynlige, mer kompliserte og mer farlige” når de kommer inn i en ustrukturert verden.

Over 1 000 AI-relaterte hendelser er logget

Siden AIID ble opprettet, har det blitt logget over 1 000 AI-relaterte hendelser i databasen. Av alle hendelsene i databasen var problemer med AI-rettferdighet den vanligste typen ugunstige hendelse. Mange av disse rettferdighets hendelsene involverer bruk av ansiktsgjenkjenning-algoritmer av regjeringens etater. McGregor noterer også at det er en økende mengde hendelser som involverer roboter som legges til i databasen.

Besøkende på databasen kan utføre spørringer, søke i databasen etter hendelser basert på kriterier som nøkkelord, hendelses-ID, kilde eller forfatter. For eksempel returnerer en søkning etter “Deepfake” 7 rapporter, mens en søkning etter “roboter” returnerer 158 rapporter.

En sentralisert database for hendelser med AI-systemers feil og uventede atferd kan hjelpe forskere, ingeniører og etikere med å overvåke utviklingen og implementeringen av AI-systemer. Produktledere i teknologiselskaper kan bruke AIID til å se om det finnes potensielle problemer før de anvender AI-anbefalingsystemer, eller en AI-ingeniør kan få en idé om potensielle fordommer som må korrigeres når de lager AI-applikasjonen. Liksom risikosjefer kan bruke databasen til å bestemme potensielle negative bieffekter forbundet med en AI-modell, og dermed planlegge og utvikle tiltak for å minimere potensielle skader.

Arkitekturen under AIID er ment å være fleksibel, da dette muliggjør opprettelsen av nye verktøy for å spørring i databasen og trekke ut meningsfulle innsikter. Partnership on AI og McGregor vil samarbeide om å utvikle en fleksibel taksonomi som kan brukes til å klassifisere alle ulike former for AI-hendelser. Teamet håper at når den fleksible taksonomien er opprettet, kan den kombineres med et automatisert system som vil logge AI-hendelser automatisk.

“AI-samfunnet har begynt å dele hendelsesrekorder med hverandre for å motivere endringer i deres produkter, kontrollprosedyrer og forskningsprogrammer,” forklarte McGregor via TechTalks. “Nettstedet ble offentliggjort i november, så vi er bare begynt å realisere fordelene med systemet.”