Almindelige antagelser om maskinlæringsfejl kan være forkerte

Deep neural netværk er en af de mest fundamentale aspekter af kunstig intelligens (AI), da de bruges til at behandle billeder og data gennem matematisk modellering. De er ansvarlige for nogle af de største fremskridt i feltet, men de fejler også på forskellige måder. Disse fejl kan have enten en lille til ikke-existerende indvirkning, såsom en simpel misidentificering, eller en mere dramatisk og dødelig, såsom en selvstyrende fejl.

Nyt forskning fra University of Houston antyder, at vores almindelige antagelser om disse fejl kan være forkerte, hvilket kan hjælpe med at evaluere pålideligheden af netværkene i fremtiden.

Artiklen blev offentliggjort i Nature Machine Intelligence i november.

“Adversarial Eksempler”

Maskinlæring og andre typer AI er afgørende i mange sektorer og opgaver, såsom bankvæsen og cybersecurity-systemer. Ifølge Cameron Buckner, en associeret professor i filosofi ved UH, skal der være en forståelse af fejlene forårsaget af “adversarial eksempler”. Disse adversarial eksempler opstår, når et dybt neuralt netværkssystem misjudger billeder og andre data, når det kommer across information uden for træningsindgangene, der blev brugt til at udvikle netværket.

De adversarial eksempler er sjældne, da de ofte er skabt eller opdaget af et andet maskinlæringsnetværk.

“Nogle af disse adversarial begivenheder kunne i stedet være artefakter, og vi har brug for at vide, hvad de er, for at vide, hvor pålidelige disse netværk er,” skrev Buckner.

Buckner siger, at fejlen kan være forårsaget af interaktionen mellem de faktiske mønstre, der er involveret, og hvad netværket søger at behandle, hvilket betyder, at det ikke er en komplet fejl.

Mønstre som Artefakter

“At forstå implikationerne af adversarial eksempler kræver, at man udforsker en tredje mulighed: at mindst nogle af disse mønstre er artefakter,” sagde Buckner. “Derfor er der i øjeblikket både omkostninger ved at forkaste disse mønstre og farer ved at bruge dem naivt.”

Selvom det ikke er tilfældet hele tiden, er intentionel skade den største risiko i forhold til disse adversarial begivenheder, der forårsager maskinlæringsfejl.

“Det betyder, at ondsindede aktører kan narre systemer, der afhænger af et ellers pålideligt netværk,” sagde Buckner. “Det har sikkerhedsapplikationer.”

Dette kan være hackere, der bryder ind i et sikkerhedssystem baseret på ansigtsgenkendelsesteknologi, eller forkert mærkede trafikskilte for at forvirre selvstyrende køretøjer.

Anden tidligere forskning har vist, at nogle af de adversarial eksempler er naturligt forekommende, og opstår, når et maskinlæringsystem misfortolker data gennem en uventet interaktion, som er forskellig fra fejl i data. Disse naturligt forekommende eksempler er sjældne, og den eneste nuværende måde at opdage dem på er gennem AI.

Men Buckner siger, at forskerne har brug for at omvurdere, hvordan de tackler anomalier.

Disse anomalier eller artefakter forklarer Buckner gennem analogien med en linsefejl i et billede, som ikke er forårsaget af en fejl i kameraobjektivet, men snarere interaktionen mellem lys og kamera.

Hvis man ved, hvordan man skal fortolke linsefejlen, kan vigtig information, såsom solens placering, udtrækkes. Fordi dette er muligt, mener Buckner, at det er muligt at udtrække lige så værdifuld information fra ugunstige begivenheder i maskinlæring, der er forårsaget af artefakter.

Buckner siger også, at alt dette ikke automatisk betyder, at dyb læring ikke er gyldig.

“Nogle af disse adversarial begivenheder kunne være artefakter,” sagde han. “Vi har brug for at vide, hvad disse artefakter er, så vi kan vide, hvor pålidelige netværkene er.”