Gangbare Aannames over Machine Learning Storingen Zouden Onjuist Kunnen Zijn

Diepe neurale netwerken zijn een van de meest fundamentele aspecten van kunstmatige intelligentie (AI), aangezien ze worden gebruikt om afbeeldingen en gegevens te verwerken door middel van wiskundige modellering. Ze zijn verantwoordelijk voor enkele van de grootste vooruitgangen in het veld, maar ze functioneren ook op verschillende manieren niet goed. Deze storingen kunnen een kleine tot niet-bestaande impact hebben, zoals een eenvoudige verkeerde identificatie, of een meer dramatische en dodelijke, zoals een storing in een zelfrijdende auto.

Nieuw onderzoek van de Universiteit van Houston suggereert dat onze gangbare aannames over deze storingen onjuist kunnen zijn, wat kan helpen bij het evalueren van de betrouwbaarheid van de netwerken in de toekomst.

Het artikel werd in november gepubliceerd in Nature Machine Intelligence.

“Adversarial Examples”

Machine learning en andere vormen van AI zijn cruciaal in veel sectoren en taken, zoals banken en cybersecurity-systemen. Volgens Cameron Buckner, een associate professor in de filosofie aan de UH, moet er een begrip zijn van de storingen die worden veroorzaakt door “adversarial examples”. Deze adversarial examples treden op wanneer een diep neuronaal netwerksysteem afbeeldingen en andere gegevens verkeerd beoordeelt wanneer het geconfronteerd wordt met informatie buiten de trainingsinvoer die werd gebruikt om het netwerk te ontwikkelen.

De adversarial examples zijn zeldzaam, omdat ze vaak worden gecreëerd of ontdekt door een ander machine learning-netwerk.

“Sommige van deze adversarial gebeurtenissen kunnen in plaats daarvan artifacts zijn, en we moeten beter weten wat ze zijn om te weten hoe betrouwbaar deze netwerken zijn,” schreef Buckner.

Buckner zegt dat de storing kan worden veroorzaakt door de interactie tussen de daadwerkelijke patronen die zijn betrokken en wat het netwerk probeert te verwerken, wat betekent dat het geen complete fout is.

Patronen als Artifacts

“Het begrijpen van de implicaties van adversarial examples vereist het onderzoeken van een derde mogelijkheid: dat ten minste sommige van deze patronen artifacts zijn,” zei Buckner. “Dus zijn er op dit moment zowel kosten aan het eenvoudigweg wegwerpen van deze patronen als gevaren aan het naïef gebruiken ervan.”

Hoewel het niet altijd het geval is, is opzettelijke kwade opzet het grootste risico met betrekking tot deze adversarial gebeurtenissen die machine learning-storingen veroorzaken.

“Het betekent dat kwaadwillige actoren systemen kunnen misleiden die afhankelijk zijn van een anderszins betrouwbaar netwerk,” zei Buckner. “Dat heeft veiligheidsaspecten.”

Dit kan hackers zijn die een beveiligingssysteem op basis van gezichtsherkenningstechnologie binnendringen, of verkeerd gelabelde verkeersborden om autonome voertuigen te verwarren.

Andere eerdere onderzoeken hebben aangetoond dat sommige van de adversarial examples natuurlijk voorkomen, wanneer een machine learning-systeem gegevens verkeerd interpreteert door een onverwachte interactie, wat anders is dan door fouten in de gegevens. Deze natuurlijk voorkomende voorbeelden zijn zeldzaam, en de enige manier om ze te ontdekken is door middel van AI.

Hoewel Buckner zegt dat onderzoekers de manier waarop ze afwijkingen aanpakken, moeten heroverwegen.

Deze afwijkingen, of artifacts, worden door Buckner verklaard door middel van een analogie van een lensflare in een foto, die niet wordt veroorzaakt door een defect in de camerlens, maar door de interactie van licht met de camera.

Als men weet hoe men de lensflare moet interpreteren, kan belangrijke informatie, zoals de locatie van de zon, worden geëxtraheerd. Daarom denkt Buckner dat het mogelijk is om even waardevolle informatie te extraheren uit nadelige gebeurtenissen in machine learning die worden veroorzaakt door het artifact.

Buckner zegt ook dat al dit niet automatisch betekent dat diep leren niet geldig is.

“Sommige van deze adversarial gebeurtenissen kunnen artifacts zijn,” zei hij. “We moeten weten wat deze artifacts zijn, zodat we weten hoe betrouwbaar de netwerken zijn.”