Presupunerile comune despre defectele învățării automatizate ar putea fi greșite

Rețelele neuronale profunde sunt unul dintre cele mai fundamentale aspecte ale inteligenței artificiale (IA), deoarece sunt utilizate pentru a procesa imagini și date prin modelare matematică. Ele sunt responsabile pentru unele dintre cele mai mari progrese în domeniu, dar ele pot funcționa defectuos în diferite moduri. Aceste defecte pot avea un impact mic sau inexistent, cum ar fi o simplă identificare greșită, sau unul mai dramatic și mortal, cum ar fi o defecțiune a unui vehicul autonom.

Noi cercetări efectuate la Universitatea din Houston sugerează că presupunerile noastre comune despre aceste defecte ar putea fi greșite, ceea ce ar putea ajuta la evaluarea fiabilității rețelelor în viitor.

Articolul a fost publicat în Nature Machine Intelligence în luna noiembrie.

„Exemple adverse”

Învățarea automatizată și alte tipuri de IA sunt cruciale în multe sectoare și sarcini, cum ar fi sistemele bancare și de securitate cibernetică. Conform lui Cameron Buckner, profesor asociat de filosofie la UH, trebuie să existe o înțelegere a defectelor cauzate de „exemplele adverse”. Aceste exemple adverse apar atunci când un sistem de rețea neurală profundă judecă greșit imagini și alte date atunci când întâlnesc informații din afara intrărilor de antrenament utilizate pentru a dezvolta rețeaua.

Exemplele adverse sunt rare, deoarece de multe ori sunt create sau descoperite de altă rețea de învățare automatizată.

„Unele dintre aceste evenimente adverse ar putea fi, de fapt, artefacte, și avem nevoie să le cunoaștem mai bine pentru a ști cât de fiabile sunt aceste rețele”, a scris Buckner.

Buckner spune că defectul ar putea fi cauzat de interacțiunea dintre modelele reale implicate și ceea ce rețeaua își propune să proceseze, ceea ce înseamnă că nu este o greșeală completă.

Modele ca artefacte

„Înțelegerea implicațiilor exemplarelor adverse necesită explorarea unei a treia posibilități: că cel puțin unele dintre aceste modele sunt artefacte”, a spus Buckner. „Astfel, există în prezent atât costuri în a renunța la aceste modele, cât și pericole în a le utiliza naiv.”

Deși nu este întotdeauna cazul, malversația intenționată este cel mai mare risc în ceea ce privește evenimentele adverse care cauzează defecte ale învățării automate.

„Acest lucru înseamnă că actori malefici ar putea păcăli sistemele care se bazează pe o rețea de altfel fiabilă”, a spus Buckner. „Acesta are aplicații de securitate.”

Acest lucru ar putea fi, de exemplu, hackeri care încalcă un sistem de securitate bazat pe tehnologia de recunoaștere facială sau semne de circulație etichetate greșit pentru a confunda vehiculele autonome.

Alte cercetări anterioare au demonstrat că unele dintre exemplele adverse sunt naturale, apărând atunci când un sistem de învățare automatizată interpretează greșit datele prin interacțiuni neașteptate, ceea ce este diferit de erorile din date. Aceste exemple naturale sunt rare, iar singura modalitate de a le descoperi în prezent este prin intermediul IA.

Cu toate acestea, Buckner spune că cercetătorii trebuie să reevalueze modurile în care abordează anomaliile.

Aceste anomalii, sau artefacte, sunt explicate de Buckner prin analogia unei reflexii a lentilei într-o fotografie, care nu este cauzată de o defecțiune a lentilei, ci de interacțiunea luminii cu aparatul.

Dacă știi cum să interpretezi reflexia lentilei, poți extrage informații importante, cum ar fi locația soarelui. Din acest motiv, Buckner consideră că este posibil să extragi informații la fel de valoroase din evenimentele adverse în învățarea automatizată care sunt cauzate de artefacte.

Buckner spune, de asemenea, că toate acestea nu înseamnă automat că învățarea profundă nu este valabilă.

„Unele dintre aceste evenimente adverse ar putea fi artefacte”, a spus el. „Trebuie să știm ce sunt aceste artefacte pentru a ști cât de fiabile sunt rețelele.”