5 Stâlpi Fundamentali pentru Asigurarea Responsabilității Inteligenței Artificiale

Vedem o creștere covârșitoare a sistemelor de inteligență artificială și învățare automată pentru a procesa oceane de date generate în noua economie digitală. Cu toate acestea, odată cu această creștere, există nevoia de a lua în considerare serios implicațiile etice și juridice ale inteligenței artificiale.

Pe măsură ce încredințăm sistemele de inteligență artificială sarcini din ce în ce mai sofisticate și importante, cum ar fi aprobarea automată a creditelor, de exemplu, trebuie să fim absolut siguri că aceste sisteme sunt responsabile și de încredere. Reducerea prejudecăților în inteligența artificială a devenit o zonă imensă de focalizare pentru mulți cercetători și are implicații etice uriașe, la fel ca și cantitatea de autonomie pe care o acordăm acestor sisteme.

Conceptul de Inteligență Artificială Responsabilă este un cadru important care poate ajuta la construirea încrederii în implementările dvs. de inteligență artificială. Există cinci stâlpi fundamentali pentru Inteligența Artificială Responsabilă. Acest articol va explora acestea pentru a vă ajuta să construiți sisteme mai bune.

1. Reproducibilitate

Există o veche zică în lumea dezvoltării de software care spune: “hey, funcționează pe mașina mea” În domeniul inteligenței artificiale și învățării automate, fraza ar putea fi modificată astfel: “hey, funcționează pe setul meu de date.” Acest lucru înseamnă că modelele de învățare automată pot fi adesea cutii negre. Multe seturi de date de antrenare pot avea prejudecăți inerente, cum ar fi prejudecățile de eșantionare sau de confirmare, care reduc acuratețea produsului final.

Pentru a face sistemele de inteligență artificială și învățare automată mai reproduse și, prin urmare, mai precise și de încredere, primul pas este de a standardiza pipeline-ul MLOps. Chiar și cei mai dești cercetători au tehnologiile și bibliotecile lor preferate, ceea ce înseamnă că ingineria caracteristicilor și modelele rezultate nu sunt uniforme de la o persoană la alta. Prin utilizarea unor instrumente precum MLflow, puteți standardiza pipeline-ul MLOps și reduce aceste diferențe.

O altă modalitate de a face sistemele de inteligență artificială și învățare automată mai reproduse este prin utilizarea a ceea ce se numesc “seturi de date aur”. Acestea sunt seturi de date reprezentative care acționează ca teste și validări ale noilor modele înainte de a fi lansate în producție.

2. Transparență

Așa cum s-a menționat anterior, multe modele de învățare automată, în special rețelele neuronale, sunt cutii negre. Pentru a le face mai responsabile, trebuie să le facem mai interpretabile. Pentru sisteme simple, cum ar fi arborii de decizie, este destul de ușor de înțeles cum și de ce sistemul a luat o anumită decizie, dar pe măsură ce acuratețea și complexitatea unui sistem de inteligență artificială cresc, interpretabilitatea lui adesea scade.

Există o nouă zonă de cercetare numită “explicabilitate” care încearcă să aducă transparență chiar și în sistemele de inteligență artificială complexe, cum ar fi rețelele neuronale și învățarea profundă. Acestea utilizează modele proxy pentru a copia performanța unei rețele neuronale, dar încearcă și să ofere explicații valabile ale caracteristicilor importante.

Acest lucru conduce la echitate; doriți să știți de ce a fost luată o anumită decizie și să vă asigurați că această decizie este corectă. De asemenea, doriți să vă asigurați că caracteristicile inadecvate nu sunt luate în considerare, astfel încât prejudecățile să nu pătrundă în modelul dvs.

3. Răspundere

Poate cel mai important aspect al Inteligenței Artificiale Responsabile este răspunderea. Există multe discuții despre acest subiect, chiar și în sectorul guvernamental, deoarece se ocupă de politici care vor conduce rezultatele inteligenței artificiale. Acest abordare bazat pe politici determină la ce stadiu ar trebui să fie oamenii în buclă.

Răspunderea necesită monitoare și metrice robuste pentru a ajuta factorii de decizie și a controla sistemele de inteligență artificială și învățare automată. Răspunderea leagă realmente reproducibilitatea și transparența, dar necesită o supraveghere eficientă sub forma comitetelor de etică a inteligenței artificiale. Aceste comitete pot gestiona deciziile politice, pot decide ce este important de măsurat și pot efectua revizuiri ale echității.

4. Securitate

Securitatea inteligenței artificiale se concentrează pe confidențialitatea și integritatea datelor. Atunci când sistemele procesează date, doriți ca acestea să fie într-un mediu securizat. Doriți ca datele să fie atât criptate în timp ce se află în repaus în baza dvs. de date, cât și atunci când sunt transmise prin pipeline, dar vulnerabilitățile există totuși atunci când sunt introduse într-un model de învățare automată sub formă de text simplu. Tehnologii precum criptarea omomorfică rezolvă această problemă, permițând antrenarea învățării automate într-un mediu criptat.

O altă aspect este securitatea modelului în sine. De exemplu, atacurile de inversare a modelului permit hackerilor să învețe datele de antrenare utilizate pentru a construi modelul. De asemenea, există atacuri de otrăvire a modelului, care introduc date rele în model în timpul antrenării și distrug complet performanța sa. Testarea modelului dvs. pentru atacuri adversarale, cum ar fi acestea, poate menține securitatea și siguranța sa.

5. Confidențialitate

Google și OpenMined sunt două organizații care au prioritizat recent confidențialitatea inteligenței artificiale, iar OpenMined a găzduit o conferință recentă pe acest subiect. Cu noi reglementări, cum ar fi GDPR și CCPA, și posibil și altele care urmează, confidențialitatea va juca un rol central în modul în care antrenăm modelele de învățare automată.

O modalitate de a vă asigura că gestionați datele clienților dvs. într-un mod conștient de confidențialitate este de a utiliza învățarea federată. Această metodă descentralizată de învățare automată antrenează modele diferite local, apoi agregă fiecare model într-un hub central, menținând datele în siguranță, securizate și private. O altă metodă este de a introduce zgomot statistic, astfel încât valorile individuale ale clienților să nu fie divulgate. Acest lucru vă permite să lucrați cu agregatul, astfel încât datele individuale să rămână intacte și să nu fie disponibile algoritmului.

Păstrarea Responsabilității Inteligenței Artificiale

 În cele din urmă, păstrarea responsabilității inteligenței artificiale revine fiecărei organizații care proiectează sisteme de inteligență artificială și învățare automată. Prin urmărirea intenționată a tehnologiilor din cadrul acestor cinci aspecte ale Inteligenței Artificiale Responsabile, puteți nu numai să beneficiați de puterea inteligenței artificiale, dar să o faceți și într-un mod de încredere și transparent, care va reassigura organizația dvs., clienții și reglementatorii.