Grupul consultativ pentru tehnologie solicită limite pentru utilizarea inteligenței artificiale de către Pentagon

Pentagonul și-a anunțat intenția de a investi masiv în inteligența artificială, afirmând că aceasta va face armata americană mai puternică și mai robustă în fața posibilelor amenințări la adresa securității naționale. Conform raportului Engadget, joi trecută, Consiliul de inovare pentru apărare a propus o serie de ghiduri etice pentru utilizarea inteligenței artificiale în armată. Lista propunerilor include strategii pentru a evita prejudecățile neintenționate și pentru a guverna inteligența artificială care ar avea proceduri de oprire de urgență pentru a preveni cauzarea unor prejudicii inutile.

Conform Wired, Consiliul de inovare pentru apărare a fost creat de administrația Obama pentru a ghida Pentagonul în dobândirea experienței și talentului din industria tehnologică. Consiliul este condus în prezent de fostul director general al Google (GOOGL ), Eric Schmidt. Departamentul a fost recent însărcinat cu stabilirea ghidurilor pentru implementarea etică a inteligenței artificiale în proiectele militare. Joi, consiliul a publicat ghidurile și recomandările sale pentru revizuire. Raportul menționează că este momentul să se aibă discuții serioase despre utilizarea inteligenței artificiale în context militar, înainte ca un incident grav să impună adoptarea unor astfel de discuții.

Conform Artificial Intelligence News, un fost oficial militar a declarat recent că Pentagonul este în urmă în ceea ce privește utilizarea inteligenței artificiale. Pentagonul își propune să recupereze acest decalaj și a declarat că dezvoltarea și extinderea inteligenței artificiale în armată sunt o prioritate națională. Eticienii inteligenței artificiale sunt îngrijorați că, în graba de a deveni lider în domeniul inteligenței artificiale, sistemele de inteligență artificială ar putea fi utilizate în moduri neetice. Deși diverse consilii independente de etică a inteligenței artificiale au făcut propriile sugestii, Consiliul de inovare pentru apărare a propus cel puțin cinci principii pe care armata ar trebui să le urmeze întotdeauna atunci când dezvoltă și implementează sisteme de inteligență artificială.

Primul principiu propus de consiliu este acela că oamenii ar trebui să fie întotdeauna responsabili pentru utilizarea, implementarea și rezultatele oricărei platforme de inteligență artificială utilizate în context militar. Acest lucru este asemănător cu o politică din 2012 care a obligat ca oamenii să fie implicați în procesul de luare a deciziilor atunci când se utilizează forță letală. Există și alte principii pe listă care oferă sfaturi generale, cum ar fi asigurarea că sistemele de inteligență artificială sunt întotdeauna create de ingineri care înțeleg și documentează pe deplin programele lor. Un alt principiu recomandă ca sistemele de inteligență artificială militare să fie întotdeauna testate pentru fiabilitate. Aceste ghiduri par a fi de bun simț, dar consiliul dorește să sublinieze importanța lor.

Alte principii din listă se referă la controlul prejudecăților pentru algoritmi de inteligență artificială și la capacitatea sistemelor de inteligență artificială de a detecta dacă ar putea cauza prejudicii neintenționate și de a se dezactiva automat. Ghidurile specifică faptul că, dacă se produc prejudicii inutile, sistemul de inteligență artificială ar trebui să se poată dezactiva și să permită un operator uman să preia controlul. Proiectul de principii recomandă, de asemenea, ca ieșirile sistemelor de inteligență artificială să fie urmăribile, astfel încât analiștii să poată vedea ce a condus la luarea unei anumite decizii de către sistemul de inteligență artificială.

Setul de recomandări propuse de consiliu subliniază două idei diferite. Principiile reflectă faptul că inteligența artificială va fi esențială pentru viitorul operațiunilor militare, dar că multe sisteme de inteligență artificială depind în continuare de gestionarea și deciziile umane.

Deși Pentagonul nu este obligat să adopte recomandările consiliului, pare că Pentagonul ia recomandările în serios. Conform Wired, directorul Centrului comun de inteligență artificială, generalul-locotenent Jack Shanahan, a declarat că recomandările consiliului vor ajuta Pentagonul să „respecte cele mai înalte standarde etice, așa cum sunt prevăzute în strategia DoD pentru inteligența artificială, în timp ce adoptă puternica istorie a armatei americane de aplicare a unor teste și standarde riguroase pentru inovațiile tehnologice”.

Industria tehnologică în ansamblu rămâne prudentă în ceea ce privește utilizarea inteligenței artificiale în crearea de hardware și software militar. Angajații Microsoft (MSFT ) și Google au protestat deja împotriva colaborărilor cu entitățile militare, iar Google a refuzat recent să reînnoiască contractul care îi permitea să contribuie la Proiectul Maven. O serie de directori generali, oameni de știință și ingineri au semnat, de asemenea, un angajament de a nu „participa la sau sprijini dezvoltarea, producerea, comerțul sau utilizarea armelor autonome letale”. Dacă Pentagonul adoptă ghidurile sugerate de consiliu, acest lucru ar putea face industria tehnologică mai dispusă să colaboreze la proiecte, deși doar timpul va arăta.