Tehnologii avansate de inteligență artificială prezintă provocări etice – Lideri de opinie

De Alfred Crews, Jr, vicepreședinte și consilier șef pentru sectorul Intelligence & Security al BAE Systems Inc.

La începutul acestui an, înainte de pandemia globală, am participat la Conferința de Etică a Inteligenței de la The Citadel, din Charleston, unde am discutat despre tema eticii în colectarea de informații, în legătură cu protejarea securității naționale. În industria apărării, asistăm la proliferarea cunoștințelor, a calculatoarelor și a tehnologiilor avansate, în special în domeniul inteligenței artificiale (IA) și al învățării automate (ML). Cu toate acestea, pot apărea probleme semnificative atunci când se utilizează IA în contextul colectării de informații sau al luptei în timp real.

IA cuplată cu calculul cuantic prezintă riscuri

Trebuie să ne întrebăm, să analizăm și să determinăm o cale de urmat atunci când utilizăm IA cuplată cu capacități de calcul cuantic în procesul de luare a deciziilor în timp de război. De exemplu, amintiți-vă de Terminator? Pe măsură ce tehnologia noastră face salturi și progrese, realitatea a ceea ce a prezentat Skynet este în fața noastră. Ne putem întreba, “Vine Skynet să ne ia?” Hai să facem o plimbare pe memoria noastră; mașinile IA au preluat controlul pentru că aveau capacitatea de a gândi și de a lua decizii singure, fără un om care să le conducă. Când mașinile au dedus că oamenii erau o eroare, au încercat să distrugă omenirea. Nu vreau să fiu înțeles greșit, IA are un potențial enorm, dar cred că trebuie să aibă parametri de control din cauza factorului de risc implicat.

Ambiguitățile etice și dilema filosofică a IA

Cred că acesta este exact motivul pentru care Departamentul Apărării al SUA (DoD) a emis propriile Principii etice pentru IA, deoarece utilizarea IA ridică noi ambiguități etice și riscuri. Atunci când se combină IA cu capacități de calcul cuantic, capacitatea de a lua decizii se schimbă și riscul de a pierde controlul crește – mai mult decât ne dăm seama astăzi. Calculul cuantic pune la încercare sistemul de operare al creierului uman, deoarece supercalculatoarele pot face calcule mult mai rapide și mai precise decât creierul uman va fi capabil vreodată.

În plus, utilizarea IA cuplată cu calculul prezintă o dilemă filosofică. La ce punct va permite lumea mașinilor să aibă o voință proprie; și, dacă mașinile sunt permise să gândească singure, înseamnă aceasta că mașina însăși a devenit conștientă? Constituie conștientizarea viață? Ca societate, nu am determinat încă cum să definim această situație. Astfel, așa cum stăteau lucrurile astăzi, mașinile care iau acțiune singure, fără un om care să le controleze, ar putea avea consecințe. Ar putea o mașină să anuleze intervenția umană pentru a opri focul? Dacă mașina funcționează singură, vom putea să oprim alimentarea?

În opinia mea, utilizarea IA din punct de vedere defensiv este ușor de făcut. Cu toate acestea, cât de ușor ar fi să se transfere la ofensivă? Pe ofensivă, mașinile ar lua decizii de luptă în timp real. Ar constitui o mașină care trage asupra unui inamic o încălcare a Convenției de la Geneva și a legilor conflictului armat? Întrând în acest spațiu la un ritm rapid, lumea trebuie să fie de acord că utilizarea IA și a calculului cuantic în luptă trebuie să respecte legile pe care le avem în prezent.

DoD are o poziție atunci când utilizează IA cu sisteme autonome și afirmă că va exista întotdeauna o persoană implicată în procesul de luare a deciziilor; o persoană va lua decizia finală de a apăsa trăgaciul unei arme. Aceasta este regulă noastră, dar ce se întâmplă dacă un adversar decide să urmeze o altă cale și să aibă o mașină IA capabilă să ia toate deciziile finale? Atunci mașina, care, așa cum am discutat, este deja mai rapidă, mai inteligentă și mai precisă, ar avea avantajul.

Hai să ne uităm la un dronă echipat cu IA și recunoaștere facială: drona trage singură din cauza unei ținte predefinite etichetate ca terorist. Cine este de fapt responsabil pentru tragere? Există responsabilitate în caz de greșeală bazată pe prejudecăți?

Prejudecăți încorporate în IA/ML

Cercetările arată că o mașină este mai puțin probabil să facă greșeli decât un om. Cu toate acestea, cercetările demonstrează, de asemenea, că există prejudecăți în învățarea automată bazată pe “învățătorul” uman care învață mașina. Cele cinci Principii etice ale IA ale DoD menționate prejudecățile existente atunci când afirmă: “Departamentul va face pași deliberati pentru a minimiza prejudecățile neintenționate în capacitățile IA.” Știm deja, prin studii dovedite, că în utilizarea aplicațiilor de recunoaștere facială există prejudecăți împotriva persoanelor de culoare, cu rezultate false pozitive. Atunci când o persoană creează codul care învață mașina să ia decizii, vor exista prejudecăți. Acest lucru poate fi neintenționat, deoarece persoana care creează IA nu a fost conștientă de prejudecățile care existau în interiorul său.

Deci, cum se elimină prejudecățile? Rezultatele IA sunt la fel de bune ca și intrările. Prin urmare, trebuie să existe controale. Trebuie să controlați datele care curg, deoarece acestea ar putea face rezultatele IA mai puțin valabile. Dezvoltatorii vor trebui să rescrie constant codul pentru a elimina prejudecățile.

Lumea trebuie să definească cel mai bun mod de utilizare a tehnologiei

Tehnologia în sine nu este bună sau rea. Este modul în care o națiune o utilizează care ar putea transforma cele mai bune intenții într-un lucru rău. Pe măsură ce tehnologia avansează în moduri care afectează viețile oamenilor, lumea trebuie să lucreze împreună pentru a defini acțiuni adecvate. Dacă scoatem omul din ecuație în aplicațiile IA, scoatem și acea pauză înainte de a apăsa trăgaciul – busola morală care ne ghidează; acea pauză atunci când ne oprim și ne întrebăm, “Este corect?” O mașină învățată să se angajeze nu va avea acea pauză. Așadar, întrebarea este, în viitor, va accepta lumea acest lucru? Până unde va merge lumea pentru a permite mașinilor să ia decizii de luptă?