Avanserte AI-teknologier presenterer etiske utfordringer – Ledende tenkere

Av Alfred Crews, Jr, visepresident og sjefsjurist for Intelligence & Security-sektoren i BAE Systems Inc.

Tidligere i år, før den globale pandemien, deltok jeg på The Citadel’s Intelligence Ethics Conference i Charleston, der vi diskuterte temaet etikk i etterretningssamling i forhold til beskyttelse av nasjonal sikkerhet. I forsvarsindustrien ser vi en økning av kunnskap, databehandling og avanserte teknologier, spesielt innen området kunstig intelligens (AI) og maskinlæring (ML). Imidlertid kan det være betydelige problemer når man setter i gang AI i sammenheng med etterretningssamling eller sanntidskamp.

AI koblet med kvantecomputing presenterer risikoer

Hva vi må stille spørsmål om, analysere og bestemme en fremtidig retning for er når man bruker AI koblet med kvantecomputing-kapasiteter i prosessen med krigstidsbeslutninger. For eksempel, husk Terminator? Mens vår teknologi tar store skritt, er virkeligheten av hva Skynet presenterte foran oss. Vi kunne spørre oss selv: “Kommer Skynet til å få tak i oss?” La oss ta en spasertur ned minnesangen med meg; AI-maskinene tok over fordi de hadde evnen til å tenke og fatte beslutninger på egen hånd, uten en menneskelig instruksjon. Når maskinene konkluderte med at mennesker var en feil, satte de i gang å ødelegge menneskeheten. Ikke misforstå meg, AI har stor potensiale, men jeg tror det må ha kontrollparametere på grunn av risikofaktoren som er involvert.

AI’s etiske tvetydigheter og filosofiske dilemma

Jeg tror dette er nettopp hvorfor USAs forsvarsdepartement (DoD) har utgitt sine egne Etiske prinsipper for AI, fordi bruken av AI reiser nye etiske tvetydigheter og risikoer. Når man kombinerer AI med kvantecomputing-kapasiteter, endres evnen til å fatte beslutninger, og risikoen for å miste kontrollen øker – mer enn vi kanskje innser i dag. Kvantecomputing setter vår menneskelige hjerneoperativsystem i skyggen, fordi supercomputere kan gjøre eksponentielt flere beregninger raskere og med mer nøyaktighet enn vår menneskelige hjerne noen gang vil kunne.

I tillegg presenterer bruken av AI koblet med databehandling et filosofisk dilemma. På hvilket tidspunkt vil verden tillate maskiner å ha en egen vilje; og hvis maskiner er tillatt å tenke på egen hånd, betyr det at maskinen selv har blitt selvbevisst? Utgjør å være selvbevisst liv? Som et samfunn har vi ennå ikke bestemt hvordan vi skal definere denne situasjonen. Derfor, som det står i dag, kan maskiner som handler på egen hånd uten en menneskelig instruksjon føre til konsekvenser. Kan en maskin override en menneskelig intervensjon for å stoppe ild? Hvis maskinen opererer på egen hånd, vil vi være i stand til å trekke stikket?

Som jeg ser det, er det enkelt å bruke AI fra et defensivt standpunkt. Imidlertid, hvor mye enklere ville det være å overføre til offensiven? På offensiven ville maskiner fatte beslutninger om åpning av ild på stedet. Ville en maskin som åpner ild ned en fiende utgjøre en overtredelse av Genèvekonvensjonen og lover om væpnet konflikt? Mens verden beveger seg raskt inn i dette rommet, må verden enes om at bruken av AI og kvantecomputing i kamp må følge lovene vi har i dag.

Forsvarsdepartementet har en posisjon når det gjelder bruk av AI med autonome systemer og fastslår at det alltid vil være en person involvert i beslutningsprosessen; en person vil fatte den endelige beslutningen om å trekke avtrekkeren for å åpne ild. Dette er vår regel, men hva skjer hvis en motpart bestemmer seg for å gå en annen vei og la en AI-kapasitert maskin fatte alle de endelige beslutningene? Da vil maskinen, som vi allerede har diskutert, være raskere, smartere og mer nøyaktig, og ville ha en fordel.

La oss se på en drone utstyrt med AI og ansiktsgjenkjenning: Driven åpner ild på egen hånd på grunn av et forhåndsbestemt mål merket som en terrorist. Hvem er egentlig ansvarlig for åpning av ild? Er det ansvar hvis det er en feil med fordommer?

Forutinntatt i AI/ML

Forskning viser at en maskin er mindre sannsynlig å gjøre feil enn et menneske ville. Imidlertid viser forskning også at det finnes fordommer i maskinlæring basert på den menneskelige “læreren” som lærer maskinen. Forsvarsdepartementets fem etiske prinsipper for AI nevnte eksisterende fordommer når det fastslår: “Departementet vil ta bevisste skritt for å minimere uforutsette fordommer i AI-kapasiteter.” Vi vet allerede gjennom proven studier at det i bruk av ansiktsgjenkjenning-applikasjoner finnes fordommer mot mennesker med farge med feilpositive resultater. Når en person lager koden som lærer maskinen hvordan den skal fatte beslutninger, vil det være fordommer. Dette kan være uforutsett fordi personen som lager AI ikke var klar over den fordommen som eksisterte i seg selv.

Hvordan eliminerer man fordommer? AI-utgang er bare så god som inngangen. Derfor må det være kontroller. Du må kontrollere dataene som strømmer inn, fordi det er det som kan gjøre AI-resultatene mindre gyldige. Utviklere vil konstant måtte omskrive koden for å eliminere fordommer.

Verden må definere beste bruk av teknologi

Teknologi i seg selv er hverken god eller dårlig. Det er hvordan en nasjon bruker den som kan ta de beste intensjoner og gå galt. Mens teknologien utvikler seg på måter som påvirker menneskeliv, må verden arbeide sammen for å definere passende handling. Hvis vi tar mennesket ut av ligningen i AI-applikasjoner, tar vi også den pausen før vi trekker avtrekkeren – den moralske kompassen som guider oss; den pausen når vi stopper og spør: “Er dette riktig?” En maskin som er lært til å engasjere, vil ikke ha den pausen. Så, spørsmålet er, i fremtiden, vil verden godta dette? Hvor langt vil verden gå for å tillate maskiner å fatte kampbeslutninger?