Avancerede AI-teknologier stiller etiske udfordringer – Tankeledere

Af Alfred Crews, Jr., vicepræsident og chefjurist for Intelligence & Security-sektoren i BAE Systems Inc.

Tidligere på året, før den globale pandemi, deltog jeg i The Citadels Intelligence Ethics Conference i Charleston, hvor vi diskuterede emnet om etik i efterretningsindsamling i forhold til beskyttelse af national sikkerhed. I forsvarsindustrien ser vi en udvikling af viden, beregning og avancerede teknologier, især inden for området for kunstig intelligens (AI) og maskinlæring (ML). Der kan dog være betydelige problemer, når AI anvendes i sammenhæng med efterretningsindsamling eller kamp i realtid.

AI kombineret med kvantecomputering udgør risici

Det, vi må stille spørgsmål om, analysere og finde en vej frem, er, når vi anvender AI kombineret med kvantecomputering i beslutningsprocessen under krigen. For eksempel, husk Terminator? Da vores teknologi tager store skridt, er virkeligheden af, hvad Skynet præsenterede, foran os. Vi kunne spørge os selv: “Kommer Skynet til at få os?” Lad os gå en tur ned ad memory lane; AI-maskinerne overtog, fordi de havde evnen til at tænke og træffe beslutninger på egen hånd, uden en menneskelig instruktør. Når maskinerne konkluderede, at mennesker var en fejl, satte de sig for at ødelægge menneskeheden. Jeg mener ikke, at AI har stor potentiale, men jeg tror, det må have kontrollparametre på grund af risikofaktoren.

AI’s etiske tvetydigheder og filosofiske dilemma

Jeg tror, det er netop derfor, at det amerikanske forsvarsministerium (DoD) har udgivet sine egne Etiske principper for AI, fordi brugen af AI rejser nye etiske tvetydigheder og risici. Når AI kombineres med kvantecomputering, ændrer evnen til at træffe beslutninger sig, og risikoen for at miste kontrollen øges – mere end vi måske forstår i dag. Kvantecomputering sætter vores menneskelige hjerners styresystem i skyggen, fordi supercomputere kan udføre utroligt mange beregninger hurtigere og mere præcist end vores menneskelige hjerner nogensinde vil kunne.

Dertil kommer, at brugen af AI kombineret med beregning udgør et filosofisk dilemma. På hvilket tidspunkt vil verden tillade maskiner at have en egen vilje; og hvis maskiner tillades at tænke på egen hånd, betyder det, at maskinen selv er blevet selvbevidst? Betyder selvbevidsthed liv? Som samfund har vi endnu ikke fastlagt, hvordan vi skal definere denne situation. Derfor kan maskiner, der handler på egen hånd uden menneskelig kontrol, føre til konsekvenser. Kan en maskine overtage en menneskelig indgriben for at stoppe ild? Hvis maskinen fungerer på egen hånd, vil vi kunne trække stikket ud?

Som jeg ser det, er det let at bruge AI fra et defensivt synspunkt. Men hvor meget lettere ville det være at overføre det til offensiven? På offensiven ville maskiner træffe beslutninger om kampild i realtid. Ville en maskine, der skyder ned en fjende, udgøre en krænkelse af Genève-konventionen og love om væbnede konflikter? Da vi bevæger os hurtigt ind i dette område, må verden enes om, at brugen af AI og kvantecomputering i kamp skal være i overensstemmelse med de love, vi har i dag.

Forsvarsministeriet har en holdning, når det bruger AI med autonome systemer, og fastslår, at der altid vil være en person involveret i beslutningsprocessen; en person vil træffe den endelige beslutning om at skyde. Det er vores regel, men hvad sker, hvis en modpart beslutter at gå en anden vej og lade en AI-kapabel maskine træffe alle de endelige beslutninger? Så vil maskinen, som vi har diskuteret, være hurtigere, smartere og mere præcis, og have fordelen.

Lad os se på en drone udstyret med AI og ansigtsgenkendelse: Dronen skyder på egen hånd på grund af et forudbestemt mål, der er markeret som terrorist. Hvem er egentlig ansvarlig for skydningen? Er der ansvar, hvis der er en fejl med fordomme?

Forudindtagethed indbygget i AI/ML

Forskning viser, at en maskine er mindre tilbøjelig til at begå fejl end et menneske. Forskning viser også, at der er forudindtagethed i maskinlæring baseret på den menneskelige “lærer”, der underviser maskinen. Forsvarsministeriets fem etiske principper for AI nævner eksisterende forudindtagetheder, da det fastslår, “Departementet vil tage bevidste skridt for at minimere uventet forudindtagethed i AI-kapaciteter.” Vi ved allerede gennem beviselige studier, at der i brugen af ansigtsgenkendelsesapplikationer er forudindtagethed over for personer af farve med falske positive resultater. Når en person skaber koden, der lærer maskinen, hvordan den skal træffe beslutninger, vil der være forudindtagetheder. Dette kan være utilsigtet, fordi personen, der skaber AI, ikke var bekendt med den forudindtagethed, der fandtes i sig selv.

Så, hvordan eliminerer man forudindtagethed? AI-udgangen er kun så god som indgangen. Derfor må der være kontroller. Du må kontrollere data, der flyder ind, fordi det er det, der kan gøre AI-resultaterne mindre gyldige. Udviklere vil konstant måtte omskrive koden for at eliminere forudindtagetheden.

Verden skal definere den bedste brug af teknologi

Teknologi i sig selv er hverken god eller dårlig. Det er, hvordan en nation bruger den, der kan tage de bedste intentioner og få dem til at gå galt. Da teknologien udvikler sig på måder, der påvirker menneskeliv, må verden arbejde sammen for at definere passende handling. Hvis vi tager det menneskelige ud af AI-applikationerne, tager vi også den pause, før vi skyder – den moralske kompas, der guider os; den pause, når vi stopper og spørger, “Er det rigtigt?” En maskine, der er lært til at engagere, vil ikke have den pause. Så, spørgsmålet er, om verden i fremtiden vil acceptere dette? Hvor langt vil verden gå for at tillade maskiner at træffe kampbeslutninger?