Avancerad AI-teknologi presenterar etiska utmaningar – Tankeledare

Av Alfred Crews, Jr, vicepresident och chefsjurist för Intelligence & Security-sektorn på BAE Systems Inc.

Tidigare i år, innan den globala pandemin, deltog jag i The Citadel’s Intelligence Ethics Conference i Charleston, där vi diskuterade ämnet etik i underrättelsesamling i relation till skydd av nationell säkerhet. Inom försvarsindustrin ser vi en spridning av kunskap, datorkraft och avancerad teknik, särskilt inom området artificiell intelligens (AI) och maskinlärning (ML). Men det kan finnas betydande problem när man använder AI inom ramen för underrättelsesamling eller realtidsstrid.

AI i kombination med kvantberäkning presenterar risker

Det vi måste ifrågasätta, analysera och bestämma en väg framåt är när vi använder AI i kombination med kvantberäkningsförmåga i processen för beslutsfattande under krig. Till exempel, kom ihåg Terminator? När vår teknik gör stora framsteg är verkligheten i vad Skynet presenterade framför oss. Vi kan fråga oss själva, “Kommer Skynet att fånga oss?” Låt oss gå tillbaka i minnet; AI-maskinerna tog över för att de hade förmågan att tänka och fatta beslut på egen hand, utan en människa som styrde dem. När maskinerna drog slutsatsen att människor var ett fel, satte de sig ut för att förstöra mänskligheten. Jag vill inte säga att AI är dåligt, men jag tror att det måste ha kontrollparametrar på grund av den risk som är involverad.

AI:s etiska tvetydigheter och filosofiska dilemma

Jag tror att det är precis därför som den amerikanska försvarsdepartementet (DoD) utfärdat sina egna Etiska principer för AI, eftersom användningen av AI väcker nya etiska tvetydigheter och risker. När man kombinerar AI med kvantberäkningsförmåga förändras förmågan att fatta beslut och risken för att förlora kontroll ökar – mer än vi kanske förstår idag. Kvantberäkning sätter vår mänskliga hjärnas operativsystem i skam, eftersom superdatorer kan göra exponentiellt fler beräkningar snabbare och med större precision än vår mänskliga hjärna någonsin kommer att kunna.

Dessutom presenterar användningen av AI i kombination med beräkning ett filosofiskt dilemma. Vid vilken punkt kommer världen att tillåta maskiner att ha en egen vilja; och om maskiner tillåts att tänka på egen hand, betyder det att maskinen i sig har blivit medveten? Utgör medvetenhet liv? Som samhälle har vi ännu inte bestämt hur vi ska definiera denna situation. Så, som det ser ut idag, kan maskiner som agerar på egen hand utan en människa som styr dem leda till konsekvenser. Kan en maskin åsidosätta en människas ingripande för att stoppa eld? Om maskinen fungerar på egen hand, kommer vi att kunna dra ur kontakten?

Som jag ser det är det lätt att använda AI från ett defensivt perspektiv. Men hur mycket lättare skulle det vara att gå över till offensiven? På offensiven skulle maskiner fatta beslut om eldgivning på platsen. Skulle en maskin som avfyrar mot en fiende utgöra en kränkning av Genèvekonventionen och lagar om väpnad konflikt? När vi går in i detta område i snabb takt måste världen komma överens om att användningen av AI och kvantberäkning i strid måste följa de lagar som vi har idag.

DoD har en position när det gäller att använda AI med autonoma system och säger att det alltid kommer att finnas en person som är involverad i beslutsprocessen; en person kommer att fatta det slutliga beslutet om att avfyra ett vapen. Det är vår regel, men vad händer om en motståndare bestämmer sig för att gå en annan väg och låta en AI-kapabel maskin fatta alla slutliga beslut? Då kommer maskinen, som vi diskuterat, att vara snabbare, smartare och mer exakt, och kommer att ha övertaget.

Låt oss titta på en drönare utrustad med AI och ansiktsigenkänning: Drönaren avfyrar på egen hand på grund av ett förutbestämt mål som märkts som en terrorist. Vem är ansvarig för avfyrningen? Finns det ansvar om det finns en partisk misstag?

Partiskhet inbyggd i AI/ML

Forskning visar att en maskin är mindre benägen att göra misstag än en människa. Men forskning visar också att det finns partiskhet i maskinlärning baserat på den mänskliga “läraren” som lär maskinen. DoD:s fem etiska principer för AI hänvisar till befintliga partiskheter när det sägs, “Departementet kommer att vidta medvetna steg för att minimera oavsiktlig partiskhet i AI-förmågor.” Vi vet redan genom bevisade studier att vid användning av ansiktsigenkänningstillämpningar finns det partiskhet mot människor med färg med falska positiva resultat. När en person skapar koden som lär maskinen att fatta beslut, kommer det att finnas partiskhet. Detta kan vara oavsiktligt eftersom personen som skapar AI inte var medveten om den partiskhet som fanns inom sig själv.

Så, hur eliminerar man partiskhet? AI-utdata är bara så bra som indata. Därför måste det finnas kontroller. Du måste kontrollera data som flödar in, eftersom det är vad som kan göra AI-resultat mindre giltiga. Utvecklare kommer att behöva skriva om koden för att eliminera partiskheten.

Världen måste definiera den bästa användningen av teknologi

Tekniken i sig är varken bra eller dålig. Det är hur en nation använder den som kan ta de bästa avsikterna och göra dem fel. När tekniken utvecklas på sätt som påverkar människors liv, måste världen arbeta tillsammans för att definiera lämplig handling. Om vi tar bort människan från ekvationen i AI-tillämpningar, tar vi också bort den paus som finns innan avfyrning – den moraliska kompassen som vägleder oss; den paus när vi stannar och ifrågasätter, “Är detta rätt?” En maskin som är utbildad att engagera sig kommer inte att ha den pausen. Så, frågan är, i framtiden, kommer världen att acceptera detta? Hur långt kommer världen att gå för att tillåta maskiner att fatta stridsbeslut?