Vad den vitas AI-rättighetsförklaring betyder för Amerika och resten av världen

Vita husets kontor för vetenskap och teknologi (OSTP) har nyligen släppt en vitbok som kallas “Ritningen för en AI-rättighetsförklaring: Att göra automatiserade system fungera för det amerikanska folket”. Denna ram släpptes ett år efter att OSTP meddelade lanseringen av en process för att utveckla “en rättighetsförklaring för en AI-driven värld”.

Förordet i denna lagstiftning illustrerar tydligt att Vita huset förstår de förestående hoten mot samhället som orsakas av AI. Detta är vad som anges i förordet:

“Bland de stora utmaningarna som demokratin står inför idag är användningen av teknologi, data och automatiserade system på sätt som hotar den amerikanska allmänhetens rättigheter. Alltför ofta används dessa verktyg för att begränsa våra möjligheter och förhindra vår tillgång till kritiska resurser eller tjänster. Dessa problem är väl dokumenterade. I Amerika och runt om i världen har system som är avsedda att hjälpa till med patientvård visat sig vara osäkra, ineffektiva eller fördomsfulla. Algoritmer som används vid anställnings- och kreditbeslut har visat sig återspegla och reproducera oönskade ojämlikheter eller inbädda nya skadliga fördomar och diskriminering. Obegränsad social mediedatainsamling har använts för att hota människors möjligheter, undergräva deras integritet eller övervakas överallt – ofta utan deras kännedom eller samtycke.”

Vad denna rättighetsförklaring och den ram den föreslår kommer att betyda för AI:s framtid återstår att se. Vad vi vet är att nya utvecklingar dyker upp i en alltmer exponentiell takt. Vad som en gång sågs som omöjligt, ögonblicklig språköversättning, är nu en verklighet, och samtidigt har vi en revolution inom naturlig språkförståelse (NLU) som leds av OpenAI och deras berömda plattform GPT-3.

Sedan dess har vi sett ögonblicklig generering av bilder via en teknik som kallas Stabil diffusion som snart kan bli en mainstream-konsumentprodukt. I själva verket kan en användare med denna teknik bara skriva in vilken fråga som helst som de kan föreställa sig, och som av magi kommer AI att generera en bild som matchar frågan.

När man tar hänsyn till exponentiell tillväxt och lagen om accelererande avkastning kommer det snart att bli en tid då AI har tagit över varje aspekt av dagligt liv. De individer och företag som känner till detta och tar tillvara på denna paradigmskiftning kommer att dra nytta av det. Tyvärr kan en stor del av samhället falla offer för både illasinnade och oavsiktliga konsekvenser av AI.

AI-rättighetsförklaringen är avsedd att stödja utvecklingen av policys och praxis som skyddar medborgerliga rättigheter och främjar demokratiska värderingar i byggandet, distributionen och styrningen av automatiserade system. Hur denna lagstiftning kommer att jämföras med Kinas tillvägagångssätt återstår att se, men det är en rättighetsförklaring som har potentialen att förändra AI-landskapet, och det är troligt att den kommer att antas av allierade som Australien, Kanada och EU.

Som nämnts tidigare är AI-rättighetsförklaringen icke-bindande och utgör inte amerikansk regeringspolitik. Den ersätter inte, ändrar eller tolkar någon befintlig lagstiftning, förordning, policy eller internationell instrument. Vad detta betyder är att det kommer att vara upp till företag och regeringar att följa de policys som anges i denna vitbok.

Denna lagstiftning har identifierat fem principer som bör vägleda designen, användningen och distributionen av automatiserade system för att skydda den amerikanska allmänheten i AI-eran, nedan kommer vi att beskriva de 5 principerna:

1. Säkra och effektiva system

Det finns en tydlig och närvarande fara för samhället orsakad av missbruk av AI-system, särskilt de som förlitar sig på djupinlärning. Detta försöker åtgärdas med dessa principer:

“Du bör skyddas från osäkra eller ineffektiva system. Automatiserade system bör utvecklas i samråd med olika samhällen, intressenter och experter för att identifiera problem, risker och potentiella konsekvenser av systemet. Systemen bör genomgå för-testning, riskidentifiering och mitigering, samt kontinuerlig övervakning som visar att de är säkra och effektiva baserat på deras avsedda användning, mitigering av osäkra resultat, inklusive de som ligger utanför den avsedda användningen, och följsamhet till branschspecifika standarder. Resultaten av dessa skyddsåtgärder bör inkludera möjligheten att inte distribuera systemet eller ta bort det från användning. Automatiserade system bör inte utformas med avsikt eller rimlig förutsägbar möjlighet att äventyra din säkerhet eller samhällets säkerhet. De bör utformas för att proaktivt skydda dig från skador som härrör från oavsiktliga, men förutsägbara, användningar eller konsekvenser av automatiserade system. Du bör skyddas från olämplig eller irrelevant dataanvändning vid utformning, utveckling och distribution av automatiserade system, och från den sammanlagda skadan av dess återanvändning. Oberoende utvärdering och rapportering som bekräftar att systemet är säkert och effektivt, inklusive rapportering av åtgärder som vidtagits för att mildra potentiella skador, bör utföras och resultaten göras offentliga när det är möjligt.”

2. Algoritmisk diskrimineringskydd

Dessa policys behandlar några av de elefanter i rummet när det gäller företag som missbrukar individer.

Ett vanligt problem när man anställer personal med hjälp av AI-system är att djupinlärningssystemet ofta tränas på fördomsfulla data för att nå anställningsbeslut. Detta innebär i princip att dåliga anställningspraxis i det förflutna kommer att resultera i köns- eller rasdiskriminering av en anställningsagent. En studie visade svårigheten att försöka avkönsa utbildningsdata.

En annan kärnproblem med fördomsfulla data från regeringar är risken för felaktig fängelse, eller ännu värre algoritmer för brottslighet som förutsäger som erbjuder längre fängelsestraff för minoriteter.

“Du bör inte utsättas för diskriminering av algoritmer och system bör användas och utformas på ett rättvist sätt. Algoritmisk diskriminering inträffar när automatiserade system bidrar till oberättigad olika behandling eller konsekvenser som missgynnar människor baserat på deras ras, färg, etnicitet, kön (inklusive graviditet, förlossning och relaterade medicinska tillstånd, kön, intersexstatus och sexuell läggning) religion, ålder, nationalitet, funktionshinder, veteranstatus, genetisk information eller någon annan klassificering som skyddas av lag. Beroende på de specifika omständigheterna kan sådan algoritmisk diskriminering bryta mot lagliga skydd. Utformare, utvecklare och distributörer av automatiserade system bör vidta proaktiva och kontinuerliga åtgärder för att skydda individer och samhällen från algoritmisk diskriminering och för att använda och utforma system på ett rättvist sätt. Detta skydd bör inkludera proaktiva jämställdhetsbedömningar som en del av systemutformningen, användning av representativ data och skydd mot ombud för demografiska funktioner, säkerställande av tillgänglighet för personer med funktionshinder i utformning och utveckling, för-testning och kontinuerlig diskrimineringstestning och mitigering, och tydlig organisatorisk tillsyn. Oberoende utvärdering och rapportering i form av en algoritmisk påverkansbedömning, inklusive diskrimineringstestresultat och mitigeringinformation, bör utföras och göras offentliga när det är möjligt för att bekräfta dessa skydd.”

Det bör noteras att Kina har börjat implementera AI i domstolsystemet, ett tydligt kontrast till den AI-ansats som USA har tagit.

3. Dataskydd

Denna dataskyddsprincip är den som sannolikt kommer att påverka den största delen av befolkningen. Den första halvan av principen verkar bekymra sig om insamlingen av data, särskilt data som samlas in via internet, ett känt problem särskilt för sociala medieplattformar. Dessa data kan sedan användas för att sälja annonser eller, ännu värre, manipulera allmänhetens uppfattning och påverka val.

“Du bör skyddas från missbruk av data genom inbyggda skydd och du bör ha kontroll över hur data om dig används. Du bör skyddas från kränkningar av integritet genom utformningsval som säkerställer att sådana skydd ingår som standard, inklusive att datainsamling överensstämmer med rimliga förväntningar, och att endast data som är strikt nödvändiga för det specifika sammanhanget samlas in. Utformare, utvecklare och distributörer av automatiserade system bör söka ditt tillstånd och respektera dina beslut om insamling, användning, åtkomst, överföring och radering av dina data på lämpliga sätt och i största möjliga utsträckning; där det inte är möjligt bör alternativa integritetsskydd användas. Systemen bör inte använda användarupplevelse och utformningsbeslut som döljer användarval eller belastar användare med standarder som är integritetsinvasiva. Samtycke bör endast användas för att motivera insamling av data i fall där det kan ges på lämpligt sätt; alla samtyckesbegäranden bör vara korta, förståeliga på vanligt språk och ge dig kontroll över datainsamling och det specifika sammanhanget för användning; nuvarande svårförståeliga meddelanden och val för bred användning av data bör ändras.”

Den andra halvan av dataskyddsprincipen verkar vara bekymrad över övervakning från både regeringar och företag.

För närvarande kan företag övervaka och spionera på anställda, i vissa fall kan det vara för att förbättra arbetsplatsens säkerhet, under COVID-19-pandemin var det för att verkställa användningen av masker, oftast är det bara för att övervaka hur arbetstiden används. I många av dessa fall känner anställda att de övervakas och kontrolleras bortom vad som anses acceptabelt.

“Förbättrade skydd och begränsningar för data och inferenser som rör känsliga områden, inklusive hälsa, arbete, utbildning, brottsbekämpning och finansiella tjänster, och för data som rör ungdomar bör sätta dig i första hand. I känsliga områden bör dina data och relaterade inferenser endast användas för nödvändiga funktioner, och du bör skyddas av etisk granskning och användningsförbud. Du och dina samhällen bör vara fria från oövervakad övervakning; övervakningsteknologier bör vara föremål för förhöjd tillsyn som inkluderar minst för-testning av deras potentiella skador och begränsningar för att skydda integritet och medborgerliga friheter. Kontinuerlig övervakning och övervakning bör inte användas i utbildning, arbete, bostäder eller i andra sammanhang där användningen av sådan övervakningsteknologi sannolikt kommer att begränsa rättigheter, möjligheter eller tillgång. När det är möjligt bör du ha tillgång till rapportering som bekräftar att dina data beslut har respekterats och ger en bedömning av den potentiella påverkan av övervakningsteknologier på dina rättigheter, möjligheter eller tillgång.”

Det bör noteras att AI kan användas för att skydda människors integritet.

4. Meddelande och förklaring

Detta bör vara en upprop till företag att utveckla en AI-etisk kod, samt att påskynda utvecklingen av förklarlig AI. Förklarlig AI är nödvändig om en AI-modell gör ett misstag, att förstå hur AI fungerar möjliggör enkel diagnos av ett problem.

Förklarlig AI kommer också att tillåta transparent delning av information om hur data används och varför ett beslut togs av AI. Utan förklarlig AI kommer det att vara omöjligt att följa dessa policys på grund av det svarta lådan-problemet med djupinlärning.

Företag som fokuserar på att förbättra dessa system kommer också att dra nytta av att förstå nyanserna och komplexiteten bakom varför en djupinlärningsalgoritm tog ett specifikt beslut.

“Du bör veta att ett automatiserat system används och förstå hur och varför det bidrar till resultat som påverkar dig. Utformare, utvecklare och distributörer av automatiserade system bör tillhandahålla allmänt tillgänglig, tydlig dokumentation, inklusive tydliga beskrivningar av systemets övergripande funktion och den roll automation spelar, meddelande om att sådana system används, den person eller organisation som är ansvarig för systemet och förklaringar av resultat som är tydliga, aktuella och tillgängliga. Sådant meddelande bör hållas uppdaterat och personer som påverkas av systemet bör meddelas om betydande ändringar av användningsfall eller nyckelfunktioner. Du bör veta hur och varför ett resultat som påverkar dig bestämdes av ett automatiserat system, inklusive när det automatiserade systemet inte är den enda indata som bestämmer resultatet. Automatiserade system bör tillhandahålla förklaringar som är tekniskt giltiga, meningsfulla och användbara för dig och för alla operatörer eller andra som behöver förstå systemet, och kalibreras efter nivån av risk baserat på innehållet. Rapportering som inkluderar sammanfattningsinformation om dessa automatiserade system på vanligt språk och bedömningar av tydligheten och kvaliteten på meddelandet och förklaringarna bör göras offentliga när det är möjligt.”

5. Mänskliga alternativ, övervägande och reserv

Till skillnad från de flesta av de ovanstående principerna är denna princip mest tillämplig på regeringsenheter eller privatiserade institutioner som arbetar på regeringens vägnar.

Även med en AI-etisk kommitté och förklarlig AI är det viktigt att falla tillbaka på mänsklig granskning när liv är på spel. Det finns alltid potential för fel, och att ha en mänsklig granskare som granskar ett ärende när det begärs kan möjligtvis undvika ett scenario som AI som skickar fel personer till fängelse.

Rättssystemet och brottsbekämpningen har mest utrymme att orsaka irreparabla skador på marginaliserade medlemmar av samhället och bör ta särskild hänsyn till denna princip.

“Du bör kunna välja bort, där det är lämpligt, och ha tillgång till en person som kan snabbt överväga och åtgärda problem du möter. Du bör kunna välja bort från automatiserade system till förmån för ett mänskligt alternativ, där det är lämpligt. Lämplighet bör bestämmas baserat på rimliga förväntningar i ett visst sammanhang och med fokus på att säkerställa bred tillgänglighet och skydda allmänheten från särskilt skadliga konsekvenser. I vissa fall kan ett mänskligt alternativ krävas enligt lag. Du bör ha tillgång till en snabb mänsklig granskning och åtgärd av en reserv och eskalering av problem om ett automatiserat system misslyckas, producerar ett fel eller om du vill överklaga eller bestrida dess påverkan på dig. Mänsklig granskning och reserv bör vara tillgänglig, rättvis, effektiv, underhållen, åtföljd av lämplig operatorträning och bör inte lägga en orimlig börda på allmänheten. Automatiserade system med avsedd användning inom känsliga områden, inklusive, men inte begränsat till, brottsbekämpning, anställning, utbildning och hälsa, bör dessutom anpassas till syftet, ge meningsfull tillgång till tillsyn, inkludera utbildning för alla som interagerar med systemet och inkorporera mänsklig granskning för ogynnsamma eller högriskbeslut. Rapportering som inkluderar en beskrivning av dessa mänskliga styrprocesser och bedömning av deras snabbhet, tillgänglighet, resultat och effektivitet bör göras offentliga när det är möjligt.”

Sammanfattning

OSTP bör ges cred för att ha försökt att införa en ram som brottar de säkerhetsprotokoll som behövs för samhället, utan att också införa drakoniska policys som kunde hämma utvecklingen av maskinlärning.

Efter att principerna har presenterats fortsätter lagstiftningen med att tillhandahålla en teknisk kompanjon till de frågor som diskuteras, samt detaljerad information om varje princip och de bästa sätten att gå vidare för att implementera dessa principer.

Kloka företagsägare och företag bör ta hänsyn till att studera denna lagstiftning, eftersom det bara kan vara fördelaktigt att implementera dessa policys så snart som möjligt.

Förklarlig AI kommer att fortsätta att dominera i betydelse, som kan ses från denna citat från lagstiftningen.

“Inom hela den federala regeringen genomför myndigheter och stöder forskning om förklarliga AI-system. NIST genomför grundforskning om förklarbarheten hos AI-system. Ett tvärvetenskapligt team av forskare syftar till att utveckla mätmetoder och bästa praxis för att stödja implementeringen av kärnprinciperna för förklarlig AI. Försvarsforskningsbyrån har ett program för förklarlig artificiell intelligens som syftar till att skapa en uppsättning maskinlärningstekniker som producerar mer förklarliga modeller, samtidigt som de upprätthåller en hög nivå av inlärningsprestanda (förutsägelseexakthet), och möjliggör för mänskliga användare att förstå, lita på och effektivt hantera den nya generationen av artificiellt intelligenta partners. National Science Foundations program för rättvisa i artificiell intelligens innehåller också ett specifikt intresse för forskningsgrunder för förklarlig AI.”

Det bör inte försummas att principerna som presenteras här så småningom kommer att bli den nya standarden.