Vad den vita husets AI-rättighetsförklaring betyder för Amerika och resten av världen

Det vita husets kontor för vetenskap och teknologi (OSTP) har nyligen släppt en vitbok som kallas “Ritning för en AI-rättighetsförklaring: Att göra automatiserade system fungera för den amerikanska allmänheten”. Denna ram släpptes ett år efter att OSTP meddelade starten av en process för att utveckla “en rättighetsförklaring för en AI-driven värld”.

Förordet i denna lagstiftning illustrerar tydligt att Vita huset förstår de förestående hoten mot samhället som AI utgör. Detta är vad som anges i förordet:

“Among the great challenges posed to democracy today is the use of technology, data, and automated systems in ways that threaten the rights of the American public. Too often, these tools are used to limit our opportunities and prevent our access to critical resources or services. These problems are well documented. In America and around the world, systems supposed to help with patient care have proven unsafe, ineffective, or biased. Algorithms used in hiring and credit decisions have been found to reflect and reproduce existing unwanted inequities or embed new harmful bias and discrimination. Unchecked social media data collection has been used to threaten people’s opportunities, undermine their privacy, or pervasively track their activity—often without their knowledge or consent.”

Vad denna rättighetsförklaring och den ram den föreslår kommer att betyda för AI:s framtid återstår att se. Vad vi vet är att nya utvecklingar dyker upp i en alltmer exponentiell takt. Vad som en gång ansågs vara omöjligt, ögonblicklig språköversättning, är nu en verklighet, och samtidigt har vi en revolution inom naturlig språkförståelse (NLU) som leds av OpenAI och deras berömda plattform GPT-3.

Sedan dess har vi sett ögonblicklig generering av bilder via en teknik som kallas Stable Diffusion som snart kan bli en mainstream-konsumentprodukt. I själva verket kan en användare med denna teknik skriva in vilken fråga som helst och som av magi genererar AI en bild som matchar frågan.

När man tar hänsyn till exponentiell tillväxt och lagen om accelererande återvinning kommer det snart att bli en tid då AI har tagit över varje aspekt av dagligt liv. De individer och företag som känner till detta och tar tillvara på denna paradigmförändring kommer att dra nytta av den. Tyvärr kan en stor del av samhället falla offer för både illasinnade och oavsiktliga konsekvenser av AI.

AI-rättighetsförklaringen är tänkt att stödja utvecklingen av policys och metoder som skyddar medborgerliga rättigheter och främjar demokratiska värderingar i byggandet, distributionen och styrningen av automatiserade system. Hur denna lagstiftning kommer att jämföras med Kinas tillvägagångssätt återstår att se, men det är en rättighetsförklaring som har potentialen att förändra AI-landskapet, och det är troligt att den kommer att antas av allierade som Australien, Kanada och EU.

Det bör noteras att AI-rättighetsförklaringen är icke-bindande och utgör inte amerikansk regeringspolicy. Den ersätter inte, modifierar eller tolkar någon befintlig lagstiftning, förordning, policy eller internationell instrument. Vad detta betyder är att det kommer att vara upp till företag och regeringar att följa de policys som anges i denna vitbok.

Denna lagstiftning har identifierat fem principer som bör vägleda designen, användningen och distributionen av automatiserade system för att skydda den amerikanska allmänheten i AI-eran, nedan kommer vi att beskriva de 5 principerna:

1. Säkra och effektiva system

Det finns en tydlig och närvarande fara för samhället genom missbruk av AI-system, särskilt de som förlitar sig på djupinlärning. Detta försöker åtgärdas med dessa principer:

“Du bör skyddas från osäkra eller ineffektiva system. Automatiserade system bör utvecklas i samråd med olika samhällen, intressenter och experter inom området för att identifiera problem, risker och potentiella konsekvenser av systemet. Systemen bör genomgå förtestning, riskidentifiering och mitigering, samt kontinuerlig övervakning som visar att de är säkra och effektiva baserat på deras avsedda användning, mitigering av osäkra resultat, inklusive de som ligger utanför den avsedda användningen, och efterlevnad av branschspecifika standarder. Resultaten av dessa skyddsåtgärder bör inkludera möjligheten att inte distribuera systemet eller ta bort det från användning. Automatiserade system bör inte utformas med avsikt eller rimlig förutsägbar möjlighet att äventyra din säkerhet eller samhällets säkerhet. De bör utformas för att proaktivt skydda dig från skador som härrör från oavsiktliga men förutsägbara användningar eller konsekvenser av automatiserade system. Du bör skyddas från olämplig eller irrelevant dataanvändning i designen, utvecklingen och distributionen av automatiserade system, och från den ackumulerade skadan av dess återanvändning. Oberoende utvärdering och rapportering som bekräftar att systemet är säkert och effektivt, inklusive rapportering av åtgärder som vidtagits för att mildra potentiella skador, bör utföras och resultaten göras offentliga närhelst möjligt.”

2. Algoritmisk diskrimineringsskydd

Dessa policys behandlar några av de elefanter i rummet när det gäller företag som utnyttjar individer.

Ett vanligt problem när man anställer personal med hjälp av AI-system är att det djupinlärningssystemet ofta tränas på partisk data för att nå anställningsbeslut. Detta innebär i själva verket att dåliga anställningspraxis i det förflutna kommer att resultera i köns- eller rasdiskriminering av en anställningsagent. En studie visade svårigheten att försöka avköna träningsdata.

Ett annat kärnproblem med partisk data från regeringar är risken för felaktig fängelse, eller ännu värre algoritmer för brottslighet som förutspår som erbjuder längre fängelsestraff för minoriteter.

“Du bör inte utsättas för diskriminering av algoritmer och system bör användas och utformas på ett rättvist sätt. Algoritmisk diskriminering inträffar när automatiserade system bidrar till oförsvarliga olika behandlingar eller konsekvenser som missgynnar människor baserat på deras ras, färg, etnicitet, kön (inklusive graviditet, förlossning och relaterade medicinska tillstånd, könstillhörighet, intersexstatus och sexuell läggning) religion, ålder, nationalitet, funktionshinder, veteranstatus, genetisk information eller någon annan klassificering som skyddas av lag. Beroende på de specifika omständigheterna kan sådan algoritmisk diskriminering kränka lagliga skydd. Utformare, utvecklare och distributörer av automatiserade system bör vidta proaktiva och kontinuerliga åtgärder för att skydda individer och samhällen från algoritmisk diskriminering och för att använda och utforma system på ett rättvist sätt. Detta skydd bör inkludera proaktiva jämställdhetsbedömningar som en del av systemdesignen, användning av representativ data och skydd mot ombud för demografiska egenskaper, säkerställande av tillgänglighet för personer med funktionshinder i design och utveckling, förtestning och kontinuerlig testning av ojämlikhet och mitigering, och tydlig organisatorisk tillsyn. Oberoende utvärdering och rapportering i klarspråk i form av en algoritmisk påverkansbedömning, inklusive testresultat av ojämlikhet och mitigering, bör utföras och göras offentliga närhelst möjligt för att bekräfta dessa skydd.”

Det bör noteras att USA har tagit ett mycket transparent tillvägagångssätt när det gäller AI, dessa är policys som är utformade för att skydda allmänheten, en tydlig kontrast till Kinas tillvägagångssätt för AI.

3. Dataskydd

Denna dataskyddsprincip är den som sannolikt kommer att påverka den största delen av befolkningen. Den första delen av principen verkar bekymra sig för insamlingen av data, särskilt med data som samlas in via internet, ett känt problem särskilt för sociala medieplattformar. Dessa data kan sedan användas för att sälja annonser, eller ännu värre för att manipulera allmänhetens uppfattning och påverka val.

“Du bör skyddas från missbruk av data via inbyggda skydd och du bör ha kontroll över hur data om dig används. Du bör skyddas från kränkningar av privatliv genom designval som säkerställer att sådana skydd inkluderas som standard, inklusive att datainsamling överensstämmer med rimliga förväntningar, och att endast data som är strikt nödvändiga för det specifika sammanhanget samlas in. Utformare, utvecklare och distributörer av automatiserade system bör söka din tillåtelse och respektera dina beslut om insamling, användning, åtkomst, överföring och radering av dina data på lämpliga sätt och i största möjliga utsträckning; där det inte är möjligt bör alternativa skydd för dataskydd användas. Systemen bör inte använda användarupplevelse och designbeslut som förvränger användarvalet eller belastar användarna med standarder som är intrång i privatlivet. Samtycke bör endast användas för att motivera datainsamling i fall där det kan ges på lämpligt sätt; alla samtyckesbegäranden bör vara korta, förståeliga på klarspråk och ge dig kontroll över datainsamling och det specifika sammanhanget för användning; nuvarande svårförståeliga meddelanden och valpraxis för bred användning av data bör ändras.”

Den andra delen av dataskyddsprincipen verkar bekymra sig för övervakning från både regeringar och företag.

För närvarande kan företag övervaka och spionera på anställda, i vissa fall kan det vara för att förbättra arbetsplatsens säkerhet, under COVID-19-pandemin var det för att verkställa användningen av masker, oftast görs det dock enbart för att övervaka hur arbetstiden används. I många av dessa fall känner anställda att de övervakas och kontrolleras utöver vad som anses acceptabelt.

“Förbättrade skydd och begränsningar för data och slutsatser som rör känsliga områden, inklusive hälsa, arbete, utbildning, brottsliga rättssystem och finansiella system, och för data som rör ungdomar bör sätta dig i främsta rummet. I känsliga områden bör dina data och relaterade slutsatser endast användas för nödvändiga funktioner, och du bör skyddas av etisk granskning och användningsförbud. Du och dina samhällen bör vara fria från oövervakad övervakning; övervakningstekniker bör vara föremål för ökad tillsyn som inkluderar minst en förtestbedömning av deras potentiella skador och begränsningar för att skydda privatliv och medborgerliga friheter. Kontinuerlig övervakning och övervakning bör inte användas i utbildning, arbete, bostäder eller i andra sammanhang där användningen av sådana övervakningstekniker sannolikt kommer att begränsa rättigheter, möjligheter eller tillgång. Närhelst möjligt bör du ha tillgång till rapportering som bekräftar att dina datadrivna beslut har respekterats och ger en bedömning av den potentiella påverkan av övervakningstekniker på dina rättigheter, möjligheter eller tillgång.”

Det bör noteras att AI kan användas för att skydda människors privatliv.

4. Meddelande och förklaring

Detta bör vara en kallelse till vapen för företag att distribuera en AI-etisk rådgivande styrelse, samt att accelerera utvecklingen av förklarlig AI. Förklarlig AI är nödvändig om en AI-modell gör ett misstag, att förstå hur AI fungerar möjliggör enkel diagnos av problemet.

Förklarlig AI kommer också att tillåta transparent delning av information om hur data används och varför ett beslut togs av AI. Utan förklarlig AI kommer det att vara omöjligt att följa dessa policys på grund av det svarta lådan-problemet med djupinlärning.

Företag som fokuserar på att förbättra dessa system kommer också att dra nytta av att förstå nyanserna och komplexiteterna bakom varför en djupinlärningsalgoritm tog ett specifikt beslut.

“Du bör veta att ett automatiserat system används och förstå hur och varför det bidrar till resultat som påverkar dig. Utformare, utvecklare och distributörer av automatiserade system bör tillhandahålla allmänt tillgänglig dokumentation på klarspråk, inklusive tydliga beskrivningar av systemets övergripande funktion och den roll automation spelar, meddelande om att sådana system används, den person eller organisation som ansvarar för systemet och förklaringar av resultat som är tydliga, aktuella och tillgängliga. Sådant meddelande bör hållas uppdaterat och personer som påverkas av systemet bör meddelas om betydande förändringar i användningsfall eller nyckelfunktionalitet. Du bör veta hur och varför ett resultat som påverkar dig bestämdes av ett automatiserat system, inklusive när det automatiserade systemet inte är den enda ingången som bestämmer resultatet. Automatiserade system bör ge förklaringar som är tekniskt giltiga, meningsfulla och användbara för dig och för eventuella operatörer eller andra som behöver förstå systemet, och kalibreras till risknivån baserat på innehållet. Rapportering som inkluderar sammanfattningsinformation om dessa automatiserade system på klarspråk och bedömningar av tydligheten och kvaliteten på meddelandet och förklaringarna bör göras offentliga närhelst möjligt.”

5. Mänskliga alternativ, övervägande och reserv

Till skillnad från de flesta av ovanstående principer är denna princip mest tillämplig på regeringsenheter eller privatiserade institutioner som arbetar på regeringens vägnar.

Även med en AI-etisk styrelse och förklarlig AI är det viktigt att falla tillbaka på mänsklig granskning när liv är på spel. Det finns alltid potential för fel, och att ha en mänsklig granskning av ett ärende när det begärs kan möjligtvis undvika ett scenario som AI som skickar fel personer till fängelse.

Rätts- och brottsliga systemen har mest utrymme att orsaka irreparabla skador på marginaliserade medlemmar av samhället och bör ta särskild hänsyn till denna princip.

“Du bör kunna välja bort, där det är lämpligt, och ha tillgång till en person som kan snabbt överväga och avhjälpa problem du möter. Du bör kunna välja bort från automatiserade system till förmån för ett mänskligt alternativ, där det är lämpligt. Lämplighet bör bestämmas baserat på rimliga förväntningar i en given kontext och med fokus på att säkerställa bred tillgänglighet och skydda allmänheten från särskilt skadliga konsekvenser. I vissa fall kan ett mänskligt alternativ krävas enligt lag. Du bör ha tillgång till en snabb mänsklig övervägande och avhjälpande av problem om ett automatiserat system misslyckas, det producerar ett fel eller du vill överklaga eller bestrida dess påverkan på dig. Mänsklig övervägande och reserv bör vara tillgänglig, rättvis, effektiv, underhållas, åtföljas av lämplig utbildning för operatörer och bör inte lägga en orimlig börda på allmänheten. Automatiserade system med avsedd användning inom känsliga områden, inklusive, men inte begränsat till, brottsliga rättssystem, anställning, utbildning och hälsa, bör dessutom anpassas till syftet, ge meningsfull tillgång till tillsyn, inkludera utbildning för alla som interagerar med systemet och inkorporera mänsklig övervägande för ogynnsamma eller högriskbeslut. Rapportering som inkluderar en beskrivning av dessa mänskliga styrningsprocesser och bedömning av deras snabbhet, tillgänglighet, resultat och effektivitet bör göras offentliga närhelst möjligt.”

Sammanfattning

OSTP bör ges cred för att ha försökt att införa en ram som brottar de säkerhetsprotokoll som behövs för samhället, utan att också införa drakoniska policys som kunde hämma framsteg i utvecklingen av maskinlärning.

Efter att principerna har beskrivits fortsätter lagstiftningen med att tillhandahålla en teknisk kompanjon till de frågor som diskuteras, samt detaljerad information om varje princip och de bästa sätten att gå vidare för att implementera dessa principer.

Kloka företagare och företag bör ta notis om att studera denna lagstiftning, eftersom det kan vara till fördel att implementera dessa policys så snart som möjligt.

Förklarlig AI kommer att fortsätta att dominera i betydelse, som kan ses från denna citat från lagstiftningen.

“Inom hela den federala regeringen genomför och stöder myndigheter forskning om förklarliga AI-system. NIST genomför grundläggande forskning om förklarbarheten av AI-system. Ett tvärvetenskapligt team av forskare syftar till att utveckla mätmetoder och bästa metoder för att stödja implementeringen av grundläggande principer för förklarlig AI. Försvarsforskningsbyrån har ett program för förklarlig artificiell intelligens som syftar till att skapa en uppsättning maskinlärningstekniker som producerar mer förklarliga modeller, samtidigt som de upprätthåller en hög nivå av inlärningsprestanda (prediktionsnoggrannhet), och möjliggör för mänskliga användare att förstå, på lämpligt sätt lita på och effektivt hantera den framväxande generationen av artificiellt intelligenta partners. National Science Foundations program för rättvisa i artificiell intelligens inkluderar också ett särskilt intresse för forskningsgrunder för förklarlig AI.”

Vad som inte bör försummas är att de principer som beskrivs här kommer att bli den nya standarden.