Hvad den Hvide Hus’ AI-bill of Rights betyder for Amerika og resten af verden

Det Hvide Hus’ kontor for videnskab og teknologi (OSTP) har nylig offentliggjort en rapport kaldet “Retningslinjer for en AI-bill of Rights: At gøre automatiserede systemer til at fungere for det amerikanske folk”. Dette rammeværk blev offentliggjort et år efter, at OSTP annoncerede lanceringen af en proces til at udvikle “en bill of rights for en AI-dreven verden”.

Forordet i denne lovbog illustrerer tydeligt, at Det Hvide Hus forstår de forestående trusler mod samfundet, som er forbundet med AI. Dette er, hvad der erklæres i forordet:

“Among de store udfordringer, der er stillet til demokrati i dag, er brugen af teknologi, data og automatiserede systemer på måder, der true menneskers rettigheder. For ofte bruges disse værktøjer til at begrænse vores muligheder og forhindre vores adgang til kritiske ressourcer eller tjenester. Disse problemer er velkendte. I Amerika og rundt om i verden har systemer, der skal hjælpe med patientpleje, vist sig at være usikre, ineffektive eller fordomsfulde. Algoritmer, der bruges til ansættelses- og kreditbeslutninger, er blevet fundet til at reflektere og reproducere eksisterende uønskede uligheder eller indbygge nye skadelige fordomme og diskrimination. Ukontrolleret sociale medie-dataindsamling er blevet brugt til at true menneskers muligheder, undergrave deres privatliv eller omfattende spore deres aktivitet – ofte uden deres viden eller samtykke.”

Hvad denne Bill of Rights og det rammeværk, det foreslår, vil betyde for fremtiden for AI, er endnu ikke klart. Hvad vi ved, er, at nye udviklinger opstår med en eksponentiel hastighed. Hvad der engang blev set som umuligt, instant sprogoversættelse er nu en realitet, og på samme tid har vi en revolution i naturlig sprogforståelse (NLU), der er ledt af OpenAI og deres berømte platform GPT-3.

Siden da har vi set instantgenerering af billeder via en teknik kaldet Stable Diffusion, der snart kan blive et mainstream-forbrugerprodukt. I essensen kan en bruger blot taste en hvilken som helst forespørgsel, de kan forestille sig, og som ved magi vil AI generere et billede, der matcher forespørgslen.

Når man tager eksponentiel vækst og loven om accelererende retur i betragting, vil der snart komme en tid, hvor AI har overtaget hver enkelt aspekt af daglig liv. De personer og virksomheder, der ved dette og tager fordel af denne paradigmeskift, vil profitere. Desværre kan en stor del af samfundet blive offer for både ondsindede og uventede konsekvenser af AI.

AI-bill of Rights er tiltænkt at støtte udviklingen af politikker og praksis, der beskytter borgerrettigheder og fremmer demokratiske værdier i opbygningen, udrulningen og styret af automatiserede systemer. Hvordan denne lovbog vil sammenlignes med Kinas tilgang, er endnu ikke klart, men det er en lovbog, der har potentialet til at ændre AI-landskabet, og det er sandsynligt, at den vil blive antaget af allierede som Australien, Canada og EU.

Det skal nævnes, at AI-bill of Rights er ikke-bindende og udgør ikke US-regeringens politik. Den overskrider ikke, ændrer eller fortolker eksisterende love, regler, politikker eller internationale instrumenter. Det betyder, at det er op til virksomheder og regeringer at overholde de politikker, der er fastlagt i denne rapport.

Denne lovbog har identificeret fem principper, der skal vejlede design, brug og udrulning af automatiserede systemer til at beskytte det amerikanske folk i AI-alderen, og nedenfor vil vi fremhæve de 5 principper:

1. Sikre og effektive systemer

Der er en klar og nærværende fare for samfundet ved misbrug af AI-systemer, specifikt de, der afhænger af dyb læring. Dette forsøges at være adresseret med disse principper:

“Du skal være beskyttet mod usikre eller ineffektive systemer. Automatiserede systemer skal udvikles i samarbejde med diverse samfund, interessenter og fagfolk for at identificere bekymringer, risici og potentielle virkninger af systemet. Systemer skal undergå præ-udrulnings-test, risiko-identifikation og -afbødning, og kontinuerlig overvågning, der demonstrerer, at de er sikre og effektive baseret på deres intendrede brug, afbødning af usikre resultater, herunder de, der er uden for den intendrede brug, og overholdelse af fag-specifikke standarder. Resultaterne af disse beskyttelsesforanstaltninger skal omfatte muligheden for ikke at udrulle systemet eller at fjerne et system fra brug. Automatiserede systemer skal ikke være designet med en hensigt eller en rimelig forudsigelig mulighed for at true din sikkerhed eller sikkerheden for dit samfund. De skal være designet til at proaktivt beskytte dig mod skader, der stammer fra uventede, men forudsigelige, brug eller virkninger af automatiserede systemer. Du skal være beskyttet mod upassende eller irrelevant data-brug i design, udvikling og udrulning af automatiserede systemer, og fra den samlede skade af dens genbrug. Uafhængig evaluering og rapportering, der bekræfter, at systemet er sikret og effektivt, herunder rapportering af skridt taget til at afbøde potentielle skader, skal udføres, og resultaterne skal offentliggøres, når det er muligt.”

2. Algoritme-diskriminationsbeskyttelse

Disse politikker adresserer nogle af de elefanter i rummet, når det kommer til virksomheder, der misbruger enkeltpersoner.

Et almindeligt problem, når man ansætter personale ved hjælp af AI-systemer, er, at det dybe læringssystem ofte træner på fordomsfuld data for at nå ansættelsesbeslutninger. Dette betyder i essensen, at dårlige ansættelsespraksis i fortiden vil resultere i køns- eller racemæssig diskrimination af en ansættelsesagent. En studie viste, at det er svært at forsøge at af-kønsbestemme træningsdata.

Et andet centralt problem med fordomsfuld data fra regeringer er risikoen for uretmæssig fængsling eller endda kriminalitetsforudsigelsesalgoritmer, der tilbyder længere fængselsstraffe til minoriteter.

“Du skal ikke være udsat for diskrimination af algoritmer, og systemer skal være designet og brugt på en retfærdig måde. Algoritmisk diskrimination opstår, når automatiserede systemer bidrager til uretfærdigede forskellige behandlinger eller virkninger, der er til skade for mennesker baseret på deres race, farve, etnicitet, køn (herunder graviditet, fødsel og relaterede medicinske tilstande, kønsidentitet, intersex-status og seksuel orientering), religion, alder, national oprindelse, handicap, veteranstatus, genetisk information eller enhver anden klassificering, der er beskyttet af loven. Afhængigt af de specifikke omstændigheder kan sådan algoritmisk diskrimination krænke lovmæssige beskyttelser. Designere, udviklere og udrulere af automatiserede systemer skal træffe proaktive og kontinuerlige foranstaltninger for at beskytte enkeltpersoner og samfund mod algoritmisk diskrimination og for at bruge og designe systemer på en retfærdig måde. Denne beskyttelse skal omfatte proaktive ligebehandlingsvurderinger som en del af systemdesign, brug af repræsentativ data og beskyttelse mod proxier for demografiske funktioner, sikring af tilgængelighed for personer med handicap i design og udvikling, præ-udrulnings-test og afbødning af ulighed og tydelig organisatorisk tilsyn. Uafhængig evaluering og rapportering i form af en algoritmisk virkningsvurdering, herunder uligheds-testresultater og afbødningsinformation, skal udføres og offentliggøres, når det er muligt, for at bekræfte disse beskyttelser.”

3. Databeskyttelse

Denne data-beskyttelses-princip er den, der sandsynligvis vil påvirke den største del af befolkningen. Den første del af principperne synes at beskæftige sig med indsamlingen af data, specifikt med data indsamlet over internettet, et velkendt problem, især for sociale medie-platforme. Denne samme data kan derefter bruges til at sælge annoncer eller endda manipulere offentlighedens mening og påvirke valg.

“Du skal være beskyttet mod misbrug af data gennem indbyggede beskyttelser, og du skal have kontrol over, hvordan data om dig bruges. Du skal være beskyttet mod krænkelser af privatliv gennem designvalg, der sikrer, at sådanne beskyttelser er inkluderet som standard, herunder sikring af, at dataindsamling overholder rimelige forventninger, og at kun data, der strengt er nødvendig for den specifikke kontekst, indsamles. Designere, udviklere og udrulere af automatiserede systemer skal søge din tilladelse og respektere dine beslutninger omkring indsamling, brug, adgang, overførsel og sletning af dine data på passende måder og i den største udstrækning muligt; hvor det ikke er muligt, skal alternative privatlivsbeskyttelsesforanstaltninger bruges. Systemer skal ikke anvende brugeroplevelse og designbeslutninger, der kamuflerer brugerens valg eller belaster brugere med standardindstillinger, der er privatlivs-krænkende. Samtykke skal kun bruges til at retfærdiggøre indsamling af data i tilfælde, hvor det kan gives på en passende og meningsfuld måde. Enhver anmodning om samtykke skal være kort, forståelig på almindeligt sprog og give dig kontrol over dataindsamling og den specifikke kontekst for brug; nuværende sværforståelige notice-and-choice-praksis for bred brug af data skal ændres.”

Den anden del af data-beskyttelses-principperne synes at beskæftige sig med overvågning fra både regeringer og virksomheder.

For nuværende kan virksomheder overvåge og spionere på medarbejdere, i nogle tilfælde kan det være for at forbedre arbejdspladssikkerheden, under COVID-19-pandemien var det for at påtvinge brugen af masker, men oftest er det blot for at overvåge, hvordan tid på arbejdet bruges. I mange af disse tilfælde føler medarbejdere, at de overvåges og kontrolleres ud over, hvad der anses for acceptabelt.

“Forstærkede beskyttelser og begrænsninger for data og slutninger, der relaterer til følsomme områder, herunder sundhed, arbejde, uddannelse, straffesystem og finans, og for data, der vedrører unge, skal sætte dig først. I følsomme områder skal dine data og relaterede slutninger kun bruges til nødvendige funktioner, og du skal være beskyttet af etisk vurdering og brugsforbud. Du og dine samfund skal være fri for ukontrolleret overvågning; overvågnings-teknologier skal være underlagt forhøjet tilsyn, der omfatter mindst en præ-udrulnings-vurdering af deres potentielle skader og begrænsninger til at beskytte privatliv og borgerrettigheder. Kontinuerlig overvågning og overvågning skal ikke bruges i uddannelse, arbejde, bolig eller i andre sammenhænge, hvor brugen af sådanne overvågnings-teknologier er sandsynlig at begrænse rettigheder, muligheder eller adgang. Når det er muligt, skal du have adgang til rapportering, der bekræfter, at dine data-beslutninger er respekteret, og giver en vurdering af den potentielle virkning af overvågnings-teknologier på dine rettigheder, muligheder eller adgang.”

Det skal nævnes, at AI kan bruges til at beskytte folks privatliv.

4. Meddelelse og forklaring

Dette skal være opkald til handling for virksomheder til at udrulle en AI-etisk råd, samt til at accelerere udviklingen af forklarlig AI. Forklarlig AI er nødvendig, hvis en AI-model committer en fejl, forståelse af, hvordan AI fungerer, muliggør en let diagnose af et problem.

Forklarlig AI vil også tillade den gennemsigtige deling af information om, hvordan data bruges, og hvorfor en beslutning blev truffet af AI. Uden forklarlig AI vil det være umuligt at overholde disse politikker på grund af det sorte kasse-problem ved dyb læring.

Virksomheder, der fokuserer på at forbedre disse systemer, vil også opleve positive fordele ved at forstå nuancerne og kompleksiteterne bag, hvorfor en dyb læring-algoritme træffer en bestemt beslutning.

“Du skal vide, at et automatiseret system bruges, og forstå, hvordan og hvorfor det bidrager til resultater, der påvirker dig. Designere, udviklere og udrulere af automatiserede systemer skal give generelt tilgængelig plain language-dokumentation, herunder klare beskrivelser af systemets funktionsmåde og rollen, automation spiller, meddelelse om, at sådanne systemer er i brug, den person eller organisation, der er ansvarlig for systemet, og forklaringer af resultater, der er klare, tilgængelige og forståelige. Sådan meddelelse skal holdes opdateret, og personer, der påvirkes af systemet, skal underrettes om væsentlige ændringer i brugs- eller nøglefunktionsændringer. Du skal vide, hvordan og hvorfor et resultat, der påvirker dig, blev bestemt af et automatiseret system, herunder, når det automatiserede system ikke er den eneste input, der bestemmer resultatet. Automatiserede systemer skal give forklaringer, der er teknisk gyldige, meningsfulde og nyttige for dig og for operatører eller andre, der har brug for at forstå systemet, og skal være tilpasset til niveauet for risiko baseret på indholdet. Rapportering, der omfatter opsummering af information om disse automatiserede systemer i plain language og vurderinger af klareheden og kvaliteten af meddelelsen og forklaringerne, skal offentliggøres, når det er muligt.”

5. Menneskelige alternativer, overvejelse og reserve

I modsætning til de ovennævnte principper er dette princip mest anvendeligt på regeringsenheder eller privatiserede institutioner, der arbejder på regeringens vegne.

Selv med en AI-etisk komité og forklarlig AI er det vigtigt at falde tilbage på menneskelig gennemgang, når liv er på spil. Der er altid en mulighed for fejl, og at have en menneskelig gennemgang af en sag, når det anmodes, kunne muligvis undgå en situation, såsom en AI, der sender de forkerte mennesker i fængsel.

Retssystemet og straffesystemet har mest mulighed for at forårsage irreparabel skade på marginaliserede medlemmer af samfundet og skal tage særlig notits af dette princip.

“Du skal være i stand til at fravælge, hvor det er passende, og have adgang til en person, der kan hurtigt overveje og afhjælpe problemer, du oplever. Du skal være i stand til at fravælge automatiserede systemer til fordel for et menneskeligt alternativ, hvor det er passende. Passelighed skal bestemmes på baggrund af rimelige forventninger i en given kontekst og med fokus på at sikre bred tilgængelighed og beskytte offentligheden mod særligt skadelige virkninger. I nogle tilfælde kan et menneskeligt alternativ være krævet af loven. Du skal have adgang til en hurtig menneskelig overvejelse og afhjælpning af problemer, hvis et automatiseret system fejler, producerer en fejl eller du ønsker at anke eller bestride dets virkning på dig. Menneskelig overvejelse og reserve skal være tilgængelig, retfærdig, effektiv, vedligeholdt, ledsaget af passende operatørtræning og ikke påføre offentligheden en urimelig byrde. Automatiserede systemer med en intendert brug inden for følsomme områder, herunder, men ikke begrænset til, straffesystem, ansættelse, uddannelse og sundhed, skal yderligere være tilpasset formålet, give meningsfuld adgang til tilsyn, omfatte træning for personer, der interagerer med systemet, og inkorporere menneskelig overvejelse for ugunstige eller højrisiko-beslutninger. Rapportering, der omfatter en beskrivelse af disse menneskelige styreprocesser og en vurdering af deres hurtighed, tilgængelighed, resultater og effektivitet, skal offentliggøres, når det er muligt.”

Resumé

OSTP skal have credit for at forsøge at introducere et rammeværk, der brobygger sikkerhedsprotokoller, der er nødvendige for samfundet, uden også at introducere drakoniske politikker, der kunne hæmme fremgangen i udviklingen af maskinlæring.

Efter at principperne er fremhævet, fortsætter lovbogen med at give en teknisk ledsager til de problemer, der diskuteres, samt detaljeret information om hver princip og de bedste måder at gå frem for at implementere disse principper på.

Kloge forretnings ejere og virksomheder skal tage notits af at studere denne lovbog, da det kan være til fordel at implementere disse politikker så hurtigt som muligt.

Forklarlig AI vil fortsætte med at dominere i betydning, som kan ses af dette citat fra lovbogen.

“På tværs af den føderale regering udfører agenturer og støtter forskning på forklarlig AI-systemer. NIST udfører grundlæggende forskning på forklarbarheden af AI-systemer. Et tværfagligt hold af forskere har til formål at udvikle målemetoder og bedste praksis for at støtte implementeringen af kerneprincipperne for forklarlig AI. Defense Advanced Research Projects Agency har et program på Explainable Artificial Intelligence, der har til formål at skabe en samling af maskinlærings-teknikker, der producerer mere forklarlige modeller, mens de opretholder et højt niveau af læringspræstation (prædiktionsnøjagtighed), og muliggør, at menneskelige brugere kan forstå, retfærdiggøre og effektivt styre den fremvoksende generation af kunstigt intelligente partnere. National Science Foundations program på Fairness in Artificial Intelligence omfatter også en specifik interesse i forskningsgrundlag for forklarlig AI.”