Hvad betyder Det Hvide Hus’ AI-bill of rights for Amerika og resten af verden

Det Hvide Hus’ kontor for videnskab og teknologi (OSTP) har nylig udgivet en hvidbog kaldet “Retningslinjer for en AI-bill of rights: At gøre automatiserede systemer til at fungere for det amerikanske folk”. Dette rammeværk blev udgivet et år efter, at OSTP annoncerede lanceringen af en proces til at udvikle “en bill of rights for en AI-dreven verden”.

Forsiden i denne lovbog illustrerer tydeligt, at Det Hvide Hus forstår de forestående trusler mod samfundet, som er årsaget af AI. Dette er, hvad der erklæres i forordet:

“Blandt de store udfordringer, som demokratiets nuværende situation indebærer, er brugen af teknologi, data og automatiserede systemer på måder, der truer den amerikanske offentligheds rettigheder. For ofte bruges disse værktøjer til at begrænse vores muligheder og forhindre vores adgang til kritiske ressourcer eller tjenester. Disse problemer er velkendte. I Amerika og verden over har systemer, der skulle hjælpe med patientpleje, vist sig at være usikre, ineffektive eller fordomsfulde. Algoritmer, der bruges til ansættelses- og kreditbeslutninger, er blevet fundet til at reflektere og reproducere uønskede uligheder eller indbygge skadelig fordom og diskrimination. Ubegrænset sociale medier-dataindsamling er blevet brugt til at true folks muligheder, undergrave deres privatliv eller omfattende spore deres aktivitet – ofte uden deres viden eller samtykke.”

Hvad denne Bill of Rights og det rammeværk, den foreslår, vil betyde for fremtiden for AI, er endnu ikke klart. Hvad vi ved, er, at nye udviklinger opstår med en stadig eksponentiel hastighed. Hvad der engang blev set som umuligt, instant sprogoversættelse, er nu en realitet, og på samme tid har vi en revolution i naturlig sprogforståelse (NLU), der er ledt af OpenAI og deres berømte platform GPT-3.

Siden da har vi set instantgenerering af billeder via en teknik kaldet Stable Diffusion, der snart kan blive et mainstreamforbrugsprodukt. I essensen kan en bruger med denne teknologi blot skrive ind i en hvilken som helst forespørgsel, de kan forestille sig, og som ved magi vil AI generere et billede, der matcher forespørgslen.

Når man tager eksponentiel vækst og Lov om accelererende retur i betragtning, vil der snart komme en tid, hvor AI har overtaget hver enkelt aspekt af daglig liv. De personer og virksomheder, der kender til dette og udnytter dette paradigmeskift, vil profitere. Desværre kan en stor del af samfundet blive offer for både ondsindede og uventede konsekvenser af AI.

AI-bill of rights er tænkt til at støtte udviklingen af politikker og praksis, der beskytter borgerrettigheder og fremmer demokratiske værdier i opbygningen, udrulningen og styret af automatiserede systemer. Hvordan denne lovbog vil sammenlignes med Kinas tilgang, er endnu ikke klart, men det er en bill of rights, der har potentialet til at ændre AI-landskabet, og det er sandsynligt, at det vil blive antaget af allierede som Australien, Canada og EU.

Det skal dog nævnes, at AI-bill of rights er ikke-bindende og udgør ikke USA’s regeringspolitik. Den overskrider ikke, ændrer eller giver en fortolkning af eksisterende love, regler, politikker eller internationale instrumenter. Dette betyder, at det vil være op til virksomheder og regeringer at overholde de politikker, der er fastsat i denne hvidbog.

Denne lovbog har identificeret fem principper, der skal vejlede design, brug og udrulning af automatiserede systemer til at beskytte den amerikanske offentlighed i den kunstige intelligens-alder, og nedenfor vil vi fremhæve de 5 principper:

1. Sikre og effektive systemer

Der er en klar og nærværende fare for samfundet ved misbrug af AI-systemer, især de, der afhænger af dyb læring. Dette forsøges at være adresseret med disse principper:

“Du skal være beskyttet mod usikre eller ineffektive systemer. Automatiserede systemer skal udvikles i samarbejde med diverse samfund, interessenter og fagfolk for at identificere bekymringer, risici og potentielle virkninger af systemet. Systemer skal undergå præ-udrulnings-test, risiko-identifikation og -afmindskning samt kontinuerlig overvågning, der demonstrerer, at de er sikre og effektive baseret på deres intendrede brug, afmindskning af usikre resultater, herunder dem, der er uden for det intendrede brug, og overholdelse af fag-specifikke standarder. Resultaterne af disse beskyttelsesforanstaltninger skal inkludere muligheden for ikke at udrulle systemet eller at fjerne det fra brug. Automatiserede systemer skal ikke være designet med en hensigt eller en rimelig forudsigelig mulighed for at true din sikkerhed eller samfundets sikkerhed. De skal være designet til at proaktivt beskytte dig mod skader, der stammer fra uventede, men forudsigelige, brug eller virkninger af automatiserede systemer. Du skal være beskyttet mod upassende eller irrelevant data-brug i design, udvikling og udrulning af automatiserede systemer og fra den samlede skade af dets genbrug. Uafhængig evaluering og rapportering, der bekræfter, at systemet er sikkert og effektivt, herunder rapportering af skridt taget til at afminde potentielle skader, skal udføres, og resultaterne skal offentliggøres, når det er muligt.”

2. Algoritmisk diskriminationsbeskyttelse

Disse politikker adresserer nogle af de elefanter i rummet, når det kommer til virksomheder, der misbruger enkeltpersoner.

Et almindeligt problem, når man ansætter medarbejdere ved hjælp af AI-systemer, er, at det dybe læringssystem ofte trænes på fordomsfuld data for at nå ansættelseskonklusioner. Dette betyder i virkeligheden, at dårlige ansættelsespraksis i fortiden vil resultere i køns- eller racemæssig diskrimination af en ansættelsesagent. En studie viste sværheden ved at forsøge at af-kønsbestemme træningsdata.

Et andet kerneproblem med fordomsfuld data fra regeringer er risikoen for uretmæssig fængsling eller endda kriminalitetsforudsigelsesalgoritmer, der tilbyder længere fængselsstraffe til minoriteter.

“Du skal ikke møde diskrimination fra algoritmer, og systemer skal være designet og brugt på en retfærdig måde. Algoritmisk diskrimination opstår, når automatiserede systemer bidrager til uretfærdigede forskellige behandlinger eller virkninger, der ikke kan forklares af mennesker baseret på deres race, farve, etnicitet, køn (herunder graviditet, fødsel og relaterede medicinske tilstande, kønsidentitet, interseksstatus og seksuel orientering), religion, alder, national oprindelse, handicap, veteranstatus, genetisk information eller enhver anden klassificering, der er beskyttet af loven. Afhængigt af de specifikke omstændigheder kan sådan algoritmisk diskrimination krænke lovmæssige beskyttelser. Designere, udviklere og udrulere af automatiserede systemer skal tage proaktive og kontinuerlige foranstaltninger til at beskytte enkeltpersoner og samfund mod algoritmisk diskrimination og til at bruge og designe systemer på en retfærdig måde. Dette beskyttelse skal inkludere proaktive ligebehandlingsvurderinger som en del af systemdesign, brug af repræsentativ data og beskyttelse mod proxier for demografiske funktioner, sikring af tilgængelighed for personer med handicap i design og udvikling, præ-udrulnings- og kontinuerlig uligheds-test og afmindskning og tydelig organisationsoversigt. Uafhængig evaluering og rapportering i form af en algoritmisk påvirkningsvurdering, herunder uligheds-testresultater og afmindskningsinformation, skal udføres og offentliggøres, når det er muligt, for at bekræfte disse beskyttelser.”

Det skal nævnes, at USA har taget en meget transparent tilgang, når det kommer til AI, disse er politikker, der er designet til at beskytte den generelle offentlighed, en tydelig kontrast til AI-tilgange taget af Kina.

3. Databeskyttelse

Dette databeskyttelsesprincip er det, der sandsynligvis vil påvirke den største del af befolkningen. Den første halvdel af principperne synes at beskæftige sig med indsamlingen af data, især med data indsamlet over internettet, et kendt problem, især for sociale medie-platforme. Denne samme data kan derefter bruges til at sælge annoncer eller endda manipulere offentlighedens mening og påvirke valg.

“Du skal være beskyttet mod misbrug af data-praksis via indbyggede beskyttelser, og du skal have kontrol over, hvordan data om dig bruges. Du skal være beskyttet mod krænkelser af privatliv gennem designvalg, der sikrer, at sådanne beskyttelser er inkluderet som standard, herunder sikring af, at dataindsamling overholder rimelige forventninger, og at kun data, der er strengt nødvendig for den specifikke kontekst, indsamles. Designere, udviklere og udrulere af automatiserede systemer skal søge din tilladelse og respektere dine beslutninger omkring indsamling, brug, adgang, overførsel og sletning af dine data på passende måder og i den største udstrækning mulig; hvor det ikke er muligt, skal alternative privatlivsbeskyttelsesforanstaltninger bruges. Systemer skal ikke anvende brugeroplevelse og designbeslutninger, der kamuflerer brugerens valg eller belaster brugere med standardindstillinger, der er privatlivs-krænkende. Samtykke skal kun bruges til at retfærdiggøre indsamling af data i tilfælde, hvor det kan gives på en passende og meningsfuld måde. Enhver anmodning om samtykke skal være kort, forståelig på almindeligt sprog og give dig kontrol over dataindsamling og den specifikke kontekst for brug; nuværende svært-forståelige notice-and-choice-praksis for bredt brug af data skal ændres.”

Den anden halvdel af databeskyttelsesprincippet synes at være beskæftiget med overvågning fra både regeringer og virksomheder.

For nuværende kan virksomheder overvåge og spionere på medarbejdere, i nogle tilfælde kan det være for at forbedre arbejdssikkerheden, under COVID-19-pandemien var det for at påtvinge brugen af masker, men oftest er det blot for at overvåge, hvordan tid på arbejdet bruges. I mange af disse tilfælde føler medarbejderne, at de overvåges og kontrolleres ud over, hvad der anses for acceptabelt.

“Forstærkede beskyttelser og begrænsninger for data og slutninger relateret til følsomme områder, herunder sundhed, arbejde, uddannelse, straffesystem og finans, og for data vedrørende unge skal sætte dig først. I følsomme områder skal dine data og relaterede slutninger kun bruges til nødvendige funktioner, og du skal være beskyttet af etisk gennemgang og brugsforbud. Du og dine samfund skal være fri for ukontrolleret overvågning; overvågnings-teknologier skal være underlagt højere tilsyn, der inkluderer mindst præ-udrulnings-vurdering af deres potentielle skader og omfangsbegrænsninger til at beskytte privatliv og borgerrettigheder. Kontinuerlig overvågning og overvågning skal ikke bruges i uddannelse, arbejde, bolig eller i andre sammenhænge, hvor brugen af sådanne overvågnings-teknologier er sandsynligvis at begrænse rettigheder, muligheder eller adgang. Når det er muligt skal du have adgang til rapportering, der bekræfter, at dine data-beslutninger er respekteret, og giver en vurdering af den potentielle virkning af overvågnings-teknologier på dine rettigheder, muligheder eller adgang.”

Det skal nævnes, at AI kan bruges til godt at beskytte folks privatliv.

4. Meddelelse og forklaring

Dette skal være opkald til handling for virksomheder til at udrulle en AI-etisk råd, samt til at accelerere udviklingen af forklarlig AI. Forklarlig AI er nødvendig, hvis en AI-model committer en fejl, forståelse af, hvordan AI fungerer, muliggør en let diagnose af et problem.

Forklarlig AI vil også tillade den transparente deling af information om, hvordan data bruges, og hvorfor en beslutning blev truffet af AI. Uden forklarlig AI vil det være umuligt at overholde disse politikker på grund af det sorte kasse-problem med dyb læring.

Virksomheder, der fokuserer på at forbedre disse systemer, vil også opleve positive fordele ved at forstå nuancerne og kompleksiteterne bag, hvorfor en dyb læring-algoritme traf en bestemt beslutning.

“Du skal vide, at et automatiseret system bruges, og forstå, hvordan og hvorfor det bidrager til resultater, der påvirker dig. Designere, udviklere og udrulere af automatiserede systemer skal give generelt tilgængelig almindeligt sprog-dokumentation, herunder klare beskrivelser af det overordnede systemsfunktion og rollen, automation spiller, meddelelse om, at sådanne systemer er i brug, den enkelte eller organisation, der er ansvarlig for systemet, og forklaringer af resultater, der er klare, rettidige og tilgængelige. Sådan meddelelse skal holdes opdateret, og personer, der er berørt af systemet, skal underrettes om væsentlige brugs- eller nøglefunktionsændringer. Du skal vide, hvordan og hvorfor et resultat, der påvirker dig, blev bestemt af et automatiseret system, herunder, når det automatiserede system ikke er den eneste indgang til resultatet. Automatiserede systemer skal give forklaringer, der er teknisk gyldige, meningsfulde og nyttige for dig og for enhver operatør eller andre, der har brug for at forstå systemet, og skal være afstemt efter niveauet af risiko baseret på indholdet. Rapportering, der inkluderer samlet information om disse automatiserede systemer i almindeligt sprog og vurderinger af klarens og kvaliteten af meddelelsen og forklaringerne, skal offentliggøres, når det er muligt.”

5. Menneskelige alternativer, overvejelse og reserve

I modsætning til de fleste af de ovenstående principper er dette princip mest anvendeligt på regeringsenheder eller privatiserede institutioner, der arbejder på vegne af regeringen.

Selv med en AI-etisk komité og forklarlig AI er det vigtigt at falde tilbage på menneskelig gennemgang, når liv er på spil. Der er altid en mulighed for fejl, og at have en menneskelig gennemgang af et tilfælde, hvis det anmodes, kunne muligvis undgå et scenarie, såsom en AI, der sender de forkerte mennesker i fængsel.

Retssystemet og straffesystemet har det største rum til at forårsage uoprettelige skader på marginaliserede medlemmer af samfundet og skal tage særlig notits af dette princip.

“Du skal kunne fravælge, hvor det er passende, og have adgang til en person, der kan hurtigt overveje og afhjælpe problemer, du møder. Du skal kunne fravælge automatiserede systemer til fordel for et menneskeligt alternativ, hvor det er passende. Passende skal bestemmes på baggrund af rimelige forventninger i en given kontekst og med fokus på at sikre bred tilgængelighed og at beskytte offentligheden mod særligt skadelige virkninger. I nogle tilfælde kan et menneske eller andet alternativ kræves af loven. Du skal have adgang til en hurtig menneskelig overvejelse og afhjælpning ved en reserve og eskalations-problem, hvis et automatiseret system fejler, det producerer en fejl, eller du ønsker at anke eller bestride dets virkning på dig. Menneskelig overvejelse og reserve skal være tilgængelig, retfærdig, effektiv, vedligeholdt, ledsaget af passende operatør-træning og ikke påføre offentligheden en uretfærdig byrde. Automatiserede systemer med en intendert brug inden for følsomme områder, herunder, men ikke begrænset til, straffesystem, ansættelse, uddannelse og sundhed, skal desuden være tilpasset formålet, give meningsfuld adgang til tilsyn, inkludere træning for enhver, der interagerer med systemet, og inkorporere menneskelig overvejelse for ugunstige eller høj-risiko-beslutninger. Rapportering, der inkluderer en beskrivelse af disse menneskelige styreprocesser og en vurdering af deres hurtighed, tilgængelighed, resultater og effektivitet, skal offentliggøres, når det er muligt.”

Summary

OSTP skal have credit for at forsøge at introducere et rammeværk, der brobygger sikkerhedsprotokoller, der er nødvendige for samfundet, uden også at introducere drakoniske politikker, der kunne hæmme fremgangen i udviklingen af maskinlæring.

Efter, at principperne er fremhævet, fortsætter lovbogen med at give en teknisk ledsager til de problemer, der diskuteres, samt detaljeret information om hvert princip og de bedste måder at gå videre med at implementere disse principper.

Erfarne virksomhedsledere og virksomheder skal tage notits af denne lovbog, da det kan være til deres fordel at implementere disse politikker så snart som muligt.

Forklarlig AI vil fortsætte med at dominere i betydning, som kan ses af dette citat fra lovbogen.

“På tværs af den føderale regering udfører agenterne og støtter forskning på forklarlig AI-systemer. NIST udfører grundlæggende forskning på forklarbarheden af AI-systemer. Et tværfagligt hold af forskere har til formål at udvikle målemetoder og bedste praksis til at støtte implementeringen af kerneprincipperne for forklarlig AI. Forsvarsforskningsagenturet har et program om forklarlig kunstig intelligens, der har til formål at skabe en samling af maskinlærings-teknikker, der producerer mere forklarlige modeller, mens de opretholder et højt niveau af læringspræstation (præcisionsnøjagtighed), og muliggør, at menneskelige brugere kan forstå, retfærdiggøre og effektivt styre den opstående generation af kunstigt intelligente partnere. National Science Foundations program om retfærdighed i kunstig intelligens inkluderer også en specifik interesse i forskningsgrundlag for forklarlig AI.”

Det, der ikke skal oversees, er, at disse principper, der er fremhævet her, til sidst vil blive den nye standard.